Superalignment
AI berkembang lebih cepat dari siapa pun yang bertanggung jawab atasnya.
- 01
Ketakutannya
Kita membangun pikiran yang tidak bisa kita audit. Mereka diatur oleh aturan yang bisa ditulis ulang oleh satu perusahaan, di dalam sistem yang tidak bisa dilihat oleh siapa pun di luar perusahaan itu. Kita diminta percaya pada lab.
- 02
Cara kerjanya
CIRIS menempatkan AI di dalam jaringan tempat setiap tindakannya adalah catatan yang ditandatangani. Seseorang, sebuah AI, dan sebuah organisasi semuanya membawa jenis identitas yang sama, dan semuanya dimintai pertanggungjawaban yang sama.
- 03
Yang berubah
Menjaga AI tetap jujur bukan lagi kebijakan yang diharapkan satu perusahaan bisa bertahan. Itu menjadi sesuatu yang dipaksakan oleh jaringan. Kamu tidak percaya pada siaran pers. Kamu membaca tanda tangannya.
- 04
Lalu
Jaringan yang bisa meminta pertanggungjawaban AI superkuat adalah, berdasarkan bentuknya, internet tanpa pusat. Catatan bertanda tangan yang sama memungkinkan siapa saja memeriksa apa yang benar, dan mereka berjalan di atas substrat pribadi yang sama dengan AI di ponselmu.
Empat ketakutan, satu fondasi. Hilangkan pusat kendali yang terpaksa kamu percaya, dan keempat hal ini berubah sekaligus.
Fondasi yang sama, dilihat dari pintu lain