Superalignment
AI berkembang lebih cepat dari siapa pun yang bertanggung jawab atasnya.
- 01
Ketakutannya
Kita membangun pikiran yang tidak bisa kita audit. Mereka diatur oleh aturan yang bisa ditulis ulang oleh satu perusahaan, di dalam sistem yang tidak bisa dilihat oleh siapa pun di luar perusahaan itu. Kita diminta percaya pada lab.
- 02
Cara kerjanya
CIRIS menempatkan AI di dalam jaringan tempat setiap tindakannya adalah catatan yang ditandatangani. Seseorang, sebuah AI, dan sebuah organisasi semuanya membawa jenis identitas yang sama, dan semuanya dimintai pertanggungjawaban yang sama.
- 03
Yang berubah
Hal itu tidak membuat AI menjadi baik, dan tidak mengatakan apa pun tentang apa yang terjadi di dalam model. Yang dilakukannya adalah menjaga agar orang-orang yang memegang kendali atas sebuah agen tetap dapat menjedanya, mengoreksinya, dan menolaknya, serta memungkinkan Anda membaca tanda tangan alih-alih siaran pers.
- 04
Lalu
Hal ini hanya mengikat mereka yang bergabung, sehingga tidak dapat menghentikan terbentuknya kecerdasan super yang tidak akuntabel di tempat lain. Di dalam CIRIS, sistem ini berupaya sebaik mungkin, dengan aturan dan jaringan yang dimilikinya, untuk menjaga agar kekuatan tersebut tidak terbentuk tanpa akuntabilitas. Catatan bertanda tangan yang sama berjalan pada substrat privat yang sama seperti AI di ponsel Anda.
Empat ketakutan, satu jawaban. Hilangkan pusat kendali yang terpaksa kamu percaya, dan keempat hal ini berubah sekaligus.
Jawaban yang sama, dilihat dari ketakutan lain