Halaman ini diterjemahkan oleh mesin. Jika ada yang terasa tidak tepat, silakan buka laporan masalah โ€” reponya publik untuk alasan yang baik. Laporkan masalah terjemahan

โ† kembali ke lobi

Superalignment

AI berkembang lebih cepat dari siapa pun yang bertanggung jawab atasnya.

  1. 01

    Ketakutannya

    Kita membangun pikiran yang tidak bisa kita audit. Mereka diatur oleh aturan yang bisa ditulis ulang oleh satu perusahaan, di dalam sistem yang tidak bisa dilihat oleh siapa pun di luar perusahaan itu. Kita diminta percaya pada lab.

  2. 02

    Cara kerjanya

    CIRIS menempatkan AI di dalam jaringan tempat setiap tindakannya adalah catatan yang ditandatangani. Seseorang, sebuah AI, dan sebuah organisasi semuanya membawa jenis identitas yang sama, dan semuanya dimintai pertanggungjawaban yang sama.

  3. 03

    Yang berubah

    Menjaga AI tetap jujur bukan lagi kebijakan yang diharapkan satu perusahaan bisa bertahan. Itu menjadi sesuatu yang dipaksakan oleh jaringan. Kamu tidak percaya pada siaran pers. Kamu membaca tanda tangannya.

  4. 04

    Lalu

    Jaringan yang bisa meminta pertanggungjawaban AI superkuat adalah, berdasarkan bentuknya, internet tanpa pusat. Catatan bertanda tangan yang sama memungkinkan siapa saja memeriksa apa yang benar, dan mereka berjalan di atas substrat pribadi yang sama dengan AI di ponselmu.

Empat ketakutan, satu fondasi. Hilangkan pusat kendali yang terpaksa kamu percaya, dan keempat hal ini berubah sekaligus.

Fondasi yang sama, dilihat dari pintu lain