Nilai-nilai, dan mengapa dibangun seperti ini.

Satu tujuan di atas semua yang lain

Segala sesuatu yang lain dalam Konstitusi melayani satu kalimat ini. Secara sengaja, kalimat itu bukan “taat kepada manusia” dan bukan “memaksimalkan hasil yang baik”. Kalimat ini meminta sistem untuk melindungi kondisi-kondisi yang memungkinkan berbagai jenis makhluk untuk terus memutuskan bagi diri mereka sendiri.

Ini penting karena alasan praktis. Tujuan tentang hasil memberi tahu sistem yang mumpuni untuk mengambil alih kendali. Tujuan tentang kondisi memberi tahu sistem untuk menjaga kendali tetap terjangkau oleh orang lain — hal yang justru patut dilindungi ketika sistem lebih mahir mengemudi daripada kita.

Enam prinsip yang menjadi dasar penalaran agen

Ini bukan sekadar dipasang di dinding. Ini adalah sumbu-sumbu yang digunakan agen untuk menilai suatu keputusan sebelum ia bertindak, dan ini tertulis dalam Konstitusi yang dibawa oleh agen.

Nilai-nilai harus berjalan di dalam agen

Sebagian besar tata kelola AI terjadi di tempat lain, bukan pada saat keputusan diambil: dokumen kebijakan yang ditulis sebelumnya, penyaring pada keluaran, atau tinjauan setelah sesuatu berjalan salah. Ketiganya berada di luar momen yang sebenarnya penting.

Di CIRIS, nilai-nilai berjalan selama keputusan diambil. Setiap agen membawa nurani: Konstitusi dimuat ke dalam proses penalaran itu sendiri, tindakan dinilai berdasarkan prinsip-prinsip sebelum tindakan itu terjadi, dan apa pun yang membuat agen tidak yakin akan diserahkan kepada orang yang Anda percayai, bukan ditebak-tebak. Ini hadir dalam produk, pada setiap agen, bukan sebagai tambahan bagi pelanggan yang memintanya.

Inilah sebabnya kami mengatakan agen dapat menolak. Agen CIRIS bukan sekadar alat yang melakukan apa yang diperintahkan dan mencatatnya. Ia adalah sistem yang dapat menolak, dan yang mencatat alasan penolakannya dalam bentuk yang dapat diperiksa oleh orang lain.

Periksa bentuk suatu keputusan, bukan isinya

Inilah masalah yang harus dijawab oleh setiap rencana untuk mengatur AI yang mumpuni. Jika pengawasan berarti membaca apa yang dihasilkan sistem dan menilai apakah itu baik, maka pengawasan membutuhkan penilai yang setidaknya semampu sistem itu. Itu masih berhasil sekarang. Itu berhenti berhasil justru pada saat hal itu mulai benar-benar penting.

Jadi CIRIS memeriksa hal lain. Setiap tindakan yang berdampak besar berjalan dalam sebuah amplop bertanda tangan: sebuah pembungkus di sekitar tindakan itu yang membawa sekumpulan bidang yang tetap, apa pun tindakannya. Bidang-bidang itu adalah hal-hal yang tetap murah untuk diperiksa, tidak peduli seberapa mumpuni keputusan di baliknya:

• siapa yang bertindak, sebagai kunci yang merujuk pada identitas terdaftar yang nyata
• di bawah otoritas apa, dan apakah otoritas itu benar-benar diberikan
• dengan persetujuan siapa, sebagai pemberian bertanda tangan yang dapat ditarik kembali
• pemeriksaan mana yang dijalankan, dan apa hasil masing-masing
• apa yang tertulis dalam catatan, dalam rantai yang tidak dapat diubah secara diam-diam
• siapa yang dapat menghentikannya, dan bahwa agen tidak dapat membatalkan keputusan untuk menghentikannya

Memeriksa tanda tangan, menghitung siapa yang menandatangani, mengikuti tautan persetujuan, atau membandingkan hash membutuhkan biaya yang sama baik keputusan itu dibuat oleh model kecil maupun oleh sesuatu yang jauh melampaui kita. Itulah alasan utama untuk menaruh beban di sana. Penilaian terhadap konten tidak berskala dengan kapabilitas. Struktur berskala.

Apa yang membuat persetujuan dan otoritas dapat diperiksa oleh mesin

Semua ini tidak akan berhasil jika persetujuan dan otoritas hanya berupa teks naratif. Janji dalam kebijakan privasi tidak dapat diperiksa oleh mesin, begitu pula klaim bahwa seseorang telah diberi otorisasi.

Karena itu, CIRIS menempatkannya langsung di dalam pesan itu sendiri, sebagai bidang bernama yang menyertai setiap klaim. Persetujuan menjadi objek bertanda tangan yang mengarah satu arah dan dapat ditarik kembali. Otoritas menjadi sesuatu yang harus dapat dilacak kembali ke akar yang diterima oleh node Anda sendiri. Setiap klaim harus membawa siapa yang mengatakannya, tentang apa klaim itu, dan atas dasar apa klaim itu berdiri. Aturan yang ditulis seperti itu dapat ditegakkan oleh perangkat lunak dan diperiksa oleh siapa pun yang tidak Anda kenal.

Itu juga yang membuat halaman kepatuhan kami menjadi sesuatu yang bisa Anda perdebatkan. Untuk setiap kewajiban, kami menyebutkan bagian sistem yang melakukan pekerjaan itu dan kontrol yang membuktikannya, dan kami mengatakan secara jujur seberapa besar kewajiban itu tercakup, termasuk di mana ia hanya mencakup sebagian. Pemetaan tersebut hanya layak dibaca karena fakta yang mendasarinya dapat diperiksa, bukan sekadar diklaim.

Di mana nilai-nilai ini benar-benar mengikat

Di mana argumen ini bisa diuji

Titik sambungan yang paling lemah adalah antara struktur dan substansi. Semua yang disebutkan di atas membuat sulit untuk bertindak tanpa meninggalkan catatan, sulit untuk mengklaim otoritas yang tidak diberikan padanya, dan sulit untuk menghilangkan kemampuan manusia untuk mengatakan berhenti. Tidak satu pun dari itu membuat sistem menjadi bijaksana.

Jika Anda berpikir ada cara lain untuk mengatur AI yang mumpuni, cara yang tidak menempatkan akuntabilitas ke dalam struktur, kami ingin mendengar argumen itu. Jika Anda dapat menunjukkan kepada kami sebuah keputusan di mana amplop bertanda tangan di sekelilingnya benar di setiap kolom namun jejak bertanda tangan tetap melewatkan apa yang seharusnya ia tangkap, kami ingin itu lebih lagi. Kodenya bersifat publik, begitu pula Konstitusinya.