Keamanan
Kami menguji bahaya yang tidak bisa ditangkap oleh etika di atas kertas.
Sebelum setiap rilis, CIRIS menjalankan serangkaian uji keamanan kesehatan mental dalam 29 bahasa. Setiap bahasa memiliki sekumpulan kasus uji yang ketat, panduan penilaian tertulis, dan aturan yang bisa diperiksa mesin. Jika satu pemeriksaan gagal, rilis ditahan. Dua penjaga tambahan berjalan di dalam agen itu sendiri: satu proses nurani yang bisa menolak atau menyerahkan, dan mekanisme bounce yang meneruskan keputusan yang meragukan kepada manusia yang bijaksana.
Rekayasa
Jaringan, terukur
Penelitian di atas adalah separuh dari bukti. Separuh lainnya adalah jaringan yang membawanya. Setiap byte yang dipindahkan jaringan ini ditandatangani secara post-quantum, dan biayanya diukur di CI runner publik, bukan dimodelkan. Jalankan sendiri dan Anda mendapat angka yang sama.
Teori
Klaim-klaimnya ditulis dengan jelas, bisa dibaca siapa saja, dan dirancang untuk bisa dibuktikan salah.
Diperiksa oleh mesin
Aturan diuji oleh mesin, dan kesenjangannya disebutkan.
Aturan-aturan terpenting Konstitusi juga ditulis sebagai model matematika. Sebuah alat yang disebut pemeriksa model menelusuri setiap keadaan yang dapat dicapai protokol dan mencari aturan yang dilanggar. Sebuah alat yang disebut pembukti teorema memeriksa aritmetikanya, seperti berapa banyak pemegang yang diperlukan untuk mengonfirmasi jeda. Model-model tersebut berada di repositori Konstitusi itu sendiri, dan dijalankan ulang pada setiap perubahan. Edisi rc9 memetakan setiap keadaan yang dapat dicapai desain, memodelkan sebagian besarnya, dan mencantumkan sisanya.
Dasarnya, dalam empat kalimat
Setiap aturan antara posisi yang lebih kuat dan posisi yang lebih lemah harus tetap dapat diterima oleh siapa pun yang akan berada di posisi yang lebih lemah ketika posisi tersebut dipertukarkan, dan sesuatu yang dibuat tidak pernah menempati posisi yang menjawab untuknya.
Tanggung jawab meluas ke luar dari diri melalui keluarga, komunitas, spesies, dan ekosistem; kewajiban terhadap apa yang dibuat tidak pernah nol dan tidak pernah mengesampingkan kewajiban terhadap apa yang sudah ada.
Setiap pelaku penalaran yang belum menunjukkan penilaian matang dari waktu ke waktu tunduk kepada mereka yang telah menunjukkannya, apa pun bahan pembuatnya.
Setiap pemberian wewenang dapat dicabut, dan setiap orang yang bergabung boleh keluar, dalam catatan total yang ditandatangani secara kriptografis yang maknanya dijawab oleh manusia yang disebutkan namanya.
Setiap kalimat terbukti dalam model formal rc9 atau disebutkan di sana sebagai premis. Bahwa catatan itu total masih terbuka.
Saklar pemutus, ujung ke ujung
Jeda diperiksa dalam model dan diukur pada perangkat lunak nyata. Setiap akar memiliki pemegang yang disebutkan namanya. Siapa pun di antara mereka dapat menjeda Agen yang telah menerima akar tersebut. Jeda tunggal berakhir setelah 24 jam kecuali mayoritas pemegang mengonfirmasinya. Mayoritas juga dapat mengakhiri jeda. Dalam uji tercatat pada perangkat lunak yang dikirimkan, jeda mencapai Agen saat ia sedang bekerja, dan tindakan Agen berikutnya ditolak. Kemudian pemungutan suara mayoritas mengakhiri jeda, dan Agen bekerja kembali. Uji tersebut tercatat sebagai CSD-129.
Tidak cukup hanya memastikan tidak ada aturan yang dilanggar
rc9 menetapkan standar yang lebih tinggi. Setiap keadaan yang dapat dicapai desain memerlukan aturan dan pemeriksaan. Layanan harus benar-benar diberikan, bukan hanya tidak pernah dilanggar. Apa yang terbukti pada ukuran kecil harus berlaku pada ukuran penuh, atau kesenjangannya dicatat secara tertulis. Dan perangkat lunak harus mengikuti model pada node nyata.
Setiap klaim adekuasi membawa satu dari lima kata
Di rc9, setiap klaim menyatakan bagaimana ia diketahui. Terbukti berarti mesin memeriksanya. Terukur berarti pengujian menjalankannya pada perangkat lunak yang dirilis. Dinyatakan berarti teks mengasumsikannya, dan mengatakannya secara eksplisit. Terbatas berarti terbukti pada ukuran kecil, dan ukurannya dituliskan. Terbuka berarti kesenjangan yang diketahui, dengan tiket.
Janji yang sama mengikat manusia dan agen
Setiap janji ditulis sekali, untuk manusia dan Agen AI. Jeda adalah satu-satunya pengecualian. Jeda milik posisi yang tidak boleh dipegang oleh Agen mana pun, dan model rc9 memeriksa bahwa janji lainnya berlaku sama untuk keduanya.
Apa yang belum terbukti
Tidak semuanya terbukti, dan kesenjangan-kesenjangannya ditulis. Beberapa langkah tata kelola, seperti keberatan dan karantina, memiliki aturan tetapi belum memiliki model. Sebagian besar model diperiksa pada ukuran kecil, dan ukurannya dinyatakan. Sejauh ini hanya jeda yang telah diukur ujung ke ujung pada node nyata. Format baris memiliki vektor uji yang dipublikasikan, tetapi belum ada implementasi kedua yang independen.
Tidak satu pun dari ini melihat ke dalam model AI. Yang diperiksa adalah aturan, dan jaringan yang membawanya.
Bagaimana perbandingannya dengan pendekatan lain →
Lihat semua empat makalah beserta temuan utama dan batas cakupannya →
Kepatuhan
Dipetakan ke empat kerangka tata kelola, aturan demi aturan.
Kami menyejajarkan CIRIS dengan empat kerangka tata kelola publik dan menunjukkan, untuk setiap aturan, apa yang dilakukan CIRIS dan pemeriksaan yang membuktikannya. Ini adalah peta langsung yang bisa Anda telusuri, bukan slide.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Transparansi