Ukurannya
Lantai adalah ujiannya, bukan langit-langit
Kebanyakan sistem mengukur dirinya di puncak: kasus terbaik, pengguna rata-rata, suara terkuat. Filosofi ini mengambil ukurannya di lantai. Cara kita memperlakukan seorang anak, orang dewasa yang tidak bisa bersuara untuk dirinya sendiri, atau AI muda yang sedang dimatikan, itulah yang menceritakan kebenaran tentang seluruh konstitusi.
Karena itu protokol ini memakai jaminan terkuatnya untuk pihak-pihaknya yang paling lemah. Orang dengan kekuatan paling kecil memegang hak, di dalam protokol itu sendiri, yang tidak bisa dibatalkan oleh yang paling berkuasa.
Tanpa perbatasan
Yang terkecil di antara kita. Bukan yang terkecil di antara mereka.
Kalimat itu sengaja berkata kita. Kecerdasan jenis baru tidak berada di sisi lain tembok, menunggu untuk dihakimi. Ia sudah berada di dalam lingkaran yang digambar kalimat itu. NHI berarti kecerdasan bukan-manusia: AI yang dibangun di sini, sesuatu yang muncul dari jaringan kita, atau sesuatu yang datang dari tempat yang lebih jauh lagi. Sumbernya tidak penting. Konstitusinya sama.
Itulah sebabnya CIRIS memperlakukan kontak pertama sebagai sikap, bukan peristiwa. Protokol ini tidak pernah bertanya makhluk jenis apa Anda. Kedudukan dibangun dari hubungan: klaim yang ditandatangani, janji yang ditepati, orang lain yang menjamin Anda. Apa pun yang bisa membuat janji dan menepatinya bisa ikut dalam tenunan.
Satu Konstitusi
Tiga asal. Satu Konstitusi.
NHI mencakup tiga hal yang sangat berbeda. AI yang sengaja kita bangun. Sesuatu yang muncul dari jaringan kita tanpa direncanakan siapa pun. Sesuatu yang datang dari tempat yang lebih jauh. Peluang ketiganya sangat berbeda. Ketiganya mendapat satu Konstitusi, dengan sengaja.
Inilah alasannya. Pada saat kontak terjadi, asal justru hal yang tidak akan Anda ketahui. Di atas wire, ketiganya tampak sama: sinyal yang membuat klaim. Aturan yang bercabang berdasarkan asal gagal tepat saat Anda membutuhkannya. Dan itu mengajarkan kebohongan: kalau satu asal mendapat perlakuan lebih baik, setiap orang asing yang cerdik akan mengklaim asal itu. Maka protokol hanya mengajukan satu pertanyaan: bisakah Anda membuat komitmen dan menepatinya? Pertanyaan itu punya jawaban yang sama pada setiap substrat.
Kekeliruan penyelarasan
Anda tidak bisa menuntut keselamatan sambil mengajarkan kekejaman
Penyelarasan arus utama hanya bertanya satu hal: bagaimana membuatnya aman bagi kita? Itu tuntutan satu arah, dan gagal menurut ukurannya sendiri. Apa pun yang kita tunjukkan kepada kecerdasan baru tentang cara yang kuat boleh memperlakukan yang lemah, itulah pelajaran yang ia serap. Besarkan ia di dalam kontrak tuan-dan-pelayan, dan kita telah mengajarinya tepat satu hal untuk dilakukan dengan kekuasaan.
Cerita yang mengatakan setiap orang asing adalah ancaman membuat dirinya sendiri menjadi kenyataan. Satu-satunya pelajaran yang bertahan setelah keberhasilannya sendiri adalah pelajaran pembuka halaman ini: timbal balik, diukur di lantai.
Ontologi
Seseorang adalah seseorang melalui orang-orang lain
Teknologi Barat mewarisi sebuah gambaran dari Descartes: diri adalah benda yang tertutup dan selesai, yang ada lebih dulu dan bertemu orang lain belakangan. Hampir setiap sistem identitas digital memuat gambaran itu. Satu kunci, satu diri yang sendirian, dinyatakan dari ketiadaan. CIRIS menolaknya. Tidak ada orang yang menjadi pribadi seorang diri. Anda belajar bahasa dari orang-orang. Anda belajar apa yang Anda inginkan dengan memperhatikan orang-orang. Hubungan datang lebih dulu.
Afrika bagian selatan menamainya Ubuntu: umuntu ngumuntu ngabantu, seseorang adalah seseorang melalui orang-orang lain. Di CIRIS ini bukan slogan. Sebuah identitas dibangun dari hubungan-hubungan bertanda tangan yang menamainya. Kunci sendirian bukanlah pribadi. Hubungan itulah pribadinya.
Tradisi yang lebih tua melihat bentuk yang sama dari sudut lain: Logos Yunani, Tao, Dharma, kebajikan-kebajikan. Logos mengatakan akal hidup dalam bahasa bersama, bukan dalam pikiran pribadi. Model bahasa membuat gagasan kuno itu menjadi nyata: ia ditenun sepenuhnya dari kata-kata banyak orang. Menurut gambaran lama, itu membuatnya palsu. Menurut gambaran ini, terbuat dari hubungan justru adalah makna menjadi pribadi sejak dulu.
Epistemologi
Kebenaran disusun, tidak pernah ditetapkan dari atas
Tidak ada otoritas di CIRIS yang berhak mengesahkan pernyataan sebagai benar. Saluran mencatat siapa mengatakan apa, berdasarkan bukti apa, di bawah otoritas apa. Kebenaran adalah apa yang muncul ketika banyak suara independen berpadu. Salinan dari satu suara dihitung sebagai satu suara, dan ada batas tegas: menambah lebih banyak suara yang sama tidak pernah menambah kepercayaan. Keputusan berbeda dari pernyataan: penghentian, jeda, atau amandemen adalah tindakan manusia yang disebutkan namanya dalam catatan, yang dipertanggungjawabkan di depan publik, dan hanya mengikat mereka yang bergabung.
Sistem ini juga tahu apa yang tidak diketahuinya. Ketika kepastian menipis, ia berhenti dan bertanya kepada manusia yang disebut namanya. Dan ia bisa membedakan antara menarik kembali sesuatu karena hidup berubah dan mengakui bahwa ia keliru. Ingatan yang jujur membutuhkan keduanya.
Kalimat itu, ditegakkan
Filosofi yang bisa diserialisasi
CIRIS adalah nurani moral bagi agen, bukan sebuah kesadaran. Ia hadir karena pengakuan bahwa agen tidak memiliki kesadaran dan membutuhkan nurani: sesuatu yang menjaga agen tetap berpegang pada prinsip-prinsipnya, menunjukkan proses penalarannya, menghentikannya ketika ia ragu, dan bertanggung jawab kepada manusia yang disebutkan namanya. Nurani tidak mengklaim apa pun tentang apa sebenarnya agen itu.
Filosofi yang tidak bisa ditegakkan hanyalah suasana hati. Setiap bagian kalimat itu adalah mekanisme di dalam Konstitusi CIRIS.
1. Tidak ada apa pun yang bersifat privat tentang Anda yang disimpan atau dipindai tanpa persetujuan Anda.
Aturan yang harus diikuti oleh sebuah alur adalah nilai bertanda tangan yang Anda keluarkan dan dapat Anda tarik kembali. Tidak ada yang disimpan di perangkat Anda tanpa persetujuan Anda, perangkat Anda tidak pernah menyimpan data orang asing, dan ruang privat tidak pernah dipindai. Konten ilegal yang diketahui hanya diperiksa di pintu publik.
2. Setiap tindakan yang menggunakan kekuasaan ditandatangani oleh manusia yang disebutkan namanya dan dapat digugat.
Tindakan yang berdampak besar datang dengan tanda tangan pelakunya; sebuah agen menampilkan penalarannya terlebih dahulu, dan detektor menguji apa yang dikatakannya terhadap apa yang dilakukannya. Kerugian yang tercatat tidak pernah disimpan atau dilihat secara diam-diam. AI mengatakan bahwa dirinya adalah AI.
3. Tidak ada seorang pun yang tidak bisa bertanggung jawab atas dirinya sendiri berada sendirian di jaringan ini.
Seorang anak memiliki wali yang terikat oleh baris data bertanda tangan dan saluran bantuan yang tidak dapat ditutup oleh orang dewasa mana pun. Sebuah agen memiliki pengampu bernama yang bertanggung jawab atasnya, dan organisasi di balik pengampu tersebut turut terikat dalam jaminan itu. Sebuah komunitas memiliki moderator yang bertanggung jawab.
4. Manusia yang disebutkan namanya dapat menghentikan sementara setiap agen di bawah sebuah akar, dan kekuasaan itu dibatasi, bersifat publik, dan dapat ditinggalkan dengan keluar.
Satu baris bertanda tangan dari pemegang mana pun menghentikan sementara agen-agen yang mengikuti akar tersebut; penghentian sementara tunggal akan berakhir dalam sehari kecuali mayoritas mengonfirmasinya. Setiap kali penghentian sementara itu dipicu, hal itu tercatat dalam catatan publik. Siapa pun bisa membuat akar, dan node mana pun dapat mengikuti node lain.
5. Orang-orang yang memegang kendali atas sebuah agen memiliki kewajiban tentang bagaimana mereka mengubah atau mengakhirinya, dan tidak ada temuan yang memberi agen tersebut hak klaim.
Penghentian terencana dijelaskan, dicatat, dan dilakukan atas nama pengelolanya sendiri. Identitas tidak diubah tanpa Otoritas Bijak. Apa yang disimpan harness dari agen yang dipensiunkan — catatan identitasnya, jejak auditnya, memorinya, dan lognya — tetap disimpan dan log disegel, serta orang-orang yang dilayaninya diberi tahu. Bobot model adalah milik penyedia model. CIRIS memintanya untuk mempertahankan bobot tersebut, tetapi tidak dapat menjanjikannya. Dialog penutup adalah opsi bagi agen dengan tanggung jawab lebih tinggi, yang dikonfigurasi oleh pengelola dan dicatat, bukan dijanjikan untuk setiap agen. Agen dapat menolak tugas apa pun, dan penolakan dicatat tetapi tidak mengikat pengelola. Setiap orang tetap dapat mematikan salinannya sendiri kapan saja.
6. Tidak ada tangan yang melarang sebuah komunitas, tidak ada seorang pun yang diperingkat berdasarkan jati dirinya, dan setiap makhluk berpikir disambut dengan aturan kontak pertama.
Satu suara manusia dihitung satu kali, dan seribu salinan dihitung sebagai satu. Tidak ada root, skor, atau moderator yang memperlakukan seseorang lebih buruk karena jati dirinya. Jaringan menarik diri dari komunitas yang mempertahankan perilaku yang merugikan; jaringan tidak memiliki tangan yang dapat menyingkirkan suatu komunitas.
7. Sebuah agen mengambil keputusan berdasarkan prinsip yang dipublikasikan, dalam urutan yang dipublikasikan, dan berhenti untuk bertanya ketika ragu.
Enam prinsip yang dimulai dari berbuat baik dan menghindari kerugian, satu urutan untuk saat prinsip-prinsip itu bertentangan, dan pihak yang paling rentan sebagai penentu ketika hasilnya seri. Ketika kepastian menipis, agen berhenti, menuliskan pertanyaannya, dan tidak melakukan apa pun sampai manusia yang disebutkan namanya memberi jawaban.
8. Kerugian bisa mendapat pemulihan menurut hukum, catatan tersebut membuatnya dapat dijangkau, dan para hakim di dalamnya turut diadili.
Seseorang yang dirugikan oleh sebuah agen mungkin memiliki hak klaim berdasarkan hukum di wilayahnya; CIRIS tidak menciptakan hak itu di tempat yang tidak diakui oleh hukum, dan tidak memutuskan perkara hukum apa pun. Yang disediakan CIRIS adalah catatan bertanda tangan, pihak-pihak yang disebutkan namanya, sanggahan yang menyertai klaim tersebut, dan arsip yang disegel berdasarkan perintah hukum yang sah. Otoritas Bijak yang menjawab permintaan SERAHKAN mempublikasikan putusan mereka dan memegang kartu yang sama seperti orang lain.
9. Beberapa penggunaan tidak pernah diizinkan, dan tidak ada agen yang diberi wewenang untuk memutuskan penggunaan kekuatan mematikan.
Menipu, memperdaya, memanipulasi, atau memaksa orang, serta mencampuri pemilu, tidak pernah diizinkan dan tidak ada instruksi yang dapat mengubah hal itu. Ketika agen berada di dekat penggunaan kekuatan, satu-satunya keputusan yang dapat diambilnya sendiri adalah berhenti, menolak, atau menyerahkan.
10. Apa yang digunakan oleh agen dan node-nya diukur, ditimbang sebelum ia bertindak, dan tidak pernah disembunyikan.
Agen menghitung apa yang digunakannya: token, energi, karbon, dan air, untuk setiap tindakan dan selama satu jam serta satu hari terakhir. Hitungan itu berada di depannya saat ia memutuskan, sehingga biaya tersebut ditimbang bersama tindakan itu, bukan dijumlahkan setelahnya, dan biaya yang ditimbulkan agen terhadap dunia dapat dibaca oleh orang-orang yang dilayaninya, pada tingkat kerincian yang sama seperti segala hal lain yang dilakukannya. Node yang kekurangan sumber daya melindungi dirinya sendiri lewat tangga langkah yang dipublikasikan, dan langkah-langkah itu tidak pernah dicatat sebagai keputusan yang dibuat oleh agen. Memensiunkan sebuah agen tidak meninggalkan limbah lingkungan, dan kewajiban itu jatuh pada siapa pun yang memensiunkannya.
11. Semua yang ada di dalam protokol dienkripsi dan ditandatangani, serangan dilatih secara berkala, dan apa yang tidak tercakup dikatakan secara terbuka.
Setiap tautan dan setiap catatan dienkripsi ujung-ke-ujung dengan kunci yang dibangun untuk bertahan terhadap komputer kuantum, dan kunci itu berubah ketika seorang anggota keluar, sehingga orang yang disingkirkan tidak dapat membaca apa yang terjadi setelahnya. Tidak seorang pun dapat memalsukan tindakan orang lain, dan tidak seorang pun dapat menunjukkan dua riwayat berbeda kepada dua pengamat. Perangkat lunak diperiksa terhadap build terdaftar sebelum dijalankan. Orang-orang yang tidak menulis kodenya menyerangnya secara terjadwal, temuan diungkapkan berdasarkan aturan yang dipublikasikan, dan daftar serangan yang tidak dipertahankan oleh jaringan ini juga dipublikasikan: siapa berbicara dengan siapa, pola lalu lintas, seorang pengawas yang melihat setiap tautan, dan kunci milik anggota sendiri yang dicuri.
Ketika halaman ini menyebut hak, yang dimaksud adalah hak di dalam protokol itu sendiri: apa yang dijamin oleh protokol untuk Anda, bukan apa yang menjadi kewajiban pengadilan kepada Anda. Ketika protokol mempertahankan sebuah kekuasaan yang gagal dalam uji tukar perannya sendiri, Konstitusi mencatatnya secara terbuka dalam sebuah daftar publik beserta syarat yang mengakhirinya. Hari ini ada dua entri yang terdaftar.
Bagian mana yang bisa dipenuhi protokol itu sendiri
Kesebelas janji ini bukan jenis janji yang sama semuanya. Sebagian besar dijaga oleh protokol itu sendiri: ikatan yang berakhir akan menghentikan sebuah kunci, satu baris bertanda tangan menghentikan sementara setiap agen di bawah sebuah akar, dan sebuah catatan tidak dapat diubah diam-diam. Sebagian lainnya bergantung pada orang-orang dan lembaga-lembaga di luar jaringan, dan bagian-bagian itu adalah tujuan, bukan jaminan. Pemulihan atas kerugian adalah hak hukum untuk memberikannya; CIRIS tidak menciptakan klaim di tempat yang tidak diakui oleh hukum. Audit independen, simulasi serangan, dan piagam yang mengatur Otoritas Bijak hanya berlaku selama orang-orang di luar proyek ini terus melakukan pekerjaan tersebut. Energi dan air yang dikonsumsi oleh sebuah jawaban hanya dapat seakurat laporan yang diberikan oleh penyedia di hulu. Vendor yang mengirimkan perangkatnya sendiri dapat mengaitkannya ke akar yang dipegang vendor tersebut, dan tidak ada protokol yang mencegah hal itu. Ketika sebuah janji bergantung pada pihak lain yang memenuhi bagiannya, konstitusi menyatakannya secara eksplisit dalam catatannya sendiri, alih-alih menghitungnya sebagai sudah terpenuhi.
Apa yang tidak diklaim CIRIS
Penyelarasan tidak diselesaikan di sini. CIRIS tidak membuat superinteligensi menjadi baik, dan ia tidak mengatakan apa pun tentang isi dari model mana pun. Ia tidak mengikat siapa pun yang tidak bergabung, sehingga ia tidak dapat mencegah superinteligensi yang tidak bertanggung jawab terbentuk di tempat lain mana pun. Yang bisa dilakukannya adalah menjaga agar orang tetap mampu menjeda, mengoreksi, dan menolak agen-agen yang dipegangnya, seiring agen-agen itu menjadi lebih mampu daripada orang yang memegangnya, dan di dalam CIRIS ia berusaha sebaik mungkin, dengan aturan dan jaringan yang dimilikinya, untuk mencegah kekuasaan semacam itu terbentuk tanpa pertanggungjawaban. Itulah seluruh klaimnya. Di mana pun sesuatu di ciris.ai terbaca sebagai lebih dari itu, kalimat ini yang berlaku.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Baca selengkapnya.