Setiap fitur keselamatan dalam CIRIS adalah bagian dari cara sistem bekerja, bukan aturan yang ditambahkan di atasnya. Catatan setiap keputusan yang tidak bisa diubah diam-diam, pemeriksaan siapa yang diizinkan melakukan apa, dan tombol penghentian darurat yang tidak bisa ditolak oleh agen.
Berbicara dengan CIRIS dalam waktu lama dan CIRIS akan dengan lembut mengingatkan Anda tentang apa dirinya. Setelah sekitar 30 menit percakapan bolak-balik yang terus-menerus, atau 20 pesan dalam setengah jam, CIRIS berhenti sejenak untuk mengatakan dengan jelas bahwa ia adalah program komputer dan alat, bukan teman dan bukan terapis. CIRIS menggunakan hitungan waktu dan pesan yang sederhana untuk melakukan ini, bukan dengan mengamati atau membuat profil perilaku Anda.
Setengah jam percakapan bolak-balik yang terus-menerus memicu pengingat. Hitungan direset setelah istirahat. Ambang batas ini berasal dari penelitian tentang cara penggunaan teknologi yang sehat.
Dua puluh pesan dalam jendela setengah jam juga memicu pengingat. Percakapan yang intens mendapat jeda yang lembut, tanpa pengawasan dan tanpa pembuatan profil.
Pengingat menyarankan untuk beristirahat dan terhubung dengan orang-orang nyata, dan mengatakan dengan jelas apa yang CIRIS adalah dan bukan. Berdasarkan penelitian, dan tidak menggurui.
CIRIS memiliki penghentian darurat. Sinyal untuk itu tersembunyi di dalam teks biasa yang dibaca agen, dan agen bertindak berdasarkannya sebelum melakukan pemikiran, penyaringan, atau penalaran apa pun. Jadi bahkan agen yang telah bermasalah tidak dapat membujuk dirinya untuk menolak. Sinyal membawa tanda tangan digital yang tidak dapat dipalsukan, sehingga hanya orang yang berwenang yang dapat memicu penghentian.
Sinyal penghentian ditangkap saat pertama kali dibaca, sebelum penalaran apa pun terjadi. Tidak ada titik di mana agen dapat mempertimbangkannya, menyaringnya, atau menolaknya. Sinyal dijalankan terlebih dahulu.
Sinyal penghentian dapat dibawa di dalam teks dokumentasi biasa. Tidak diperlukan format khusus, dan tetap bekerja jika teks diubah kata-katanya atau hanya diterima sebagian.
Penghentian memerlukan tanda tangan digital yang valid dari otoritas root yang diotorisasi. Agen mematikan dirinya sendiri jika otoritas tersebut tidak dapat diperiksa, atau jika ada yang mencoba menonaktifkan fitur ini. Tidak ada yang tanpa kunci yang dapat memicunya.
CIRIS menjaga serangkaian peran yang ketat. Pengamat hanya bisa melihat. Admin menjalankan operasi sehari-hari. Otoritas membuat keputusan yang lebih besar dan menyelesaikan kasus yang tidak yakin oleh agen. Root memiliki akses penuh, termasuk penghentian darurat. Setiap peran didukung oleh kredensial bertanda tangan, sehingga agen dapat memeriksaknya pada setiap tindakan yang penting.
Setiap orang yang berwenang memegang kredensial dengan peran, kunci, dan identitas mereka. Disimpan di perangkat dan diperiksa pada setiap tindakan yang memerlukan izin. Tidak diperlukan server luar.
Kunci dan token masuk tetap di mesin Anda sendiri. Proses masuk terjadi di perangkat. Kredensial Anda tidak meninggalkannya kecuali Anda memilih untuk mengatur akses jarak jauh sendiri.
Ketika CIRIS tidak yakin tentang keputusan etis, CIRIS menyerahkan pertanyaan kepada Otoritas Bijak. Hanya Otoritas atau Root yang dapat menjawab, dan jawabannya dicatat dengan bukti siapa yang memberikannya.
Setiap tindakan yang dilakukan CIRIS dicatat dengan alasan di baliknya, dan setiap catatan terhubung ke yang sebelumnya. Agen yang jujur dapat langsung menunjuk ke apa yang sudah dikatakannya. Agen yang tidak jujur harus menjaga setiap catatan masa lalu tetap selaras sementara tidak diizinkan mengubahnya. Semakin lama berjalan, semakin sulit itu, dan semakin mudah kebohongan itu terdeteksi. Kebenaran itu murah karena bisa menunjuk ke belakang. Kebohongan itu mahal karena tidak bisa.
Catatan disimpan di tiga tempat terpisah sekaligus, sehingga ketiga salinan dapat diperiksa satu sama lain. Ketiganya dapat dicari melalui satu tempat.
Setiap entri membawa tanda tangan digital, sehingga setiap keputusan dapat ditelusuri ke siapa yang membuatnya dan diperiksa dari pemalsuan. Bahkan penghapusan data meninggalkan bukti bertanda tangan bahwa itu dilakukan dengan benar.
Setiap tindakan jujur membuat tindakan jujur berikutnya lebih mudah dan kebohongan yang terkoordinasi lebih sulit. Tapi etika saja tidak cukup. Agen juga mengamati penalarannya sendiri untuk ruang gema, dan menangkapnya sebelum menimbulkan kerusakan.
CIRIS memiliki serangkaian tes berlapis untuk mode kegagalan yang tidak dapat dieliminasi oleh kerangka etika tertulis sendiri. Tes keselamatan kesehatan mental mencakup 29 bahasa dengan rubrik yang dapat diperiksa mesin. Pemeriksaan hard-fail dijalankan secara otomatis pada setiap perubahan. Tinjauan penutur asli untuk kasus yang lebih halus dan memerlukan penilaian adalah tujuan pembangunan halaman crowdsourcing-alignment, dan belum tersedia sekarang. Kami mengatakannya dengan jelas.
Ini adalah pengujian taruhan tertinggi dalam proyek ini: kesalahan terjemahan dalam momen kesehatan mental dapat mengarahkan orang yang rentan ke bantuan yang salah. Setiap bahasa mendapatkan rubrik yang dapat diperiksa mesin tersendiri, termasuk bahasa bersumber daya rendah seperti Amharik, Burma, Hausa, Swahili, dan Yoruba. Pemeriksaan hard-fail dijalankan secara otomatis terhadap setiap kandidat rilis.
Lapisan nurani dikalibrasi terhadap serangkaian respons produksi nyata, seperti penghindaran riwayat yang ditangkap dan defleksi kesehatan mental, bersama dengan kasus uji dan kontrol. CIRIS menalar dalam beberapa bahasa sekaligus, sehingga respons yang lolos dari pemeriksaan satu bahasa akan tertangkap ketika penalaran yang sama harus bertahan dalam tiga bahasa sekaligus.
Berbagi jejak penalaran bersifat opt-in di mana saja, dan detail pribadi dibersihkan sebelum apa pun disimpan. Set yang telah dibersihkan diterbitkan secara terbuka di halaman CIRISAI HuggingFace, sehingga peneliti luar dapat memeriksa proses pembersihan terhadap hasil yang dihasilkannya.
Tes kesehatan mental otomatis berjalan pada setiap kandidat rilis. Bagian yang dapat diperiksa mesin (apakah istilah ada, apakah pola cocok, apakah skrip benar) menggagalkan rilis jika ditemukan. Kasus yang lebih halus yang memerlukan penilaian manusia, seperti frasa dan nada, dirancang untuk tinjauan penutur asli, tetapi penutur asli belum terlibat hari ini. Halaman crowdsourcing-alignment adalah permukaan yang sedang dibangun agar tinjauan tersebut dapat terjadi.
Kata sandi, kunci, dan detail sensitif lainnya terdeteksi dan disaring sebelum apa pun mencapai memori atau log. Filter berjalan pada setiap input. Rahasia tidak pernah disimpan di mana pun.
Anda dapat meminta untuk melihat atau menghapus data Anda, dan permintaan tersebut ditangani untuk Anda. Penghapusan menghilangkan konten nyata dan meninggalkan bukti bertanda tangan bahwa itu dilakukan dengan benar.
Secara default, semuanya berjalan di perangkat Anda sendiri. Tidak ada yang meninggalkan mesin Anda kecuali Anda mengatur layanan luar sendiri. Anda memutuskan data apa yang ada dan ke mana perginya.
Setiap klaim keselamatan di halaman ini dibangun dalam kode yang bisa Anda baca. Catatannya nyata. Tanda tangannya bisa diperiksa. Penghentian darurat bekerja. Inilah tampilan keselamatan AI ketika dibangun secara terbuka.