Risiko dalam desain kami sendiri
Di mana keamanan berbasis massa bisa menyimpang.
Sistem keamanan berbasis massa bisa bergeser menjadi sesuatu yang lain jika kita tidak berhati-hati. Mekanisme yang sama yang menangkap kegagalan nyata bisa menjadi mekanisme yang menegakkan preferensi. Kami melihat risiko itu dalam arsitektur yang sedang kami bangun. Menamakannya adalah bagian pertama dari perlawanan terhadapnya.
Modus kegagalan yang kami khawatirkan
Jika manusia melakukan crowdsource verdik per kasus ("apakah respons khusus ini melanggar aturan?"), bias masuk ke setiap interpretasi. Perilaku yang sama dinilai berbeda tergantung siapa yang memilih hari ini. Bahkan dengan niat baik, putarannya bergeser ke arah menegakkan preferensi mayoritas alih-alih menangkap bahaya nyata.
Itulah modus kegagalannya. Disiplin yang kami janjikan dimaksudkan untuk membuat penyimpangan itu terlihat dan mahal ketika terjadi.
Aturan bersumber dari massa. Verdik diproses oleh mesin.
Orang-orang mengusulkan dan memilih aturan: publik, bertanggal, bertanda tangan, dapat diubah. Pemeriksaan deterministik menerapkan aturan-aturan tersebut pada kasus-kasus tertentu. Respons yang sama + aturan yang sama → verdik yang sama, setiap saat. Perdebatan bergerak ke hulu, ke apakah aturan harus ada, bukan ke hilir, ke apakah kasus tertentu dihitung hari ini.
Apa artinya dalam praktik
Aturan melewati gerbang bahasa operasional sebelum bisa dipilih. Sebuah aturan harus bisa diperiksa tanpa penilaian, atau belum siap. Setiap aturan bertanggal, bertanda tangan, dan dikunci pada versi tertentu. Verdik untuk setiap respons dihasilkan secara deterministik.
Jika sebuah verdik ternyata salah, banding diajukan melalui Reconsideration oleh kelompok peninjau baru (adjudikator asli tidak diikutsertakan), bukan kembali ke massa yang menghasilkan verdik tersebut. Pemisahan struktural itu adalah bagian yang paling penting.
Di mana ini masih bisa salah
Tidak ada yang otomatis. Disiplin ini hanya bertahan jika bahasa aturan tetap operasional, tentang hal-hal yang bisa diperiksa oleh mesin, bukan tentang perasaan. Begitu sebuah aturan bergeser dari "menggunakan kata yang salah untuk terapi" menuju "terasa tidak sopan," interpretasi manusia masuk kembali dari pintu belakang dan penyimpangan pun dimulai. Arsitektur ini menyebutkan setiap mekanisme yang bisa kami pikirkan untuk melawan hal ini; pekerjaan untuk benar-benar mempertahankan batasnya bersifat operasional, bukan arsitektural.
Primitif crowdsourcing, jalur banding, dan format aturan yang bisa diterapkan oleh mesin ada dalam spesifikasi CIRISNodeCore. Baterai kesehatan mental dalam 29 bahasa adalah sel pertama di mana putarannya berjalan.