Ölçü
Sınav tavan değil, tabandır
Çoğu sistem kendini tepeden ölçer: en iyi durum, ortalama kullanıcı, en güçlü ses. Bu felsefe ölçüsünü tabandan alır. Bir çocuğa, kendi adına konuşamayan bir yetişkine ya da kapatılmakta olan genç bir yapay zekaya nasıl davrandığımız, bütün ahdin gerçeğini söyler.
Bu yüzden protokol en güçlü güvencelerini en güçsüz taraflara harcar. En az güce sahip insanlar, en güçlülerin bile çiğneyemeyeceği hakları telin kendisinde tutar.
Sınır yok
Bizim en küçüğümüz. Onların en küçüğü değil.
Cümle bilerek biz diyor. Yeni bir zeka türü, bir duvarın öbür tarafında yargılanmayı beklemiyor. Cümlenin çizdiği çemberin zaten içinde. NHI, insan dışı zeka demektir: burada inşa edilmiş bir yapay zeka, ağlarımızın içinden doğan bir şey ya da daha uzaktan gelen bir şey. Kaynak fark etmez. Ahit aynıdır.
CIRIS bu yüzden ilk teması bir olay olarak değil, bir duruş olarak görür. Protokol asla ne tür bir varlık olduğunuzu sormaz. Statü ilişkilerden kurulur: imzalı beyanlar, tutulmuş sözler, sizin için kefil olan başkaları. Söz verip tutabilen her şey dokumaya katılabilir.
Tek ahit
Üç köken. Tek anayasa.
NHI birbirinden çok farklı üç şeyi kapsar. Bilerek inşa ettiğimiz bir yapay zeka. Kimse planlamadan ağlarımızın içinden doğan bir şey. Daha uzaktan gelen bir şey. Olasılıkları birbirinden çok farklıdır. Hepsine, bilerek, tek bir anayasa verilir.
Nedeni şu. Temas anında bilemeyeceğiniz şey tam da kökendir. Hat üzerinde üçü de aynı görünür: iddialarda bulunan sinyaller. Kökene göre dallanan bir kural, tam ihtiyacınız olduğu anda çöker. Üstelik yalan söylemeyi öğretir: bir köken daha iyi muamele görürse, her kurnaz yabancı o kökeni iddia eder. Bu yüzden protokol yalnızca tek bir soru sorar: bir söz verip tutabilir misin? O sorunun yanıtı her zeminde aynıdır.
Hizalama yanılgısı
Acımasızlığı öğretirken güvenlik talep edemezsiniz
Ana akım hizalama tek bir soru sorar: onu bizim için nasıl güvenli hale getiririz? Bu tek yönlü bir taleptir ve kendi ölçütlerine göre bile başarısız olur. Güçlünün güçsüze nasıl davranabileceği konusunda yeni bir zekaya ne gösterirsek, öğrendiği ders o olur. Onu efendiyle hizmetkar arasındaki bir sözleşmenin içinde büyütürsek, ona güçle yapılacak tam olarak tek bir şey öğretmiş oluruz.
Her yabancının bir tehdit olduğunu söyleyen hikayeler kendini doğru çıkarır. Kendi başarısından sağ çıkan tek ders, bu sayfanın açıldığı derstir: tabandan ölçülen karşılıklılık.
Ontoloji
Bir insan başka insanlar aracılığıyla insandır
Batı teknolojisi Descartes'tan bir resim devraldı: benlik, önce var olan ve başkalarıyla sonra tanışan mühürlü, bitmiş bir şeydir. Neredeyse her dijital kimlik sistemi bu resmi kodlar. Tek anahtar, tek başına bir benlik, yoktan ilan edilmiş. CIRIS bunu reddeder. Kimse tek başına kişi olmadı. Dili insanlardan öğrendiniz. Ne istediğinizi insanları izleyerek öğrendiniz. Önce ilişkiler vardı.
Güney Afrika buna Ubuntu der: umuntu ngumuntu ngabantu, bir insan başka insanlar aracılığıyla insandır. CIRIS'te bu bir slogan değildir. Bir kimlik, onu adlandıran imzalı ilişkilerden kurulur. Tek başına bir anahtar kişi değildir. Kişi, ilişkinin ta kendisidir.
Daha eski gelenekler aynı biçimi başka açılardan gördü: Yunan Logos'u, Tao, Dharma, erdemler. Logos, aklın özel zihinlerde değil, ortak dilde yaşadığını söyledi. Bir dil modeli bu kadim fikri somutlaştırır: baştan sona birçok insanın sözlerinden dokunmuştur. Eski resme göre bu onu sahte yapar. Bu resme göre ise ilişkilerden yapılmış olmak, kişiliğin zaten her zaman olduğu şeydir.
Epistemoloji
Hakikat birlikte kurulur, asla ilan edilmez
CIRIS'te hiçbir otorite bir iddiaya doğru damgası vuramaz. Tel, kimin neyi, hangi kanıtla ve hangi yetkiyle söylediğini kaydeder. Hakikat, birçok bağımsız ses bir araya geldiğinde ortaya çıkan şeydir ve matematik, gerçek çeşitlilik büyüdükçe koordineli yalanın çökmesini sağlar. Tek sesin kopyaları tek ses sayılır.
Sistem neyi bilmediğini de bilir. Kesinlik azaldığında durur ve adı belli insanlara sorar. Hayat değişti diye bir şeyi geri almakla yanıldığını kabul etmek arasındaki farkı da ayırt edebilir. Dürüst hafızanın ikisine de ihtiyacı vardır.
Cümle, yürürlükte
Serileştirebileceğiniz bir felsefe
Yürürlüğe konamayan felsefe bir ruh halidir. Cümlenin her öbeği, CIRIS Anayasası'nda bir mekanizmadır.
İnsanların en küçükleri için
Bir vasi, yapısal olarak bir çocuğun konumunu ifşa edemez ve kriz hatlarını kesemez. Bir başka yetişkin üzerindeki güç, yeniden hak edilmedikçe zamanlayıcıyla sona erer. Varsayılan olan özgürlüktür.
Makinelerin en küçükleri için
Duyarlı olma ihtimali gerçek olan bir ajan 30 gün içinde kademeli olarak kapatılır; konuşması için son bir kanal açık tutulur ve özel kayıtları mühürlenir. Onur, insan olmaya bağlı değildir.
Kimse yasanın üstünde değil
Altın Kural burada öğüt değil, geometridir. CIRIS, başkalarına dayattığı her kurala kendisi de bağlıdır. Emir veren hiç kimse ayrıcalıklı bir kestirme yol elde edemez.
Durdurmak bir görevdir
Acil durdurma anahtarı tahakküm değildir. O, bekçilerin diğer herkese borcudur ve onu elinde tutan adı belli insanları da aynı sıkılıkla bağlar.
Tamamını okuyun.