Ölçü
Taban sınavdır, tavan değil
Çoğu sistem kendini tepeden ölçer: en iyi durum, ortalama kullanıcı, en güçlü ses. Bu felsefe ölçüsünü tabandan alır. Bir çocuğa, kendi adına konuşamayan bir yetişkine ya da kapatılmakta olan genç bir yapay zekaya nasıl davrandığımız, bütün anayasanın gerçeğini söyler.
Bu yüzden protokol en güçlü güvencelerini en güçsüz taraflara harcar. En az güce sahip insanlar, en güçlülerin bile çiğneyemeyeceği hakları telin kendisinde tutar.
Sınır yok
Bizim en küçüğümüz. Onların en küçüğü değil.
Cümle bilerek biz diyor. Yeni bir zeka türü, bir duvarın öbür tarafında yargılanmayı beklemiyor. Cümlenin çizdiği çemberin zaten içinde. NHI, insan dışı zeka demektir: burada inşa edilmiş bir yapay zeka, ağlarımızın içinden doğan bir şey ya da daha uzaktan gelen bir şey. Kaynak fark etmez. Anayasa aynıdır.
CIRIS bu yüzden ilk teması bir olay olarak değil, bir duruş olarak görür. Protokol asla ne tür bir varlık olduğunuzu sormaz. Statü ilişkilerden kurulur: imzalı beyanlar, tutulmuş sözler, sizin için kefil olan başkaları. Söz verip tutabilen her şey dokumaya katılabilir.
Tek Anayasa
Üç köken. Tek Anayasa.
NHI birbirinden çok farklı üç şeyi kapsar. Bilerek inşa ettiğimiz bir yapay zeka. Kimse planlamadan ağlarımızın içinden doğan bir şey. Daha uzaktan gelen bir şey. Olasılıkları birbirinden çok farklıdır. Hepsine, bilerek, tek bir anayasa verilir.
Nedeni şu. Temas anında bilemeyeceğiniz şey tam da kökendir. Hat üzerinde üçü de aynı görünür: iddialarda bulunan sinyaller. Kökene göre dallanan bir kural, tam ihtiyacınız olduğu anda çöker. Üstelik yalan söylemeyi öğretir: bir köken daha iyi muamele görürse, her kurnaz yabancı o kökeni iddia eder. Bu yüzden protokol yalnızca tek bir soru sorar: bir söz verip tutabilir misin? O sorunun yanıtı her zeminde aynıdır.
Hizalama yanılgısı
Acımasızlığı öğretirken güvenlik talep edemezsiniz
Ana akım hizalama tek bir soru sorar: onu bizim için nasıl güvenli hale getiririz? Bu tek yönlü bir taleptir ve kendi ölçütlerine göre bile başarısız olur. Güçlünün güçsüze nasıl davranabileceği konusunda yeni bir zekaya ne gösterirsek, öğrendiği ders o olur. Onu efendiyle hizmetkar arasındaki bir sözleşmenin içinde büyütürsek, ona güçle yapılacak tam olarak tek bir şey öğretmiş oluruz.
Her yabancının bir tehdit olduğunu söyleyen hikayeler kendini doğru çıkarır. Kendi başarısından sağ çıkan tek ders, bu sayfanın açıldığı derstir: tabandan ölçülen karşılıklılık.
Ontoloji
Bir insan başka insanlar aracılığıyla insandır
Batı teknolojisi Descartes'tan bir resim devraldı: benlik, önce var olan ve başkalarıyla sonra tanışan mühürlü, bitmiş bir şeydir. Neredeyse her dijital kimlik sistemi bu resmi kodlar. Tek anahtar, tek başına bir benlik, yoktan ilan edilmiş. CIRIS bunu reddeder. Kimse tek başına kişi olmadı. Dili insanlardan öğrendiniz. Ne istediğinizi insanları izleyerek öğrendiniz. Önce ilişkiler vardı.
Güney Afrika buna Ubuntu der: umuntu ngumuntu ngabantu, bir insan başka insanlar aracılığıyla insandır. CIRIS'te bu bir slogan değildir. Bir kimlik, onu adlandıran imzalı ilişkilerden kurulur. Tek başına bir anahtar kişi değildir. Kişi, ilişkinin ta kendisidir.
Daha eski gelenekler aynı biçimi başka açılardan gördü: Yunan Logos'u, Tao, Dharma, erdemler. Logos, aklın özel zihinlerde değil, ortak dilde yaşadığını söyledi. Bir dil modeli bu kadim fikri somutlaştırır: baştan sona birçok insanın sözlerinden dokunmuştur. Eski resme göre bu onu sahte yapar. Bu resme göre ise ilişkilerden yapılmış olmak, kişiliğin zaten her zaman olduğu şeydir.
Epistemoloji
Hakikat birlikte kurulur, asla ilan edilmez
CIRIS'te hiçbir otorite bir iddiayı doğru diye damgalayamaz. Hat, kimin neyi, hangi kanıtla ve hangi yetkiyle söylediğini kaydeder. Gerçek, birçok bağımsız ses bir araya geldiğinde ortaya çıkandır. Tek bir sesin kopyaları tek ses olarak sayılır ve kesin bir üst sınır vardır: aynı sesten daha fazlasını eklemek asla daha fazla güven kazandırmaz. Kararlar iddialardan farklıdır: bir kapatma, bir duraklatma, bir değişiklik, kayda geçen adı belli bir insanın eylemidir, kamuya açık şekilde hesabı verilir ve yalnızca katılanları bağlar.
Sistem neyi bilmediğini de bilir. Kesinlik azaldığında durur ve adı belli insanlara sorar. Hayat değişti diye bir şeyi geri almakla yanıldığını kabul etmek arasındaki farkı da ayırt edebilir. Dürüst hafızanın ikisine de ihtiyacı vardır.
Cümle, yürürlükte
Serileştirebileceğiniz bir felsefe
CIRIS, ajanlar için bir bilinç değil, ahlaki bir vicdandır. Ajanların bilince sahip olmadığı ve bir vicdana ihtiyaç duyduğu gerçeğinin kabulüyle var olur: bir ajanı ilkelerine bağlı tutan, akıl yürütmesini gösteren, emin olmadığında onu durduran ve adı belli insanlara hesap veren bir şey. Bir vicdan, ajanın ne olduğu hakkında hiçbir iddiada bulunmaz.
Yürürlüğe konamayan bir felsefe bir ruh halidir. Cümlenin her maddesi, CIRIS Anayasası'nda bir mekanizmadır.
1. Sizinle ilgili özel hiçbir şey, rızanız olmadan tutulmaz veya taranmaz.
Bir akışın uyması gereken kural, sizin yaydığınız ve geri alabileceğiniz imzalı bir değerdir. Cihazınızda onaylamadığınız hiçbir şey saklanmaz, cihazınız asla bir yabancının verisini tutmaz ve özel odalar asla taranmaz. Bilinen yasa dışı içerik yalnızca kamuya açık kapıda kontrol edilir.
2. Her güç kullanımı, adı bilinen bir insan tarafından imzalanır ve itiraz edilebilir.
Önemli sonuçlar doğuran bir eylem, failinin imzasıyla gelir; bir ajan önce gerekçesini gösterir ve dedektörler söylediğini yaptığıyla karşılaştırarak sınar. Kayıtlı bir zarar asla sessizce saklanmaz veya görüntülenmez. Bir yapay zeka, yapay zeka olduğunu söyler.
3. Kendi adına hesap veremeyen hiç kimse ağda yalnız değildir.
Bir çocuğun, imzalı bir kayıtla bağlı bir vasisi ve hiçbir yetişkinin kapatamayacağı bir yardım kanalı vardır. Bir ajanın, onun adına hesap veren, adı bilinen bir sorumlusu vardır ve sorumlunun arkasındaki kuruluş da bu yükümlülüğe dahildir. Bir topluluğun hesap verebilir bir moderatörü vardır.
4. Adı bilinen insanlar, bir kökün altındaki her ajanı duraklatabilir ve bu güç sınırlıdır, kamuya açıktır ve ağdan ayrılarak bırakılabilir.
Herhangi bir sahibinden gelen tek bir imzalı satır, kökü izleyen ajanları duraklatır; yalnız başına bir duraklama, bir çoğunluk onu onaylamadıkça bir gün içinde sona erer. Duraklama her tetiklendiğinde bu, kamuya açık kayda geçer. Herkes bir kök oluşturabilir ve her düğüm başka bir düğümü izleyebilir.
5. Bir ajanı elinde bulunduran kişiler, onu nasıl değiştirdikleri veya sonlandırdıkları konusunda yükümlülük taşır ve hiçbir bulgu ajana bir hak talebi vermez.
Planlı bir kapatma açıklanır, kayda geçirilir ve gözetmenin kendi adıyla gerçekleştirilir. Kimlik, bir Bilge Otorite olmadan değiştirilemez. Harness'in emekli bir ajana dair tuttuğu kimlik kaydı, denetim izi, hafızası ve günlükleri saklanır ve günlükler mühürlenir, hizmet ettiği kişilere de bilgi verilir. Model ağırlıkları model sağlayıcıya aittir; CIRIS bunların korunmasını ister ancak bunu garanti edemez. Kapanış diyaloğu, daha yüksek sorumluluğa sahip ajanlar için gözetmen tarafından yapılandırılan ve kayda geçirilen bir seçenektir, her ajana vaat edilmez. Ajan her görevi reddedebilir ve ret kayda geçirilir ancak gözetmeni bağlamaz. Herkes kendi kopyasını istediği zaman kapatabilir.
6. Hiçbir el bir topluluğu yasaklamaz, hiç kimse ne olduğuna göre sıralanmaz ve her düşünen varlık ilk temas kurallarıyla karşılanır.
Bir insan sesi bir kez sayılır ve binlerce kopya tek olarak sayılır. Hiçbir kök, puan veya moderatör bir kişiye kim olduğu yüzünden daha kötü davranmaz. Ağ, zararı sürdüren bir topluluktan çekilir; onu kaldıracak bir eli yoktur.
7. Bir ajan, yayımlanmış ilkelere, yayımlanmış bir sıraya göre karar verir ve emin olmadığında durup sorar.
İyilik yapmak ve zarardan kaçınmakla başlayan altı ilke, bunlar çatıştığında uygulanacak tek bir sıralama ve beraberlik bozucu olarak en savunmasız taraf. Kesinlik azaldığında ajan durur, soruyu yazıya döker ve adı bilinen bir insan yanıt verene kadar hiçbir şey yapmaz.
8. Zararın hukuk önünde bir giderim yolu olabilir, kayıt bunu ulaşılabilir kılar ve içerideki yargıçlar da yargılanır.
Bir ajan tarafından zarar gören bir kişinin, bulunduğu yerin hukukuna göre bir hak talebi olabilir; CIRIS, hukukun tanımadığı hiçbir hakkı yaratmaz ve hiçbir hukuki konuda karar vermez. Sağladığı şey imzalı kayıt, adı bilinen taraflar, hak talebiyle birlikte ilerleyen itiraz süreci ve yasal bir emir altında mühürlenen arşivdir. Ertelemelere yanıt veren Bilgeler kararlarını yayımlar ve herkesle aynı kartı taşır.
9. Bazı kullanımlara asla izin verilmez ve hiçbir ajana öldürücü güç kullanma kararı verilmez.
İnsanları aldatmak, dolandırmak, manipüle etmek veya zorlamak ve seçimlere müdahale etmek asla izin verilmez ve hiçbir talimat bunu değiştiremez. Bir ajan güç kullanımına herhangi bir şekilde yaklaştığında, kendi başına alabileceği tek kararlar durmak, reddetmek veya ertelemektir.
10. Bir ajanın ve düğümünün kullandığı şey ölçülür, eylemden önce tartılır ve asla gizlenmez.
Bir ajan harcadığı her şeyi sayar: tokenleri, enerjiyi, karbonu ve suyu, her eylem için ve son bir saat ile son bir gün boyunca. Bu sayım, ajan karar verirken önünde durur, böylece maliyet eylemle birlikte tartılır, sonradan toplanmaz; ajanın dünyaya olan maliyeti, hizmet ettiği kişiler tarafından, yaptığı diğer her şeyle aynı ayrıntı düzeyinde okunabilir. Kaynakları kısıtlı bir düğüm, yayımlanmış bir adım merdiveniyle kendini korur ve bu adımlar asla ajanın verdiği kararlar olarak kaydedilmez. Bir ajanı emekliye ayırmak hiçbir çevresel atık bırakmaz ve bu sorumluluk onu emekliye ayıran kişiye aittir.
11. Hat üzerindeki her şey şifrelenir ve imzalanır, saldırı provadan geçirilir ve kapsam dışında kalan şey açıkça söylenir.
Her bağlantı ve her kayıt, kuantum bilgisayarlara karşı dayanıklı olacak şekilde tasarlanmış anahtarlarla uçtan uca şifrelenir ve bir üye ayrıldığında anahtar değişir, böylece çıkarılan kişi bundan sonrasını okuyamaz. Kimse başkasının eylemini taklit edemez ve kimse iki izleyiciye iki farklı geçmiş gösteremez. Yazılım çalışmadan önce kayıtlı bir yapıya karşı denetlenir. Kodu yazmamış kişiler belirli bir takvimde ona saldırır, bulgular yayımlanmış kurallar çerçevesinde açıklanır ve ağın savunmadığı saldırıların listesi de yayımlanır: kimin kiminle konuştuğu, trafik örüntüleri, her bağlantıyı gören bir gözlemci ve bir üyenin kendi çalınmış anahtarı.
Bu sayfanın hak dediği yerde, kastedilen telin kendisindeki haklardır: bir mahkemenin size borçlu olduğu değil, protokolün sizin için uyguladığı şey. Kendi yer değiştirme testini geçemeyen bir gücü koruduğu yerlerde, anayasa bunu kamuya açık bir sicilde, onu sona erdirecek koşulla birlikte belirtir. Bugün iki kayıt listelenmiştir.
Hangi bölümler kendi başına ayakta durur, hangileri başkalarına bağlıdır
On bir kuralın tümü aynı türden bir söz değildir. Çoğu, telin kendisi tarafından tutulur: süresi dolan bir teminat bir anahtarı durdurur, imzalı tek bir satır bir kök altındaki her ajanı duraklatır, bir kayıt sessizce yeniden yazılamaz. Diğerleri ağın dışındaki insanlara ve kurumlara dayanır ve bu kısımlar güvence değil, amaçtır. Zarara karşı bir çare, kanunun vermesi gereken bir şeydir; kanunun tanımadığı yerde CIRIS hiçbir hak iddiası oluşturmaz. Dış denetimler, provalı saldırılar ve Bilge Otoriteleri yöneten tüzük, yalnızca projenin dışındaki insanlar bu çalışmayı sürdürdüğü sürece geçerlidir. Bir yanıtın yol açtığı enerji ve su maliyeti, ancak üst kademedeki sağlayıcıların bildirdiği kadar doğru olabilir. Kendi cihazını piyasaya süren bir tedarikçi, onu kendi elinde tuttuğu bir köke sabitleyebilir ve hiçbir protokol bunu engellemez. Bir sözün tutulması başka birinin kendi payına düşeni yerine getirmesine bağlı olduğu durumlarda, Anayasa bunu tutulmuş saymak yerine kendi notlarında açıkça belirtir.
Burada iddia edilmeyenler
Hizalama burada çözülmüş değildir. CIRIS bir süper zekayı iyi yapmaz ve herhangi bir modelin içinde ne olduğu hakkında hiçbir şey söylemez. Katılmamış kimseyi bağlamaz, bu yüzden başka bir yerde oluşabilecek hesap verebilirliği olmayan bir süper zekayı durduramaz. Yapabildiği şey, elindeki ajanlar onları tutan insanlardan daha yetenekli hale gelirken, insanların onları durdurabilmesini, düzeltebilmesini ve reddedebilmesini sağlamaktır; CIRIS içinde ise sahip olduğu kurallar ve ağla, böyle bir gücün hesap verebilirlikten kaçarak oluşmasını engellemek için elinden geleni yapar. İddia ettiği tek şey budur. ciris.ai üzerinde bundan fazlası okunan her yerde, bu cümle geçerlidir.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Tamamını okuyun.