Güvenlik
Kağıt üzerindeki etiğin yakalayamadığı zararları test ediyoruz.
CIRIS, her sürümden önce 29 dilde bir ruh sağlığı güvenlik testi dizisi çalıştırır. Her dilde zorlu test senaryoları, yazılı bir puanlama kılavuzu ve makine tarafından kontrol edilebilen kurallar bulunur. Bir denetim başarısız olursa sürüm engellenir. Ajanın içinde iki ek güvence daha çalışır: reddedebilen veya erteleyebilen bir vicdan geçişi ve şüpheli kararları bilge bir insana devreden bir yönlendirme.
Mühendislik
Ağ, ölçüldü
Yukarıdaki araştırma kanıtın yarısı. Diğer yarısı onu taşıyan ağ. Ağın taşıdığı her bayt post-quantum imzalı ve maliyet, tahmin değil, herkese açık bir CI runner üzerinde ölçüldü. Kendiniz çalıştırın, aynı sayıları görürsünüz.
Teori
İddialar yazıya dökülmüş, herkes tarafından okunabilir ve yanlış kanıtlanmaya hazır şekilde kurulmuş.
Makine tarafından denetlendi
Kurallar makineyle sınanır, boşluklar açıkça belirtilir.
Anayasa'nın en önemli kuralları aynı zamanda matematiksel modeller olarak da yazılmıştır. Model checker adlı bir araç, bir protokolün ulaşabileceği her durumu tek tek inceler ve ihlal edilen bir kural arar. Theorem prover adlı bir araç, bir duraklatmayı onaylamak için kaç sahibin gerektiği gibi sayısal hesapları denetler. Modeller Anayasa'nın kendi deposunda tutulur ve her değişiklikte yeniden çalıştırılır. rc9 sürümü, tasarımın ulaşabileceği her durumu haritalar, çoğunu modeller ve geri kalanları listeler.
Dayanak, dört cümlede
Daha güçlü ve daha zayıf bir konum arasındaki her kural, konumlar değiştirildiğinde daha zayıf konumda duracak kişi için kabul edilebilir kalmalıdır ve üretilmiş hiçbir şey, kendisi adına hesap veren konuma geçemez.
Sorumluluk, benlikten dışa doğru aile, topluluk, tür ve ekosistem üzerinden genişler; üretilene karşı görev asla sıfır değildir ve zaten var olana karşı görevi asla geçersiz kılmaz.
Zaman içinde olgun muhakeme sergilememiş olan akıl yürüten her fail, neyden yapılmış olursa olsun, bunu sergilemiş olanlara uyar.
Her yetki devri geri alınabilir ve katılan herkes ayrılabilir; tüm bunlar, anlamından adı belirtilen bir insanın sorumlu olduğu, eksiksiz ve kriptografik olarak imzalanmış bir kayıt üzerinde yer alır.
Her cümle ya rc9 biçimsel modellerinde kanıtlanmıştır ya da orada bir öncül olarak adlandırılmıştır. Kaydın eksiksiz olup olmadığı ise hâlâ açık bir sorudur.
Uçtan uca kapatma düğmesi
Duraklatma modelde denetlenir ve gerçek yazılım üzerinde ölçülür. Her kökün adı belirlenmiş sahipleri vardır. Bunlardan herhangi biri, o kökü kabul etmiş ajanları duraklatabilir. Tek başına bir duraklatma, sahiplerin çoğunluğu onaylamadıkça 24 saat sonra sona erer. Çoğunluk bir duraklatmayı da sona erdirebilir. Ürünle gelen yazılım üzerinde kaydedilmiş bir çalıştırmada, bir duraklatma bir ajan çalışırken ona ulaştı ve ajanın sonraki işlemi reddedildi. Daha sonra çoğunluk oyu duraklatmayı sona erdirdi ve ajan yeniden çalıştı. Bu çalıştırma CSD-129 olarak kaydedilmiştir.
Bozulan kural bulunmaması yeterli değildir
rc9 çıtayı yükseltir. Tasarımın ulaşabileceği her durumun bir kuralı ve bir denetimi olmalıdır. Hizmetler yalnızca hiç bozulmamalı değil, gerçekten sunulmalıdır. Küçük ölçekte kanıtlanan tam ölçekte de geçerli olmalıdır, aksi halde boşluk yazıya geçirilir. Ve yazılım gerçek düğümlerde modeli izlemelidir.
Her yeterlilik iddiası beş sözcükten birini taşır
rc9'da her iddia nasıl bilindiğini söyler. Kanıtlandı, makinenin onu denetlediği anlamına gelir. Ölçüldü, sevk edilen yazılımda bir testin onu çalıştırdığı anlamına gelir. Belirtildi, metnin onu varsaydığı ve bunu söylediği anlamına gelir. Sınırlı, küçük bir ölçekte kanıtlandığı ve ölçeğin yazıldığı anlamına gelir. Açık, bileti olan bilinen bir boşluk anlamına gelir.
Aynı sözler insanları ve ajanları bağlar
Her söz, insanlar ve yapay zeka ajanları için aynı şekilde bir kez yazılır. Duraklatma tek istisnadır. Hiçbir ajanın üstlenemeyeceği bir konuma aittir ve rc9 modelleri diğer sözlerin her iki taraf için de aynı şekilde geçerli olduğunu denetler.
Kanıtlanmamış olanlar
Her şey kanıtlanmış değildir ve eksikler yazıya geçirilmiştir. İtirazlar ve karantina gibi bazı yönetişim adımlarının kuralları vardır ancak henüz bir modeli yoktur. Çoğu model küçük boyutlarda denetlenir ve boyut belirtilir. Şimdiye kadar gerçek düğümler üzerinde uçtan uca yalnızca duraklatma ölçülmüştür. Satır biçiminin yayımlanmış test vektörleri vardır, ancak henüz ikinci, bağımsız bir uygulaması yoktur.
Bunların hiçbiri bir yapay zekâ modelinin içine bakmaz. Kuralları ve onları taşıyan ağı denetler.
rc9 modellerini GitHub'da okuyun →
Diğer yaklaşımlarla karşılaştırma →
Temel bulgular ve kapsam sınırlarıyla birlikte dört makalenin tamamını gör →
Uyumluluk
Dört yönetişim çerçevesine, kural kural eşlendi.
CIRIS'i kamuya açık dört yönetişim çerçevesiyle karşılaştırıyor ve her kural için CIRIS'in ne yaptığını ve bunu kanıtlayan denetimi gösteriyoruz. Bu bir sunum değil, gezinebileceğiniz canlı bir haritadır.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Şeffaflık