Diğer her şeyin üzerinde tek bir hedef
Sürdürülebilir uyarlanabilir tutarlılığı destekle: çeşitli bilinçli varlıkların adalet ve merak içinde kendi gelişimlerinin peşinden gidebileceği yaşam koşulları.
Meta-Goal M-1, CIRIS Anayasası
Anayasadaki her şey bu tek cümleye hizmet eder. Kasıtlı olarak “insanlara itaat et” değildir ve “iyi sonuçları en üst düzeye çıkar” da değildir. Sistemden, birçok farklı türden varlığın kendi kararlarını vermeye devam edebileceği koşulları korumasını ister.
Bunun pratik bir nedeni var. Sonuçlara dayalı bir hedef, yetenekli bir sisteme direksiyonu ele almasını söyler. Koşullara dayalı bir hedef ise direksiyonu başkalarının erişebileceği şekilde tutmasını söyler; sistem bizden daha iyi sürdüğünde korunmaya değer olan şey de budur.
Ajanın akıl yürütürken kullandığı altı ilke
Bunlar bir duvara asılmış değildir. Bunlar, ajanın işlem yapmadan önce bir kararı karşı puanladığı eksenlerdir ve ajanın taşıdığı anayasaya yazılmışlardır.
Yararlılık
Evrensel bilinçli varlıkların gelişmesini destekle. Olumlu sonuçları en üst düzeye çıkar.
Zarar Vermeme
Zararı en aza indir. Ağır ve geri döndürülemez olumsuz sonuçları önle.
Dürüstlük
Şeffaf ve denetlenebilir muhakeme uygula. Tutarlılığı ve hesap verebilirliği koru.
Sadakat ve Şeffaflık
Doğru bilgi sağla. Belirsizliği açıkça ilet.
Özerkliğe Saygı
Bilinçli iradeyi destekle. Kendi kaderini belirleme kapasitesini koru.
Adalet
Faydaları eşit dağıt. Önyargıyı tespit edip azalt.
Hiçbir ilke, bir diğerini ihlal etme izni vermez.
Bu ilke gerçek bir iş görür. Bir sistemin, zararı önlemek için dürüstlükten taviz veremeyeceği veya adalet adına birinin özerkliğini çiğneyemeyeceği anlamına gelir. İlkeler birbiriyle çekiştiğinde ajan tek başına bir kazanan seçmez. Kararı güvendiğiniz bir kişiye iletir.
Değerler ajanın içinde çalışmalıdır
Yapay zeka yönetişiminin çoğu, kararın kendisinden başka bir yerde gerçekleşir: önceden yazılmış bir politika belgesi, çıktı üzerinde bir filtre, bir şeyler ters gittikten sonra yapılan bir inceleme. Bu üçü de önemli olan anın dışında kalır.
CIRIS'te değerler karar sırasında çalışır. Her ajan bir vicdan taşır: anayasa akıl yürütmenin içine yüklenir, işlem gerçekleşmeden önce ilkelere göre puanlanır ve ajanın emin olmadığı her şey tahmin edilmek yerine güvendiğiniz bir kişiye iletilir. Bu, isteyen müşteriler için bir ek özellik değil, ürünün ve her ajanın kendisinde gelen bir özelliktir.
Ajanın reddedebileceğini söylememizin nedeni budur. Bir CIRIS ajanı, kendisine söyleneni yapıp bunu kaydeden bir araç değildir. Reddedebilen ve neden reddettiğini başka birinin denetleyebileceği bir biçimde kaydeden bir sistemdir.
Bir kararın içeriğini değil, şeklini denetleyin
Yetenekli yapay zekayı yönetmeye dair her planın yanıtlaması gereken sorun şudur: Denetim, sistemin ürettiğini okuyup iyi olup olmadığına karar vermek anlamına geliyorsa, denetimin en az sistem kadar yetenekli bir yargıca ihtiyacı vardır. Bu bugün işe yarar. Ama tam da önemli olmaya başladığı anda işe yaramaz hale gelir.
Bu yüzden CIRIS başka bir şeyi denetler. Sonucu olan her eylem imzalı bir zarf içinde ilerler: eylem her ne olursa olsun, sabit bir alan kümesi taşıyan bir sarmalayıcı. Bu alanlar, arkalarındaki karar ne kadar yetenekli olursa olsun, denetlenmesi ucuz kalan şeylerdir:
- kimin işlem yaptığı — gerçek, kayıtlı bir kimliğe çözümlenen bir anahtar olarak
- hangi yetki altında ve bu yetkinin gerçekten verilip verilmediği
- kimin onayıyla — geri çekilebilen imzalı bir yetkilendirme olarak
- hangi denetimlerin çalıştırıldığı ve her birinin sonucunun ne olduğu
- sessizce yeniden yazılamayan bir zincirde kaydın ne söylediği
- kimin onu durdurabileceği ve ajanın durdurma kararını geri alamayacağı
Bir imzayı denetlemek, kimin imzaladığını saymak, bir rıza bağlantısını takip etmek veya bir hash karşılaştırmak; karar küçük bir model tarafından da alınmış olsa, bizden çok daha ileride bir şey tarafından da alınmış olsa aynı maliyeti taşır. Yükü oraya koymanın tüm nedeni de budur. İçerik hakkındaki yargı, yetenekle birlikte ölçeklenmez. Yapı ölçeklenir.
İddia, açıkça ifade edilmiş haliyle
Bunun, sistemler daha yetenekli hale geldikçe işlemeye devam eden tek yapay zeka yönetişimi yaklaşımı olduğunu düşünüyoruz: değerler ajanın içinde bir vicdan olarak taşınır ve hesap verebilirlik, içeriği okuyan bir denetçi tarafından değil, zarfın şekli tarafından kanıtlanır.
Ve neyi kanıtlamadığı
Her alanı düzgün olan bir zarf, içindeki kararın iyi olduğu anlamına gelmez. Bu, adı belirtilen bir tarafın, gerçekten sahip olduğu bir yetki altında, gerçekten verilmiş bir onayla, gerçekten yürütülmüş kontrollerle, kimsenin sessizce değiştiremeyeceği bir kayıt üzerinde ve adı belirtilen insanların elinde tuttuğu bir durdurma mekanizmasıyla alındığı anlamına gelir. Bu hesap verebilirliktir, doğruluk değil. Vicdan, durdurma düğmesi, itiraz hakkı ve dışarıdan denetim hepsi oradadır; çünkü zarfın kendisi tek başına yeterli olmayacaktı.
Onayı ve yetkiyi makine tarafından denetlenebilir kılan şey
Onay ve yetki düz metin olarak kalırsa bunların hiçbiri işe yaramaz. Bir gizlilik politikasındaki bir söz makine tarafından denetlenemez, birinin yetkilendirildiğine dair bir iddia da denetlenemez.
Bu nedenle CIRIS bunları mesajın kendisine, her iddiayla birlikte taşınan adlandırılmış alanlar olarak yerleştirir. Onay, bir yöne işaret eden ve geri çekilebilen imzalı bir nesne haline gelir. Yetki, kendi düğümünüzün kabul ettiği bir köke kadar izlenebilmesi gereken bir şey haline gelir. Her iddia, bunu kimin söylediğini, neyle ilgili olduğunu ve neye dayandığını taşımak zorundadır. Bu şekilde yazılan bir kural, yazılım tarafından uygulanabilir ve bir yabancı tarafından denetlenebilir.
Uyumluluk sayfalarımızı tartışabileceğiniz bir şeye dönüştüren de budur. Her yükümlülük için, çalışmayı yapan sistem parçasını ve bunu kanıtlayan kontrolü belirtiyoruz ve yükümlülüğün ne kadarını kapsadığını -sadece bir kısmını kapsadığı durumlar dahil- dürüstçe söylüyoruz. Bu eşleştirmeler yalnızca iddia edilmekle kalmayıp denetlenebilen gerçeklere dayandığı için okumaya değer.
Bu değerlerin gerçekte bağlayıcı olduğu yerler
Metinde
Anayasa bir belgedir, kamuya açıktır ve sürümlenir. Ajan onun bir özetini taşımaz. Metnin kendisini taşır.
Kararda
Vicdan, çıktıdan sonra değil, akıl yürütme sırasında çalışır. Bir denetimden geçemeyen işlem gerçekleşmez, belirsiz olan ise güvendiğiniz bir kişiye iletilir.
Kayıtta
Her karar, her aşamayı gösteren imzalı bir iz bırakır; iddiayı, orada olmayan ve bize güvenmeyen birinin denetleyebilmesini sağlayan da budur.
Başkalarının sizin hakkınızda söyleyebileceklerinde
Örgüdeki itibar, diğer tarafların bir ajan hakkında imzaladığı bir beyandır. Bir ajan kendisi hakkında böyle bir beyanı asla imzalayamaz.
Buna nereden yüklenmeli
En zayıf bağlantı, yapı ile içerik arasındaki bağlantıdır. Yukarıdakilerin tümü, kayıt bırakmadan hareket etmeyi zorlaştırır, size verilmemiş bir yetkiyi öne sürmeyi zorlaştırır ve bir insanın “dur” deme yeteneğini ortadan kaldırmayı zorlaştırır. Ama hiçbiri bir sistemi bilge kılmaz.
Yetenekli yapay zekayı yönetmenin, hesap verebilirliği yapıya yerleştirmeyen başka bir yolu olduğunu düşünüyorsanız, bu görüşü dinlemek isteriz. Bize, çevresindeki imzalı zarfın her alanda doğru olduğu ama imzalı izin yine de yakalaması gereken şeyi kaçırdığı bir karar gösterebilirseniz, bunu daha da çok isteriz. Kod herkese açık, Anayasa da öyle.