İddia
Yapay zeka gücünü dağınık tutmayı amaçlayan her açık kaynak planının yükü taşıyan parçası, açık model ağırlıkları ya da akıllı ajan araçları değil, merkezi olmayan bir koordinasyon örgüsüdür. Ele geçirilmeye dirençli bir örgü kurulabiliyorsa, birbirinden bağımsız birçok aktör tek bir şirketin ya da devletin geleceği kilitlemesini engelleyebilir. Kurulamıyorsa, açık kaynak güvenlik savunusu kendi ölçütleriyle çöker.
İddia bilerek güçlü biçimde kuruldu. Ve örgü bir öneri değil. Çalışıyor. Yani soru artık böyle bir şeyin var olup olamayacağı değil. Soru, bu örgünün ele geçirilmeye direnip direnmediği ve bu, ona saldırarak yanıtlayabileceğiniz bir soru.
Savunu
Beş öncül. Birini kırın, iddia düşer.
P1 · Yoğunlaşma kötüye kullanımı geçer
Gelişmiş yapay zekadan gelen en büyük tehlike, tek bir aktörün geleceğin kontrolünü kilitlemesidir; birçok aktörün küçük modelleri kötüye kullanması değil. Bu sıralamayı ters çevirirseniz, ardından gelen her şey de tersine döner.
Durum: bir bahis, değerlerle tartılmış. Onu öldürecek gözlemin adını koyamıyoruz ve bunu söylüyoruz.
P2 · Kazanan hepsini alır düzeni bir kazanan ister
Dönüştürücü yapay zeka altında piyasa rekabeti, değerleri hissedarlarınca şekillenen tek bir kazanana doğru işaret ediyor. Yapıyı olduğu gibi bırakıp o yarıştan çekilmek, kalıcı bir kötü sonuç riski taşır.
Durum: piyasaların gerçekte nasıl yoğunlaştığına karşı ilkesel olarak sınanabilir. Henüz kayda geçmiş bir yanlışlayıcı yok.
P3 · Küçük bilgisayarlar yetenekli kalıyor
Araç kullanımı ve akıllı sarmalayıcılar, sıradan donanımda çalışan açık modellerin kısa süre öncesine kadar yalnızca sınırdaki modellerin yapabildiği işleri yapmasını sağlıyor. Eğitim hendeği gerçek. Sahaya çıkmış yetenek hendeği sızdırıyor.
Durum: ölçülmüş ve öldürücüsü olan tek öncül: yetenek açığı yeniden açılır ve açık kalırsa bu öncül ölür, strateji de değişir. Hareketli bir büyüklük olduğu için gözlenmeye devam ediyor.
P4 · Bir eşik, bir yarış değil
Dağınık aktörlerin sınırı geçmesi gerekmiyor. Ayrılmanın, denetlemenin ve reddetmenin mümkün kaldığı çizginin üstünde kalmaları yeterli; böylece kimse rakiplerini ucuza bastıramaz. Bu, eşitlikten çok daha alçak bir çıta ve önemli olan çıta da bu.
Durum: bir bahis ve bu sayfada işaretlenmiş. Eşiğin tam olarak nerede durduğunu kimse biçimselleştirmedi.
P5 · Kalabalık bir aktör değildir
Yetenekli ama birbirinden yalıtılmış bir milyon makine, bir hobici kalabalığıdır. Onları kilitlenmeyi reddedebilecek bir şeye çeviren şey güvenilir koordinasyondur: birbirini bulmak, birbirini doğrulamak, yazılım paylaşmak ve satın alınabilecek, mahkemeye çağrılabilecek ya da devrilebilecek bir darboğaz olmadan iş birliği yapmak.
Durum: özlü bir iddia, tanım meselesi değil. Piyasalar ve sürüler kimsenin tasarlamadığı raylarla koordine oluyor, dolayısıyla P5'in asıl söylediği şu: tasarlanmamış koordinasyon kilitlenmeyi reddetmeye yetmez. Bu tartışılabilir ve savunuda gerçekten iş görüyor.
Açık ağırlıklar ve iyi sarmalayıcılar gerekli girdilerdir. Baştan kabulümüz şu: yeterince iyi olan yeterlidir. CIRIS en ön saftaki yarışın peşinden koşmaz, eşiği tutar. Ayırt edici olan, henüz çözülmemiş ve yükü taşıyan mühendislik sorunu, ele geçirilmeye dirençli koordinasyondur.
Örgünün taşıdığı şey
Koruma bariyerleri ya da açıklık, sahte bir seçim
Yapay zeka güvenliği tartışması sürekli iki kapı sunuyor. Birinin ardında güvenlik, merkezde tutulan koruma bariyerleri demek; yani güvenlik rozeti takmış yoğunlaşma sorununun ta kendisi. Diğerinin ardında açıklık, ham yeteneği dağıtıp en iyisini ummak demek; dağınık kötüye kullanım altyapısını böyle bulur.
CIRIS'in bütün amacı, bu kapıların ayrı tuttuğu iki şeyi birleştirerek o seçimi reddetmektir. Her CIRIS ajanı bir makine vicdanı altında çalışır: Anayasa her karara taşınır, yanında imzalı makbuzlar ve adı belirlenmiş kişilerin elinde gerçek bir kapatma anahtarı bulunur. Vicdan da ele geçirilmeye direnecek biçimde kurulmuş bir örgünün üzerinde taşınır, böylece vicdanın da sahibi olmaz.
İki yarı da tek başına işlemez. Merkezi denetim altındaki bir vicdan, daha kibar konuşan bir bariyerdir. Vicdansız bir örgü ise yalnızca dağıtımdır ve davet ettiği kötüye kullanım endişesini hak eder. Bu sayfa örgüyü savunuyor, çünkü çözülmemiş olan kısım örgü. Taşıdığı şey ise vicdan taşıyan yapay zeka. Mesele bu.
Teknik rapor değil
Örgü çalışıyor
Son güven kökü Ağustos 2026'da yerleştirildi: adı belli üç kişiden ikisinin yeter sayısıyla onayladığı, imzalı bir genesis kaydı. Bu kayıt, ilk kanonik sunucunun adresini imzalı baytların içinde taşıyor. Katılmak için zincirin hiçbir yerinde alan adı gerekmiyor. Yeni kanonik sunucular şu anda devreye giriyor.
O yeter sayının arkasındaki anahtarlar da bir iddiadan ibaret değil. Altısının da gerçek FIPS 140-3 donanımının içinde üretildiğini, üstelik ürün yazılımı ve dokunma politikası sertifikaların kendisine kaydedilmiş halde, herkes kamuya açık kontrolü yeniden çalıştırarak doğrulayabilir.
Ele geçirilecek aracı yok
Eşler birbirini bulur ve yazılımı imzalı kayıtlar üzerinden alır; uygulama mağazaları, paket kayıt defterleri ya da alan adları üzerinden değil.
Kök oluşturmak herkese açık
CIRIS kökü, ürünle gelen varsayılandır, asla tek seçenek değildir. Herhangi bir operatör eşit derecede geçerli bir kök oluşturabilir ve her istemci hangi köklere güveneceğini kendisi seçer. Ürünle gelen kök bir varsayılandır, kök değildir.
Hesap verebilirlik, stake değil
Konum, hesap verebilir olmaktan gelir; canlı bir zincir üzerinden sorumlu bir insana kadar izlenebilmekten, servetten değil. Ve sahte üyeler kendilerini oylayarak içeri alamaz: asıl önemli kabul yeter sayıları kurucuları sayar, kalabalığı değil.
Nerede çökebilir
Denenmesini en çok istediğimiz dört saldırı
Anayasa, bilinen riskleri yedek planlarıyla birlikte birer bahis olarak belirten kamuya açık bir kayıt tutar. O kaydın ötesinde, iddianın en açık olduğunu düşündüğümüz iki yer bunlar. Bunlara hayranlık duymanızdansa vurmanızı tercih ederiz.
Varsayılan merkeze dönüşür
Tarihteki her merkezi olmayan sistem fiilî bir merkez üretti: BitTorrent tracker'ları doğurdu, e-posta Gmail'i doğurdu, üstelik açık iş birliği üzerine yapılan çalışmalar büyümenin yine de bir azınlık yönetimi doğurduğunu buluyor. Bizim kökümüz varsayılan olarak geliyor ve çoğu insan varsayılanları hiç değiştirmiyor, dolayısıyla çokluk yalnızca onu kullananları koruyor. Yani asıl sınav, birinin başka bir kök üretip üretemeyeceği değil. Asıl sınav, başka bir kökün yerleşik kökün iznine ihtiyaç duymadan toplumsal ve ekonomik olarak ayakta kalıp kalamayacağı. Kalamayacağını gösterebilirseniz, ele geçirilmeye direnç anlatısı çöker. Ayakta kalan tavan matematiği soruyu daha da keskinleştiriyor: aynı yazılımı, aynı varsayılanları ve aynı modelleri çalıştıran kökler birbirine bağlıdır ve birbirine bağlı kökler, birçok isim takınmış tek bir köktür. Yarım bağlılıkta bin kök iki sayılır. Yani ölçülebilir soru, alternatiflerin var olup olamayacağı değil. Soru, köklerin gerçekte ne kadar bağlı olduğudur ve ağın kendi N_eff aracı tam olarak buna doğrultulabilir.
İmal edilmiş insanlar
Konum, stake yerine hesap verebilir insanlara dayanıyor. En keskin soru, bunun hesap verebilir insanlar imal edebilen bir düşmana karşı ayakta kalıp kalmadığı: gerçek belgeli kukla hesaplar, baskı altındaki gözetmenler ya da sadece sabırlı çalışanlar. Bu bizim en büyük açık sorumuz ve bunu böyle söylüyoruz.
Eşik bir bahis
Yeterince iyi olanın yeterli olduğunu varsayıyoruz: en ön saftaki yarışın peşinden koşmak yok, sadece denetlemenin, ayrılmanın ve reddetmenin mümkün kaldığı çizgiyi tutmak var. O çizginin tam olarak nerede durduğunu henüz kimse tarif etmedi, yani ele geçirilemeyen bir ağın, kendisinden çok daha zengin, çok daha hızlı ve çok daha bağlantılı bir aktörün herkesi kilitlemesini hangi yetenek, katılım ve koordinasyon bileşiminde gerçekten engellediğini. Koordinasyon, dağıtılmış yeteneği dağıtılmış karar gücüne çevirir. Eşik kadar karar gücünün yeterli karar gücü olup olmadığı, bu iddiadaki en derin görgül sorudur ve biz onu yanıtlamış değiliz.
Kendi aracımızdaki kör nokta
Sybil direnci N_eff'e yaslanıyor ve N_eff ikili bir ölçüm. Onun kanıtlanabilir biçimde göremediği bir koordinasyon türü var: her ikili bağımsız görünecek şekilde kurulmuş, ama bütünün birlikte hareket ettiği bir uzlaşma. Bu kanal model tarafından biliniyor ve ağ üzerinde henüz ölçülmedi. Bir aracın kör noktası bir saldırı yüzeyidir, o yüzden adını koyuyoruz ve saldırıyı kurmaya sizi çağırıyoruz.
Protokolün ele geçirilmesine bir yanıt
Fayda Kanıtı (Proof of Benefit)
Algoritmik anayasacılık üzerine yakın tarihli çalışmalar şunu uyarıyor: yönetişimi protokollere taşımak tahakkümü bitirmez. Para, teknik denetim ya da imal edilmiş kimlikler pekâlâ yeni hükümdarlar olabilir. Uyarı yerinde. Örgü buna üçüncü bir güvenlik modeliyle yanıt veriyor; iş kanıtından (proof of work) da hisse kanıtından (proof of stake) da farklı bir modelle.
CIRIS yönetişiminde konum satın alınmaz ve kazılıp çıkarılmaz. Tasarım gereği kazanılır: kime ait olduğu gösterilebilen ve taklidi pahalıya gelen katkılar için devredilemez krediler. Ucuz alkışın ağırlığı yoktur ve tamamlanan iş için karşı tarafın onayı istenebilir. Birbirine bağlı sesler CIRIS'in her yerindeki aynı tavana çarpar: kimlikleri çoğaltan bir klik tek bir bağımsız sesin ağırlığına iner. Kazanılan yetki de sınırlı, geri alınabilir ve itiraza açık kalır. Herkesinki gibi o da erir, kıdem dahil. Asla kalıcı egemenliğe dönüşmez.
Bu, ele geçirilmeyi ortadan kaldırmaz ve Anayasa bunu söyler: büyük ölçekte kazanılmış krediye dayalı yönetişim, kabul ettiğimiz bir bahistir, doğrulanmış bir sonuç değil; incelikli, birbirine bağlı aktörleri yakalamak ise hâlâ açık bir iş. Fayda Kanıtı'nın değiştirdiği şey hesaptır. Müştereklerin üzerinde meşru bir etki kazanmak için saldırganın önce onun değerli bir üyesi gibi davranması gerekir.
Gelecekler
Ne olabileceği, açıkça söylenmiş hâli
Bu sayfanın uğruna çalıştığı gelecek umutlu bir gelecek: birçok zeka merkezi, insan olan ve olmayan, hiçbiri diğerlerine sahip olamıyor ve hepsi işbirliği yapıyor, çünkü raylar dürüstlüğü ele geçirmekten ucuza getiriyor. Bu gelecek uğruna inşa etmeye değer ve örgü bugün çalışıyor, çünkü altyapılı umut altyapısız umudu yener.
Ama sert hâlini de açıkça söyleyelim. Ele geçirmeye direnç işe yararsa rekabet bitmez. Bir üst basamağa çıkar. Olgunlaşmış iki örgü ya da bir örgü ile bir singleton ASI, bir çıkmaza kilitlenip kaynaklar için yarışabilir. Çıkmaz, tarafların birbirine kilit vurmasını karşılıklı olarak engellemesinin aldığı görünümdür. Soru şu: yaşanabilir kalır mı? Doğrulanmış taahhütler, rızaya dayalı federasyon ve fetihsiz birleşme burada gerçek yollardır ve şeffaf olmayan rakiplerde bunlar yoktur; yarış baskısı, hattın dışındaki kaynaklar ve savaş geriliminde koridordan çıkış ise anayasaların ortadan kaldırmadığı gerçek tehlikelerdir.
Caydırıcılık düzeninde iki anayasal örgünün iki singleton ASI'den daha iyi olup olmadığı ve verilenlerle alınanların nasıl tartılacağı açık bir soru. Doğrulanabilir defterlerin ve rızayla biçimlenmiş federasyonun teraziyi bizden yana eğdiğini düşünüyoruz. Bunu kanıtlamış değiliz ve bunu da söylüyoruz.
Bu sayfadaki her şeyde olduğu gibi, bu da giderilemez bir belirsizlik altında eylemek demek. Belirsizlik beklemek için bir sebep değil. Tam da saldırmanız ve küçültmeniz için sizi davet ettiğimiz şey.
AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)
Davet
Savunuyu kırın ya da yapıtı kırın
Kırılmış bir öncül bizim için kırılmış bir protokol kadar değerlidir. Birinci öncüle göre, bu yığında fark edilmemiş bir ele geçirme yolu, hiç yığın olmamasından daha kötüdür; çünkü yaymayı iddia ettiği güveni tam da yoğunlaştırır. Sistemi kıran bulgular, bu proje için onu öven bulgulardan daha değerlidir.
Savunuyu kırın
Öncüller yukarıda numaralı. Kanadığını düşündüğünüz yerden kesin, herkesin önünde, en güçlü halinizle gelin.
Yapıtı kırın
Düğümler arasındaki koordinasyonu parçalayın. Üyeliği Sybil saldırısıyla doldurun. Federasyon kayıtlarını ele geçirin. Bir tasdiki taklit edin ya da gerçek bir cihazın tasdikini sizin kontrolünüzdeki bir anahtar altında yeniden oynatın. Kod, genesis kaydı ve tören yapıtları herkese açık.
Öncüler
Öncüller yapay zekadan daha eski ve bu bir zayıflık değil, güç. Çıkışın iktidarı denetlediği fikri Hirschman'a ait. Çatallanabilirliğin o çıkışı inandırıcı kıldığını açık kaynak yönetişimi gösterdi. Koordinasyonun dağınık insanları tek bir özneye dönüştürdüğü Benkler. Tek bir hükümdar olmadan çok sayıda bağımsız merkezin yönetebildiği Ostrom. Hangi siyasetin mümkün olduğuna mimarinin karar verdiği Lessig. Merkezi denetime direnmeye yetecek kadar yerel kapasite gerektiği Zittrain, ve açık internetteki sıradan bilgisayar bunun işe yaradığının kanıtı: herhangi bir kurumdan çok daha güçsüz tek tek makineler yine de gücün kimde olduğunu değiştirdi. Özgürlüğün iyi niyetle değil kriptografiyle tutulduğu ise cypherpunk'lar.
Cypherpunk'lardan ayrıldığımız bir nokta var ve o nokta önemli. O gelenek çoğunlukla anonim bireyi otoriteden korudu. CIRIS ise birlikte hareket eden, hesap verebilir insanları koruyor. Kendimize ait saydığımız şey yalnızca bu bileşim: o soyağacının elli yılı, yapay zekaya uygulanmış, yükü taşıyan güvenlik katmanı olarak ele geçirilmeye dirençli koordinasyonla birlikte.
Bu iddiaya kimler yakın
Komşular ve fark
Bu savunuyu oluşturan parçalar geniş çevrelerce paylaşılıyor ve bu bir doğrulama, sorun değil: aynı teşhise çok farklı yönlerden gelen insanlar varıyor. Dijital kamu altyapısı ve egemen yapay zeka yazınları da aynı biçime varıyor: ayrı aktörleri bir sisteme çeviren şey, kendine yetmek değil, ortak ve güvenilir raylardır. Anlayabildiğimiz kadarıyla, parçaları bu iddiada birleştirip yapıtı da teslim eden başka kimse yok. Komşuları adıyla anmak gerekir ve onlar hakkında bizi düzeltmek de bu sayfaya saldırmanın bir yoludur.
d/acc (Vitalik Buterin)
Yapay zekayı kimin kontrol ettiğinin, onun ne kadar zekileştiğinden daha önemli olduğunu savunur ve birçok alanda merkezi olmayan savunma ister. Bir yön, bir mekanizma değil: koordinasyonu yükü taşıyan katman olarak adlandırmaz ve böyle bir katman teslim etmez.
Prime Intellect
Sınırı tek bir laboratuvarın sahiplenmemesi için merkezi olmayan eğitim geliştiriyor. Onların yükü taşıyan katmanı hesaplama gücü. Bizimki, uçtaki yeteneğin zaten işleyen girdi olduğunu, çözülmemiş parçanın ise koordinasyon olduğunu söylüyor.
Zeka Laneti (The Intelligence Curse)
Yapay zekanın sıradan piyasa güçleri aracılığıyla gücü nasıl yoğunlaştırdığını haritalar ve bunun dağıtılmasını ister. Bir teşhis ve bir yön, mekanizma yok. Teşhise katılıyoruz ve mekanizmayı biz kurduk.
Stake ağırlıklı ağlar
Bittensor ve benzerleri, token cinsinden fiyatlanan gerçek merkezi olmayan koordinasyon çalıştırıyor. Stake, kaçınılmak istenen şeyi, yani servetle yönetimi geri getiriyor. Bizim bahsimiz onun yerine hesap verebilirlik ve bu bahis yukarıda saldırıya açık.
Açık ağırlık cephesi
Açık modellerin ileriye giden yol olduğunu savunur. Bizce ağırlıklar gerekli bir girdi ve ele geçirilmeye dirençli koordinasyon olmadan bir milyon hobiciyi tek bir devin karşısında bırakıyorlar.
Alice Protocol
En yakın teknolojik akraba: kalabalığın tamamıyla sıfırdan eğitilen, topluluğa ait bir zeka, böylece modeli hiçbir şirket sahiplenmiyor. Onların yanıtı zekayı üretmeyi merkezsizleştiriyor. Bizimki, sıradan modellerin zaten yeterince iyi olduğunu söylüyor ve onları çalıştıran insanları birbirine bağlayan koordinasyonu merkezsizleştiriyor.
AI Commons
Yapay zekanın kazançları yoğunlaştırması mı yoksa yayması mı, ekonomiye hangi koşullarla girdiğine bağlıdır der ve bunun için yönetişim taahhütleri kurar. Aynı teşhis, kurumlar tarafından taşınıyor. Bizimkini ise kimsenin iznine ihtiyaç duymayan, aktarım formatı düzeyindeki mühendislik taşıyor.
Ajanlar arası birlikte çalışabilirlik protokolleri
Anda ve benzerleri yapay zeka ajanları için merkezi olmayan kimlik, bellek ve birlikte çalışabilirlik kuruyor; ayrı ajanların birlikte çalışabilmesi için ortak raylar. Protokol katmanında yakın komşular. Hiçbiri bu rayları, gücün sonunda kimin elinde kalacağına dair bir güvenlik iddiasına yükseltmiyor.
Erişimin tersine dönmesi (access inversion)
2026 tarihli bir oyun kuramı sonucu, yetenek tabanı önermesini dışarıdan destekliyor: açık modelleri kısıtlamak sıradan savunmacıların elinden yetenek alabilirken, kararlı saldırganlar yerine geçecek şeyleri yine de buluyor. Tabanı korumak pervasızlık değildir. Savunma hamlesi olabilir.
Kurucu protokol
Akademideki en yakın komşu tam ters yönden geliyor: Hu ve Rong, merkezsizleşmiş ve artık ele geçirilemeyen bir yapay zekayı toplumun nasıl yönetebileceğini soruyor. Biz, geri kalanı tek elde toplanıp çok güçlenirken toplumun bir kısım yapay zekayı nasıl ele geçirilemez tutacağını soruyoruz. Aynı mimari gözlem, ters yönde bir korku. İkisi de haklı olabilir.
Dışarıdaki görüşler kamuya açık yazılarından iyi niyetle özetlendi. Herhangi birini yanlış anladıysak, bu da bir konu açmaya değer.