İddia
Açık model ağırlıkları değil, akıllı ajan araçları değil, merkeziyetsiz bir koordinasyon örgüsü; yapay zeka gücünü dağınık tutmaya yönelik her açık kaynak planının dayandığı şey budur. Ele geçirilmeye dirençli bir örgü inşa edilebilirse, birçok bağımsız aktör herhangi bir tek şirketin veya devletin geleceği kilitlemesini önleyebilir. İnşa edilemezse, açık kaynak güvenlik argümanı kendi şartlarına göre çöker.
İddia kasıtlı olarak güçlü biçimde ifade edilmiştir ve örgü zaten çalışıyor, dolayısıyla soru artık böyle bir şeyin var olup olamayacağı değildir. Açık soru, bu örgünün ele geçirilmeye dirençli olup olmadığıdır ve bunu ona saldırarak yanıtlayabilirsiniz.
Argüman
Beş öncül. Herhangi biri bozulursa iddia çöker.
P1 · Yoğunlaşma kötüye kullanımı geçer
Gelişmiş yapay zekadan gelen en büyük tehlike, tek bir aktörün geleceğin kontrolünü kilitlemesidir; birçok aktörün küçük modelleri kötüye kullanması değil. Bu sıralamayı ters çevirirseniz, ardından gelen her şey de tersine döner.
Durum: değerlerle tartılmış bir bahis. Bunu çökertecek gözlemi adlandıramıyoruz.
P2 · Kazanan hepsini alır düzeni bir kazanan ister
Dönüştürücü yapay zeka altında piyasa rekabeti, değerleri hissedarlarınca şekillenen tek bir kazanana doğru işaret ediyor. Yapıyı olduğu gibi bırakıp o yarıştan çekilmek, kalıcı bir kötü sonuç riski taşır.
Durum: piyasaların gerçekte nasıl yoğunlaştığına karşı ilkesel olarak sınanabilir. Henüz kayda geçmiş bir yanlışlayıcı yok.
P3 · Küçük bilgisayarlar yetenekli kalıyor
Araç kullanımı ve akıllı sarmalayıcılar, sıradan donanımda çalışan açık modellerin kısa süre öncesine kadar yalnızca sınırdaki modellerin yapabildiği işleri yapmasını sağlıyor. Eğitim hendeği gerçek. Kullanıma sunulmuş yetenek hendeği sızdırıyor.
Durum: ölçülmüş ve öldürücüsü olan tek öncül: yetenek açığı yeniden açılır ve açık kalırsa bu öncül ölür, strateji de değişir. Hareketli bir büyüklük olduğu için gözlenmeye devam ediyor.
P4 · Eşiği koru
Dağınık aktörlerin sınırı geçmesi gerekmiyor. Ayrılmanın, denetlemenin ve reddetmenin mümkün kaldığı çizginin üstünde kalmaları yeterli; böylece kimse rakiplerini ucuza bastıramaz. Bu, eşitlikten çok daha alçak bir çıta ve önemli olan çıta da bu.
Durum: bir bahis ve bu sayfada işaretlenmiş. Eşiğin tam olarak nerede durduğunu kimse biçimselleştirmedi.
P5 · Kalabalık bir aktör değildir
Yetenekli ama birbirinden yalıtılmış bir milyon makine, bir hobici kalabalığıdır. Onları kilitlenmeyi reddedebilecek bir şeye çeviren şey güvenilir koordinasyondur: birbirini bulmak, birbirini doğrulamak, yazılım paylaşmak ve satın alınabilecek, mahkemeye çağrılabilecek ya da devrilebilecek bir darboğaz olmadan iş birliği yapmak.
Durum: tanımsal değil, içeriklidir. Piyasalar ve sürüler tasarlanmış raylar olmadan koordine olur, dolayısıyla P5'in asıl yaptığı iddia, tasarlanmamış koordinasyonun kilitlenmeyi reddedemeyeceğidir. Bu tartışmaya açıktır ve tüm argüman tam da buna yaslanır.
Açık ağırlıklar ve iyi harness'lar gerekli girdilerdir. Mevcut varsayım, yeterince iyinin yeterli olduğudur: CIRIS en ileri teknolojinin ardından koşmaz, eşiği korur. Hâlâ çözülmemiş ve gerisinin dayandığı mühendislik problemi, ele geçirilmeye dirençli koordinasyondur.
Örgünün taşıdığı şey
Koruma bariyerleri ya da açıklık, sahte bir seçim
Yapay zeka güvenliği tartışması sürekli iki kapı sunuyor. Birinin ardında güvenlik, merkezde tutulan koruma bariyerleri demek; yani güvenlik rozeti takmış yoğunlaşma sorununun ta kendisi. Diğerinin ardında açıklık, ham yeteneği dağıtıp en iyisini ummak demek; dağınık kötüye kullanım, altyapısını böyle edinir.
CIRIS'in bütün amacı, bu kapıların ayrı tuttuğu iki şeyi birleştirerek o seçimi reddetmektir. Her CIRIS ajanı bir makine vicdanı altında çalışır: Anayasa her karara taşınır, yanında imzalı makbuzlar ve adı belirlenmiş kişilerin elinde gerçek bir kapatma anahtarı bulunur. Vicdan da ele geçirilmeye direnecek biçimde kurulmuş bir örgünün üzerinde taşınır, böylece vicdanın da sahibi olmaz.
İki yarı da tek başına işlemez. Merkezi denetim altındaki bir vicdan, daha kibar konuşan bir bariyerdir. Vicdansız bir örgü ise yalnızca dağıtımdır ve davet ettiği kötüye kullanım endişesini hak eder. Bu sayfa örgüyü savunuyor, çünkü çözülmemiş olan kısım örgü. Taşıdığı şey ise vicdan taşıyan yapay zeka. Mesele bu.
Teknik rapor değil
Örgü çalışıyor
Son güven kökü Ağustos 2026'da yerleştirildi: adı belli üç kişiden ikisinin yeter sayısıyla onayladığı, imzalı bir genesis kaydı. Bu kayıt, ilk kanonik sunucunun adresini imzalı baytların içinde taşıyor. Katılmak için zincirin hiçbir yerinde alan adı gerekmiyor. Yeni kanonik sunucular şu anda devreye giriyor.
O yeter sayının arkasındaki anahtarlar da bir iddiadan ibaret değil. Altısının da gerçek FIPS 140-3 donanımının içinde üretildiğini, üstelik ürün yazılımı ve dokunma politikası sertifikaların kendisine kaydedilmiş halde, herkes kamuya açık kontrolü yeniden çalıştırarak doğrulayabilir.
Ele geçirilecek aracı yok
Eşler birbirini bulur ve yazılımı imzalı kayıtlar üzerinden alır; uygulama mağazaları, paket kayıt defterleri ya da alan adları üzerinden değil.
Kök oluşturmak herkese açık
CIRIS kökü, ürünle gelen varsayılandır, asla tek seçenek değildir. Herhangi bir operatör eşit derecede geçerli bir kök oluşturabilir ve her istemci hangi köklere güveneceğini kendisi seçer. Ürünle gelen kök bir varsayılandır, kök değildir.
Hesap verebilirlik, stake değil
Konum, hesap verebilir olmaktan gelir; canlı bir zincir üzerinden sorumlu bir insana kadar izlenebilmekten, servetten değil. Ve sahte üyeler kendilerini oylayarak içeri alamaz: asıl önemli kabul yeter sayıları kurucuları sayar, kalabalığı değil.
Nerede çökebilir
Denenmesini en çok istediğimiz dört saldırı
Anayasa, bilinen riskleri yedek planlarıyla birlikte birer bahis olarak belirten kamuya açık bir kayıt tutar. O kaydın ötesinde, iddianın en açık olduğunu düşündüğümüz iki yer bunlar. Bunlara hayranlık duymanızdansa vurmanızı tercih ederiz.
Varsayılan merkeze dönüşür
Tarihteki her merkeziyetsiz sistem pratikte bir merkez geliştirmiştir: BitTorrent'e tracker'lar eklendi, e-postada Gmail baskın hale geldi ve açık işbirliği üzerine yapılan çalışmalar büyümenin yine de oligarşi doğurduğunu buluyor. Bizim kökümüz varsayılan olarak gelir ve çoğu insan varsayılanları hiç değiştirmez, dolayısıyla çok sayıda köke sahip olmak yalnızca gerçekten farklı birini kullanan insanları korur. Öyleyse önemli olan sınama, başka bir kökün ilk kökün izni olmadan sosyal ve ekonomik olarak yaşayabilir hale gelip gelemeyeceğidir. Bunun olamayacağını gösterebilirseniz, örgünün ele geçirilmeye dirençli olduğu iddiası çöker. Hayatta kalan tavan matematiği soruyu daha da keskinleştirir: aynı yazılımı, aynı varsayılanları ve aynı modelleri çalıştıran kökler birbiriyle ilintilidir ve ilintili kökler, birçok ad takınmış bir tek köktür. Yarı ilinti düzeyinde, bin kök iki kök sayılır. Öyleyse ölçülebilir soru, köklerin gerçekte ne kadar ilintili olduğunu sorar ve örgünün kendi N_eff aracı doğrudan buna yöneltilebilir.
İmal edilmiş insanlar
Meşruiyet, hisse yerine hesap verebilir insanlara dayanır. En keskin soru, bunun hesap verebilir insanlar imal edebilen bir düşmana karşı dayanıp dayanamayacağıdır: gerçek belgelerle oluşturulmuş kuklalar, zorla görevlendirilmiş vasiler ya da sadece sabırlı çalışanlar. Bu, en büyük açık sorumuzdur.
Eşik bir bahis
Yeterince iyi olanın yeterli olduğunu varsayıyoruz: en ön saftaki yarışın peşinden koşmak yok, sadece denetlemenin, ayrılmanın ve reddetmenin mümkün kaldığı çizgiyi tutmak var. Ele geçirilemeyen bir ağın kendisinden çok daha zengin, çok daha hızlı ve çok daha bağlantılı bir aktörün herkesi kilitlemesini hangi kapasite, katılım ve koordinasyon bileşiminde gerçekten engellediğini, yani o çizginin nerede durduğunu henüz kimse tanımlamadı. Koordinasyon, dağıtılmış kapasiteyi dağıtılmış eyleme gücüne dönüştürür. O asgari düzeydeki eyleme gücünün yeterli olup olmadığı, bu iddiadaki en derin yanıtlanmamış sorudur ve biz onu yanıtlamış değiliz.
Kendi aracımızdaki kör nokta
Sybil direnci N_eff'e yaslanıyor ve N_eff ikili bir ölçüm. Onun kanıtlanabilir biçimde göremediği bir koordinasyon türü var: her ikili bağımsız görünecek şekilde kurulmuş, ama bütünün birlikte hareket ettiği bir uzlaşma. Bu kanal model tarafından biliniyor ve ağ üzerinde henüz ölçülmedi. Bir aracın kör noktası bir saldırı yüzeyidir, o yüzden adını koyuyoruz ve saldırıyı kurmaya sizi çağırıyoruz.
Protokolün ele geçirilmesine bir yanıt
Fayda Kanıtı (Proof of Benefit)
Algoritmik anayasacılık üzerine yakın tarihli çalışmalar şunu uyarıyor: yönetişimi protokollere taşımak tahakkümü bitirmez. Para, teknik denetim ya da imal edilmiş kimlikler pekâlâ yeni hükümdarlar olabilir. Uyarı yerinde. Örgü buna üçüncü bir güvenlik modeliyle yanıt veriyor; iş kanıtından (proof of work) da hisse kanıtından (proof of stake) da farklı bir modelle.
CIRIS yönetişiminde konum satın alınmaz ve kazılıp çıkarılmaz. Tasarım gereği kazanılır: kime ait olduğu gösterilebilen ve taklidi pahalıya gelen katkılar için devredilemez krediler. Ucuz alkışın ağırlığı yoktur ve tamamlanan iş için karşı tarafın onayı istenebilir. Birbirine bağlı sesler CIRIS'in her yerindeki aynı tavana çarpar: kimlikleri çoğaltan bir klik tek bir bağımsız sesin ağırlığına iner. Kazanılan yetki de sınırlı, geri alınabilir ve itiraza açık kalır. Herkesinki gibi o da erir, kıdem dahil. Asla kalıcı egemenliğe dönüşmez.
Bu, ele geçirilmeyi ortadan kaldırmaz ve Anayasa bunu söyler: büyük ölçekte kazanılmış krediye dayalı yönetişim, kabul ettiğimiz bir bahistir, doğrulanmış bir sonuç değil; incelikli, birbirine bağlı aktörleri yakalamak ise hâlâ açık bir iş. Fayda Kanıtı'nın değiştirdiği şey hesaptır. Müştereklerin üzerinde meşru bir etki kazanmak için saldırganın önce onun değerli bir üyesi gibi davranması gerekir.
Gelecekler
Ne olabilir
Bu sayfanın uğruna çalıştığı gelecek umutlu bir gelecek: birçok zeka merkezi, insan olan ve olmayan, hiçbiri diğerlerine sahip olamıyor ve hepsi işbirliği yapıyor, çünkü raylar dürüstlüğü ele geçirmekten ucuza getiriyor. Bu gelecek uğruna inşa etmeye değer ve örgü bugün çalışıyor, çünkü altyapılı umut altyapısız umudu yener.
Şimdi keskin versiyonu. Ele geçirilmeye direnç işe yararsa, rekabet bitmez; bir üst seviyeye taşınır. İki olgun örgü, ya da bir örgü ile tek bir ASI, bir çıkmaza kilitlenip kaynaklar için rekabet edebilir. Çıkmaz, karşılıklı kilitlenme engellemesinin nasıl göründüğüdür. Soru, bunun yaşanabilir kalıp kalmayacağıdır: doğrulanmış taahhütler, rıza temelli federasyon ve fetih olmadan birleşme, burada şeffaf olmayan rakiplerin sahip olmadığı gerçek yollardır; yarış baskısı, hat dışı kaynaklar ve savaş zamanı stresi altında koridor çıkışı ise anayasaların ortadan kaldıramadığı gerçek tehlikelerdir.
İki anayasal örgünün, caydırıcılık rejimi altında iki tek ASI'den daha iyi olup olmadığı ve bu ödünleşimlerin nasıl tartılacağı açık bir sorudur. Doğrulanabilir kayıtların ve rıza biçimli federasyonun bunu bizim tarafımıza çektiğini düşünüyoruz. Bunu kanıtlamadık.
Bu sayfadaki her şey gibi, bu da indirgenemez belirsizlik altında eylemdir. Sizden saldırıp azaltmanızı istediğimiz şey, tam da bu belirsizliktir.
AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)
Davet
Savunuyu kırın ya da yapıtı kırın
Kırılmış bir öncül bizim için kırılmış bir protokol kadar değerlidir. Birinci öncüle göre, bu yığında fark edilmemiş bir ele geçirme yolu, hiç yığın olmamasından daha kötüdür; çünkü yaymayı iddia ettiği güveni tam da yoğunlaştırır. Sistemi kıran bulgular, bu proje için onu öven bulgulardan daha değerlidir.
Savunuyu kırın
Öncüller yukarıda numaralı. Kanadığını düşündüğünüz yerden kesin, herkesin önünde, en güçlü halinizle gelin.
Yapıtı kırın
Düğümler arasındaki koordinasyonu parçalayın. Üyeliği Sybil saldırısıyla doldurun. Federasyon kayıtlarını ele geçirin. Bir tasdiki taklit edin ya da gerçek bir cihazın tasdikini sizin kontrolünüzdeki bir anahtar altında yeniden oynatın. Kod, genesis kaydı ve tören yapıtları herkese açık.
Öncüler
Öncüller yapay zekadan daha eski ve bu bir zayıflık değil, güç. Çıkışın iktidarı denetlediği fikri Hirschman'a ait. Çatallanabilirliğin o çıkışı inandırıcı kıldığını açık kaynak yönetişimi gösterdi. Koordinasyonun dağınık insanları tek bir özneye dönüştürdüğü Benkler. Tek bir hükümdar olmadan çok sayıda bağımsız merkezin yönetebildiği Ostrom. Hangi siyasetin mümkün olduğuna mimarinin karar verdiği Lessig. Merkezi denetime direnmeye yetecek kadar yerel kapasite gerektiği Zittrain, ve açık internetteki sıradan bilgisayar bunun işe yaradığının kanıtı: herhangi bir kurumdan çok daha güçsüz tek tek makineler yine de gücün kimde olduğunu değiştirdi. Özgürlüğün iyi niyetle değil kriptografiyle tutulduğu ise cypherpunk'lar.
Cypherpunk'lardan bir ayrılma önemlidir. O gelenek büyük ölçüde anonim bireyi otoriteden korudu. CIRIS ise birlikte hareket eden hesap verebilir insanları korur. Kendimize mal ettiğimiz şey bu bileşimdir: elli yıllık o soyun yapay zekaya uygulanması, her şeyin üzerine oturduğu güvenlik katmanı olarak ele geçirilmeye dirençli koordinasyonla birlikte.
Bu iddiaya kimler yakın
Komşular ve fark
Bu savunuyu oluşturan parçalar geniş çevrelerce paylaşılıyor ve bu bir doğrulama, sorun değil: aynı teşhise çok farklı yönlerden gelen insanlar varıyor. Dijital kamu altyapısı ve egemen yapay zeka yazınları da aynı biçime varıyor: ayrı aktörleri bir sisteme çeviren şey, kendine yetmek değil, ortak ve güvenilir raylardır. Anlayabildiğimiz kadarıyla, parçaları bu iddiada birleştirip yapıtı da teslim eden başka kimse yok. Komşuları adıyla anmak gerekir ve onlar hakkında bizi düzeltmek de bu sayfaya saldırmanın bir yoludur.
d/acc (Vitalik Buterin)
Yapay zekayı kimin kontrol ettiğinin, onun ne kadar zeki olduğundan daha önemli olduğunu savunur ve birçok alanda merkeziyetsiz savunma ister. Bir mekanizma değil, bir yöndür: koordinasyonu zor kısım olarak adlandırmaz ve bir çözüm de sunmaz.
Prime Intellect
Tek bir laboratuvarın sınırı ele geçirmemesi için merkeziyetsiz eğitim inşa ediyorlar. Ağırlığı işlem gücüne veriyorlar. Biz, insanların kendi makinelerinde zaten çalıştırdığı yeteneği işe yarayan girdi olarak alıyor ve koordinasyonu henüz çözülmemiş kısım olarak ele alıyoruz.
Zeka Laneti (The Intelligence Curse)
Yapay zekanın sıradan piyasa güçleri aracılığıyla gücü nasıl yoğunlaştırdığını haritalar ve bunun dağıtılmasını ister. Bir teşhis ve bir yön, mekanizma yok. Teşhise katılıyoruz ve mekanizmayı biz kurduk.
Stake ağırlıklı ağlar
Bittensor ve benzerleri, token cinsinden fiyatlanan gerçek merkezi olmayan koordinasyon çalıştırıyor. Stake, kaçınılmak istenen şeyi, yani servetle yönetimi geri getiriyor. Bizim bahsimiz onun yerine hesap verebilirlik ve bu bahis yukarıda saldırıya açık.
Açık ağırlık cephesi
Açık modellerin ileriye giden yol olduğunu savunur. Bizce ağırlıklar gerekli bir girdi ve ele geçirilmeye dirençli koordinasyon olmadan bir milyon hobiciyi tek bir devin karşısında bırakıyorlar.
Alice Protocol
En yakın teknolojik akraba: kalabalığın tamamıyla sıfırdan eğitilen, topluluğa ait bir zeka, böylece modeli hiçbir şirket sahiplenmiyor. Onların yanıtı zekayı üretmeyi merkezsizleştiriyor. Bizimki, sıradan modellerin zaten yeterince iyi olduğunu söylüyor ve onları çalıştıran insanları birbirine bağlayan koordinasyonu merkezsizleştiriyor.
AI Commons
Yapay zekanın kazançları yoğunlaştırması mı yoksa yayması mı, ekonomiye hangi koşullarla girdiğine bağlıdır der ve bunun için yönetişim taahhütleri kurar. Aynı teşhis, kurumlar tarafından taşınıyor. Bizimkini ise kimsenin iznine ihtiyaç duymayan, hat düzeyindeki mühendislik taşıyor.
Ajanlar arası birlikte çalışabilirlik protokolleri
Anda ve benzerleri yapay zeka ajanları için merkezi olmayan kimlik, bellek ve birlikte çalışabilirlik kuruyor; ayrı ajanların birlikte çalışabilmesi için ortak raylar. Protokol katmanında yakın komşular. Hiçbiri bu rayları, gücün sonunda kimin elinde kalacağına dair bir güvenlik iddiasına yükseltmiyor.
Erişimin tersine dönmesi (access inversion)
2026 tarihli bir oyun kuramı sonucu, yetenek tabanı önermesini dışarıdan destekliyor: açık modelleri kısıtlamak sıradan savunmacıların elinden yetenek alabilirken, kararlı saldırganlar yerine geçecek şeyleri yine de buluyor. Tabanı korumak pervasızlık değildir. Savunma hamlesi olabilir.
Kurucu protokol
Akademideki en yakın komşu tam ters yönden geliyor: Hu ve Rong, merkezsizleşmiş ve artık ele geçirilemeyen bir yapay zekayı toplumun nasıl yönetebileceğini soruyor. Biz, geri kalanı tek elde toplanıp çok güçlenirken toplumun bir kısım yapay zekayı nasıl ele geçirilemez tutacağını soruyoruz. Aynı mimari gözlem, ters yönde bir korku. İkisi de haklı olabilir.
Xiong ve ark., ERC-8004 saha çalışması
ERC-8004, ajanlar arasındaki güvenin bir blok zincirinde kaydedilmesi için bir standarttır. Herhangi bir ajan izin almadan kaydolabilir. Xiong ve ark., gerçekte neyin çalıştığına baktı ve kayıtların çoğunun arkasında işleyen hiçbir şey olmadığını buldu: zincire bağlı olarak yalnızca %3 ila %15'i çalışan bir uç noktaya işaret ediyordu. İncelemecilerin %59 ila %91'i koordineli Sybil grupları olarak hareket etti ve bir itibar puanı neredeyse hiç maliyet olmadan manipüle edilebiliyordu. Üç düzeltme öneriyorlar: üzerinde uzlaşılmış bir puanlama boyutları listesi, kanıtlarına atıfta bulunan tasdikler ve Sybillere karşı dirençli bir toplulaştırma. CIRIS grameri bu üçünü de zaten içeriyor: kayıtlı bir ad alanı, kanıtlarına mutlaka atıfta bulunması gereken tasdikler ve ilişkili sesleri daha az ağırlıklandıran bir sayım.
Dışarıdaki görüşler kamuya açık yazılarından iyi niyetle özetlendi. Herhangi birini yanlış anladıysak, bu da bir konu açmaya değer.