Matematik sayfası
Kanıt yazılımıyla doğrulandı
Fikir
Birbirini kopyalayan beş kontrol aslında tek bir kontroldür.
Diyelim ki beş kişi bir cevabı kontrol etti ve hepsi hemfikir. Bu güvenli görünüyor. Ama beşi de aynı kaynaktan öğrendiyse, mutabakatları beş görüş değil. Beş kez tekrarlanan tek bir görüş. Kontrol sayısı beş görünüyor. Gerçek sayı bir.
Bu yapay zeka için önemli. Bir yapay zeka sistemi kendi akıl yürütmesi üzerinde birçok kontrol çalıştırabilir ve yine de yanılabilir; eğer bu kontroller aynı kör noktayı paylaşıyorsa. Coherence Collapse Analysis, CIRIS'in gerçek kontroller ile yankılar arasındaki farkı söyleme biçimidir.
Tek formül
Gerçekte kaç kontrolünüz olduğunu saymak.
Bunun özünde tek kısa bir formül var. Anket istatistiklerinden geliyor; orada Kish design effect olarak adlandırılıyor. CIRIS bunu yapay zeka hizalaması için ilk kullanan oldu.
real checks = checks / (1 + copying × (checks − 1))
"Checks" kaç kontrol çalıştırdığınızdır. "Copying" ne kadar örtüştüklerini ifade eder; 0 (tamamen bağımsız) ile 1 (tamamen aynı) arasında. Sonuç, gerçekte kaç kontrolünüz olduğudur.
Kopyalama yok: on kontrol on sayılır. Her kontrol yerini hak eder.
Tam kopyalama: on kontrol bir sayılır. Ne kadar eklerseniz ekleyin fark etmez.
Sağlıklı bant
Ne çok benzer ne çok dağınık.
CIRIS'in her yerde gördüğü aynı biçim burada da karşımıza çıkıyor. Kontroller birbirini çok fazla kopyalarsa sistem fazla katı oluyor: tekrarlanan tek ses, kolayca kandırılabilir. Ortak hiçbir şeyleri yoksa fazla dağınık oluyor: hiçbir konuda uzlaşamıyorlar. Sağlıklı kontrol, CIRIS'in geri kalanının da inşa edildiği aynı koridor olan bu iki uç arasındaki bantta yaşıyor.
O bandın kesin sınırları ölçülen sisteme bağlı. Her yerde işe yarayan tek bir sihirli sayı yok ve araştırma bu konuda dürüst. Koridor fikrinin tamamı vizyon sayfasında.
Gerçek trafik üzerinde
Bu ölçüldü; sadece tartışılmadı.
CIRIS, kendi canlı ajan trafiğinde gerçek kontrol sayısını binlerce kayıtlı karar üzerinde ölçtü. Sağlıklı trafiklerde yaklaşık yedi ile dokuz arasında gerçekten bağımsız kontrol çalıştığı görüldü. Bu ölçüm ve nasıl yapıldığı Constrained Reasoning Chains çalışmasıdır. Canlı sayıları araştırma sayfasında izleyebilirsiniz.
Dürüst tavan
Bu matematik neyi yapamaz.
Makale kendisi için sert bir sınır kanıtlıyor. Bazı zararlar tek bir dürüst olmayan parçadan gelmiyor. Dürüst parçaların kötü bir sonuca eklenmesinden geliyor ve bu tür zararın yaklaşık yüzde kırkı hiçbir denetçi tarafından yakalanamıyor; ne kadar iyi olursa olsun. CIRIS, matematiğin her şeyi yakaladığını iddia etmek yerine bunu açıkça söylüyor.
Matematiğin gerçekten söylediği zaman içindeki maliyetle ilgili: binlerce kayıtlı karar boyunca bir yalanı tutarlı tutmak yerine haftalarca gerçek, dürüst akıl yürütme yapmak daha istikrarlı ve daha ucuz. Bu, zemini dürüstlük yönünde eğiyor. Her tek yalanı yakalayacağını vaat etmiyor.
Nasıl bir araya geliyor
Matematik daha büyük bir bütünün bir parçası.
Bu sayfa ölçümü. Coherence Ratchet ölçümün kullanıma sokulma biçimi. Federasyon ise bunun birçok sistemin paylaştığı bir şeye nasıl dönüştüğü. Tam kanıtlar, bir bilgisayarın satır satır kontrol edebileceği şekilde yazılmış olup makalede ve RATCHET deposunda yer almaktadır.