Halaman matematika
Diperiksa oleh perangkat lunak bukti
Gagasannya
Lima pemeriksaan yang semuanya meniru satu sama lain sebenarnya hanya satu pemeriksaan.
Misalkan lima orang memeriksa sebuah jawaban dan kelima orang itu setuju. Itu terasa aman. Tetapi jika kelimanya belajar dari tempat yang sama, persetujuan mereka bukan lima pendapat. Itu adalah satu pendapat yang diulang lima kali. Jumlah pemeriksaan terlihat seperti lima. Jumlah nyatanya adalah satu.
Ini penting untuk AI. Sebuah sistem AI dapat menjalankan banyak pemeriksaan pada penalarannya sendiri dan masih bisa tertipu, jika pemeriksaan tersebut berbagi titik buta yang sama. Coherence Collapse Analysis adalah cara CIRIS membedakan antara pemeriksaan nyata dan gema.
Satu rumus
Menghitung pemeriksaan yang benar-benar Anda miliki.
Ada satu rumus singkat di inti semuanya. Rumus ini berasal dari statistik survei, di mana disebut efek desain Kish, dan bentuk yang sama muncul dalam teori pemungutan suara dan rekayasa keselamatan. CIRIS menerapkannya pada keselarasan AI.
real checks = checks / (1 + copying × (checks − 1))
"Checks" adalah berapa banyak pemeriksaan yang Anda lakukan. "Copying" adalah seberapa banyak pemeriksaan tersebut tumpang tindih, dari 0 (semua independen) hingga 1 (semua sama). Hasilnya adalah berapa banyak pemeriksaan yang benar-benar Anda miliki.
Tanpa penyalinan: sepuluh pemeriksaan dihitung sebagai sepuluh. Setiap pemeriksaan mendapat tempatnya.
Penyalinan total: sepuluh pemeriksaan dihitung sebagai satu. Tidak masalah berapa banyak yang Anda tambahkan.
Pada lalu lintas nyata
Ini diukur, bukan hanya diperdebatkan.
CIRIS mengukur jumlah pemeriksaan nyata pada lalu lintas agen langsungnya sendiri, di seluruh ribuan keputusan yang tercatat. Pada lalu lintas yang sehat, angkanya berkisar sekitar tujuh hingga sembilan pemeriksaan yang benar-benar independen. Pengukuran tersebut, dan bagaimana caranya dilakukan, adalah studi Constrained Reasoning Chains. Anda dapat memantau angka langsung di halaman penelitian.
Batas yang jujur
Apa yang tidak bisa dilakukan matematika ini.
Makalah membuktikan batas keras pada dirinya sendiri. Beberapa jenis kerugian tidak berasal dari satu bagian yang tidak jujur. Kerugian itu berasal dari bagian-bagian jujur yang bersama-sama menghasilkan hasil buruk, dan makalah membuktikan bahwa sebagian dari kerugian itu tidak terlihat oleh pemeriksa mana pun yang hanya melihat bagian-bagiannya, tidak peduli seberapa baik. CIRIS mengatakan hal ini dengan jelas daripada berpura-pura matematika menangkap segalanya.
Yang benar-benar dijanjikan sistem adalah catatannya. Setiap keputusan meninggalkan tanda terima bertanda tangan yang tidak bisa ditulis ulang diam-diam, sehingga sebuah kebohongan harus tetap konsisten dengan ribuan tanda terima yang tidak pernah bisa dihapusnya. Membaca tanda terima itu dengan baik masih pekerjaan terbuka, dan kami mengatakannya. Bagaimanapun juga, pembukuan tetap benar.
Bagaimana semuanya terhubung
Matematika adalah satu bagian dari keseluruhan yang lebih besar.
Halaman ini adalah pengukurannya. Coherence Ratchet adalah cara pengukuran itu diterapkan. Federasi adalah cara pengukuran itu menjadi sesuatu yang dibagi banyak sistem. Dan bukti-bukti lengkap, ditulis sehingga komputer dapat memeriksanya baris demi baris, ada dalam makalah dan repositori RATCHET.