หน้าคณิตศาสตร์
ตรวจสอบโดยซอฟต์แวร์หลักฐาน
แนวคิด
การตรวจสอบห้าครั้งที่คัดลอกกันทั้งหมดเป็นจริงๆ แค่การตรวจสอบครั้งเดียว
สมมติว่าห้าคนตรวจคำตอบและทั้งห้าเห็นด้วย นั่นรู้สึกปลอดภัย แต่ถ้าทั้งห้าเรียนรู้จากที่เดียวกัน การเห็นด้วยของพวกเขาไม่ใช่ห้าความเห็น มันคือความเห็นเดียวที่ทำซ้ำห้าครั้ง จำนวนการตรวจสอบดูเหมือนห้า จำนวนจริงคือหนึ่ง
นี่สำคัญสำหรับ AI ระบบ AI สามารถเรียกใช้การตรวจสอบหลายครั้งบนการใช้เหตุผลของตัวเองและยังถูกหลอกได้ ถ้าการตรวจสอบเหล่านั้นแบ่งปันจุดบอดเดียวกัน Coherence Collapse Analysis คือวิธีที่ CIRIS บอกความแตกต่างระหว่างการตรวจสอบจริงกับเสียงสะท้อน
สูตรหนึ่งสูตร
นับการตรวจสอบที่คุณมีจริงๆ
มีสูตรสั้นๆ หนึ่งสูตรที่เป็นหัวใจสำคัญ มันมาจากสถิติการสำรวจ ซึ่งเรียกว่า Kish design effect และรูปแบบเดียวกันนี้ยังปรากฏในทฤษฎีการลงคะแนนและวิศวกรรมความปลอดภัย CIRIS นำมันมาใช้กับ alignment ของ AI
real checks = checks / (1 + copying × (checks − 1))
"checks" คือจำนวนการตรวจสอบที่คุณทำ "copying" คือปริมาณที่พวกมันทับซ้อนกัน ตั้งแต่ 0 (ทั้งหมดเป็นอิสระ) ถึง 1 (ทั้งหมดเหมือนกัน) ผลลัพธ์คือจำนวนการตรวจสอบที่คุณมีจริงๆ
ไม่มีการคัดลอก: สิบการตรวจสอบนับเป็นสิบ ทุกการตรวจสอบได้ที่ของมัน
คัดลอกทั้งหมด: สิบการตรวจสอบนับเป็นหนึ่ง ไม่สำคัญว่าคุณเพิ่มอีกเท่าไหร่
บนปริมาณงานจริง
นี่ถูกวัดไว้แล้ว ไม่ใช่แค่ถกเถียง
CIRIS วัดจำนวนการตรวจสอบจริงบนปริมาณงาน live ของตัวเอง ข้ามการตัดสินใจที่บันทึกไว้หลายพัน บนปริมาณงานที่สุขภาพดีมันวิ่งอยู่ในช่วงประมาณเจ็ดถึงเก้าการตรวจสอบอิสระอย่างแท้จริง การวัดนั้น และวิธีที่ทำ คือ การศึกษา Constrained Reasoning Chains คุณสามารถดูตัวเลขสดได้ในหน้า research
เพดานที่ซื่อสัตย์
สิ่งที่คณิตศาสตร์นี้ทำไม่ได้
บทความพิสูจน์ขีดจำกัดที่แน่นอนของตัวเอง ความเสียหายบางประเภทไม่ได้มาจากส่วนที่ไม่ซื่อสัตย์ส่วนเดียว มันมาจากส่วนที่ซื่อสัตย์ที่รวมกันให้ผลลัพธ์ที่แย่ และบทความพิสูจน์ว่าความเสียหายบางส่วนนั้นมองไม่เห็นสำหรับผู้ตรวจสอบใดๆ ที่ดูแค่ทีละส่วน ไม่ว่าจะเก่งแค่ไหน CIRIS พูดอย่างตรงไปตรงมาแทนที่จะแกล้งทำเป็นว่าคณิตศาสตร์จับได้ทุกอย่าง
สิ่งที่ระบบสัญญาจริงๆ คือบันทึก ทุกการตัดสินใจทิ้งใบเสร็จที่ลงนามไว้ซึ่งไม่มีใครแอบเขียนใหม่ได้ ดังนั้นคำโกหกต้องคงเส้นคงวากับใบเสร็จหลายพันใบที่มันลบไม่ได้เลย การอ่านใบเสร็จเหล่านั้นให้ดียังเป็นงานที่เปิดอยู่ และเราก็พูดตามตรง ไม่ว่าทางไหน บัญชียังคงเป็นจริง
วิธีที่มันเชื่อมต่อกัน
คณิตศาสตร์เป็นส่วนหนึ่งของภาพรวมที่ใหญ่กว่า
หน้านี้คือการวัด Coherence Ratchet คือวิธีที่การวัดถูกนำไปใช้ Federation คือวิธีที่มันกลายเป็นสิ่งที่หลายระบบแบ่งปัน และหลักฐานทั้งหมด เขียนขึ้นเพื่อให้คอมพิวเตอร์ตรวจสอบได้ทีละบรรทัด อยู่ในบทความและที่เก็บ RATCHET