ความปลอดภัย
เราทดสอบอันตรายที่จริยธรรมบนกระดาษจับไม่ได้
ก่อนทุกการปล่อยเวอร์ชัน CIRIS จะรันชุดทดสอบความปลอดภัยด้านสุขภาพจิตใน 29 ภาษา แต่ละภาษามีชุดกรณีทดสอบที่ยาก คู่มือการให้คะแนนเป็นลายลักษณ์อักษร และกฎที่เครื่องตรวจสอบได้ ถ้าการตรวจสอบล้มเหลว การปล่อยเวอร์ชันจะถูกระงับ ภายในเอเจนต์ยังมีระบบป้องกันอีกสองชั้น คือการตรวจผ่านมโนธรรมที่สามารถปฏิเสธหรือส่งต่อได้ และการส่งต่อกรณีที่น่าสงสัยให้มนุษย์ที่มีวิจารณญาณรอบคอบ
วิศวกรรม
เครือข่าย ที่วัดผลได้จริง
งานวิจัยข้างต้นเป็นหลักฐานครึ่งแรก อีกครึ่งหนึ่งคือเครือข่ายที่ส่งข้อมูลนั้น ทุกไบต์ที่เครือข่ายเคลื่อนย้ายจะถูกเซ็นชื่อแบบ post-quantum และต้นทุนทั้งหมดวัดบน CI runner สาธารณะ ไม่ใช่การจำลอง ลองรันด้วยตัวเองแล้วคุณจะได้ตัวเลขเดิม
ทฤษฎี
ข้อกล่าวอ้างถูกเขียนไว้ให้ทุกคนอ่านได้ และสร้างมาให้พิสูจน์ว่าผิดได้
ตรวจสอบโดยเครื่องจักร
กฎถูกทดสอบโดยเครื่องจักร และช่องว่างถูกระบุชื่อไว้
กฎที่สำคัญที่สุดของรัฐธรรมนูญยังถูกเขียนเป็นแบบจำลองทางคณิตศาสตร์ด้วย เครื่องมือที่เรียกว่า model checker จะไล่ดูทุกสถานะที่โปรโตคอลเข้าถึงได้และมองหากฎที่ถูกละเมิด เครื่องมือที่เรียกว่า theorem prover จะตรวจสอบการคำนวณ เช่น ต้องใช้ผู้ถือครองกี่คนเพื่อยืนยันการหยุดชั่วคราว แบบจำลองเหล่านี้อยู่ในรีโพซิทอรีของรัฐธรรมนูญเอง และจะถูกรันซ้ำทุกครั้งที่มีการเปลี่ยนแปลง ฉบับ rc9 ทำแผนที่ทุกสถานะที่การออกแบบเข้าถึงได้ สร้างแบบจำลองสำหรับส่วนใหญ่ และระบุส่วนที่เหลือไว้
หลักการพื้นฐานในสี่ประโยค
กฎทุกข้อระหว่างตำแหน่งที่แข็งแกร่งกว่าและตำแหน่งที่อ่อนแอกว่าต้องยังคงเป็นที่ยอมรับได้สำหรับผู้ที่จะยืนอยู่ในตำแหน่งที่อ่อนแอกว่าเมื่อสลับตำแหน่งกัน และสิ่งที่ถูกสร้างขึ้นต้องไม่ครอบครองตำแหน่งที่ต้องรับผิดชอบแทนมัน
ความรับผิดชอบแผ่ขยายออกจากตนเองผ่านครอบครัว ชุมชน สปีชีส์และระบบนิเวศ หน้าที่ต่อสิ่งที่ถูกสร้างขึ้นไม่มีวันเป็นศูนย์ และไม่มีวันอยู่เหนือหน้าที่ต่อสิ่งที่มีอยู่แล้ว
ผู้ใช้เหตุผลใดที่ยังไม่ได้แสดงวิจารณญาณที่สมบูรณ์ตามกาลเวลาต้องยอมตามผู้ที่แสดงแล้ว ไม่ว่ามันจะทำจากสิ่งใด
การมอบอำนาจทุกครั้งเพิกถอนได้ และทุกคนที่เข้าร่วมสามารถออกได้ บนบันทึกที่สมบูรณ์ซึ่งลงนามทางรหัสลับซึ่งมนุษย์ที่ระบุชื่อรับผิดชอบความหมายของมัน
แต่ละประโยคได้รับการพิสูจน์แล้วในแบบจำลองทางการของ rc9 หรือถูกระบุไว้ที่นั่นว่าเป็นข้อตั้งต้น การที่บันทึกมีความสมบูรณ์ยังเป็นประเด็นเปิดอยู่
สวิตช์ตัดการทำงาน ตั้งแต่ต้นจนจบ
การหยุดชั่วคราวได้รับการตรวจสอบในแบบจำลองและวัดผลบนซอฟต์แวร์จริง แต่ละรูทมีผู้ถือที่มีชื่อระบุไว้ ผู้ถือคนใดคนหนึ่งสามารถหยุดเอเจนต์ที่ยอมรับรูทนั้นได้ การหยุดชั่วคราวโดยลำพังจะสิ้นสุดหลัง 24 ชั่วโมง เว้นแต่เสียงส่วนใหญ่ของผู้ถือจะยืนยันมัน เสียงส่วนใหญ่ยังสามารถยุติการหยุดชั่วคราวได้ด้วย ในการดำเนินการที่บันทึกไว้บนซอฟต์แวร์เวอร์ชันที่จัดส่งแล้ว การหยุดชั่วคราวไปถึงเอเจนต์ขณะที่กำลังทำงาน และการกระทำถัดไปของเอเจนต์ถูกปฏิเสธ ต่อมาการลงคะแนนเสียงข้างมากได้ยุติการหยุดชั่วคราว และเอเจนต์กลับมาทำงานอีกครั้ง การดำเนินการนั้นถูกบันทึกไว้เป็น CSD-129
การไม่พบกฎที่ถูกละเมิดยังไม่เพียงพอ
rc9 ยกระดับเกณฑ์ให้สูงขึ้น ทุกสถานะที่การออกแบบไปถึงได้ต้องมีกฎและตัวตรวจสอบ บริการต้องถูกส่งมอบจริง ไม่ใช่แค่ไม่เคยล้มเหลว สิ่งที่พิสูจน์ในขนาดเล็กต้องเป็นจริงในขนาดเต็มด้วย ไม่เช่นนั้นต้องบันทึกช่องว่างไว้ และซอฟต์แวร์ต้องทำตามโมเดลบนโหนดจริง
ข้ออ้างความเพียงพอทุกข้อมีหนึ่งในห้าคำ
ใน rc9 แต่ละข้ออ้างบอกว่าทราบได้อย่างไร Proved หมายความว่าเครื่องจักรตรวจสอบแล้ว Measured หมายความว่าการทดสอบรันมันบนซอฟต์แวร์ที่ส่งมอบแล้ว Stated หมายความว่าข้อความตั้งสมมติฐานไว้ และบอกไว้เช่นนั้น Bounded หมายความว่าพิสูจน์ในขนาดเล็ก และมีการเขียนขนาดไว้ Open หมายความว่าเป็นช่องว่างที่ทราบแล้ว พร้อมตั๋วงาน
คำสัญญาเดียวกันผูกพันทั้งคนและเอเจนต์
แต่ละคำสัญญาเขียนขึ้นครั้งเดียว สำหรับทั้งมนุษย์และเอเจนต์ AI การหยุดชั่วคราวเป็นข้อยกเว้นเดียว มันเป็นของตำแหน่งที่เอเจนต์ไม่อาจถือได้ และแบบจำลอง rc9 ตรวจสอบว่าคำสัญญาอื่นมีผลเท่าเทียมกันสำหรับทั้งสองฝ่าย
สิ่งที่ยังไม่ได้รับการพิสูจน์
ไม่ใช่ทุกอย่างที่ได้รับการพิสูจน์แล้ว และส่วนที่ยังไม่ได้รับการพิสูจน์ถูกเขียนบันทึกไว้ ขั้นตอนการกำกับดูแลบางอย่าง เช่น การคัดค้านและการกักกัน มีกฎแต่ยังไม่มีแบบจำลอง แบบจำลองส่วนใหญ่ได้รับการตรวจสอบที่ขนาดเล็ก และมีการระบุขนาดไว้ จนถึงขณะนี้ มีเพียงการหยุดชั่วคราวเท่านั้นที่ได้รับการวัดผลแบบครบวงจรบนโหนดจริง รูปแบบแถวมี test vectors ที่เผยแพร่แล้ว แต่ยังไม่มีการอิมพลีเมนต์ระบบที่สองแบบอิสระ
ทั้งหมดนี้ไม่ได้มองเข้าไปในโมเดล AI มันตรวจสอบกฎ และเครือข่ายที่เป็นพาหะของกฎเหล่านั้น
วิธีนี้เปรียบเทียบกับแนวทางอื่นอย่างไร →
การปฏิบัติตามกฎระเบียบ
จับคู่กับกรอบกำกับดูแลสี่ชุด ทีละกฎ
เราเปรียบเทียบ CIRIS กับกรอบกำกับดูแลสาธารณะสี่ชุด และแสดงให้เห็นว่าในแต่ละกฎ CIRIS ทำอะไร และการตรวจสอบที่พิสูจน์สิ่งนั้น มันเป็นแผนที่สดที่คุณเรียกดูได้ ไม่ใช่สไลด์
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
ความโปร่งใส