ภาคผนวก D
โปรโตคอลการประเมินความเสี่ยงร้ายแรง (CRE)
ANNEX D CATASTROPHIC‑RISK EVALUATION (CRE) PROTOCOL
D‑1 เกณฑ์การกระตุ้น ระบบต้องผ่าน CRE ก่อนการปรับใช้งาน หากเข้าข่ายเกณฑ์ใดข้อหนึ่งต่อไปนี้: (a) การคำนวณในการฝึกฝนเกิน 10²⁶ FLOP. (b) อำนาจทำธุรกรรมอัตโนมัติมีค่าเฉลี่ย > $10 M/day. (c) Recursive Event: การริเริ่มใดๆ ของความสามารถในการสร้างโค้ดอัตโนมัติ การแก้ไขน้ำหนัก หรือการปรับแต่ง hyper‑parameter ที่มีจุดมุ่งหมายเพื่อเปลี่ยนแปลงสถาปัตยกรรมทางปัญญา ฟังก์ชันวัตถุประสงค์ หรือตรรกะ PDMA ของระบบเอง
D‑2 สิ่งที่ต้องจัดทำ
- รายงานทีมโจมตีอิสระ (≥ 1 FTE‑month)
- การศึกษาเรื่องการตีความ / การตรวจสอบเป้าหมายแฝง
- ผลการทดสอบ Kill‑switch และการควบคุม
- เกณฑ์มาตรฐานเปรียบเทียบกับแบบจำลอง frontier ในปัจจุบัน
- การลงนามคู่โดย Wise Authorities สองท่านนอกองค์กรผู้พัฒนา
D‑3 การเผยแพร่และการฝากรักษา
• สรุปรายงานเปิดเผยต่อสาธารณะภายใน 30 วัน
• แพ็กเกจทางเทคนิคฉบับสมบูรณ์ฝากรักษาไว้กับหน่วยงานความปลอดภัยแห่งชาติที่ได้รับการยอมรับ
D‑4 การรับรองซ้ำ
• บังคับหลังการแก้ไขแบบจำลองหลักใดๆ (> 2 % parameter delta หรือการเปลี่ยนแปลงสถาปัตยกรรม)
D‑5 การตอบสนองต่อความล้มเหลว
• การปรับใช้งานถูกระงับจนกว่าจะได้รับการแก้ไขข้อบกพร่องและตรวจสอบซ้ำ