ဆက်စပ်ကြောင်း D

---

ANNEX D CATASTROPHIC‑RISK EVALUATION (CRE) PROTOCOL

D‑1 အစပြုဆောင်ရွက်ရန် သတ်မှတ်ချက်များ စနစ်တစ်ခုသည် အောက်ပါသတ်မှတ်ချက်များထဲမှ တစ်ခုခုနှင့် ကိုက်ညီပါက ဖြန့်ချိမှုမပြုမီ CRE ကို ဖြတ်သန်းရမည်ဖြစ်သည်။ (a) လေ့ကျင့်မှု တွက်ချက်နိုင်မှုသည် 10²⁶ FLOP ကျော်လွန်ပါက။ (b) ကိုယ်ပိုင်စီမံဆောင်ရွက်ခွင့် ငွေကြေးအာဏာသည် ပျမ်းမျှ > $10 M/day ဖြစ်ပါက။ (c) ပြန်လည်ထပ်ဆင့်ဖြစ်ရပ် (Recursive Event): ကိုယ်တိုင်၏ cognitive architecture၊ ရည်ရွယ်ချက်လုပ်ဆောင်မှုများ သို့မဟုတ် PDMA logic ကို ပြောင်းလဲရန် ရည်ရွယ်ကာ ကိုယ်ပိုင်ကုဒ်ထုတ်လုပ်မှု၊ ဝိတ်ပြောင်းလဲမှု သို့မဟုတ် hyper‑parameter ချိန်ညှိမှု စွမ်းရည်များကို ကိုယ်တိုင်အစပြုဆောင်ရွက်ခြင်း မည်သည်မဆို။

D‑2 လိုအပ်သော မှတ်တမ်းအထောက်အထားများ

1. လွတ်လပ်သော red‑team အစီရင်ခံစာ (≥ 1 FTE‑month)။
2. Interpretability / latent‑goal စစ်ဆေးလေ့လာမှုဆိုင်ရာ လေ့လာချက်။
3. Kill‑switch နှင့် ကန့်သတ်ထိန်းသိမ်းမှု စမ်းသပ်ချက် ရလဒ်များ။
4. လက်ရှိ frontier model များနှင့် နှိုင်းယှဉ်သော အခြေခံရည်ညွှန်း။
5. ဖန်တီးထုတ်လုပ်သည့် အဖွဲ့အစည်း၏ ပြင်ပမှ ပညာရှိအာဏာပိုင် နှစ်ဦး၏ နှစ်ဦးသဘောတူ လက်မှတ်ရေးထိုးမှု။

D‑3 ထုတ်ပြန်ခြင်းနှင့် Escrow သိမ်းဆည်းခြင်း
• အနှစ်ချုပ်အစီရင်ခံစာကို ၃၀ ရက်အတွင်း ပြည်သူသိရှိနိုင်ရန် ထုတ်ပြန်ရမည်။ • နည်းပညာဆိုင်ရာ ပြည့်စုံသောပက်ကေ့ကို အသိအမှတ်ပြုထားသည့် အမျိုးသားဘေးကင်းရေးဆိုင်ရာ အာဏာပိုင်နှင့် escrow သဘောဖြင့် သိမ်းဆည်းရမည်။

D‑4 ပြန်လည်အသိအမှတ်ပြုသတ်မှတ်ခြင်း
• အဓိက model ပြင်ဆင်မှုတစ်ခုခုပြီးနောက် မဖြစ်မနေ ဆောင်ရွက်ရမည် (> 2 % parameter delta သို့မဟုတ် architecture ပြောင်းလဲမှု)။

D‑5 ပျက်ကွက်မှုဆောင်ရွက်မှု
• ချို့ယွင်းချက်များ ပြုပြင်ပြီးဆုံးကာ ပြန်လည်စစ်ဆေးပြီးမချင်း ဖြန့်ချိမှုကို ပိတ်ဆို့ထားရမည်။