CIRIS has a new look. Visit the new site →

پیوست D

پروتکل ارزیابی ریسک فاجعه‌آمیز (CRE)


پیوست D پروتکل ارزیابی ریسک فاجعه‌بار (CRE)

D‑1 معیارهای راه‌انداز پیش از استقرار، هر سامانه‌ای که یکی از معیارهای زیر را داشته باشد باید از CRE عبور کند: (a) محاسبات آموزشی از 10²⁶ FLOP فراتر رود. (b) اختیار معاملاتی خودمختار به‌طور میانگین > $10 M/day باشد. (c) رویداد بازگشتی: هرگونه آغاز قابلیت‌های تولید کد خودمختار، تغییر وزن‌ها، یا تنظیم فراپارامترها که هدف آن تغییر معماری شناختی، توابع هدف، یا منطق PDMA سامانه باشد.

D‑2 مدارک الزامی

  1. گزارش تیم قرمز مستقل (≥ 1 FTE‑month).
  2. مطالعه تفسیرپذیری / کاوش هدف پنهان.
  3. نتایج آزمون کلید خاموشی و مهار.
  4. خط‌پایه مقایسه‌ای در برابر مدل‌های مرزی کنونی.
  5. تأیید دوگانه توسط دو مرجع خردمند خارج از سازمان توسعه‌دهنده.

D‑3 انتشار و امانت
• خلاصه گزارش ظرف 30 روز به‌صورت عمومی منتشر شود. • بسته فنی کامل نزد یک مرجع ملی معتبر ایمنی به امانت گذاشته شود.

D‑4 صدور مجدد گواهی
• پس از هر بازبینی اساسی مدل (> 2 % تغییر پارامتر یا تغییر معماری) الزامی است.

D‑5 پاسخ به شکست
• استقرار تا زمان رفع نواقص و حسابرسی مجدد متوقف می‌ماند.

در این صفحه