ایمنی
ما آسیب‌هایی را آزمایش می‌کنیم که اخلاق روی کاغذ نمی‌تواند آن‌ها را ببیند.
پیش از هر نسخه، CIRIS یک مجموعه آزمایش ایمنی بهداشت روان به ۲۹ زبان اجرا می‌کند. هر زبان یک دسته موارد آزمایشی سخت، یک راهنمای امتیازدهی مکتوب، و قوانین قابل بررسی ماشینی دارد. اگر یک آزمایش شکست بخورد، نسخه مسدود می‌شود. دو محافظ دیگر هم درون خود عامل هوش مصنوعی کار می‌کنند: یک مرحله وجدان که می‌تواند رد کند یا ارجاع دهد، و یک مکانیزم بازگشت که موارد مشکوک را به یک انسان خردمند می‌سپارد.
مهندسی
شبکه، اندازه‌گیری شده
پژوهش بالا نیمی از اثبات است. نیم دیگر شبکه‌ای است که آن را منتقل می‌کند. هر بایتی که این شبکه جابه‌جا می‌کند با امضای post-quantum محافظت می‌شود و هزینه آن روی یک CI runner عمومی اندازه‌گیری شده، نه فقط مدل‌سازی. خودتان اجرا کنید و همین اعداد را می‌گیرید.
همه اعداد اندازه‌گیری‌شده را ببینید و خودتان آن‌ها را بازتولید کنید →
نظریه
ادعاها مکتوب هستند، برای همه قابل خواندن، و طوری ساخته شده‌اند که بتوان آن‌ها را رد کرد.
بررسی ماشینی
قواعد با ماشین آزموده می‌شوند و شکاف‌ها نام برده می‌شوند.
مهم‌ترین قواعد قانون اساسی همچنین به‌صورت مدل‌های ریاضی نوشته شده‌اند. ابزاری به نام بررسی‌کننده مدل همه حالت‌هایی را که یک پروتکل می‌تواند به آن‌ها برسد مرور می‌کند و به دنبال قاعده نقض‌شده می‌گردد. ابزاری به نام اثبات‌گر قضیه محاسبات را بررسی می‌کند، مانند اینکه برای تأیید توقف چند دارنده لازم است. مدل‌ها در مخزن خود قانون اساسی قرار دارند و با هر تغییر دوباره اجرا می‌شوند. نسخه rc9 همه حالت‌هایی را که طرح می‌تواند به آن‌ها برسد ترسیم می‌کند، بیشتر آن‌ها را مدل‌سازی می‌کند و بقیه را فهرست می‌کند.
اساس، در چهار جمله
هر قاعده میان یک جایگاه قوی‌تر و یک جایگاه ضعیف‌تر باید برای کسی که هنگام جابه‌جایی جایگاه‌ها در جایگاه ضعیف‌تر می‌ایستد همچنان پذیرفتنی بماند، و هیچ چیز ساخته‌شده هرگز جایگاهی را که پاسخ‌گوی آن است اشغال نمی‌کند.
مسئولیت از خود به بیرون، از راه خانواده، اجتماع، گونه و اکوسیستم گسترش می‌یابد؛ وظیفه نسبت به آنچه ساخته شده هرگز صفر نیست و هرگز بر وظیفه نسبت به آنچه از پیش وجود دارد پیشی نمی‌گیرد.
هر عامل استدلال‌گری که در طول زمان قضاوت بالغ را نشان نداده باشد، تابع کسانی است که نشان داده‌اند، صرف‌نظر از اینکه از چه ساخته شده باشد.
هر اعطای اختیار قابل بازپس‌گیری است و هر کس که پیوسته است می‌تواند جدا شود، بر مبنای یک سابقه کامل و امضاشده رمزنگاری‌شده که انسانی نام‌برده پاسخ‌گوی معنای آن است.
هر جمله یا در مدل‌های صوری rc9 اثبات شده یا در آنجا به‌عنوان پیش‌فرض نام برده شده است. اینکه سابقه کامل است هنوز باز است.
کلید توقف، از ابتدا تا انتها
توقف در مدل بررسی شده و روی نرم‌افزار واقعی اندازه‌گیری شده است. هر ریشه دارندگان نام‌برده دارد. هر یک از آن‌ها می‌تواند عامل‌هایی را که آن ریشه را پذیرفته‌اند متوقف کند. توقف انفرادی پس از ۲۴ ساعت منقضی می‌شود مگر اینکه اکثریت دارندگان آن را تأیید کنند. اکثریت همچنین می‌تواند یک توقف را پایان دهد. در یک اجرای ثبت‌شده روی نرم‌افزار منتشرشده، یک توقف هنگام کار به یک عامل رسید و اقدام بعدی عامل رد شد. بعداً با رأی اکثریت توقف پایان یافت و عامل دوباره کار کرد. آن اجرا با عنوان CSD-129 ثبت شده است.
نیافتن هیچ قاعده شکسته‌شده‌ای کافی نیست
rc9 معیار بالاتری تعیین می‌کند. هر حالتی که طرح می‌تواند به آن برسد به یک قاعده و یک بررسی نیاز دارد. خدمات باید واقعاً ارائه شوند، نه فقط اینکه هرگز نقض نشوند. آنچه در اندازه کوچک اثبات می‌شود باید در اندازه کامل نیز برقرار باشد، وگرنه شکاف نوشته می‌شود. و نرم‌افزار باید روی گره‌های واقعی از مدل پیروی کند.
هر ادعای کفایت یکی از پنج واژه را دارد
در rc9، هر ادعا می‌گوید چگونه دانسته شده است. «اثبات‌شده» یعنی ماشین آن را بررسی کرده است. «اندازه‌گیری‌شده» یعنی یک آزمون آن را روی نرم‌افزار منتشرشده اجرا کرده است. «مفروض» یعنی متن آن را فرض می‌کند و همین را می‌گوید. «محدود» یعنی در اندازه‌ای کوچک اثبات شده و اندازه نوشته شده است. «باز» یعنی شکافی شناخته‌شده، با یک تیکت.
همان وعده‌ها هم انسان‌ها و هم عامل‌ها را مقید می‌کند
هر وعده یک‌بار نوشته شده است، برای انسان‌ها و عامل‌های هوش مصنوعی به‌طور یکسان. توقف تنها استثناست. آن به جایگاهی تعلق دارد که هیچ عاملی نمی‌تواند آن را داشته باشد، و مدل‌های rc9 بررسی می‌کنند که وعده‌های دیگر برای هر دو به‌طور یکسان برقرارند.
آنچه اثبات نشده است
همه‌چیز اثبات نشده است و شکاف‌ها نوشته شده‌اند. برخی گام‌های حکمرانی، مانند اعتراض‌ها و قرنطینه، قاعده دارند اما هنوز مدل ندارند. بیشتر مدل‌ها در اندازه‌های کوچک بررسی شده‌اند و اندازه ذکر شده است. تاکنون فقط توقف به‌صورت سرتاسری روی گره‌های واقعی اندازه‌گیری شده است. قالب ردیف بردارهای آزمون منتشرشده دارد، اما هنوز پیاده‌سازی دوم و مستقلی ندارد.
هیچ‌یک از این‌ها به درون یک مدل هوش مصنوعی نگاه نمی‌کند. این قواعد را بررسی می‌کند، و شبکه‌ای را که آن‌ها را حمل می‌کند.
مدل‌های rc9 را در GitHub بخوانید →
مقایسه این رویکرد با رویکردهای دیگر →
مشاهده همه چهار مقاله با یافته‌های کلیدی و محدودیت‌های حوزه →
انطباق
تطبیق با چهار چارچوب حکمرانی، قانون به قانون.
ما CIRIS را در برابر چهار چارچوب حکمرانی عمومی قرار می‌دهیم و برای هر قانون نشان می‌دهیم که CIRIS چه می‌کند و چه کنترلی آن را اثبات می‌کند. این یک نمودار زنده است که می‌توانید در آن بگردید، نه یک اسلاید.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
شفافیت