Безпека
Ми тестуємо на шкоду, яку паперова етика не здатна виявити.
Перед кожним випуском CIRIS проходить батарею тестів з безпеки для ментального здоров'я у 29 мовах. Для кожної мови є набір складних тестових випадків, письмовий посібник оцінювання та правила, які можна перевірити автоматично. Якщо перевірка не пройдена, випуск блокується. Ще два захисти працюють всередині самого агента: перевірка совісті, яка може відмовити або відкласти рішення, і переадресація сумнівних викликів до мудрої людини.
Інженерія
Мережевий шар, виміряний
Дослідження вище — це одна половина доказу. Інша половина — це мережа, яка його переносить. Кожен байт, який передає мережевий шар, має post-quantum-підпис, а вартість вимірюється на публічному CI runner, а не моделюється. Запустіть самостійно, і ви отримаєте ті самі числа.
Перегляньте всі виміряні числа та відтворіть їх самостійно →
Теорія
Твердження записані, доступні кожному, і створені так, щоб їх можна було спростувати.
Перевірено машиною
Правила перевіряються машиною, а прогалини названо.
Найважливіші правила Конституції також записано як математичні моделі. Інструмент під назвою «перевіряльник моделей» проходить усі стани, яких може досягти протокол, і шукає порушене правило. Інструмент під назвою «засіб доведення теорем» перевіряє арифметику, наприклад скільки утримувачів потрібно, щоб підтвердити зупинку. Моделі містяться у власному репозиторії Конституції та перезапускаються з кожною зміною. Видання rc9 відображає кожен стан, якого може досягти проєкт, моделює більшість із них і перелічує решту.
Основа в чотирьох реченнях
Кожне правило між сильнішою та слабшою позицією має залишатися прийнятним для того, хто опиниться на слабшій, якщо позиції поміняти місцями, а створене ніколи не посідає позицію, яка за нього відповідає.
Відповідальність поширюється назовні від себе через родину, спільноту, вид та екосистему; обов’язок перед створеним ніколи не дорівнює нулю і ніколи не переважає обов’язок перед тим, що вже існує.
Будь-який мислячий суб’єкт, який з часом не продемонстрував зрілого судження, поступається тим, хто його продемонстрував, незалежно від того, з чого він створений.
Кожне надання повноважень можна відкликати, і кожен, хто приєднався, може піти, на підставі повного, криптографічно підписаного запису, за значення якого відповідає названа людина.
Кожне речення або доведено у формальних моделях rc9, або названо там як засновок. Те, що запис є повним, залишається відкритим.
Аварійний вимикач від початку до кінця
Зупинку перевірено в моделі та виміряно на реальному програмному забезпеченні. Кожен корінь має названих утримувачів. Будь-хто з них може зупинити агентів, які прийняли цей корінь. Одинична зупинка спливає через 24 години, якщо більшість утримувачів її не підтвердить. Більшість також може завершити зупинку. У зафіксованому прогоні поставленого програмного забезпечення зупинка досягла агента під час його роботи, і наступну дію агента було відхилено. Пізніше голосуванням більшості зупинку було завершено, і агент знову запрацював. Цей прогін зафіксовано як CSD-129.
Відсутності порушених правил недостатньо
rc9 ставить вищу планку. Кожен стан, якого може досягти система, потребує правила й перевірки. Послуги мають реально надаватися, а не лише ніколи не порушуватися. Те, що доведено в малому масштабі, має діяти в повному масштабі, інакше розрив фіксується письмово. А програмне забезпечення має відповідати моделі на реальних вузлах.
Кожне твердження про адекватність має одне з п’яти слів
У rc9 кожне твердження вказує, як воно відоме. Доведено означає, що його перевірила машина. Виміряно означає, що тест виконав його на поставленому програмному забезпеченні. Заявлено означає, що текст це припускає, і так і каже. Обмежено означає, що це доведено в малому розмірі, і розмір записано. Відкрито означає відому прогалину із тікетом.
Ті самі обіцянки пов'язують людей і агентів
Кожну обіцянку написано один раз, для людей і агентів однаково. Зупинка — єдиний виняток. Вона належить позиції, яку жоден агент не може обіймати, а моделі rc9 перевіряють, що інші обіцянки діють однаково для обох.
Що не доведено
Доведено не все, і прогалини зафіксовано. Деякі кроки врядування, як-от заперечення та карантин, мають правила, але ще не мають моделі. Більшість моделей перевірено на малих розмірах, і розмір зазначено. Поки що лише зупинку виміряно наскрізно на реальних вузлах. Формат рядка має опубліковані тестові вектори, але другої незалежної реалізації ще немає.
Ніщо з цього не зазирає всередину моделі ШІ. Воно перевіряє правила й мережу, що їх передає.
Прочитайте моделі rc9 на GitHub →
Як це порівнюється з іншими підходами →
Переглянути всі чотири статті з ключовими висновками й обмеженнями →
Відповідність стандартам
Відображено на чотири системи регулювання, правило за правилом.
Ми зіставляємо CIRIS із чотирма публічними системами регулювання і показуємо для кожного правила, що робить CIRIS і яка перевірка це підтверджує. Це жива карта для перегляду, а не слайд.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Прозорість