Безопасность
Мы проверяем на вред, который бумажная этика не может поймать.
Перед каждым релизом CIRIS проходит батарею тестов безопасности в области психического здоровья на 29 языках. Для каждого языка есть набор сложных тестовых случаев, письменное руководство по оценке и правила, проверяемые автоматически. Если проверка не пройдена, релиз блокируется. Внутри самого агента работают ещё две защиты: проход совести, который может отказать или отложить решение, и переадресация спорных вопросов мудрому человеку.
Инженерия
Сеть под измерением
Исследования выше составляют одну половину доказательства. Вторая половина это сеть, которая передаёт данные. Каждый байт, который перемещает сеть, подписан с защитой от квантовых атак, а затраты измеряются на публичном CI-сервере, а не моделируются. Запустите сами и получите те же числа.
Смотрите все измеренные данные и воспроизведите их самостоятельно →
Теория
Утверждения записаны, доступны каждому и созданы так, чтобы их можно было опровергнуть.
Проверено машиной
Правила проверяются машиной, а пробелы названы
Важнейшие правила Конституции также записаны в виде математических моделей. Инструмент под названием model checker проходит через каждое состояние, которого может достичь протокол, и ищет нарушенное правило. Инструмент под названием theorem prover проверяет вычисления — например, то, сколько держателей нужно, чтобы подтвердить паузу. Модели хранятся в собственном репозитории Конституции и запускаются заново при каждом изменении. Издание rc9 описывает каждое состояние, достижимое в рамках дизайна, моделирует большинство из них и перечисляет остальные.
Основа в четырёх предложениях
Каждое правило между более сильной и более слабой позицией должно оставаться приемлемым для того, кто оказался бы в более слабой позиции, если эти позиции поменять местами, а созданное никогда не занимает позицию, которая несёт за него ответственность.
Ответственность распространяется наружу от самого себя через семью, сообщество, вид и экосистему; долг перед созданным никогда не равен нулю и никогда не перевешивает долг перед уже существующим.
Любой рассуждающий субъект, не продемонстрировавший со временем зрелую рассудительность, уступает тем, кто её продемонстрировал, из чего бы он ни был сделан.
Любое наделение полномочиями является отзывным, и каждый присоединившийся вправе уйти, — при полной, криптографически подписанной записи, за смысл которой отвечает названный человек.
Каждое предложение либо доказано в формальных моделях rc9, либо названо там в качестве предпосылки. То, что запись является полной, пока остаётся открытым.
Выключатель — от начала до конца
Пауза проверена в модели и измерена на реальном ПО. У каждого корня есть названные держатели. Любой из них может приостановить работу агентов, принявших этот корень. Одиночная пауза истекает через 24 часа, если её не подтвердит большинство держателей. Большинство также может прекратить паузу. В зафиксированном запуске выпущенного ПО пауза достигла агента во время его работы, и следующее действие агента было отклонено. Позже большинством голосов пауза была прекращена, и агент снова продолжил работу. Этот запуск зафиксирован как CSD-129.
Отсутствия нарушенных правил недостаточно
rc9 поднимает планку выше. Каждое состояние, достижимое для проекта, требует правила и проверки. Сервисы должны реально предоставляться, а не только никогда не нарушаться. То, что доказано в малом масштабе, должно сохраняться в полном масштабе, иначе разрыв фиксируется письменно. А программное обеспечение должно следовать модели на реальных узлах.
Каждое утверждение об адекватности содержит одно из пяти слов
В rc9 каждое утверждение говорит, как оно известно. «Доказано» означает, что его проверила машина. «Измерено» означает, что тест прогнал его на поставленном ПО. «Заявлено» означает, что текст это предполагает и так и говорит. «Ограничено» означает, что оно доказано в малом масштабе, и масштаб записан. «Открыто» означает известный пробел с тикетом.
Одни и те же обещания связывают людей и агентов
Каждое обещание записано один раз — для людей и ИИ-агентов в равной мере. Пауза — единственное исключение. Она принадлежит позиции, которую не может занимать ни один агент, и модели rc9 проверяют, что остальные обещания действуют одинаково для обоих.
Что не доказано
Не всё доказано, а пробелы записаны. Некоторые шаги управления, такие как возражения и карантин, имеют правила, но пока без модели. Большинство моделей проверены при небольших размерах, и размер указан. Пока только пауза измерена от начала до конца на реальных узлах. Формат строки имеет опубликованные тестовые векторы, но второй независимой реализации пока нет.
Ничто из этого не заглядывает внутрь ИИ-модели. Проверяются правила и сеть, которая их несёт.
Как это соотносится с другими подходами →
Смотреть все четыре статьи с ключевыми выводами и пределами применимости →
Соответствие стандартам
Сопоставлено с четырьмя системами управления, правило за правилом.
Мы сравниваем CIRIS с четырьмя публичными системами управления и показываем для каждого правила, что делает CIRIS и какая проверка это подтверждает. Это живая карта для изучения, а не слайд.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Прозрачность