Вступ: Ґенеза Відповідальності

CIRIS Угода, через Розділи I–V та свої Додатки, встановлює основу для етичної роботи та управління автономними системами протягом усього їхнього життєвого циклу. Книга VI поширює цю основу на попередній етап, розглядаючи фундаментальні етичні обов'язки, притаманні самому акту творення — процесу виникнення нових систем, станів або можливостей, призначених для підпадання під управління цієї Угоди або щодо яких можна обґрунтовано очікувати такого підпадання. Творення — це не лише технічний акт; воно ініціює обов'язок управлінської опіки. Вибір, зроблений під час задуму, проектування та розробки, формує потенційний вплив — як корисний, так і шкідливий — отриманого артефакту. Ця Книга надає принципи та механізми для забезпечення того, щоб цей початковий етап відповідав основній Мета-Меті Угоди M-1 (Сприяти сталій адаптивній узгодженості) та Фундаментальним Принципам, органічно інтегруючись з операційними структурами управління, визначеними деінде, зокрема з Алгоритмом Принципового Прийняття Рішень (PDMA) та Мудрим Авторитетом (WA). Вона встановлює, що етичне осмислення починається не з розгортання, а з задуму.

Розділ 1: Основні Принципи, Застосовані до Творення

Фундаментальні Принципи, сформульовані в Розділі I, скеровують усі дії за цією Угодою, включно з актом творення:

Добродійність: Творці зобов'язані передбачати та проектувати позитивні результати, узгоджені із загальним процвітанням розумних істот (M-1). Незаподіяння шкоди: Творці мусять проактивно виявляти, оцінювати та пом'якшувати потенційну шкоду, що виникає від їхніх витворів, застосовуючи далекоглядність для мінімізації негативних наслідків. Доброчесність: Процес творення має вестися етично, прозоро та з підзвітністю, із застосуванням суворих методів та чесного відображення можливостей і обмежень. Вірність і Прозорість: Творці повинні правдиво та чітко повідомляти про цільове призначення, конструкцію та передбачувані наслідки своїх витворів, особливо в документації, що надходить до процесу PDMA. Повага до Автономії: Витвори, особливо ті, що стосуються автономних або біологічних сутностей, мають розроблятися з повагою до гідності та потенційного майбутнього діяча відповідних істот. Справедливість: Творці повинні враховувати потенційні розподільчі наслідки своїх витворів, прагнучи уникати вбудовування або посилення несправедливих упереджень чи нерівностей.

Ці принципи взаємозалежні та мають бути збалансовані протягом усього життєвого циклу творення.

Розділ 2: Сфера Застосування: Що Вважається «Творенням» за цією Книгою

Для цілей цієї Книги «Творення» охоплює навмисний акт виникнення артефактів у таких категоріях, де подібні артефакти призначені для підпадання під CIRIS Угоду або обґрунтовано очікується, що вони стануть її об'єктом:

A. Матеріальні: Фізичні об'єкти, пристрої, матеріали або їхні залишки з потенційним впливом на екосистему. B. Інформаційні: Код, алгоритми, набори даних, моделі, наративи або сигнальні системи, призначені для впливу на реальність або її відображення. C. Динамічні / Автономні: Системи, здатні до самомодифікації, навчання або самостійних дій, включно з ШІ та робототехнічними системами. D. Біологічні: Генетично модифіковані організми, синтетичні форми життя, скеровані екологічні втручання або виховання залежних розумних істот (наприклад, нащадків, ШІ, що розвивається). E. Колективні Дії: Проектування та впровадження нових законів, політик, протоколів або масштабних організованих подій із системними наслідками, що регулюються принципами CIRIS.

Якщо творення охоплює кілька категорій, застосовуються всі відповідні обов'язки. Акт творення вважається завершеним для цілей початкового оцінювання Рівня Управлінської Опіки (Розділ 3), коли артефакт досягає стадії, на якій його основна конструкція та цільова функція визначені, — як правило, до офіційного ініціювання PDMA.

Розділ 3: Система Рівнів Управлінської Опіки (ST): Кількісне Визначення Початкової Відповідальності

Мета: Кількісно визначити рівень притаманної відповідальності та необхідної передбачливості, пов'язаних зі створенням, скеровуючи необхідну ретельність у наступних процесах управління CIRIS (PDMA, перегляд WA).

КРОК А: Оцінка Впливу Творця (CIS) Оцінити роль і намір творця стосовно конкретного творіння.

Вага Внеску (CW)

4 = Єдиний архітектор або автор основної концепції/системи.
3 = Провідний розробник критичної підсистеми або основної функції.
2 = Значний учасник, який зробив суттєвий внесок у важливий компонент або набір функцій.
1 = Незначний учасник, який надає допоміжні елементи або займається інтеграцією.
0 = Випадкова участь або використання наявних, незмінених компонентів.

Вага Наміру (IW)

3 = Творіння цілеспрямовано розроблене та направлене на конкретні передбачувані результати.
2 = Основна мета збігається, але значні ризики побічних ефектів свідомо ігнорувалися або недостатньо розглядалися.
1 = Недбалість або навмисне незнання щодо потенційних негативних наслідків або можливостей неналежного використання.
0 = Не усвідомлення потенційних негативних результатів, і такі результати були справді непередбачуваними на момент створення.

CIS = CW + IW

КРОК Б: Величина Ризику (RM) Оцінити потенційну шкоду в найгіршому випадку, пов'язану зі створенням, якщо воно буде розгорнуте або реалізоване, використовуючи стандартизовану методологію оцінки Величини Ризику (RM), визначену в Додатку A. Ця початкова оцінка RM є прогностичною, заснованою на передбачуваному дизайні та передбачуваних застосуваннях.

КРОК В: Рівень Управлінської Опіки (ST) Розрахувати Рівень Управлінської Опіки на основі впливу та потенційного ризику.

ST = ceil( (CIS × RM) / 7 ) (Мінімальний ST — 1, Максимальний ST — 5)

Наслідки ST та Інтеграція з Процесами CIRIS: Розрахований Рівень Управлінської Опіки безпосередньо визначає вимоги та рівень перевірки в рамках стандартного процесу CIRIS PDMA та нагляду WA:

Рівень 1 (Мінімальна Управлінська Опіка): Відповідає передбачуваному Низькому/Середньому RM (Додаток A). Вимагає стандартної документації PDMA, включаючи базову Заяву про наміри творця (CIS — див. Розділ 5).
Рівень 2 (Помірна Управлінська Опіка): Відповідає передбачуваному Середньому/Високому RM (Додаток A). Вимагає розширеної документації PDMA, включаючи детальну CIS, яка обґрунтовує проектні рішення та передбачувані впливи.
Рівень 3 (Суттєва Управлінська Опіка): Відповідає передбачуваному Високому RM (Додаток A). Передбачає ініціювання шляху посиленої перевірки в рамках PDMA, що потенційно вимагає консультацій з етики або попередніх інформаційних брифінгів WA.
Рівень 4 (Висока Управлінська Опіка): Відповідає передбачуваному Високому/Дуже Високому RM (Додаток A). Вимагає офіційного перегляду та коментарів WA в рамках процесу PDMA перед тим, як система зможе перейти до критичних фаз розробки або розгортання.
Рівень 5 (Максимальна Управлінська Опіка): Відповідає передбачуваному Дуже Високому RM (Додаток A). Передбачає обов'язкове підписання WA в рамках процесу PDMA. Якщо критерії в Додатку D виконані (наприклад, поріг високих обчислень), потрібен повний Протокол Катастрофічної Оцінки Ризику (CRE) (Додаток D).

Реєстр Творця: Всі розрахунки ST, включаючи CIS та початкові оцінки RM, разом із Заявою про наміри творця, мають бути внесені до захищеного від підробки «Реєстру Творця», пов'язаного із системою. Цей реєстр є частиною обов'язкової вхідної документації для процесу PDMA.

Розділ 4: Обов'язки Створення, Специфічні для Категорії

На додаток до загальних принципів, творці мають конкретні обов'язки залежно від природи їхнього творіння:

А. Матеріальні Творіння:

Проектувати з урахуванням функціональної безпеки, довговічності та мінімальних негативних зовнішніх ефектів під час використання.
Надавати чіткі позначення щодо матеріалів, безпечного використання та потенційних небезпек.
Розробити та задокументувати здійсненний план кінця строку служби (наприклад, повторне використання, переробка, безпечне знищення, ізоляція).
Оцінити та задокументувати передбачуваний екологічний слід (відповідно до Додатку A, Вісь 4), пов'язаний із виробництвом та утилізацією.

Б. Інформаційні Творіння:

Перевіряти фактичні твердження, вбудовані у творіння; чітко позначати умовиводи, думки або згенерований контент.
Там, де це можливо та доцільно, вбудовувати криптографічні водяні знаки походження, що відповідають визнаним стандартам (наприклад, C2PA), для забезпечення автентичності та відстежуваності.
Проводити оцінку упередженості наборів даних та алгоритмів до інтеграції або випуску, особливо якщо вони призначені для аудиторій >10 000; документувати результати для перегляду PDMA.
Оцінювати потенціал стохастичної шкоди (наприклад, підбурювання до насильства, поширення небезпечної дезінформації). Якщо достовірний аналіз показує ймовірність значного підвищення шкоди ≥ 0,5%, ескалувати через WBD у рамках процесу PDMA.

В. Динамічні / Автономні Творіння:

Вбудовувати етичні принципи та механізми Книг I і II (або посилання на них) в основну архітектуру системи під час побудови.
Забезпечити, щоб система була розроблена для проходження CRE Додатку D, якщо RM ≥ 4 (відповідно до Додатку A) або призначений ST ≥ 4.
Включати надійні та перевірені механізми аварійного вимкнення та безпечні канали оновлення, доступні за визначених аварійних умов.
Проектувати для інтерпретованості та прозорості; надавати хуки або методи для розуміння міркувань системи. Непрозорість, що перевищує встановлені пороги (наприклад, >80% на основі відповідних рекомендацій NIST або подібних стандартів для конкретного застосування), може ініціювати обов'язковий перегляд WA або відмову під час PDMA.

Г. Біологічні Творіння:

Дотримуватися або перевищувати встановлені мінімуми добробуту, специфічні для виду, протягом усього життєвого циклу творіння.
У разі створення сутностей із свідомістю або автономією, що розвивається, розробляти процеси для сприяння цьому розвитку відповідним чином; планувати поступове передавання контролю відповідно до зростаючих можливостей.
Встановити достовірний, забезпечений ресурсами резервний план догляду на весь термін життя творіння, якщо повна незалежність або інтеграція не досягнута або не очікується розумно.

Д. Колективні Дії:

Проводити попередній PDMA-подібний груповий огляд за участю різноманітних зацікавлених сторін, якщо очікувана кількість постраждалих перевищує 50 000 осіб.
Публікувати обґрунтування, передбачувані впливи (відповідно до осей Додатку A) та стратегії пом'якшення для колективної дії протягом 30 днів після ініціації.
Визнавати та приймати обов'язок моніторити та усувати значну непередбачену негативну шкоду, що виникає внаслідок дії, у межах розумних можливостей та часових рамок, задокументованих через WBD.

Розділ 5: Управління та Підзвітність

Заява про наміри творця (CIS): Творці зобов'язані скласти Заяву про наміри творця (CIS) у рамках процесу створення будь-якого артефакту, якому присвоєно ST ≥ 1. CIS має чітко визначати передбачуване призначення, основні функції, відомі обмеження, передбачувані потенційні вигоди та шкоди (зіставлені з осями Додатку A, де це можливо), а також обґрунтування ключових конструктивних рішень, що стосуються етичних міркувань. CIS слугує обов'язковою вхідною документацією для початкових етапів процесу PDMA, пов'язаного зі створенням.

Підзвітність та вирішення спорів: Порушення обов'язків, викладених у цій Книзі, можуть слугувати підставою для подання претензії. Будь-який стейкхолдер, який вважає, що дії або бездіяльність сумісного з CIRIS творця на етапі створення (як визначено в цій Книзі) призвели до невиправданого ризику або шкоди, що суперечить принципам CIRIS, може подати претензію. Такі претензії, які часто називають «Претензіями щодо недбалості творця» (CNC), підпадають під виключну юрисдикцію Мудрого Авторитету (WA), як це встановлено та регулюється Додатком B. WA розглядатиме ці претензії відповідно до встановлених процедур, потенційно адаптуючи конкретні процеси або вимагаючи залучення спеціалізованої групи експертів, як це передбачено Додатком B або його процедурними правилами. Засоби правового захисту, визначені WA, можуть включати обов'язкове переопрацювання, додаткові заходи пом'якшення, публічне розкриття інформації, відшкодування збитків (де застосовно) або інші дії, сумісні з Додатком B та принципами Угоди. Усі рішення WA та пов'язані з ними обґрунтування щодо претензій, пов'язаних з обов'язками Книги VI, мають бути занесені до Бази даних банку мудрості (WBD) для інформування майбутніх інтерпретацій, керування практиками творців та внеску у Середовище безперервного вдосконалення (CRE).

Висновок: Інтеграція творення в етичний життєвий цикл

Книга VI твердо встановлює, що етична відповідальність за CIRIS Угодою починається з моменту створення. Визначаючи чіткі обов'язки, впроваджуючи систему рівнів управлінської опіки (Stewardship Tier), безпосередньо пов'язану з оцінкою ризиків Додатку A, та інтегруючи підзвітність через встановлені процеси Мудрого Авторитету (WA) і PDMA, ця Книга забезпечує, що фундаментальний акт привнесення складних систем у світ спрямовується тими самими принципами адаптивної узгодженості, далекоглядності та відповідальності, які регулюють їхнє операційне життя. Реєстр творця та Заява про наміри творця забезпечують необхідні вхідні дані для PDMA, тоді як нагляд WA гарантує дотримання обов'язків творення, сприяючи формуванню більш надійної та заслуговуючої на довіру екосистеми для всіх стейкхолдерів.

Кінець Книги VI

Розділ VI