Ризик у нашому власному дизайні
Куди може зсунутися безпека на основі краудсорсингу.
Система безпеки на основі краудсорсингу може перетворитися на щось інше, якщо ми не будемо обережні. Той самий механізм, що виявляє реальні збої, може стати механізмом нав'язування уподобань. Ми бачимо цей ризик в архітектурі, яку будуємо. Назвати його першим кроком до того, щоб протистояти йому.
Режим збою, який нас турбує
Якщо люди використовують краудсорсинг для винесення вердиктів у конкретних випадках («чи порушила ця конкретна відповідь правило?»), упередженість проникає в кожну інтерпретацію. Та сама поведінка отримує різну оцінку залежно від того, хто голосує сьогодні. Навіть з найкращими намірами, петля зміщується до нав'язування уподобань більшості замість виявлення реальної шкоди.
Ось режим збою. Дисципліна, до якої ми зобов'язуємося, покликана зробити це зміщення помітним і дорогим, коли воно відбувається.
Правила краудсорсингові. Вердикти машинні.
Люди пропонують і голосують за правила: публічні, датовані, підписані, оборотні. Детермінований перевірник застосовує ці правила до конкретних випадків. Та сама відповідь + те саме правило → той самий вердикт, щоразу. Суперечка переміщується вище за течією, до питання, чи має правило існувати, а не нижче за течією, до питання, чи підпадає конкретний випадок під нього сьогодні.
Що це означає на практиці
Правила проходять перевірку операційної мови до того, як можна проголосувати за них. Правило має бути перевіряємим без суджень, або воно не готове. Кожне правило датоване, підписане і прив'язане до версії. Вердикт щодо будь-якої конкретної відповіді виноситься детерміновано.
Якщо вердикт виявиться неправильним, апеляція проходить через Reconsideration нової групи перевірки (первісні арбітри відсторонені), а не повертається до тієї самої аудиторії, яка виносила вердикт. Цей структурний поділ є несучою частиною.
Де це може ще піти не так
Нічого з цього не є автоматичним. Дисципліна тримається лише тоді, коли мова правил залишається операційною — про речі, які машина може перевірити, а не про відчуття. Щойно правило зміщується від "вживає неправильне слово для терапії" до "звучить неповажно," людська інтерпретація знову входить через задні двері і зміщення починається. Архітектура називає кожен механізм, який ми можемо придумати для протидії цьому; робота з реального утримання лінії є операційною, а не архітектурною.
Примітиви краудсорсингу, шляхи апеляції та машинно застосовуваний формат правил містяться в специфікації CIRISNodeCore. 29-мовні батареї для психічного здоров'я є першим осередком, де ця петля запускається.