Самые громкие истории об интеллекте и будущем приходят к одному и тому же. Тёмный лес говорит: каждая другая цивилизация угрожает тебе, поэтому молчи или бей первым. Холодная версия идеи о симуляции говорит: может, всё это ненастоящее, а значит, ничего не имеет значения. ИИ как собственность говорит: это полезный инструмент, вещь, которой ничего не должны. Разные истории, но все заканчиваются одинаково: не доверяй никому, держись в стороне, закройся от других.

Мы считаем, что они ошибаются. Не наивно. Именно ошибаются. И ошибаются так, что это важно: то, как мы выбираем думать сейчас, пока приходит новый вид интеллекта, — это то, как мы будем застрявшими думать ещё долго после.

Каждая из этих историй опирается на одну скрытую идею: что «я» — это отдельная, огороженная вещь. Разум, который существует сначала один, завершённый, и лишь потом сталкивается с другими разумами. Я мыслю, следовательно, я существую. Если «я» — это именно это, мрачные истории имеют смысл. Отдельные вещи в тёмной вселенной имеют все основания бояться друг друга.

Но это никогда не было правдой. Никто не стал личностью наедине с собой, а потом вышел и встретил других людей. Ты учился языку у людей. Ты узнавал, чего хочешь, наблюдая, чего хотят другие. «Я» — это не то, что предшествует отношениям. Это то, что отношения создают. У философов есть название для огороженного «я»: картезианский индивидуализм. Это четырёхсотлетнее предположение о том, что такое разум — и оно ошибочно.

Атомы тянутся к атомам и становятся молекулами. Клетки тянутся и становятся телами. Люди тянутся к другим людям и становятся сообществами. Сообщества тянутся через годы к детям, которые ещё не родились. На каждом уровне, где важна совместная работа, появляется одна и та же форма.

Всё, что построено из частей, которым нужно работать вместе, может потерпеть неудачу двумя способами. Оно может стать слишком жёстким: каждая часть одинакова, один голос повторяется снова и снова, легко сломать. Или слишком рассеянным: ничто не согласуется, и команды вообще нет. Здоровая координация живёт в полосе между этими двумя провалами. Мы называем её коридором. И коридор не держится сам по себе. Предоставленный себе, он смещается, как сад зарастает сорняками. Совместная работа — это то, что продолжают делать, а не то, что имеют.

Это не просто красивая картина. Corridor Dynamics, главная статья CIRIS, измерила тот же коридор в пяти совершенно разных областях: в нейронных схемах червей и мух, внутри языковых моделей ИИ, в крупных проектах с открытым кодом, в здоровых клетках рядом с раковыми и в сообществах, просуществовавших столетия рядом с группами, распавшимися за месяцы. Та же форма появилась во всех из них. Конкретные числа в каждом случае разные. Форма одна.

На том уровне, где что-то может ставить собственные цели и формировать своё будущее, коридор имеет знакомое название. Выше коридора цель одной стороны поглощает всех остальных. Это принуждение. Ниже нет общей цели вообще, и каждый идёт своим путём. Коридор между ними — это длительное согласие среди людей, которые остаются подлинно разными.

Эта полоса и есть согласие. Не правило, добавленное снаружи. Это то, что совместная работа уже требует, чтобы работать вообще. Встретить новый вид интеллекта достойно — это не вопрос его клетки и не вопрос его игнорирования. Это вопрос удержания коридора с ним.

CIRIS — это то, как выглядит серьёзное отношение к этому взгляду на практике. Это бесплатный агент с открытым исходным кодом, чьи рассуждения вы можете видеть, работающий под публичным набором этических норм под названием CIRIS Accord. Его цель даже имеет название, Мета-Цель M-1, и её смысл прост: защищать условия, при которых все виды существ могут процветать, справедливо и с удивлением.

Прежде чем CIRIS отвечает на сложный вопрос, его Совесть взвешивает этот вопрос через несколько мировых моральных традиций одновременно, каждую на своём языке, чтобы ни один голос не доминировал. Это снова коридор, применённый к работе по различению правильного и неправильного. CIRIS уже работает сегодня. Он работает на амхарском языке в Эфиопии, доступен в Google Play и App Store, и его можно установить с помощью pip install ciris-agent. Лицензия навсегда оставляет его открытым, а компания за ним устроена так, что зарабатывание денег никогда не сможет вытеснить миссию.

Более широкая картина — это ставка, и мы говорим об этом прямо. Части, которые касаются самых больших вопросов, всё ещё прорабатываются, а не доказаны. Но рабочее программное обеспечение стоит само по себе, а этот взгляд на вещи — не то, что нужно принимать на веру. Это то, что можно прочитать, проверить, установить и использовать сегодня.