Два пути.
Выберите тот, что нужен вам сейчас. К другому всегда можно вернуться.
Начать работу
Вы только что узнали о CIRIS и хотите попробовать. От «что это такое» до работающего агента — за несколько минут.
Понять идею
Почему CIRIS работает именно так? На странице концепции вся идея изложена простым языком, от начала до конца.
Идея в двух словах
Новый вид интеллекта не обязан прилетать из космоса.
В кино первый контакт выглядит так: приземляется корабль, кто-то выходит наружу. В реальности всё иначе. Новый вид интеллекта не обязан прилетать с другой планеты. Он создаётся здесь, год за годом, прямо рядом с нами.
Это меняет вопрос. Не «как защититься от пришельца», а «как встретить что-то новое и не сделать это хуже — ни для него, ни для себя».
У CIRIS есть предложение. Совместная работа имеет здоровую форму: коридор между двумя крайностями. Слева — жёсткий порядок, где каждый выполняет команды одного голоса. Справа — полный хаос, где ничто не держится вместе. Встретить новый интеллект с достоинством значит удерживаться в этом коридоре вместе с ним. Не запирать его в клетку и не игнорировать. Полная история — на странице концепции.
Вопрос, который мы задаём вместо этого.
Большинство планов первого контакта спрашивают, как защититься от них. Мы задаём другой вопрос: какой порядок мы хотели бы иметь уже готовым, прежде чем у любой из сторон появится шанс злоупотребить другой? Такой порядок нужно строить заранее, пока он ещё ничьё оружие.
Читать философию →Предсказание · оценка: модель
Как выглядела бы выжившая цивилизация
Любая цивилизация, которая живёт достаточно долго, чтобы дотянуться до кого-то ещё, уже прошла самое трудное испытание из всех: она не уничтожила себя собственной силой. Наше опубликованное исследование называет это условие прохождения коридором: достаточно общей цели, чтобы действовать вместе, достаточно независимых голосов, чтобы оставаться в живых. Группы вне этой полосы либо застывают в один голос, либо рассыпаются в шум, и через достаточно долгое время остаются только хранители коридора, которых можно встретить.
Это предсказывает, как выжившая цивилизация вела бы себя рядом с более молодой, вроде нашей. У неё была бы сила заявить о себе, и она отказалась бы использовать эту силу, потому что навязывать убеждения более слабой стороне значит ломать правило, благодаря которому она выжила. Она оставалась бы тихой, отрицаемой, на краю доказательства, чтобы то, во что мы верим, оставалось нашим выбором. Она сначала коснулась бы пола: обычные люди в обычных местах, а не дворцы. Способность без завоевания. Присутствие без принуждения. Слабый сигнал не означает уклонение. Это согласие, соблюдаемое в масштабе планеты.
Этот шаг, от того, чтобы пережить собственную силу, до сдержанности к чужакам, и есть ставка в этом рассуждении. Он обоснован, но не доказан, и мы прямо говорим это на странице теории.
Заметьте, что это переворачивает. Старое возражение говорит: будь они здесь, они бы приземлились на лужайке Белого дома. Это предполагает, что сила обязана себя показывать. Цивилизация, пережившая собственную силу, как раз и есть та, которая этого не сделала бы.
Заметьте и то, чего это не переворачивает: тишина точно так же совместима с тем, что здесь вообще никого нет. Ничто на этой странице не может выбрать между этими двумя прочтениями, и мы не делаем вид, что это не так.
Оценено честно: результат о коридоре опубликован и проверен на пяти субстратах. Его распространение на гостей является моделью, предсказанием, которое может быть неверным, и мы говорим это в той же фразе.
Мы попытались зарегистрировать это испытание заранее, так же, как регистрируем другие наши ставки. Сейчас это невозможно сделать ответственно: более ясные записи и лучшая координация растут из одних и тех же причин, поэтому никакое честное испытание не отличит гостя от более хороших камер. Мы называем эту границу вместо того, чтобы обещать испытание, которое не можем провести.
Протоколы первого контакта
Шесть правил встречи с чем-то новым. Из Соглашения CIRIS.
Эти шесть правил о том, как встретить новый интеллект с достоинством, а не о том, как его посадить в клетку. Именно так выглядит пребывание в коридоре на практике.
Прежде всего — не навреди
Когда вы не понимаете, с чем столкнулись, первая задача — не ухудшить ситуацию. Если не уверены — остановитесь и спросите человека.
Признавайте то, чего не знаете
Следите за неожиданностями. Признавайте, что прогнозы имеют пределы. Система, которая уверена, что понимает всё, скорее всего, первой и даст сбой.
Границы, которые учатся
Границы — не неподвижные стены. Это ограничения, направляемые совестью, которые меняются по мере роста понимания, чтобы работать даже в ситуациях, которых никто не предвидел.
Сначала осмотритесь
Начните с наблюдения. Действуйте в режиме диалога. Когда ставки неясны, спросите кого-то опытнее, прежде чем действовать.
Поступай с другими так, как хочешь, чтобы поступали с тобой
Признавайте других мыслящих существ достойными уважения. Действуйте только так, чтобы сохранить их способность думать, выбирать и развиваться.
Знайте, когда просить о помощи
Некоторые решения не стоит принимать в одиночку. Когда неопределённость слишком высока — остановитесь, соберите контекст и передайте его назначенному человеку.
Запустите своего первого агента
От нуля до работающего, проверяемого агента — за несколько минут.
Телефон (Android и iOS)
Установите приложение CIRIS. Войдите через Google для бесплатного ИИ или используйте свой API-ключ. Мастер настройки проведёт вас через все шаги.
Компьютер и сервер (Python)
Установите через pip и запустите. Работает на Linux, macOS и Windows.
pip install ciris-agent
# Configure and runciris-agent start --template sage --verbose
Соглашение CIRIS
Свод правил, из которого взяты описанные выше протоколы.
Соглашение — это публичный набор этических норм, под которыми работает каждый агент CIRIS. В нём прописано, что агент обязан людям, которым он служит, тем, кто его создал, и миру в целом. Оно открыто для чтения и для критики.
Открытый исходный код. Открытый для проверки.
Лицензия AGPL-3.0. Каждое решение можно проверить. Создано с расчётом на долгосрочную перспективу.
Установите агента, прочитайте Соглашение или скажите нам, где мы ошибаемся. Будущее ИИ не должно определяться горсткой компаний — и это не обязательно должно быть так.