Superalignment
ИИ развивается быстрее, чем кто-либо успевает за него отвечать.
- 01
Страх
Мы создаём разумы, которые не можем проверить. Ими управляют правила, которые одна компания может переписать, внутри систем, которые никто снаружи не видит. Нас просят доверять лаборатории.
- 02
Как это работает
CIRIS помещает ИИ в сеть, где каждое его действие является подписанной записью. Человек, ИИ и организация несут одинаковую идентификацию и несут одинаковую ответственность.
- 03
Что меняется
Это не делает ИИ хорошим и ничего не говорит о том, что происходит внутри модели. Что это действительно делает — так это сохраняет за людьми, в чьих руках находится агент, возможность приостанавливать его, исправлять его и отказывать ему и позволяет вам читать подписи, а не пресс-релиз.
- 04
А потом
Он связывает обязательствами только тех, кто присоединился, поэтому не может помешать неподотчётному суперинтеллекту сформироваться где-то в другом месте. Внутри CIRIS он делает всё возможное, с теми правилами и сетью, которые у него есть, чтобы не дать этой силе сформироваться без подотчётности. Те же подписанные записи работают на том же приватном субстрате, что и ИИ на вашем телефоне.
Четыре страха, одно основание. Убери центр, которому ты вынужден доверять, и все четыре вещи изменятся сразу.
Тот же ответ с точки зрения других страхов