초정렬
AI가 책임질 수 있는 사람보다 빠르게 달리고 있습니다.
- 01
두려움
우리는 감사할 수 없는 마음을 만들고 있습니다. 한 회사가 다시 쓸 수 있는 규칙으로 운영되고, 그 회사 외부에서는 아무도 볼 수 없는 시스템 안에 있습니다. 우리는 연구소를 믿으라는 말을 듣습니다.
- 02
작동 방식
CIRIS는 AI를 모든 행동이 서명된 기록이 되는 네트워크 안에 둡니다. 사람, AI, 조직 모두 같은 종류의 신원을 가지고 같은 방식으로 책임을 집니다.
- 03
무엇이 바뀌는가
그렇다고 AI가 선해지는 것은 아니며, 모델 내부에서 일어나는 일에 대해서도 아무것도 말하지 않습니다. CIRIS가 하는 일은 에이전트를 보유하신 분들이 에이전트를 일시 정지하고 수정하고 거부할 수 있도록 유지하고, 보도 자료 대신 서명을 직접 읽어 보실 수 있도록 하는 것입니다.
- 04
그 다음은
이것은 참여하시는 분들에게만 적용되므로, 다른 곳에서 책임지지 않는 초지능이 형성되는 것을 막을 수는 없습니다. CIRIS 안에서는 보유한 규칙과 네트워크를 통해 그 힘이 책임 없이 형성되지 않도록 최선을 다합니다. 동일한 서명된 기록이 폰에 있는 AI와 동일한 비공개 기반에서 실행됩니다.
네 가지 두려움, 하나의 답. 어쩔 수 없이 믿어야 하는 중심을 없애면 네 가지가 한꺼번에 바뀝니다.
다른 두려움에서 바라본 같은 답