서로를 모두 복사하는 다섯 가지 검증은 실제로 하나의 검증입니다.

다섯 사람이 답을 확인하고 모두 동의한다고 가정해 보겠습니다. 안전하게 느껴집니다. 하지만 다섯 모두 같은 곳에서 배웠다면, 그들의 동의는 다섯 가지 의견이 아닙니다. 다섯 번 반복된 하나의 의견입니다. 검증의 수는 다섯처럼 보이지만, 실제 수는 하나입니다.

이것은 AI에게도 중요합니다. AI 시스템은 자체 추론에 대해 많은 검증을 실행할 수 있으면서도 속을 수 있습니다. 그 검증들이 같은 맹점을 공유한다면 말이죠. Coherence Collapse Analysis는 CIRIS가 실제 검증과 반향을 구별하는 방법입니다.

핵심 공식

실제로 가지고 있는 검증의 수 세기.

핵심에는 하나의 짧은 공식이 있습니다. 설문 통계에서 나온 것으로, 거기서는 Kish 디자인 효과라고 불리며, 같은 형태가 투표 이론과 안전 공학에서도 나타납니다. CIRIS는 이를 AI 정렬에 적용합니다.

real checks = checks / (1 + copying × (checks − 1))

"Checks"는 실행한 검증의 수입니다. "Copying"은 그것들이 얼마나 겹치는지로, 0(모두 독립)에서 1(모두 동일)까지입니다. 결과는 실제로 가진 검증의 수입니다.

복사 없음: 열 개의 검증은 열 개로 계산됩니다. 모든 검증이 자기 자리를 차지합니다.

완전한 복사: 열 개의 검증은 하나로 계산됩니다. 얼마나 많이 추가해도 차이가 없습니다.

실제 트래픽에서

이것은 논증만 한 것이 아니라 측정했습니다.

CIRIS는 자체 실시간 에이전트 트래픽에서 실제 검증 수를 측정했으며, 수천 개의 기록된 결정에 걸쳐 진행되었습니다. 건강한 트래픽에서 약 7에서 9개의 진정으로 독립적인 검증 범위를 유지했습니다. 그 측정과 수행 방법은 Constrained Reasoning Chains 연구입니다. 연구 페이지에서 실시간 수를 볼 수 있습니다.

솔직한 한계

이 수학이 할 수 없는 것.

논문은 스스로에 대한 엄격한 한계를 증명합니다. 어떤 종류의 피해는 하나의 부정직한 부분에서 오지 않습니다. 더해져서 나쁜 결과를 만드는 정직한 부분들에서 오며, 논문은 그런 피해의 일부가 부분만 보는 어떤 검증기에도 보이지 않는다는 것을 증명합니다. 검증기가 아무리 좋아도 마찬가지입니다. CIRIS는 수학이 모든 것을 잡는 척하는 대신 이를 솔직하게 말합니다.

시스템이 정말로 약속하는 것은 기록입니다. 모든 결정은 조용히 다시 쓸 수 없는 서명된 영수증을 남기므로, 거짓말은 결코 지울 수 없는 수천 장의 영수증과 계속 아귀가 맞아야 합니다. 그 영수증들을 잘 읽는 일은 아직 열려 있는 작업이며, 우리는 그렇게 말합니다. 어느 쪽이든 장부는 진실하게 남습니다.

어떻게 맞물리는가

수학은 더 큰 전체의 한 부분입니다.

이 페이지는 측정입니다. Coherence Ratchet은 측정을 실제로 활용하는 방법입니다. 페더레이션은 그것이 많은 시스템이 공유하는 것이 되는 방법입니다. 그리고 컴퓨터가 한 줄 한 줄 검사할 수 있도록 작성된 전체 증명은 논문과 RATCHET 저장소에 있습니다.

Coherence Ratchet 연구 현황 논문 읽기