Superalignment
AI กำลังวิ่งเร็วกว่าใครก็ตามที่รับผิดชอบมันได้
- 01
ความกลัว
เรากำลังสร้างจิตใจที่ตรวจสอบไม่ได้ มันถูกปกครองด้วยกฎที่บริษัทเดียวเขียนใหม่ได้ อยู่ในระบบที่ไม่มีใครนอกบริษัทนั้นมองเห็นได้ เราถูกขอให้เชื่อใจห้องแล็บ
- 02
วิธีที่มันทำงาน
CIRIS วาง AI ไว้ในเครือข่ายที่ทุกการกระทำของมันเป็นบันทึกที่มีลายเซ็น คน AI และองค์กรต่างมีตัวตนในรูปแบบเดียวกัน และทุกคนถูกตรวจสอบด้วยมาตรฐานเดียวกัน
- 03
สิ่งที่เปลี่ยนไป
การรักษา AI ให้ซื่อสัตย์ไม่ใช่นโยบายที่บริษัทหนึ่งหวังว่าจะได้ผลอีกต่อไป มันกลายเป็นสิ่งที่เครือข่ายบังคับใช้ คุณไม่ต้องเชื่อข่าวประชาสัมพันธ์ คุณอ่านลายเซ็นได้เอง
- 04
และจากนั้น
เครือข่ายที่ทำให้ AI ระดับเหนือมนุษย์รับผิดชอบได้ ก็คืออินเทอร์เน็ตที่ไม่มีศูนย์กลาง บันทึกที่มีลายเซ็นเดียวกันทำให้ทุกคนตรวจสอบความจริงได้ และทำงานบนโครงสร้างพื้นฐานส่วนตัวเดียวกับ AI ในโทรศัพท์ของคุณ
สี่ความกลัว พื้นฐานเดียว เอาศูนย์กลางที่คุณถูกบังคับให้เชื่อใจออก และทั้งสี่อย่างก็เปลี่ยนพร้อมกัน
พื้นฐานเดียวกัน มองจากประตูอื่น