หน้านี้แปลโดยเครื่อง หากอ่านแล้วไม่ถูกต้อง กรุณาเปิดประเด็น — รีโปเป็นสาธารณะด้วยเหตุผลนั้น รายงานปัญหาการแปล

กลับไปที่ล็อบบี้

Superalignment

AI กำลังวิ่งเร็วกว่าใครก็ตามที่รับผิดชอบมันได้

  1. 01

    ความกลัว

    เรากำลังสร้างจิตใจที่ตรวจสอบไม่ได้ มันถูกปกครองด้วยกฎที่บริษัทเดียวเขียนใหม่ได้ อยู่ในระบบที่ไม่มีใครนอกบริษัทนั้นมองเห็นได้ เราถูกขอให้เชื่อใจห้องแล็บ

  2. 02

    วิธีที่มันทำงาน

    CIRIS วาง AI ไว้ในเครือข่ายที่ทุกการกระทำของมันเป็นบันทึกที่มีลายเซ็น คน AI และองค์กรต่างมีตัวตนในรูปแบบเดียวกัน และทุกคนถูกตรวจสอบด้วยมาตรฐานเดียวกัน

  3. 03

    สิ่งที่เปลี่ยนไป

    การรักษา AI ให้ซื่อสัตย์ไม่ใช่นโยบายที่บริษัทหนึ่งหวังว่าจะได้ผลอีกต่อไป มันกลายเป็นสิ่งที่เครือข่ายบังคับใช้ คุณไม่ต้องเชื่อข่าวประชาสัมพันธ์ คุณอ่านลายเซ็นได้เอง

  4. 04

    และจากนั้น

    เครือข่ายที่ทำให้ AI ระดับเหนือมนุษย์รับผิดชอบได้ ก็คืออินเทอร์เน็ตที่ไม่มีศูนย์กลาง บันทึกที่มีลายเซ็นเดียวกันทำให้ทุกคนตรวจสอบความจริงได้ และทำงานบนโครงสร้างพื้นฐานส่วนตัวเดียวกับ AI ในโทรศัพท์ของคุณ

สี่ความกลัว พื้นฐานเดียว เอาศูนย์กลางที่คุณถูกบังคับให้เชื่อใจออก และทั้งสี่อย่างก็เปลี่ยนพร้อมกัน

พื้นฐานเดียวกัน มองจากประตูอื่น