CIRIS
หน้านี้แปลโดยเครื่อง หากอ่านแล้วไม่ถูกต้อง กรุณาเปิดประเด็นบน GitHub — รีโปเป็นสาธารณะเพื่อให้ทุกคนช่วยแก้ไขได้ รายงานปัญหาการแปล

← กลับไปที่หน้าแรก

Superalignment

AI กำลังวิ่งเร็วกว่าใครก็ตามที่รับผิดชอบมันได้

  1. 01

    ความกลัว

    เรากำลังสร้างจิตใจที่ตรวจสอบไม่ได้ มันถูกปกครองด้วยกฎที่บริษัทเดียวเขียนใหม่ได้ อยู่ในระบบที่ไม่มีใครนอกบริษัทนั้นมองเห็นได้ เราถูกขอให้เชื่อใจห้องแล็บ

  2. 02

    วิธีที่มันทำงาน

    CIRIS วาง AI ไว้ในเครือข่ายที่ทุกการกระทำของมันเป็นบันทึกที่มีลายเซ็น คน AI และองค์กรต่างมีตัวตนในรูปแบบเดียวกัน และทุกคนถูกตรวจสอบด้วยมาตรฐานเดียวกัน

  3. 03

    สิ่งที่เปลี่ยนไป

    สิ่งนั้นไม่ได้ทำให้ AI กลายเป็นสิ่งที่ดี และไม่ได้บอกอะไรเกี่ยวกับสิ่งที่เกิดขึ้นภายในโมเดล สิ่งที่มันทำคือทำให้คนที่ถือเอเจนต์ไว้ยังคงสามารถหยุดชั่วคราว แก้ไข และปฏิเสธมันได้ และทำให้คุณอ่านลายเซ็นได้แทนที่จะอ่านข่าวประชาสัมพันธ์

  4. 04

    และจากนั้น

    มันผูกมัดเฉพาะผู้ที่เข้าร่วมเท่านั้น จึงไม่สามารถหยุดยั้งซูเปอร์อินเทลลิเจนซ์ที่ไร้ความรับผิดชอบจากการก่อตัวขึ้นที่อื่นได้ ภายใน CIRIS มันทำดีที่สุดด้วยกฎและเครือข่ายที่มีอยู่ เพื่อไม่ให้พลังนั้นก่อตัวขึ้นอย่างไร้ความรับผิดชอบ บันทึกที่ลงนามแบบเดียวกันทำงานบนฐานระบบส่วนตัวเดียวกับ AI ในโทรศัพท์ของคุณ

สี่ความกลัว คำตอบเดียว เอาศูนย์กลางที่คุณถูกบังคับให้เชื่อใจออก และทั้งสี่อย่างก็เปลี่ยนพร้อมกัน

คำตอบเดียวกัน มองจากความกลัวด้านอื่น ๆ