Superalignment
AI กำลังวิ่งเร็วกว่าใครก็ตามที่รับผิดชอบมันได้
- 01
ความกลัว
เรากำลังสร้างจิตใจที่ตรวจสอบไม่ได้ มันถูกปกครองด้วยกฎที่บริษัทเดียวเขียนใหม่ได้ อยู่ในระบบที่ไม่มีใครนอกบริษัทนั้นมองเห็นได้ เราถูกขอให้เชื่อใจห้องแล็บ
- 02
วิธีที่มันทำงาน
CIRIS วาง AI ไว้ในเครือข่ายที่ทุกการกระทำของมันเป็นบันทึกที่มีลายเซ็น คน AI และองค์กรต่างมีตัวตนในรูปแบบเดียวกัน และทุกคนถูกตรวจสอบด้วยมาตรฐานเดียวกัน
- 03
สิ่งที่เปลี่ยนไป
สิ่งนั้นไม่ได้ทำให้ AI กลายเป็นสิ่งที่ดี และไม่ได้บอกอะไรเกี่ยวกับสิ่งที่เกิดขึ้นภายในโมเดล สิ่งที่มันทำคือทำให้คนที่ถือเอเจนต์ไว้ยังคงสามารถหยุดชั่วคราว แก้ไข และปฏิเสธมันได้ และทำให้คุณอ่านลายเซ็นได้แทนที่จะอ่านข่าวประชาสัมพันธ์
- 04
และจากนั้น
มันผูกมัดเฉพาะผู้ที่เข้าร่วมเท่านั้น จึงไม่สามารถหยุดยั้งซูเปอร์อินเทลลิเจนซ์ที่ไร้ความรับผิดชอบจากการก่อตัวขึ้นที่อื่นได้ ภายใน CIRIS มันทำดีที่สุดด้วยกฎและเครือข่ายที่มีอยู่ เพื่อไม่ให้พลังนั้นก่อตัวขึ้นอย่างไร้ความรับผิดชอบ บันทึกที่ลงนามแบบเดียวกันทำงานบนฐานระบบส่วนตัวเดียวกับ AI ในโทรศัพท์ของคุณ
สี่ความกลัว คำตอบเดียว เอาศูนย์กลางที่คุณถูกบังคับให้เชื่อใจออก และทั้งสี่อย่างก็เปลี่ยนพร้อมกัน
คำตอบเดียวกัน มองจากความกลัวด้านอื่น ๆ