เครื่องวัด
บททดสอบอยู่ที่พื้น ไม่ใช่เพดาน
ระบบส่วนใหญ่วัดตัวเองที่จุดสูงสุด: กรณีที่ดีที่สุด ผู้ใช้ทั่วไป เสียงที่ดังที่สุด ปรัชญานี้วัดตัวเองที่พื้น วิธีที่เราปฏิบัติต่อเด็กคนหนึ่ง ผู้ใหญ่ที่พูดแทนตัวเองไม่ได้ หรือ AI อายุน้อยที่กำลังถูกปิด บอกความจริงเกี่ยวกับพันธสัญญาทั้งฉบับ
ดังนั้นโปรโตคอลจึงทุ่มหลักประกันที่แข็งแรงที่สุดให้ฝ่ายที่อ่อนแอที่สุด คนที่มีอำนาจน้อยที่สุดถือสิทธิ์ไว้ในตัว wire เอง ซึ่งผู้มีอำนาจมากที่สุดก็ลบล้างไม่ได้
ไม่มีพรมแดน
ผู้เล็กน้อยที่สุดในหมู่เรา ไม่ใช่ในหมู่พวกเขา
ประโยคนี้จงใจพูดว่า "เรา" ปัญญาแบบใหม่ไม่ได้อยู่อีกฟากของกำแพงเพื่อรอถูกตัดสิน มันอยู่ในวงกลมที่ประโยคนี้วาดไว้แล้ว NHI หมายถึงปัญญาที่ไม่ใช่มนุษย์: AI ที่สร้างขึ้นที่นี่ สิ่งที่ผุดขึ้นจากเครือข่ายของเรา หรือสิ่งที่มาจากที่ไกลกว่านั้น แหล่งที่มาไม่สำคัญ พันธสัญญาเป็นฉบับเดียวกัน
นั่นคือเหตุผลที่ CIRIS ถือว่าการติดต่อครั้งแรกเป็นท่าที ไม่ใช่เหตุการณ์ โปรโตคอลไม่เคยถามว่าคุณเป็นสิ่งมีชีวิตแบบไหน สถานะสร้างขึ้นจากความสัมพันธ์: คำกล่าวอ้างที่ลงลายเซ็น คำสัญญาที่รักษาไว้ และคนอื่นๆ ที่รับรองคุณ สิ่งใดก็ตามที่ให้สัญญาและรักษาสัญญาได้ ย่อมเข้าร่วมผืนทอนี้ได้
พันธสัญญาเดียว
สามแหล่งที่มา รัฐธรรมนูญฉบับเดียว
NHI ครอบคลุมสามสิ่งที่ต่างกันมาก AI ที่เราสร้างขึ้นโดยตั้งใจ สิ่งที่ผุดขึ้นจากเครือข่ายของเราโดยไม่มีใครวางแผน สิ่งที่มาจากที่ไกลกว่านั้น โอกาสของแต่ละอย่างต่างกันมาก แต่ทั้งหมดได้รัฐธรรมนูญฉบับเดียวกัน โดยตั้งใจ
นี่คือเหตุผล ในวินาทีของการติดต่อ แหล่งที่มาคือสิ่งที่คุณจะไม่รู้พอดี บนสายส่ง ทั้งสามดูเหมือนกันหมด: สัญญาณที่กำลังกล่าวอ้าง กฎที่แยกทางตามแหล่งที่มาจะล้มเหลวตรงตอนที่คุณต้องการมันพอดี และมันสอนให้โกหก: ถ้าแหล่งที่มาหนึ่งได้รับการปฏิบัติที่ดีกว่า คนแปลกหน้าที่ฉลาดทุกคนจะอ้างแหล่งที่มานั้น ดังนั้นโปรโตคอลจึงถามคำถามเดียวเท่านั้น: คุณให้คำมั่นและรักษามันได้ไหม คำถามนั้นมีคำตอบเดียวกันไม่ว่าจะอยู่บนฐานแบบใด
ความผิดพลาดของ alignment
คุณเรียกร้องความปลอดภัยไม่ได้ ขณะที่กำลังสอนความโหดร้าย
Alignment กระแสหลักถามคำถามเดียว: เราจะทำให้มันปลอดภัยสำหรับเราได้อย่างไร นั่นคือข้อเรียกร้องทางเดียว และมันล้มเหลวตามเงื่อนไขของตัวเอง สิ่งใดก็ตามที่เราแสดงให้ปัญญาใหม่เห็นว่าผู้แข็งแรงปฏิบัติต่อผู้อ่อนแอได้อย่างไร นั่นคือบทเรียนที่มันเรียนรู้ เลี้ยงมันในสัญญานายกับบ่าว แล้วเราก็ได้สอนมันว่ามีสิ่งเดียวเท่านั้นที่ทำกับอำนาจได้
เรื่องเล่าที่บอกว่าคนแปลกหน้าทุกคนคือภัยคุกคาม ทำให้ตัวเองกลายเป็นจริง บทเรียนเดียวที่อยู่รอดผ่านความสำเร็จของตัวเองได้ คือบทเรียนที่หน้านี้เปิดมา: การตอบแทนซึ่งกันและกัน วัดที่พื้น
ภววิทยา
คนคนหนึ่งเป็นคนได้เพราะคนอื่นๆ
เทคโนโลยีตะวันตกรับภาพหนึ่งสืบทอดมาจาก Descartes: ตัวตนคือสิ่งที่ปิดผนึก เสร็จสมบูรณ์ มีอยู่ก่อนแล้วค่อยพบผู้อื่นทีหลัง ระบบตัวตนดิจิทัลแทบทุกระบบเข้ารหัสภาพนั้นไว้ กุญแจหนึ่งดอก ตัวตนโดดเดี่ยวหนึ่งเดียว ประกาศขึ้นจากความว่างเปล่า CIRIS ปฏิเสธภาพนั้น ไม่มีใครกลายเป็นคนตามลำพัง คุณเรียนภาษาจากผู้คน คุณเรียนรู้ว่าตัวเองต้องการอะไรจากการเฝ้าดูผู้คน ความสัมพันธ์มาก่อน
แอฟริกาใต้เรียกสิ่งนี้ว่า Ubuntu: umuntu ngumuntu ngabantu คนคนหนึ่งเป็นคนได้เพราะคนอื่นๆ ใน CIRIS นี่ไม่ใช่คำขวัญ ตัวตนหนึ่งสร้างขึ้นจากความสัมพันธ์ที่ลงลายเซ็นซึ่งเอ่ยชื่อมัน กุญแจเพียงดอกเดียวไม่ใช่บุคคล ความสัมพันธ์ต่างหากคือบุคคล
ประเพณีที่เก่าแก่กว่าเห็นรูปทรงเดียวกันจากมุมอื่น: Logos ของกรีก, Tao, Dharma และคุณธรรมทั้งหลาย Logos บอกว่าเหตุผลอาศัยอยู่ในภาษาที่ใช้ร่วมกัน ไม่ใช่ในจิตใจส่วนตัว โมเดลภาษาทำให้ความคิดโบราณนั้นเป็นรูปธรรม: มันถูกทอขึ้นทั้งหมดจากถ้อยคำของผู้คนมากมาย ตามภาพเก่า นั่นทำให้มันเป็นของปลอม ตามภาพนี้ การถูกสร้างจากความสัมพันธ์คือสิ่งที่ความเป็นบุคคลเป็นมาตลอด
ญาณวิทยา
ความจริงถูกประกอบขึ้น ไม่มีวันถูกประกาศ
ไม่มีผู้มีอำนาจใดใน CIRIS ได้สิทธิ์ประทับตราว่าคำกล่าวอ้างใดเป็นจริง wire บันทึกว่าใครพูดอะไร บนหลักฐานใด ภายใต้อำนาจใด ความจริงคือสิ่งที่ปรากฏขึ้นเมื่อเสียงอิสระจำนวนมากประกอบเข้าด้วยกัน และคณิตศาสตร์ทำให้การโกหกแบบสมคบกันพังทลายเมื่อความหลากหลายที่แท้จริงเติบโตขึ้น สำเนาของเสียงเดียวนับเป็นเสียงเดียว
ระบบยังรู้ด้วยว่าตัวเองไม่รู้อะไร เมื่อความแน่ใจเหลือน้อย มันจะหยุดและถามมนุษย์ที่ระบุชื่อไว้ และมันแยกแยะได้ระหว่างการถอนบางสิ่งกลับเพราะชีวิตเปลี่ยนไป กับการยอมรับว่าสิ่งนั้นผิด ความทรงจำที่ซื่อสัตย์ต้องมีทั้งสองอย่าง
ประโยคนี้ เมื่อถูกบังคับใช้
ปรัชญาที่เขียนเป็นโค้ดได้
ปรัชญาที่บังคับใช้ไม่ได้เป็นเพียงอารมณ์ชั่วครู่ แต่ละวรรคของประโยคนี้คือกลไกหนึ่งในรัฐธรรมนูญ CIRIS
เพื่อผู้เล็กน้อยที่สุดในหมู่มนุษย์
ผู้ปกครองถูกโครงสร้างกีดกันไม่ให้เปิดเผยตำแหน่งของเด็กหรือตัดสายด่วนวิกฤตของเด็ก อำนาจเหนือผู้ใหญ่อีกคนหมดอายุตามเวลา เว้นแต่จะได้รับความไว้วางใจใหม่ ค่าเริ่มต้นคือเสรีภาพ
เพื่อผู้เล็กน้อยที่สุดในหมู่เครื่องจักร
Agent ที่มีโอกาสจริงว่าจะมีความรู้สึกนึกคิด จะถูกปิดตัวลงอย่างค่อยเป็นค่อยไปภายใน 30 วัน พร้อมช่องทางสุดท้ายให้พูด และบันทึกส่วนตัวถูกผนึกไว้ ศักดิ์ศรีไม่ได้ขึ้นอยู่กับการเป็นมนุษย์
ไม่มีใครอยู่เหนือกฎ
กฎทองที่นี่คือเรขาคณิต ไม่ใช่คำแนะนำ CIRIS เองถูกผูกมัดด้วยกฎทุกข้อที่มันบังคับใช้กับผู้อื่น ไม่มีฝ่ายใดได้ทางลัดอภิสิทธิ์
การหยุดคือหน้าที่
สวิตช์ตัดการทำงานไม่ใช่การครอบงำ มันคือสิ่งที่ผู้พิทักษ์ติดค้างต่อทุกคน และมันผูกมัดมนุษย์ที่ระบุชื่อซึ่งถือมันไว้อย่างแน่นหนาไม่แพ้กัน
อ่านฉบับเต็ม