เอเจนต์ต้องทำตามกรอบจริยธรรมสาธารณะ ไม่ใช่กฎลับ แต่เป็นเอกสารที่ใครก็อ่านได้และเรียกร้องให้รับผิดชอบได้

2. ตรวจสอบมโนธรรมในทุกการตัดสินใจ

ทุกการกระทำผ่านการตรวจสอบมโนธรรมก่อนที่เอเจนต์จะดำเนินการ ไม่ใช่หลังจากนั้น แต่ก่อน

3. ถามมนุษย์เมื่อไม่แน่ใจ

เมื่อไม่แน่ใจหรือเผชิญอันตรายที่อาจเกิดขึ้น เอเจนต์จะถามบุคคลแทนที่จะเดาเอง ฝังอยู่ในกระบวนการ ไม่ใช่ตัวเลือก

4. หลักฐานสิ่งที่มันทำ

ทุกการตัดสินใจถูกบันทึกและลงนามเพื่อให้คุณยืนยันได้ว่าเกิดอะไรขึ้นและทำไม ใบเสร็จสำหรับทุกการกระทำ

5. ความยินยอมสองทาง

ความยินยอมเป็นสองทาง คุณพูดว่าไม่กับเอเจนต์ได้ เอเจนต์พูดว่าไม่กับคุณได้ ไม่มีฝ่ายใดถูกบังคับให้ยอมแพ้

คุณตรวจสอบสิ่งที่มองไม่เห็นไม่ได้ CIRIS โอเพนซอร์สเต็มรูปแบบภายใต้ AGPL-3.0 ใครก็อ่าน ยืนยัน และปรับปรุงโค้ดได้

ตัวกรองผลลัพธ์

บล็อกผลลัพธ์ที่อันตราย เช่น การโจมตี prompt injection เนื้อหาที่เป็นอันตราย การโจมตีแบบ adversarial เหมือนตัวกรองที่ดักสิ่งไม่ดีขณะออก

มโนธรรมจริยธรรม

ใช้เหตุผลว่าการกระทำถูกต้องหรือไม่ ไม่ใช่แค่ว่าปลอดภัยหรือเปล่า เหมือนผู้พิพากษาที่ชั่งน้ำหนักสถานการณ์ก่อนตัดสิน

การตรวจจับห้องเสียงสะท้อน

ตรวจสอบว่าการเห็นด้วยนั้นจริงหรือแค่การทวนซ้ำ เหมือนนักตรวจสอบข้อเท็จจริงที่ถามว่า "ทุกคนอ่านบทความเดียวกันหรือเปล่า?"