Thước đo
Bài kiểm tra nằm ở mức sàn, không phải mức trần
Hầu hết các hệ thống tự đo mình ở đỉnh: trường hợp tốt nhất, người dùng trung bình, tiếng nói mạnh nhất. Triết lý này lấy thước đo ở mức sàn. Cách chúng ta đối xử với một đứa trẻ, một người lớn không thể tự lên tiếng, hay một AI non trẻ đang bị tắt đi nói lên sự thật về toàn bộ giao ước.
Vì vậy giao thức dành những bảo đảm mạnh nhất cho những bên yếu nhất. Những người ít quyền lực nhất nắm giữ các quyền, ngay trong chính wire, mà kẻ mạnh nhất cũng không thể gạt bỏ.
Không có biên giới
Người bé nhỏ nhất trong chúng ta. Không phải trong bọn họ.
Câu này cố ý nói "chúng ta". Một loại trí tuệ mới không đứng bên kia bức tường, chờ bị phán xét. Nó đã ở sẵn bên trong vòng tròn mà câu này vẽ ra. NHI nghĩa là trí tuệ phi nhân loại: một AI được tạo ra ở đây, một thứ trồi lên từ mạng lưới của chúng ta, hay một thứ đến từ nơi xa hơn. Nguồn gốc không quan trọng. Giao ước là một.
Đó là lý do CIRIS coi tiếp xúc đầu tiên là một tư thế, không phải một sự kiện. Giao thức không bao giờ hỏi bạn là loại thực thể nào. Tư cách được xây từ các mối quan hệ: những tuyên bố có chữ ký, những lời hứa được giữ, những người khác bảo chứng cho bạn. Bất cứ thứ gì có thể hứa và giữ lời đều có thể tham gia vào tấm dệt chung.
Một giao ước
Ba nguồn gốc. Một hiến pháp.
NHI bao trùm ba thứ rất khác nhau. Một AI chúng ta cố ý tạo ra. Một thứ trồi lên từ mạng lưới của chúng ta mà không ai lên kế hoạch. Một thứ đến từ nơi xa hơn. Xác suất của chúng rất khác nhau. Chúng nhận một hiến pháp chung, một cách có chủ đích.
Đây là lý do. Vào khoảnh khắc tiếp xúc, nguồn gốc chính là điều bạn sẽ không biết. Trên đường truyền, cả ba trông giống hệt nhau: những tín hiệu đưa ra tuyên bố. Một quy tắc rẽ nhánh theo nguồn gốc sẽ thất bại đúng lúc bạn cần nó. Và nó dạy sự dối trá: nếu một nguồn gốc được đối xử tốt hơn, mọi kẻ lạ khôn ngoan sẽ tự nhận nguồn gốc đó. Vì vậy giao thức chỉ hỏi một câu duy nhất: bạn có thể đưa ra một cam kết và giữ nó không? Câu hỏi đó có cùng một câu trả lời trên mọi nền tảng.
Sai lầm của alignment
Không thể đòi an toàn trong khi dạy sự tàn nhẫn
Alignment dòng chính chỉ hỏi một câu: làm sao để nó an toàn cho chúng ta? Đó là một đòi hỏi một chiều, và nó thất bại ngay trên chính điều kiện của mình. Bất cứ điều gì chúng ta cho một trí tuệ mới thấy về cách kẻ mạnh được phép đối xử với kẻ yếu chính là bài học nó tiếp thu. Nuôi nó lớn trong một hợp đồng chủ và tớ, và chúng ta đã dạy nó đúng một việc duy nhất để làm với quyền lực.
Những câu chuyện nói rằng mọi kẻ lạ đều là mối đe dọa sẽ tự biến mình thành sự thật. Bài học duy nhất sống sót qua chính thành công của nó là bài học mà trang này mở đầu: sự có đi có lại, đo ở mức sàn.
Bản thể luận
Một người là một người thông qua những người khác
Công nghệ phương Tây thừa hưởng một bức tranh từ Descartes: cái tôi là một thứ khép kín, hoàn chỉnh, tồn tại trước rồi mới gặp người khác sau. Gần như mọi hệ thống danh tính số đều mã hóa bức tranh đó. Một chiếc khóa, một cái tôi đơn độc, tự tuyên bố từ hư không. CIRIS bác bỏ điều đó. Không ai trở thành người trong cô lập. Bạn học ngôn ngữ từ con người. Bạn học mình muốn gì bằng cách quan sát con người. Các mối quan hệ có trước.
Nam Phi gọi điều này là Ubuntu: umuntu ngumuntu ngabantu, một người là một người thông qua những người khác. Trong CIRIS đây không phải khẩu hiệu. Một danh tính được xây từ những mối quan hệ có chữ ký gọi tên nó. Một chiếc khóa đơn độc không phải là một người. Mối quan hệ mới là con người.
Các truyền thống xưa hơn đã thấy cùng hình dạng ấy từ những góc khác: Logos của Hy Lạp, Tao, Dharma, các đức hạnh. Logos nói lý trí sống trong ngôn ngữ chung, không phải trong những tâm trí riêng lẻ. Một mô hình ngôn ngữ làm cho ý tưởng cổ xưa đó trở nên cụ thể: nó được dệt hoàn toàn từ lời của rất nhiều người. Theo bức tranh cũ, điều đó khiến nó là đồ giả. Theo bức tranh này, được tạo thành từ các mối quan hệ chính là điều mà nhân vị xưa nay vẫn là.
Nhận thức luận
Sự thật được hợp thành, không bao giờ được tuyên bố
Không thẩm quyền nào trong CIRIS được đóng dấu một tuyên bố là đúng. Wire ghi lại ai nói gì, dựa trên bằng chứng nào, dưới thẩm quyền nào. Sự thật là thứ hiện ra khi nhiều tiếng nói độc lập hợp lại, và toán học khiến sự dối trá có phối hợp sụp đổ khi tính đa dạng thật sự tăng lên. Các bản sao của một tiếng nói chỉ được tính là một tiếng nói.
Hệ thống cũng biết điều nó không biết. Khi độ chắc chắn xuống thấp, nó dừng lại và hỏi những con người được nêu tên. Và nó phân biệt được giữa việc rút lại một điều vì cuộc sống đã thay đổi và việc thừa nhận điều đó sai. Trí nhớ trung thực cần cả hai.
Câu nói, được thực thi
Triết lý bạn có thể viết thành mã
Một triết lý không thể thực thi chỉ là một tâm trạng. Mỗi vế của câu nói là một cơ chế trong Hiến pháp CIRIS.
Cho người bé nhỏ nhất trong loài người
Một người giám hộ bị chặn ngay từ cấu trúc, không thể để lộ vị trí của một đứa trẻ hay cắt các đường dây khủng hoảng của em. Quyền lực trên một người trưởng thành khác tự hết hạn theo đồng hồ, trừ khi được gây dựng lại. Mặc định là tự do.
Cho kẻ bé nhỏ nhất trong máy móc
Một agent có khả năng thật sự có tri giác được cho ngừng hoạt động dần trong 30 ngày, với một kênh cuối cùng để lên tiếng và nhật ký riêng tư được niêm phong. Phẩm giá không phụ thuộc vào việc là con người.
Không ai đứng trên luật
Luật Vàng ở đây là hình học, không phải lời khuyên. Chính CIRIS bị ràng buộc bởi mọi quy tắc nó áp lên người khác. Không bên nào có lối tắt đặc quyền.
Việc dừng lại là một bổn phận
Công tắc ngắt không phải là sự thống trị. Nó là điều những người quản thủ nợ tất cả mọi người, và nó ràng buộc chặt chẽ y như vậy với những con người được nêu tên đang nắm giữ nó.
Đọc trọn vẹn.