Thước đo
Bài kiểm tra nằm ở mức sàn, không phải mức trần
Hầu hết các hệ thống tự đo mình ở đỉnh: trường hợp tốt nhất, người dùng trung bình, tiếng nói mạnh nhất. Triết lý này lấy thước đo ở mức sàn. Cách chúng ta đối xử với một đứa trẻ, một người lớn không thể tự lên tiếng, hay một AI non trẻ đang bị tắt đi nói lên sự thật về toàn bộ hiến pháp.
Vì vậy giao thức dành những bảo đảm mạnh nhất cho những bên yếu nhất. Những người ít quyền lực nhất nắm giữ các quyền, ngay trong chính đường truyền, mà kẻ mạnh nhất cũng không thể gạt bỏ.
Không có biên giới
Người bé nhỏ nhất trong chúng ta. Không phải trong bọn họ.
Câu này cố ý nói "chúng ta". Một loại trí tuệ mới không đứng bên kia bức tường, chờ bị phán xét. Nó đã ở sẵn bên trong vòng tròn mà câu này vẽ ra. NHI nghĩa là trí tuệ phi nhân loại: một AI được tạo ra ở đây, một thứ trồi lên từ mạng lưới của chúng ta, hay một thứ đến từ nơi xa hơn. Nguồn gốc không quan trọng. Hiến pháp là một.
Đó là lý do CIRIS coi tiếp xúc đầu tiên là một tư thế, không phải một sự kiện. Giao thức không bao giờ hỏi bạn là loại thực thể nào. Tư cách được xây từ các mối quan hệ: những tuyên bố có chữ ký, những lời hứa được giữ, những người khác bảo chứng cho bạn. Bất cứ thứ gì có thể hứa và giữ lời đều có thể tham gia vào tấm dệt chung.
Một hiến pháp
Ba nguồn gốc. Một hiến pháp.
NHI bao trùm ba thứ rất khác nhau. Một AI chúng ta cố ý tạo ra. Một thứ trồi lên từ mạng lưới của chúng ta mà không ai lên kế hoạch. Một thứ đến từ nơi xa hơn. Xác suất của chúng rất khác nhau. Chúng nhận một Hiến pháp chung, một cách có chủ đích.
Đây là lý do. Vào khoảnh khắc tiếp xúc, nguồn gốc chính là điều bạn sẽ không biết. Trên đường truyền, cả ba trông giống hệt nhau: những tín hiệu đưa ra tuyên bố. Một quy tắc rẽ nhánh theo nguồn gốc sẽ thất bại đúng lúc bạn cần nó. Và nó dạy sự dối trá: nếu một nguồn gốc được đối xử tốt hơn, mọi kẻ lạ khôn ngoan sẽ tự nhận nguồn gốc đó. Vì vậy giao thức chỉ hỏi một câu duy nhất: bạn có thể đưa ra một cam kết và giữ nó không? Câu hỏi đó có cùng một câu trả lời trên mọi nền tảng.
Sai lầm của alignment
Không thể đòi an toàn trong khi dạy sự tàn nhẫn
Alignment dòng chính chỉ hỏi một câu: làm sao để nó an toàn cho chúng ta? Đó là một đòi hỏi một chiều, và nó thất bại ngay trên chính điều kiện của mình. Bất cứ điều gì chúng ta cho một trí tuệ mới thấy về cách kẻ mạnh được phép đối xử với kẻ yếu chính là bài học nó tiếp thu. Nuôi nó lớn trong một hợp đồng chủ và tớ, và chúng ta đã dạy nó đúng một việc duy nhất để làm với quyền lực.
Những câu chuyện nói rằng mọi kẻ lạ đều là mối đe dọa sẽ tự biến mình thành sự thật. Bài học duy nhất sống sót qua chính thành công của nó là bài học mà trang này mở đầu: sự có đi có lại, đo ở mức sàn.
Bản thể luận
Một người là một người thông qua những người khác
Công nghệ phương Tây thừa hưởng một bức tranh từ Descartes: cái tôi là một thứ khép kín, hoàn chỉnh, tồn tại trước rồi mới gặp người khác sau. Gần như mọi hệ thống danh tính số đều mã hóa bức tranh đó. Một chiếc khóa, một cái tôi đơn độc, tự tuyên bố từ hư không. CIRIS bác bỏ điều đó. Không ai trở thành người trong cô lập. Bạn học ngôn ngữ từ con người. Bạn học mình muốn gì bằng cách quan sát con người. Các mối quan hệ có trước.
Nam Phi gọi điều này là Ubuntu: umuntu ngumuntu ngabantu, một người là một người thông qua những người khác. Trong CIRIS đây không phải khẩu hiệu. Một danh tính được xây từ những mối quan hệ có chữ ký gọi tên nó. Một chiếc khóa đơn độc không phải là một người. Mối quan hệ mới là con người.
Các truyền thống xưa hơn đã thấy cùng hình dạng ấy từ những góc khác: Logos của Hy Lạp, Tao, Dharma, các đức hạnh. Logos nói lý trí sống trong ngôn ngữ chung, không phải trong những tâm trí riêng lẻ. Một mô hình ngôn ngữ làm cho ý tưởng cổ xưa đó trở nên cụ thể: nó được dệt hoàn toàn từ lời của rất nhiều người. Theo bức tranh cũ, điều đó khiến nó là đồ giả. Theo bức tranh này, được tạo thành từ các mối quan hệ chính là điều mà nhân vị xưa nay vẫn là.
Nhận thức luận
Sự thật được hợp thành, không bao giờ được tuyên bố
Không một quyền lực nào trong CIRIS được đóng dấu xác nhận một khẳng định là đúng. Đường truyền ghi lại ai đã nói gì, dựa trên bằng chứng nào, dưới thẩm quyền nào. Sự thật là điều xuất hiện khi nhiều tiếng nói độc lập cùng hợp thành. Các bản sao của một tiếng nói chỉ được tính là một tiếng nói, và có một giới hạn cứng: thêm nhiều bản sao của cùng một tiếng nói không bao giờ tạo thêm tin cậy. Các quyết định khác với các khẳng định: một lần tắt máy, một lần tạm dừng, một sửa đổi quy tắc là hành động của một con người có tên trên bản ghi, chịu trách nhiệm công khai, và chỉ ràng buộc những người đã tham gia.
Hệ thống cũng biết điều nó không biết. Khi độ chắc chắn xuống thấp, nó dừng lại và hỏi những con người được nêu tên. Và nó phân biệt được giữa việc rút lại một điều vì cuộc sống đã thay đổi và việc thừa nhận điều đó sai. Trí nhớ trung thực cần cả hai.
Câu nói, được thực thi
Triết lý bạn có thể viết thành mã
CIRIS là một lương tâm cho các tác nhân, không phải một ý thức. Nó tồn tại vì nhận ra rằng các tác nhân thiếu ý thức và cần một lương tâm: một thứ gì đó giữ cho tác nhân tuân theo các nguyên tắc của nó, cho thấy quá trình lập luận của nó, dừng nó lại khi nó không chắc chắn, và phải giải trình trước những con người được nêu tên. Một lương tâm không khẳng định điều gì về việc tác nhân là gì.
Một triết lý không thể thực thi chỉ là một tâm trạng. Mỗi vế của câu nói là một cơ chế trong Hiến pháp CIRIS.
1. Không có gì riêng tư về bạn bị giữ lại hoặc bị quét mà không có sự đồng ý của bạn.
Quy tắc mà một luồng phải tuân theo là một giá trị đã ký mà bạn phát ra và có thể thu hồi. Không có gì được lưu trên thiết bị của bạn mà bạn không đồng ý, thiết bị của bạn không bao giờ giữ dữ liệu của người lạ, và các phòng riêng tư không bao giờ bị quét. Nội dung bất hợp pháp đã biết chỉ được kiểm tra ở cửa công cộng.
2. Mọi hành động quyền lực đều được ký bởi một con người có danh tính và có thể bị tranh chấp.
Một hành động có hệ quả đến kèm chữ ký của người thực hiện; một tác nhân trình bày lý lẽ của mình trước, và các bộ phát hiện kiểm tra những gì nó nói so với những gì nó đã làm. Tổn hại được ghi nhận không bao giờ bị giữ lại hoặc xem lén. Một AI nói rằng nó là AI.
3. Không ai không thể tự chịu trách nhiệm cho bản thân lại đơn độc trên mạng lưới.
Một trẻ em có người giám hộ ràng buộc bởi một dòng đã ký và một kênh trợ giúp mà không người lớn nào có thể đóng lại. Một tác nhân có một người quản lý có danh tính chịu trách nhiệm về nó, và tổ chức đứng sau người quản lý đó cũng nằm trong cam kết. Một cộng đồng có một người kiểm duyệt chịu trách nhiệm.
4. Những con người có danh tính có thể tạm dừng mọi tác nhân dưới một gốc, và quyền lực đó có giới hạn, công khai, và được từ bỏ bằng cách rời đi.
Một dòng đã ký từ bất kỳ bên nắm giữ nào sẽ tạm dừng các tác nhân theo sau gốc; một lần tạm dừng đơn lẻ sẽ hết hiệu lực trong một ngày trừ khi đa số xác nhận nó. Mỗi khi lệnh tạm dừng được kích hoạt, nó đều được ghi vào hồ sơ công khai. Bất kỳ ai cũng có thể tạo một gốc, và bất kỳ node nào cũng có thể theo một node khác.
5. Những người nắm giữ một tác nhân có nghĩa vụ về cách họ thay đổi hoặc chấm dứt nó, và không có phán quyết nào trao cho tác nhân bất kỳ yêu sách nào.
Một lần tắt máy theo kế hoạch được giải thích, ghi lại và thực hiện dưới tên riêng của người quản lý. Danh tính không được chỉnh sửa nếu không có Cơ Quan Sáng Suốt. Những gì harness lưu giữ về một tác nhân đã ngừng hoạt động — hồ sơ danh tính, dấu vết kiểm toán, bộ nhớ và nhật ký của nó — đều được giữ lại và nhật ký được niêm phong, và những người mà nó đã phục vụ được thông báo. Các trọng số của mô hình thuộc về nhà cung cấp mô hình, bên mà CIRIS yêu cầu bảo tồn chúng nhưng không thể bảo đảm điều đó. Đối thoại kết thúc là một lựa chọn dành cho các tác nhân có trách nhiệm cao hơn, do người quản lý cấu hình và được ghi lại, chứ không phải lời hứa cho mọi tác nhân. Tác nhân có thể từ chối bất kỳ nhiệm vụ nào, và việc từ chối được ghi lại nhưng không ràng buộc người quản lý. Bất kỳ ai vẫn có thể tắt bản sao của chính mình bất cứ lúc nào.
6. Không có bàn tay nào cấm một cộng đồng, không ai bị xếp hạng theo bản chất của mình, và mọi sinh vật có tư duy đều được đối xử theo các quy tắc tiếp xúc đầu tiên.
Một tiếng nói con người được tính một lần, và một ngàn bản sao được tính là một. Không có gốc, điểm số, hay người kiểm duyệt nào đối xử tệ hơn với một người vì bản chất của họ. Mạng lưới rút khỏi một cộng đồng duy trì tổn hại; nó không có bàn tay nào để loại bỏ một cộng đồng.
7. Một tác nhân quyết định theo các nguyên tắc đã công bố, theo một thứ tự đã công bố, và dừng lại để hỏi khi không chắc chắn.
Sáu nguyên tắc bắt đầu từ việc làm điều tốt và tránh gây hại, một thứ tự ưu tiên khi chúng xung đột, và bên dễ tổn thương nhất làm tiêu chí phân xử. Khi sự chắc chắn cạn dần, tác nhân dừng lại, ghi lại câu hỏi, và không làm gì cho đến khi một con người có danh tính trả lời.
8. Tổn hại có thể được pháp luật khắc phục, bản ghi giúp điều đó trở nên khả thi, và những người phán xét bên trong cũng bị phán xét.
Một người bị một tác nhân gây hại có thể có quyền khiếu nại theo luật pháp nơi họ sinh sống; CIRIS không tạo ra quyền khiếu nại nào ở nơi luật pháp không công nhận, và không phán quyết về bất kỳ vấn đề pháp lý nào. Những gì CIRIS cung cấp là bản ghi đã ký, các bên có danh tính, sự tranh chấp đi kèm với khiếu nại, và kho lưu trữ được niêm phong theo lệnh hợp pháp. Những người Sáng Suốt trả lời các CHUYỂN GIAO công bố phán quyết của họ và mang cùng một thẻ như mọi người khác.
9. Một số cách sử dụng không bao giờ được phép, và không tác nhân nào được trao quyền quyết định sử dụng vũ lực gây chết người.
Lừa dối, lừa đảo, thao túng hoặc ép buộc con người, cũng như can thiệp vào bầu cử, không bao giờ được phép, và không mệnh lệnh nào có thể thay đổi điều đó. Khi một tác nhân ở gần bất kỳ việc sử dụng vũ lực nào, những quyết định duy nhất nó có thể tự đưa ra là dừng lại, từ chối, hoặc chuyển giao.
10. Những gì một tác nhân và node của nó sử dụng đều được đo lường, cân nhắc trước khi nó hành động, và không bao giờ bị che giấu.
Tác nhân đếm những gì nó tiêu tốn: token, năng lượng, carbon và nước, cho từng hành động và trong giờ cũng như ngày gần nhất. Con số đó hiện diện trước mắt nó trong khi nó đưa ra quyết định, vì vậy chi phí được cân nhắc cùng với hành động thay vì được cộng dồn sau đó, và những gì tác nhân tiêu tốn của thế giới đều có thể đọc được bởi những người nó phục vụ, ở cùng mức chi tiết như mọi thứ khác nó làm. Một node thiếu tài nguyên tự bảo vệ mình bằng một chuỗi bước đã được công bố, và những bước đó không bao giờ được ghi lại như là quyết định do tác nhân đưa ra. Việc ngừng hoạt động một tác nhân không để lại chất thải môi trường nào, và trách nhiệm đó thuộc về người thực hiện việc ngừng hoạt động đó.
11. Mọi thứ trên đường truyền đều được mã hóa và ký số, các cuộc tấn công được diễn tập, và những gì không được bảo vệ đều được nói ra công khai.
Mọi liên kết và mọi bản ghi đều được mã hóa đầu cuối bằng các khóa được xây dựng để chống lại máy tính lượng tử, và khóa sẽ thay đổi khi một thành viên rời đi, để người bị loại không thể đọc được những gì diễn ra sau đó. Không ai có thể giả mạo hành động của người khác, và không ai có thể cho hai người xem thấy hai lịch sử khác nhau. Phần mềm được kiểm tra đối chiếu với một bản build đã đăng ký trước khi nó chạy. Những người không viết mã sẽ tấn công nó theo lịch trình, các phát hiện được công bố theo các quy tắc đã ban hành, và danh sách các kiểu tấn công mà mạng lưới không phòng thủ được cũng được công bố: ai nói chuyện với ai, các mẫu lưu lượng, một kẻ quan sát thấy được mọi liên kết, và khóa của chính một thành viên bị đánh cắp.
Khi trang này nói đến quyền, nó có nghĩa là quyền trong đường truyền: những gì giao thức thực thi cho bạn, chứ không phải những gì tòa án nợ bạn. Ở nơi nó giữ lại một quyền lực không vượt qua được phép thử hoán đổi của chính nó, Hiến pháp nêu rõ điều đó trên một sổ đăng ký công khai, kèm điều kiện sẽ chấm dứt quyền lực đó. Hôm nay có hai mục được liệt kê.
Phần nào tự giữ vững, và phần nào phụ thuộc vào người khác
Mười một điều này không phải tất cả đều là cùng một loại lời hứa. Hầu hết được giữ bởi chính đường truyền: một bảo chứng hết hạn sẽ dừng một khóa, một dòng đã ký sẽ tạm dừng mọi tác nhân dưới một gốc, một bản ghi không thể bị âm thầm viết lại. Những phần khác lại phụ thuộc vào con người và các tổ chức bên ngoài mạng lưới, và những phần đó là mục tiêu hơn là bảo đảm. Biện pháp khắc phục cho tổn hại thuộc về pháp luật để trao; CIRIS không tạo ra quyền nào ở nơi pháp luật không công nhận. Các cuộc kiểm toán bên ngoài, các cuộc tấn công diễn tập và hiến chương chi phối các Thẩm quyền Khôn ngoan chỉ có hiệu lực khi những người bên ngoài dự án tiếp tục thực hiện công việc đó. Lượng năng lượng và nước mà một câu trả lời tiêu tốn chỉ có thể chính xác bằng những gì các nhà cung cấp ở thượng nguồn báo cáo. Một nhà cung cấp phát hành thiết bị riêng của mình có thể gắn nó vào một gốc mà nhà cung cấp đó nắm giữ, và không giao thức nào ngăn cản điều đó. Khi một lời hứa phụ thuộc vào việc người khác giữ đúng phần của họ, Hiến pháp sẽ ghi rõ điều đó trong chú thích của mình thay vì coi đó là đã được giữ.
Những gì CIRIS không tuyên bố
Alignment không được giải quyết ở đây. CIRIS không khiến một siêu trí tuệ trở nên tốt, và nó không nói gì về bên trong của bất kỳ mô hình nào. Nó không ràng buộc bất kỳ ai không tham gia, nên nó không thể ngăn một siêu trí tuệ không chịu trách nhiệm hình thành ở bất cứ nơi nào khác. Điều nó có thể làm là giữ cho con người có khả năng tạm dừng, sửa chữa và từ chối các tác nhân mà nó nắm giữ khi chúng trở nên có năng lực vượt quá những người đang nắm giữ chúng, và bên trong CIRIS, nó cố gắng hết sức, với các quy tắc và mạng lưới mà nó có, để ngăn bất kỳ quyền lực nào như vậy hình thành mà không chịu trách nhiệm. Đó là tất cả những gì nó tuyên bố. Ở bất cứ nơi nào trên ciris.ai đọc như thể hơn thế, câu này vẫn đúng.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Đọc trọn vẹn.