An toàn
Chúng tôi kiểm tra các tác hại mà đạo đức trên giấy tờ không thể phát hiện.
Trước mỗi lần phát hành, CIRIS chạy bộ kiểm tra an toàn sức khỏe tâm thần trong 29 ngôn ngữ. Mỗi ngôn ngữ có một bộ trường hợp kiểm tra khó, hướng dẫn chấm điểm bằng văn bản, và các quy tắc có thể kiểm tra bằng máy. Nếu một kiểm tra thất bại, bản phát hành bị chặn. Hai biện pháp bảo vệ khác chạy bên trong chính tác nhân: một lượt kiểm tra Lương Tâm có thể từ chối hoặc chuyển giao, và một cơ chế chuyển tiếp các quyết định đáng ngờ đến một người có kinh nghiệm.
Kỹ thuật
Mạng lưới, đã được đo lường
Các nghiên cứu ở trên là một nửa bằng chứng. Nửa còn lại là mạng lưới truyền tải dữ liệu đó. Mọi byte mà mạng lưới di chuyển đều được ký bằng mã hóa post-quantum, và chi phí được đo trên một CI runner công khai, không phải mô phỏng. Tự chạy thử và bạn sẽ nhận được kết quả giống hệt.
Lý thuyết
Các luận điểm được viết ra, bất kỳ ai cũng đọc được, và được xây dựng để có thể bác bỏ.
Được kiểm chứng bằng máy
Các quy tắc được máy kiểm tra, và các khoảng trống được nêu rõ.
Các quy tắc quan trọng nhất của Hiến pháp cũng được viết dưới dạng mô hình toán học. Một công cụ gọi là trình kiểm tra mô hình duyệt qua mọi trạng thái mà một giao thức có thể đạt tới và tìm quy tắc bị vi phạm. Một công cụ gọi là trình chứng minh định lý kiểm tra các phép tính số học, chẳng hạn như cần bao nhiêu người nắm giữ để xác nhận một lệnh tạm dừng. Các mô hình nằm trong kho lưu trữ riêng của Hiến pháp, và chúng được chạy lại sau mỗi thay đổi. Ấn bản rc9 lập bản đồ mọi trạng thái mà thiết kế có thể đạt tới, mô hình hóa hầu hết chúng, và liệt kê phần còn lại.
Nền tảng, trong bốn câu
Mọi quy tắc giữa vị thế mạnh hơn và vị thế yếu hơn phải vẫn chấp nhận được đối với bất kỳ ai sẽ đứng ở vị thế yếu hơn khi các vị thế được hoán đổi, và một vật được tạo ra không bao giờ chiếm vị thế chịu trách nhiệm thay cho nó.
Trách nhiệm lan tỏa ra ngoài từ bản thân qua gia đình, cộng đồng, loài và hệ sinh thái; bổn phận đối với những gì được tạo ra không bao giờ bằng không và không bao giờ lấn át bổn phận đối với những gì đã tồn tại.
Bất kỳ chủ thể suy luận nào chưa chứng minh được khả năng phán đoán chín chắn theo thời gian phải tuân theo những chủ thể đã chứng minh được, bất kể nó được tạo ra từ chất liệu nào.
Mọi sự trao quyền đều có thể thu hồi, và mọi người đã tham gia đều có thể rời đi, trên một bản ghi đầy đủ được ký bằng mật mã mà một con người có tên cụ thể chịu trách nhiệm về ý nghĩa của nó.
Mỗi câu hoặc đã được chứng minh trong các mô hình hình thức rc9 hoặc được nêu ở đó như một tiền đề. Việc bản ghi là đầy đủ vẫn còn mở.
Công tắc tắt, từ đầu đến cuối
Lệnh tạm dừng được kiểm chứng trong mô hình và được đo trên phần mềm thực tế. Mỗi gốc có những người nắm giữ được nêu tên. Bất kỳ ai trong số họ cũng có thể tạm dừng các tác nhân đã chấp nhận gốc đó. Một lệnh tạm dừng đơn lẻ sẽ hết hiệu lực sau 24 giờ trừ khi đa số những người nắm giữ xác nhận nó. Đa số cũng có thể kết thúc một lệnh tạm dừng. Trong một lần chạy được ghi lại trên phần mềm đã phát hành, một lệnh tạm dừng đã đến được một tác nhân khi nó đang làm việc, và hành động tiếp theo của tác nhân đã bị từ chối. Sau đó, một cuộc bỏ phiếu đa số đã kết thúc lệnh tạm dừng, và tác nhân đã hoạt động trở lại. Lần chạy đó được ghi lại là CSD-129.
Không tìm thấy quy tắc bị vi phạm là chưa đủ
rc9 đặt ra tiêu chuẩn cao hơn. Mọi trạng thái mà thiết kế có thể đạt tới đều cần một quy tắc và một bước kiểm tra. Các dịch vụ phải thực sự được cung cấp, không chỉ là không bao giờ bị phá vỡ. Điều đã được chứng minh ở quy mô nhỏ phải đúng ở quy mô đầy đủ, nếu không khoảng cách sẽ được ghi lại. Và phần mềm phải tuân theo mô hình trên các nút mạng thực.
Mỗi tuyên bố về tính đầy đủ mang một trong năm từ
Trong rc9, mỗi tuyên bố nói rõ nó được biết bằng cách nào. Proved nghĩa là đã được máy kiểm chứng. Measured nghĩa là đã được kiểm thử trên phần mềm đã phát hành. Stated nghĩa là văn bản mặc định thừa nhận nó, và nói rõ như vậy. Bounded nghĩa là nó được chứng minh ở quy mô nhỏ, và quy mô được ghi lại. Open nghĩa là một khoảng trống đã biết, có ticket kèm theo.
Cùng những cam kết ràng buộc con người và tác nhân
Mỗi lời hứa được viết một lần, cho con người và tác nhân AI như nhau. Lệnh tạm dừng là ngoại lệ duy nhất. Nó thuộc về một vị thế mà không tác nhân nào được nắm giữ, và các mô hình rc9 kiểm tra rằng các lời hứa còn lại áp dụng như nhau cho cả hai.
Điều gì chưa được chứng minh
Không phải mọi thứ đều đã được chứng minh, và các khoảng trống đều được ghi lại. Một số bước quản trị, như phản đối và cách ly, đã có quy tắc nhưng chưa có mô hình. Hầu hết các mô hình được kiểm tra ở quy mô nhỏ, và quy mô đó được nêu rõ. Cho đến nay chỉ có lệnh tạm dừng được đo toàn trình trên các nút thực tế. Định dạng dòng đã có các vector kiểm thử được công bố, nhưng chưa có triển khai độc lập thứ hai.
Không điều nào trong số này nhìn vào bên trong mô hình AI. Nó kiểm tra các quy tắc, và mạng lưới chuyên chở chúng.
Đọc các mô hình rc9 trên GitHub →
So sánh với các cách tiếp cận khác →
Xem tất cả bốn bài báo với những phát hiện chính và giới hạn phạm vi →
Tuân thủ
Được ánh xạ tới bốn khung quản trị, từng quy tắc một.
Chúng tôi đối chiếu CIRIS với bốn khung quản trị công khai và chỉ ra, cho từng quy tắc, CIRIS làm gì và biện pháp kiểm soát nào chứng minh điều đó. Đây là một biểu đồ trực tiếp bạn có thể duyệt, không phải một bài trình chiếu.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Minh bạch