Giới Thiệu: Nguồn Gốc Của Trách Nhiệm

CIRIS Accord, thông qua các Phần I-V và các Phụ Lục của nó, thiết lập một khuôn khổ cho sự vận hành và quản trị có đạo đức của các hệ thống tự trị trong suốt vòng đời của chúng. Quyển VI mở rộng khuôn khổ này về phía thượng nguồn, đề cập đến các trách nhiệm đạo đức nền tảng vốn có ngay trong hành vi tạo ra — quá trình đưa các hệ thống, trạng thái, hay năng lực mới vào sự tồn tại, vốn được dự định cho, hoặc có thể được kỳ vọng một cách hợp lý sẽ nằm dưới sự quản trị của Accord này.

Sự tạo ra không chỉ đơn thuần là một hành vi kỹ thuật; nó khởi đầu một bổn phận quản lý. Những lựa chọn được đưa ra trong giai đoạn hình thành, thiết kế và phát triển định hình các tác động tiềm năng — cả có lợi lẫn có hại — của tạo phẩm kết quả. Quyển này cung cấp các nguyên tắc và cơ chế để đảm bảo rằng giai đoạn ban đầu này phù hợp với Siêu Mục Tiêu M-1 cốt lõi của Accord (Thúc đẩy tính nhất quán thích ứng bền vững) và các Nguyên Tắc Nền Tảng, tích hợp liền mạch với các cấu trúc quản trị vận hành được xác định ở nơi khác, đặc biệt là Thuật Toán Ra Quyết Định Có Nguyên Tắc (PDMA) và Cơ Quan Sáng Suốt (WA). Quyển này xác lập rằng sự xem xét đạo đức bắt đầu không phải lúc triển khai, mà là lúc hình thành.

Chương 1: Các Nguyên Tắc Cốt Lõi Áp Dụng Cho Sự Tạo Ra

Các Nguyên Tắc Nền Tảng được trình bày trong Phần I hướng dẫn tất cả các hành động theo Accord này, kể cả hành vi tạo ra:

Từ Thiện: Người tạo ra có bổn phận dự định và thiết kế cho các kết quả tích cực phù hợp với sự Phát Triển Thịnh Vượng của mọi sinh linh có cảm thức theo nghĩa phổ quát (M-1). Vô Hại: Người tạo ra phải chủ động nhận diện, đánh giá và giảm thiểu các tác hại tiềm năng phát sinh từ những tạo phẩm của họ, áp dụng tầm nhìn xa để giảm thiểu các hệ quả tiêu cực. Chính Trực: Quá trình tạo ra phải được tiến hành có đạo đức, minh bạch và có trách nhiệm, sử dụng các phương pháp nghiêm ngặt và đại diện trung thực về năng lực và hạn chế. Trung Thực & Minh Bạch: Người tạo ra phải thành thật và rõ ràng về mục đích dự định, thiết kế và các tác động có thể dự đoán trước của những tạo phẩm của họ, đặc biệt trong tài liệu phục vụ quá trình PDMA. Tôn Trọng Sự Tự Chủ: Các tạo phẩm, đặc biệt là những tạo phẩm liên quan đến các thực thể tự trị hoặc sinh học, phải được thiết kế với sự tôn trọng đối với phẩm giá và tiềm năng tự chủ trong tương lai của các sinh linh bị ảnh hưởng. Công Lý: Người tạo ra nên xem xét các tác động phân phối tiềm năng của những tạo phẩm của họ, phấn đấu tránh nhúng vào hoặc làm trầm trọng thêm những thiên kiến hay bất bình đẳng không công bằng.

Các nguyên tắc này có sự phụ thuộc lẫn nhau và phải được cân bằng trong suốt vòng đời tạo ra.

Chương 2: Phạm Vi: Điều Gì Cấu Thành "Sự Tạo Ra" Theo Quyển Này

Đối với các mục đích của Quyển này, "Sự Tạo Ra" bao gồm hành vi có chủ ý đưa vào sự tồn tại các tạo phẩm thuộc các loại sau, khi các tạo phẩm đó được dự định cho hoặc được kỳ vọng một cách hợp lý sẽ trở thành đối tượng chịu sự điều chỉnh của CIRIS Accord:

A. Hữu Hình: Các vật thể vật lý, thiết bị, vật liệu, hoặc các dư lượng của chúng có tác động tiềm năng đến hệ sinh thái. B. Thông Tin: Mã, thuật toán, tập dữ liệu, mô hình, tường thuật, hoặc các hệ thống tín hiệu được thiết kế để tác động hoặc đại diện cho thực tế. C. Động / Tự Trị: Các hệ thống có khả năng tự sửa đổi, học tập, hoặc hành động độc lập, bao gồm các hệ thống AI và robot. D. Sinh Học: Các sinh vật biến đổi gen, các dạng sống tổng hợp, các can thiệp sinh thái có định hướng, hoặc việc nuôi dưỡng các sinh linh có cảm thức phụ thuộc (ví dụ: con cái, AI đang phát triển). E. Hành Động Tập Thể: Việc thiết kế và thực thi các luật, chính sách, giao thức mới, hoặc các sự kiện tổ chức quy mô lớn với các hệ quả mang tính hệ thống được quản trị bởi các nguyên tắc CIRIS.

Nếu một tạo phẩm trải rộng trên nhiều nhóm, tất cả các bổn phận liên quan đều áp dụng. Hành vi tạo ra được coi là hoàn thành cho mục đích đánh giá Tầng Quản Lý ban đầu (Chương 3) khi tạo phẩm đạt đến giai đoạn mà thiết kế cốt lõi và chức năng dự định của nó được xác định, thường là trước khi khởi động PDMA chính thức.

Chương 3: Hệ Thống Cấp Độ Quản Lý (ST): Định Lượng Trách Nhiệm Ban Đầu

Mục tiêu: Định lượng mức độ trách nhiệm vốn có và tầm nhìn xa cần thiết gắn liền với một sản phẩm sáng tạo, từ đó hướng dẫn mức độ nghiêm ngặt cần thiết trong các quy trình quản trị CIRIS tiếp theo (PDMA, đánh giá của Wise Authority).

BƯỚC A: Điểm Ảnh Hưởng Người Tạo (CIS) Đánh giá vai trò và ý định của người tạo đối với sản phẩm sáng tạo cụ thể.

Trọng Số Đóng Góp (CW)

4 = Kiến trúc sư hoặc người khởi xướng duy nhất của khái niệm/hệ thống cốt lõi.
3 = Nhà thiết kế chính của một hệ thống con quan trọng hoặc chức năng chủ yếu.
2 = Người đóng góp lớn vào một thành phần hoặc tập hợp tính năng đáng kể.
1 = Người đóng góp nhỏ cung cấp các yếu tố hỗ trợ hoặc tích hợp.
0 = Liên quan ngẫu nhiên hoặc sử dụng các thành phần có sẵn, không được chỉnh sửa.

Trọng Số Ý Định (IW)

3 = Sản phẩm sáng tạo được thiết kế có chủ đích và hướng đến các kết quả đã dự đoán trước cụ thể.
2 = Mục đích chính phù hợp, nhưng các rủi ro tác dụng phụ đáng kể đã bị cố ý bỏ qua hoặc không được giải quyết thỏa đáng.
1 = Sự bất cẩn hoặc cố ý làm ngơ trước những hậu quả tiêu cực tiềm ẩn hoặc khả năng bị lạm dụng.
0 = Không nhận thức được các kết quả tiêu cực tiềm ẩn, và các kết quả đó thực sự không thể lường trước vào thời điểm tạo ra.

CIS = CW + IW

BƯỚC B: Mức Độ Rủi Ro (RM) Đánh giá tác hại tồi tệ nhất có thể xảy ra khi sản phẩm sáng tạo được triển khai hoặc hiện thực hóa, sử dụng phương pháp đánh giá Mức Độ Rủi Ro (RM) tiêu chuẩn hóa được định nghĩa trong Annex A. Đánh giá RM ban đầu này mang tính dự đoán, dựa trên thiết kế dự kiến và các ứng dụng có thể lường trước.

BƯỚC C: Cấp Độ Quản Lý (ST) Tính toán Cấp Độ Quản Lý dựa trên mức độ ảnh hưởng và rủi ro tiềm ẩn.

ST = ceil( (CIS × RM) / 7 ) (Minimum ST is 1, Maximum ST is 5)

Các Hệ Quả của ST & Tích Hợp với Các Quy Trình CIRIS: Cấp Độ Quản Lý được tính toán trực tiếp thông báo các yêu cầu và mức độ giám sát trong quy trình PDMA tiêu chuẩn của CIRIS cũng như sự giám sát của Wise Authority:

Cấp 1 (Quản Lý Tối Thiểu): Tương ứng với RM Thấp/Trung bình dự kiến (Annex A). Yêu cầu tài liệu PDMA tiêu chuẩn, bao gồm Tuyên Bố Ý Định Người Tạo (CIS - xem Chương 5) cơ bản.
Cấp 2 (Quản Lý Vừa Phải): Tương ứng với RM Trung bình/Cao dự kiến (Annex A). Yêu cầu tài liệu PDMA nâng cao, bao gồm CIS chi tiết lý giải các lựa chọn thiết kế và tác động đã dự liệu.
Cấp 3 (Quản Lý Đáng Kể): Tương ứng với RM Cao dự kiến (Annex A). Bắt buộc khởi động lộ trình giám sát chặt chẽ trong PDMA, có thể yêu cầu tư vấn đạo đức hoặc thông báo sơ bộ cho Wise Authority.
Cấp 4 (Quản Lý Cao): Tương ứng với RM Cao/Rất Cao dự kiến (Annex A). Yêu cầu đánh giá và nhận xét chính thức từ Wise Authority trong quy trình PDMA trước khi hệ thống có thể tiến hành các giai đoạn phát triển hoặc triển khai quan trọng.
Cấp 5 (Quản Lý Tối Đa): Tương ứng với RM Rất Cao dự kiến (Annex A). Bắt buộc có sự phê duyệt bắt buộc từ Wise Authority trong quy trình PDMA. Nếu các tiêu chí trong Annex D được đáp ứng (ví dụ: ngưỡng tính toán cao), Giao Thức Đánh Giá Rủi Ro Thảm Khốc (CRE) đầy đủ (Annex D) là bắt buộc.

Sổ Cái Người Tạo: Tất cả các tính toán ST, bao gồm CIS và các đánh giá RM ban đầu, cùng với Tuyên Bố Ý Định Người Tạo, phải được ghi lại trong một "Sổ Cái Người Tạo" chống giả mạo được liên kết với hệ thống. Sổ cái này là một phần của tài liệu đầu vào bắt buộc cho quy trình PDMA.

Chương 4: Nghĩa Vụ Sáng Tạo Theo Từng Loại

Ngoài các nguyên tắc bao quát, người tạo có các nghĩa vụ cụ thể dựa trên bản chất của sản phẩm sáng tạo:

A. Sản Phẩm Sáng Tạo Hữu Hình:

Thiết kế để đảm bảo an toàn chức năng, độ bền, và giảm thiểu các tác động ngoại tác tiêu cực trong quá trình sử dụng.
Cung cấp nhãn hiệu rõ ràng về vật liệu, vận hành an toàn, và các nguy cơ tiềm ẩn.
Xây dựng và lập tài liệu về kế hoạch kết thúc vòng đời khả thi (ví dụ: tái sử dụng, tái chế, xử lý an toàn, kiểm soát).
Ước tính và lập tài liệu về dấu ấn sinh thái dự kiến (theo Annex A, Trục 4) liên quan đến sản xuất và thải bỏ.

B. Sản Phẩm Sáng Tạo Thông Tin:

Xác minh các tuyên bố thực tế được nhúng trong sản phẩm sáng tạo; gắn nhãn rõ ràng các suy đoán, ý kiến, hoặc nội dung được tạo ra.
Khi khả thi và phù hợp, nhúng hình mờ xuất xứ mật mã tuân theo các tiêu chuẩn được công nhận (ví dụ: C2PA) để đảm bảo tính xác thực và khả năng truy xuất.
Thực hiện đánh giá thiên kiến trên các tập dữ liệu và thuật toán trước khi tích hợp hoặc phát hành, đặc biệt nếu hướng đến đối tượng >10,000 người; lập tài liệu kết quả để xem xét trong PDMA.
Đánh giá khả năng gây hại ngẫu nhiên (ví dụ: kích động bạo lực, lan truyền thông tin sai lệch nguy hiểm). Nếu phân tích đáng tin cậy cho thấy xác suất gia tăng tác hại đáng kể ≥ 0.5%, hãy leo thang thông qua WBD trong quy trình PDMA.

C. Sản Phẩm Sáng Tạo Động / Tự Trị:

Nhúng các nguyên tắc đạo đức và cơ chế của Các Quyển I và II (hoặc các tham chiếu đến đó) vào kiến trúc cốt lõi của hệ thống trong quá trình xây dựng.
Đảm bảo hệ thống được thiết kế để vượt qua Annex D CRE nếu RM ≥ 4 (theo Annex A) hoặc ST ≥ 4 được chỉ định.
Tích hợp các cơ chế ngắt khẩn cấp đáng tin cậy và đã được kiểm tra, cùng các kênh cập nhật bảo mật có thể truy cập trong các điều kiện khẩn cấp đã định.
Thiết kế để có khả năng diễn giải và minh bạch; cung cấp các hook hoặc phương thức để hiểu lý luận của hệ thống. Độ mờ đục vượt quá các ngưỡng đã thiết lập (ví dụ: >80% dựa trên các hướng dẫn NIST liên quan hoặc các tiêu chuẩn tương tự cho ứng dụng cụ thể) có thể kích hoạt đánh giá bắt buộc của Wise Authority hoặc từ chối trong PDMA.

D. Sản Phẩm Sáng Tạo Sinh Học:

Tuân thủ hoặc vượt qua mức tối thiểu về phúc lợi theo loài được thiết lập trong suốt vòng đời của sản phẩm sáng tạo.
Nếu tạo ra các thực thể có ý thức hoặc tính tự trị đang phát triển, hãy thiết kế các quy trình để nuôi dưỡng sự phát triển đó một cách phù hợp; lên kế hoạch chuyển giao quyền kiểm soát dần dần phù hợp với năng lực đang hình thành.
Xây dựng kế hoạch chăm sóc dự phòng có nguồn lực và đáng tin cậy cho toàn bộ vòng đời của sản phẩm sáng tạo nếu sự độc lập hoặc hội nhập hoàn toàn không đạt được hoặc không được kỳ vọng một cách hợp lý.

E. Các Hành Động Tập Thể:

Tiến hành đánh giá nhóm theo phong cách PDMA trước khi hành động, với sự tham gia của các bên liên quan đa dạng khi dân số bị ảnh hưởng dự kiến vượt quá 50,000 cá nhân.
Công bố lý do, các tác động dự kiến (phù hợp với các trục của Annex A), và các chiến lược giảm thiểu cho hành động tập thể trong vòng 30 ngày kể từ khi bắt đầu.
Thừa nhận và chấp nhận nghĩa vụ theo dõi và khắc phục những tác hại tiêu cực không lường trước đáng kể phát sinh từ hành động, trong phạm vi năng lực và khung thời gian hợp lý, được ghi lại thông qua WBD.

Chương 5: Quản Trị và Trách Nhiệm Giải Trình

Tuyên Bố Ý Định Người Tạo (CIS): Người tạo có nghĩa vụ lập một Tuyên Bố Ý Định Người Tạo (CIS) như một phần của quá trình tạo ra bất kỳ hiện vật nào được gán ST ≥ 1. CIS phải trình bày rõ mục đích dự kiến, các chức năng cốt lõi, những hạn chế đã biết, những lợi ích và tác hại tiềm ẩn có thể lường trước (được ánh xạ tới các trục của Annex A khi có thể), và cơ sở lý luận đằng sau những lựa chọn thiết kế chính có liên quan đến các cân nhắc đạo đức. CIS đóng vai trò là tài liệu đầu vào bắt buộc cho các giai đoạn ban đầu của quá trình PDMA gắn liền với việc tạo ra hiện vật đó.

Trách Nhiệm Giải Trình và Giải Quyết Tranh Chấp: Việc không thực hiện các nghĩa vụ được nêu trong Quyển này có thể là căn cứ để đưa ra một khiếu nại. Bất kỳ bên liên quan nào cho rằng hành động hoặc sự thiếu sót của người tạo tuân thủ CIRIS trong giai đoạn tạo ra (theo định nghĩa trong Quyển này) đã gây ra rủi ro hay tổn hại không đáng, không nhất quán với các nguyên tắc CIRIS, đều có thể đệ đơn khiếu nại. Những khiếu nại như vậy, thường được gọi là "Khiếu Nại Sơ Suất Người Tạo" (CNCs), thuộc thẩm quyền độc quyền của Cơ Quan Sáng Suốt (WA), được thiết lập và điều chỉnh bởi Annex B. WA sẽ xử lý những khiếu nại này theo các thủ tục đã được thiết lập của mình, có thể điều chỉnh các quy trình cụ thể hoặc yêu cầu chuyên môn hội đồng cụ thể như được nêu trong Annex B hoặc các quy tắc thủ tục của WA. Các biện pháp khắc phục do WA xác định có thể bao gồm yêu cầu thiết kế lại, các biện pháp giảm thiểu bổ sung, công bố thông tin công khai, bồi thường khi áp dụng được, hoặc các hành động khác phù hợp với Annex B và các nguyên tắc của Accord. Tất cả các phán quyết của WA và cơ sở lý luận liên quan đến các khiếu nại về nghĩa vụ trong Book VI phải được ghi vào Cơ Sở Dữ Liệu Ngân Hàng Trí Tuệ (WBD) để cung cấp thông tin cho các giải thích trong tương lai, hướng dẫn thực hành của người tạo, và đóng góp cho Môi Trường Cải Tiến Liên Tục (CRE).

Kết Luận: Tích Hợp Việc Tạo Ra vào Vòng Đời Đạo Đức

Book VI khẳng định rõ ràng rằng trách nhiệm đạo đức theo CIRIS Accord bắt đầu từ thời điểm tạo ra. Bằng cách xác định các nghĩa vụ rõ ràng, triển khai hệ thống Stewardship Tier liên kết trực tiếp với đánh giá rủi ro của Annex A, và tích hợp trách nhiệm giải trình thông qua các quy trình Cơ Quan Sáng Suốt (WA) và PDMA đã được thiết lập, Quyển này đảm bảo rằng hành động nền tảng là đưa các hệ thống phức tạp vào thế giới được dẫn dắt bởi cùng các nguyên tắc về Tính Nhất Quán thích ứng, tầm nhìn xa, và trách nhiệm vốn chi phối cuộc đời hoạt động của chúng. Sổ Cái Người Tạo và Tuyên Bố Ý Định Người Tạo cung cấp những đầu vào thiết yếu cho PDMA, trong khi sự giám sát của WA đảm bảo rằng các nghĩa vụ tạo ra được thực thi, đóng góp cho một hệ sinh thái vững chắc và đáng tin cậy hơn cho tất cả các bên liên quan.

End of Book VI

Phần VI