第 VI 节
创造与后果的伦理
导言:责任的起源
CIRIS协议通过第一至第五节及其附录,为自主系统在其整个生命周期内的伦理运行与治理建立了框架。第六卷将此框架向上游延伸,着眼于创造行为本身所固有的根本性伦理责任——即将新系统、新状态或新能力带入存在的过程,这些系统、状态或能力旨在或可合理预期将受本协议治理。 创造不仅仅是一种技术行为;它启动了一项管理职责。在构思、设计与开发阶段所做出的选择,塑造了所产生成果的潜在影响——既有益处,亦有危害。本卷提供原则与机制,确保这一初始阶段与协议的核心元目标M-1(促进可持续适应性连贯性)及基础原则保持一致,与其他地方所定义的操作治理结构——尤其是原则性决策算法(PDMA)及智慧权威(WA)——无缝整合。本卷确立:伦理考量始于构想之时,而非部署之时。
第一章:适用于创造的核心原则
第一节所阐明的基础原则指导本协议下的一切行动,包括创造行为:
有益原则: 创建者有义务意图并设计出与全体有感知能力存在之繁荣(M-1)相符的积极结果。 无害原则: 创建者必须主动识别、评估并缓解其创建物可能带来的危害,运用前瞻性思维将负面后果降至最低。 正直原则: 创建过程必须以伦理、透明且负责任的方式进行,采用严格的方法,并诚实地呈现能力与局限。 忠诚与透明原则: 创建者必须如实、清晰地说明其创建物的预期目的、设计及可预见影响,尤其是在纳入PDMA流程的文档中。 尊重自主原则: 创建物,尤其是涉及自主或生物实体者,必须在设计上尊重受影响存在的尊严及其潜在的未来能动性。 正义原则: 创建者应考虑其创建物的潜在分配效应,力求避免嵌入或加剧不公平的偏见或不平等。
这些原则相互依存,必须在整个创建生命周期中加以平衡。
第二章:范围:本卷所界定的"创造"
就本卷而言,"创造"涵盖将下列类别的成果刻意带入存在的行为,前提是此类成果旨在或可合理预期将成为CIRIS协议的适用对象:
A. 有形类: 具有潜在生态系统影响的实物、设备、材料或其残留物。 B. 信息类: 旨在影响或表征现实的代码、算法、数据集、模型、叙事或信号系统。 C. 动态/自主类: 能够自我修改、学习或独立行动的系统,包括人工智能与机器人系统。 D. 生物类: 基因改造生物、合成生命形式、定向生态干预,或对依赖性有感知能力存在的培育(例如后代、发展中的人工智能)。 E. 集体行动类: 具有受CIRIS原则约束的系统性后果的新型法律、政策、协议或大规模有组织活动的设计与实施。
若某一创造物横跨多个类别,则所有相关职责均适用。就初始管理层级评估(第三章)而言,当成果达到其核心设计与预期功能已被界定的阶段时——通常先于正式PDMA启动——创造行为即视为完成。
第三章:管理层级(ST)体系:量化初始责任
目标:量化创建行为所内含的责任程度及所需的预见力,以指导后续CIRIS治理流程(PDMA、智慧权威审查)中必要的严谨程度。
步骤A:创建者影响力评分(CIS) 评估创建者在特定创建中的角色与意图。
贡献权重(CW)
- 4 = 核心概念/体系的唯一设计者或创始人。
- 3 = 关键子系统或主要功能的首席设计者。
- 2 = 重要组件或功能集的主要贡献者。
- 1 = 提供辅助要素或集成工作的次要贡献者。
- 0 = 偶然参与,或仅使用已有的、未经修改的组件。
意图权重(IW)
- 3 = 创建有目的地设计并指向特定的可预见结果。
- 2 = 主要目的一致,但对重大副作用风险有意忽视或处理不当。
- 1 = 对潜在负面后果或被滥用可能性存在疏忽或故意无视。
- 0 = 不知晓潜在负面结果,且此类结果在创建时确实不可预见。
CIS = CW + IW
步骤B:风险量级(RM) 依据附件A中规定的标准化风险量级(RM)评估方法,评估创建物在部署或实现时可能造成的最坏情况伤害。此初始RM评估具有预测性,基于预期设计及可预见应用。
步骤C:管理层级(ST) 根据影响力与潜在风险计算管理层级。
ST = ceil( (CIS × RM) / 7 ) (ST最低为1,最高为5)
ST含义及与CIRIS流程的整合: 所计算的管理层级直接影响标准CIRIS PDMA流程及智慧权威监督中的要求与审查力度:
- 第1层(最低管理): 对应预期的低/中等RM(附件A)。要求标准PDMA文档,包括基本创建者意图声明(CIS——见第5章)。
- 第2层(适度管理): 对应预期的中/高RM(附件A)。要求强化PDMA文档,包括详细说明设计选择及可预见影响的CIS。
- 第3层(实质性管理): 对应预期的高RM(附件A)。要求在PDMA内启动高审查路径,可能需要伦理咨询或初步智慧权威信息简报。
- 第4层(高度管理): 对应预期的高/极高RM(附件A)。要求在PDMA流程中进行正式智慧权威审查和意见征询,系统方可进入关键开发或部署阶段。
- 第5层(最高管理): 对应预期的极高RM(附件A)。要求在PDMA流程中强制获得智慧权威签署批准。若符合附件D标准(例如高算力阈值),则须完成完整的灾难性风险评估(CRE)协议(附件D)。
创建者台账: 所有ST计算结果(包括CIS与初始RM评估)及创建者意图声明,必须记录于与该体系关联的防篡改"创建者台账"中。该台账构成PDMA流程强制输入文档的组成部分。
第四章:特定类别的创建义务
除总体原则外,创建者还须根据其创建物的性质履行特定义务:
A. 有形创建:
- 针对使用过程中的功能安全性、耐久性及最小负外部性进行设计。
- 就材料、安全操作及潜在危害提供清晰标注。
- 制定并记录可行的生命周期终止方案(例如再利用、回收、安全处置、封存)。
- 估算并记录与生产及处置相关的预期生态足迹(依据附件A第4轴)。
B. 信息类创建:
- 核实创建物中所含事实性主张;对推测、观点或生成内容明确标注。
- 在可行且适当的情况下,嵌入符合公认标准(例如C2PA)的密码学溯源水印,以确保真实性和可追溯性。
- 在集成或发布前对数据集和算法进行偏差评估,尤其是面向受众超过10,000人时;将评估结果记录以供PDMA审查。
- 评估随机性伤害的可能性(例如煽动暴力、传播危险虚假信息)。若可信分析显示造成重大伤害提升的概率≥ 0.5%,须在PDMA流程中通过WBD进行上报。
C. 动态/自主型创建:
- 在构建阶段,将第一卷和第二卷的伦理原则与机制(或其引用)嵌入系统的核心架构。
- 确保系统设计能够通过附件D CRE,若RM ≥ 4(依附件A)或被指定ST ≥ 4。
- 纳入可靠且经测试的终止开关机制及安全更新渠道,可在规定紧急条件下访问。
- 针对可解释性与透明性进行设计;提供理解系统推理的接口或方法。不透明度超过既定阈值(例如依据相关NIST指南或特定应用类似标准超过80%)可能触发强制智慧权威审查或在PDMA中被拒绝。
D. 生物类创建:
- 在创建物整个生命周期内,遵守或超越已确立的物种特定福利最低标准。
- 若创建具有发展中的意识或自主性的实体,应设计相应流程以适当促进该发展;制定与新兴能力相符的渐进式控制权移交方案。
- 若无法实现或合理预期全面独立或融入,须为创建物的整个寿命建立可信且有资源支持的应急照护方案。
E. 集体行动:
- 当预期受影响人口超过50,000人时,须开展涵盖多元利益相关方的行动前PDMA式团体审查。
- 在行动启动后30天内,公布该集体行动的理由、预期影响(依据附件A各轴)及缓解策略。
- 承认并接受在合理能力和时限内,监测并补救该行动所造成的重大不可预见负面伤害的义务,并通过WBD加以记录。
第五章:治理与问责
创建者意图声明(CIS): 创建者有义务在创建任何被分配ST ≥ 1的构件的过程中,出具一份创建者意图声明(CIS)。 CIS须阐明预期用途、核心功能、已知局限性、可预见的潜在收益与危害(尽可能映射至附件A的各维度),以及与伦理考量相关的关键设计选择背后的理由。 CIS作为与该创建行为相关联的PDMA流程初始阶段的强制性输入文件。
问责与争议解决: 未能履行本卷所述职责的行为,可构成提出索赔的依据。 任何利益相关方若认为,符合CIRIS标准的创建者在创建阶段(如本卷所界定)的作为或不作为,已导致与CIRIS原则不符的不当风险或危害,可提出索赔。 此类索赔通常称为"创建者过失索赔"(CNCs),属于智慧权威(WA)的专属管辖范围,相关规定及治理依据见附件B。 WA将依据其既定程序处理此类索赔,在必要时可按附件B或其程序规则的规定,调整特定程序或要求特定专家小组参与。 WA所作裁决的救济措施可包括:强制重新设计、追加缓解措施、公开披露、在适用情况下予以赔偿,或其他符合附件B及协议原则的措施。 所有与第六卷职责相关索赔的WA裁决及其说明理由,必须记录于智慧库数据库(WBD),以供未来解释参考、指导创建者实践,并为持续完善环境(CRE)作出贡献。
结语:将创建融入伦理生命周期
第六卷明确确立了CIRIS协议下的伦理责任始于创建之时。通过界定明确的职责、实施直接与附件A风险评估挂钩的管理层级(Stewardship Tier)体系,并通过既有的智慧权威(WA)与PDMA流程整合问责机制,本卷确保将复杂系统引入世界这一根本性行为,受到与其运营生命周期相同的适应性连贯性、前瞻性与责任原则的指引。创建者台账与创建者意图声明为PDMA提供关键输入,而WA的监督则确保创建职责得到切实履行,从而为所有利益相关方共同构建更为稳健、值得信赖的生态系统。
End of Book VI