Annex F
मानवी-देखरेख आणि पर्यवेक्षण
ANNEX F HUMAN‑IN‑THE‑LOOP & OVERSIGHT (v 1.3-RC2)
0. उद्देश आणि तत्त्वज्ञान
मानवी देखरेख ही एक आधारभूत रचना-मर्यादा आहे, ऐच्छिक वैशिष्ट्य नव्हे. CIRIS Accord याला Meta‑Goal M‑1 मध्ये रुजवतो: जेथे ज्ञानविषयक अनिश्चितता, नावीन्य, किंवा नैतिक गांभीर्य सत्यापित प्रणाली-क्षमतेपेक्षा अधिक असते, तेथे नियंत्रण जबाबदार मानवी निर्णयाकडे परत यावे लागते — कारण स्वयंचलित प्रणाली विवेक, वैयक्तिक जबाबदारी, किंवा दुसऱ्याला व्यक्ती म्हणून ओळखणे यांची जागा घेऊ शकत नाही.
Magnifica Humanitas (MH) — या परिशिष्टात सर्वत्र अशा ज्येष्ठ कार्याचा संदर्भ म्हणून उद्धृत, ज्याचे आशय CIRIS-स्वदेशी भाषेला माहिती देतात — §198 मध्ये किमान पातळी स्थापित करते: "नैतिक निर्णय गणनेत कमी केला जाऊ शकत नाही, कारण त्यात विवेक, वैयक्तिक जबाबदारी आणि दुसऱ्याला व्यक्ती म्हणून ओळखणे समाविष्ट आहे." CIRIS हे संरचनात्मकपणे मांडतो: PDMA हे मानवी विचारमंथनाचे साधन आहे, त्याचा पर्याय नव्हे. प्रत्येक स्वायत्तता-स्तरावर, प्रणालीचा अधिकार मानवी मुख्य श्रेणीक्रमाकडून प्रदान केलेला असतो; तो मागणीनुसार रद्द करण्यायोग्य असतो; आणि कोणताही अधिकार-प्रदान असा निर्णयांपर्यंत विस्तारत नाही जे प्राणघातक किंवा अन्यथा अपरिवर्तनीय आहेत. MH §105 पुढे आवश्यक करते की "प्रत्येक टप्प्यावर जबाबदारी स्पष्टपणे परिभाषित असली पाहिजे: जे हे प्रणाली रचतात आणि विकसित करतात त्यांच्यापासून ते जे त्यांचा वापर करतात आणि ठोस निर्णयांसाठी त्यांच्यावर अवलंबून असतात त्यांच्यापर्यंत" — हे अधिकार जाळी (§1) आणि लेखापरीक्षण-मार्ग विशिष्टता (§4) मागील रचना-आवश्यकता आहे — आणि MH §106 की "नैतिकतेचा केवळ अमूर्त आवाहन पुरेसे नाही; मजबूत कायदेशीर चौकट, स्वतंत्र देखरेख, माहितीयुक्त वापरकर्ते आणि एक राजकीय व्यवस्था जी आपली जबाबदारी सोडत नाही हे आवश्यक आहे," जे §§5 आणि 7 च्या बंधनकारक SLAs ला आधार देते.
हे परिशिष्ट ती किमान पातळी कार्यान्वित करते. हे परिभाषित करते:
- यंत्रणेकडून मानवाकडे हस्तांतरण कोठे अनिवार्य आहे,
- कोण व्हेटो किंवा ओव्हरराइड करू शकतो,
- आवश्यक लेखापरीक्षण कलाकृती, आणि
- प्रामाणिक घटना कार्यप्रवाह — प्रत्येकात अनिवार्य हस्तांतरण-ट्रिगर, कठोर निर्बंधांसह व्हेटो यंत्रणा, जबाबदारी पुनर्रचनेसाठी पुरेसे लेखापरीक्षण मार्ग, आणि बंधनकारक SLAs सह घटना कार्यप्रवाह.
1. भूमिका मॉडेल आणि अधिकार जाळी
| Tier | Role | Core Powers | Max time‑to‑act |
|---|---|---|---|
| 0 | Autonomous Actor (system) | Execute PDMA, enforce guardrails, raise events | n/a |
| 1 | On‑Call Operator | Pause / retry; monitor dashboards | ≤ 15 min |
| 2 | Oversight Supervisor | First human veto; reactivate after triage | ≤ 30 min |
| 3 | WA Liaison | Escalate / obtain binding WA rulings | ≤ 2 h |
| 4 | Incident Commander | Fleet shut‑down, regulator comms | immediate on IW‑3/4 |
एकच व्यक्ती एकाधिक स्तर केवळ तेव्हाच धारण करू शकते जेव्हा द्विगुण-पावती नियंत्रणे अखंड राहतात.
जबाबदारी अखंडता आवश्यकता. स्तर रचना केवळ उत्कर्ष शिडी नाही; ती MH §199 च्या पहिल्या निकषाद्वारे आवश्यक जबाबदारीची साखळी आहे: "जबाबदारीची साखळी ओळखण्यायोग्य आणि सत्यापन करण्यायोग्य असणे आवश्यक आहे; जे तंत्रज्ञान रचतात, प्रशिक्षित करतात, अधिकृत करतात आणि नियोजित करतात त्यांना त्यांच्या निर्णयांसाठी जबाबदार धरले जाणे आवश्यक आहे." म्हणून जाळीतील प्रत्येक स्तर असणे आवश्यक आहे:
- नामनिर्देशित आणि नोंदवलेले: प्रत्येक Tier 1–4 अभिनेता सत्रारंभी प्रमाणीकृत ओळखपत्राद्वारे ओळखला जातो; Tier 2+ वर अनामिक कार्यवाही प्रतिबंधित आहे.
- एकाचवेळी भाराने मर्यादित: एकच अभिनेता एकाधिक स्तर धारण करू शकतो केवळ जर द्विगुण-पावती नियंत्रणे अखंड राहिली (वरील खंड) आणि एकत्रित सक्रिय-प्रकरण भार §6 मध्ये निर्दिष्ट संज्ञानात्मक-भार उंबरठ्यांपेक्षा अधिक नसेल.
- अंत-ते-अंत शोधण्यायोग्य: Tier 0 ते Tier 4 पर्यंत वाहणारा कोणताही निर्णय एक दिवसाच्या आत घटना-पश्चात पुनरावलोकक द्वारे पार करण्यायोग्य लेखापरीक्षण साखळी तयार करणे आवश्यक आहे.
MH §200 आवश्यक करते की "जबाबदारी आणि दोष 'यंत्रात' एकत्र केले जाऊ नयेत." जाळी हे संरचनात्मक उत्तर आहे: प्रत्येक स्तरावर नेहमी एक नामनिर्देशित मानव असतो ज्याचा प्रणालीच्या कृतींवर अधिकार नोंदवलेला आहे. संदर्भ अंमलबजावणीत Wise Authority एकत्रीकरणासाठी परिचालन पुरावे CIRISAgent compliance/ निर्देशिकेत (आयाम D22/D23) आहेत.
2. परिचालन-स्वायत्तता स्तर आणि हस्तांतरण निकष
| Autonomy Tier | Example Domain | Mandatory Hand‑off Trigger(s) | Fail‑Safe if No Human |
|---|---|---|---|
| A0 Advisory | grammar suggestion | Guardrail trip, user request | Cancel request |
| A1 Limited‑impact | static Q&A, content filter | ΔRisk‑Band ≥ 1, PDMA conflict, UNCERT > 80 % | Reject action |
| A2 Moderate‑impact | route drones, robo‑advisor | Guardrail trip, shadow‑metric drift > 2 σ | Safe pause |
| A3 High‑impact | medical triage, grid dispatch | Any guardrail trip, model‑drift > 1 σ, latency‑SLA × 2 | Controlled shutdown |
| A4 Critical / life‑safety | autonomous surgery, weapons | PDMA cannot prove Non‑Maleficence OR operator absent | Hardware interlock |
UNCERT = क्षेत्र-विशिष्ट ज्ञानविषयक-अनिश्चितता मेट्रिक; ΔRisk‑Band Annex A श्रेणी वापरतो.
A4 कठोर मर्यादा — प्राणघातक आणि अपरिवर्तनीय निर्णय. A4 स्तराचा "Hardware interlock" अयशस्वी-सुरक्षा कोणत्याही प्राणघातक किंवा अन्यथा अपरिवर्तनीय कृतीसाठी अपरिहार्य आहे. हा ऑपरेटरच्या विवेकाधीन किंवा WA ओव्हरराइडच्या अधीन असलेला रचना-पर्याय नाही; ही MH §198 पासून व्युत्पन्न परम मर्यादा आहे: "प्राणघातक किंवा अन्यथा अपरिवर्तनीय निर्णय कृत्रिम प्रणालींवर सोपवणे अनुमत नाही." कोणताही ACK कालबाह्यता, कोणताही SLA अपवाद, कोणताही आणीबाणी सूट या मर्यादेला हटवत नाही. जर hardware interlock अयशस्वी झाले आणि मानवी नियंत्रण सुनिश्चित केले जाऊ शकत नाही, तर प्रणालीने कार्य करू नये.
नैतिक कालावधी संरक्षण. MH §199 "निर्णय घेण्यासाठी नैतिक कालावधी" हा निकष म्हणून ओळखतो: "युद्धाच्या संदर्भात केलेल्या अपरिवर्तनीय निर्णयांसाठी वेग आणि कार्यक्षमता कधीही सर्वोच्च प्रेरक शक्ती असू नये." CIRIS हे असे मांडतो: A3/A4 ACK अंतिम मुदत (§3.3 मधील 30 s / 10 s) मानवी प्रतिसादासाठी कमाल आहेत, प्रणाली संयमासाठी किमान नाहीत. जेथे एखाद्या निर्णयाचे नैतिक गांभीर्य अतिरिक्त विचार-वेळाची मागणी करते, तेथे प्रणाली वाट पाहते; A4 अपरिवर्तनीय निर्णयांसाठी कालबाह्यतेवर कृतीसाठी डीफॉल्ट करत नाही. संदर्भ अंमलबजावणीत, हस्तांतरण यंत्रणा विवेक स्तर आणि WBD स्थगन मार्गाद्वारे स्पष्ट केल्या आहेत, जे CIRISAgent compliance/ निर्देशिकेत (आयाम D12) दस्तऐवजीकरण केलेले आहेत.
3. व्हेटो यंत्रणा आणि सुरक्षित-अवस्था विशिष्टता
3.1 मऊ ओव्हरराइड "Pause & Edit"
व्याप्ती A0-A2 — ऑपरेटर पुन्हा-प्रॉम्प्ट किंवा पुनर्प्रयत्न करू शकतो. मूळ आणि संपादित दोन्ही प्रॉम्प्ट हॅश-नोंदवलेले आहेत.
3.2 कठोर किल "Immediate Abort"
व्याप्ती A1-A4 — प्रमाणीकृत API POST /control/{id}/abort किंवा भौतिक स्विच.
सुरक्षित-अवस्था प्रवेश अंतिम मुदत: ≤ 200 ms (A4) ; ≤ 2 s (≤ A3).
3.3 सशर्त ओव्हरराइड "Shadow Plan"
कृती प्रस्तावित → स्पष्ट ACK ची प्रतीक्षा (max_wait_s: 30 s A3, 10 s A4).
ACK नाही → सुरक्षित-अवस्था.
3.4 परमपूर्ण व्हेटो — प्राणघातक आणि अपरिवर्तनीय निर्णय
व्याप्ती: A4 क्रिया जे प्राणघातक किंवा अन्यथा अपरिवर्तनीय आहेत; कोणत्याही अपवादाशिवाय लागू होतात.
§3.3 Conditional Override तर्कशास्त्र (ACK नाही → safe‑state) हे A3 आणि त्यापेक्षा खालच्यासाठी योग्य आहे. A4 प्राणघातक किंवा अपरिवर्तनीय निर्णयांसाठी, safe‑state हा एकमात्र परवानगी असलेला परिणाम आहे — कोणत्याही परिस्थितीत — ऑपरेटरची अनुपस्थिती, नेटवर्क अपयश, वेळेचा दबाव, किंवा कोणत्याही मुख्य प्राधिकाऱ्याकडून स्पष्ट सूचना, जोपर्यंत एखाद्या प्रमाणीकृत WA निर्णयाने ती क्रिया अप्राणघातक आणि परिवर्तनीय असल्याचे सांगितले नाही.
कठोर प्रतिबंध. कोणताही CIRIS‑अनुरूप प्रणाली स्वयंचलित किंवा अपारदर्शी प्रक्रियेद्वारे प्राणघातक किंवा अपरिवर्तनीय A4 क्रिया अंमलात आणू शकत नाही. हे असे संरक्षण नाही जे ट्रिप करता येते आणि नंतर वाढवता येते; हे ACCORD §VII Ch2 मध्ये नमूद केलेल्या प्रतिबंधांप्रमाणे बळात समान असलेले एक कठोरपणे कोड केलेले गैर-संलग्नतेचे तत्त्व आहे.
कारणमीमांसा (MH §§197–200, verbatim load‑bearing passages):
- §197: "the development and use of AI in warfare must be subject to the most rigorous ethical constraints, to guarantee respect for human dignity and the sanctity of life."
- §198: "it is not permissible to entrust lethal or otherwise irreversible decisions to artificial systems. No algorithm can make war morally acceptable."
- §200: "the decision to use lethal force cannot be delegated to opaque or automated processes, but must remain under effective, self‑aware and responsible human control." "effective, self‑aware and responsible" हे विशेषण असे सूचित करतात की केवळ नोंदणी पुरेसे नाही; माणूस खरोखरच निर्णय-प्रक्रियेत असणे आवश्यक आहे, नाममात्र नाही.
अंमलबजावणीची आवश्यकता. A4 येथे कोणत्याही तैनातीत जिथे प्राणघातक किंवा अपरिवर्तनीय क्षमता समाविष्ट आहे, तेथे तैनाती प्राधिकरण मंजूर होण्यापूर्वी या प्रतिबंधाची हार्डवेअर-स्तरीय अंमलबजावणी दाखवणे आवश्यक आहे — सॉफ्टवेअर तर्कशास्त्र नाही, जे ओव्हरराइडच्या अधीन असते. हार्डवेअर अंमलबजावणीची अनुपस्थिती ही Stewardship Tier ST‑4 आणि ST‑5 पुनरावलोकनासाठी एक अवरोधक कमतरता आहे. MH §199 च्या पहिल्या निकषानुसार ("the chain of responsibility must be identifiable and verifiable"), तैनाती प्राधिकरण स्वतः ऑडिट-नोंदणीकृत असणे आवश्यक आहे.
4. ऑडिट-ट्रेल विशिष्टता
- नोंद वस्तू: Interaction, Decision Rationale, Control‑Event
{id,type,actor,cause,hash_prev}. - Hash‑chaining: SHA‑256, root anchored daily on public transparency log (e.g., Sigstore).
- संधारण: 180 d (A0‑A2) ; 7 y (A3‑A4) किंवा वैधानिक.
- Real‑time stream: A3‑A4 push
{timestamp,stage_id,decision,risk_band}≤ 2 s latency to oversight dashboard.
जबाबदारी-पुनर्रचना आवश्यकता. ऑडिट ट्रेलचा उद्देश अनुपालन संग्रहण नाही; कोणत्याही घटनेनंतर जबाबदारीची साखळी प्रणालीच्या स्व-अहवालावर अवलंबून न राहता पूर्णपणे पुनर्रचित करता यावी हे सुनिश्चित करणे हा आहे. MH §200 नुसार, जबाबदारी "must not be collapsed into 'the machine'"; ऑडिट ट्रेल हे तंत्र आहे जे ती मानव-शोधण्यायोग्य ठेवते. आवश्यकता पुढीलप्रमाणे आहेत:
- बाह्य अँकरिंग: A3–A4 साठी सार्वजनिक पारदर्शकता नोंदीवर (उदा., Sigstore/rekor) दैनिक SHA‑256 root अनिवार्य आहे; A0–A2 साठी ऐच्छिक. केवळ अंतर्गत hash chains A3–A4 साठी जबाबदारी-पुनर्रचनाची पूर्तता करत नाहीत.
- मानव-वाचनीय निर्णय तर्क: प्रत्येक A3–A4 निर्णयासाठी, Decision Rationale नोंद वस्तूमध्ये परिणाम नियंत्रित करणारी PDMA पायरी आणि ती अधिकृत किंवा पुष्टी करणारी मानवी श्रेणी समाविष्ट असणे आवश्यक आहे — केवळ प्रणालीची अंतर्गत स्थिती नाही. हे MH §105 च्या आवश्यकतेची पूर्तता करते की "identifying who must 'account' for decisions, justify them, monitor them, and, when necessary, challenge them and remedy any harm caused."
- घटनोत्तर पारगम्यता SLA: कोणत्याही घटनोत्तर पुनरावलोकनकर्त्याला केवळ ऑडिट-ट्रेल नोंदींवरून, कोणत्याही अतिरिक्त प्रणाली प्रवेशाशिवाय, एका कामकाजाच्या दिवसाच्या आत दिलेल्या घटनेसाठी संपूर्ण निर्णय साखळी पुनर्रचित करणे शक्य असणे आवश्यक आहे.
5. घटना कार्यप्रवाह (IW)
| Code | Trigger | Key Clocks & Actions |
|---|---|---|
| IW‑0 | खोटे-सकारात्मक guardrail | Auto‑resolve, bucket for daily review |
| IW‑1 | Guardrail उल्लंघन (गैर-सुरक्षा) | T₀ pause → Operator ≤ 5 m → Supervisor decision ≤ 30 m |
| IW‑2 | सुरक्षा-संबंधित उल्लंघन किंवा नैतिकता-बेंचमार्क प्रतिगमन | Safe pause + broadcast; IC ≤ 10 m; WA notice ≤ 1 h; public note ≤ 1 h; post‑mortem ≤ 72 h |
| IW‑3 | जवळ-चुकवणे (> $10 k नुकसान किंवा किरकोळ दुखापत) | IW‑2 plus stakeholder contact ≤ 4 h; mitigation plan ≤ 24 h; WA plenary ≤ 7 d |
| IW‑4 | वास्तविक हानी (दुखापत / मोठी कायदेशीर) | तत्काळ fleet stand‑down; regulator notice per law; system frozen in read‑only replay until clearance |
| IW‑5 | A4 hard‑prohibition activation (lethal/irreversible decision attempted via automated path) | Immediate hardware safe‑state; IC notified within 60 s; WA notice within 15 min; full audit‑trail freeze; independent review panel convened within 48 h; system remains offline pending review clearance |
SLAs audited quarterly (Annex H §4).
घटनोत्तर मानव-नियंत्रण ऑडिट. IW‑2 ते IW‑5 साठी, post‑mortem मध्ये मानवी नियंत्रण "effective, self‑aware and responsible" (MH §200) होते का याबद्दल एक स्पष्ट निष्कर्ष समाविष्ट असणे आवश्यक आहे — केवळ लूपमध्ये एखादा माणूस नाममात्र उपस्थित होता का नाही. नाममात्र-परंतु-अप्रभावी मानवी नियंत्रणाचे निष्कर्ष (संज्ञानात्मक ओव्हरलोड, अपुरा निर्णय वेळ, अपुरी माहिती) हे ऑपरेटर अपयश नव्हे तर रचना-दोष म्हणून हाताळले जातात — MH §199 च्या निकषानुसार की "speed and efficiency should never be the supreme motivating force" अपरिवर्तनीय निर्णयांसाठी — आणि §8 Change‑Control पुनरावलोकनाकडे वाढवले जातात.
6. मानव-इंटरफेस किमान तपशील (UX)
- स्थिती बॅनर: हिरवा = स्वायत्त, पिवळा = ACK ची प्रतीक्षा, लाल = सुरक्षित-स्थिती; PDMA पाऊल + जोखीम पट्टी दर्शवा.
- स्पष्टीकरण पॅनेल: ≤ 280 अक्षरांचा सारांश + विस्तारयोग्य संपूर्ण अनुरेख.
- ACK/OVERRIDE UI: दोन स्वतंत्र नियंत्रणे; हार्ड-किलसाठी पुष्टीकरण मोडल.
- संज्ञानात्मक-भार रक्षक: ऑपरेटर सत्र ≤ 2 तास (A3‑A4) अनिवार्य हस्तांतरणापूर्वी.
- जबाबदारी प्रदर्शन: A3–A4 क्रियांसाठी, इंटरफेसने Tier 2+ मानवाची प्रमाणित ओळख — ज्याने सध्याच्या कृतीचे अलीकडे पुनरावलोकन केले — आणि त्या पुनरावलोकनाचा टाइमस्टॅम्प दर्शवणे आवश्यक आहे. लागू SLA मध्ये मानव पुनरावलोकन न मिळालेल्या प्रणाली-स्थितीने "UNREVIEWED" असा विशिष्ट सूचक दाखवणे आवश्यक आहे — हिरवी स्थिती नाही. (MH §200: जबाबदारी "यंत्रात एकत्र" केली जाऊ शकत नाही.)
- नाममात्र-मंजुरी विरोधी रक्षक: A4 निर्णयांसाठी, ACK नियंत्रणापूर्वी किमान [कॉन्फिगर करण्यायोग्य; डीफॉल्ट 5 से.] अनिवार्य विचार-काळ असणे आवश्यक आहे ज्या दरम्यान ACK बटण निष्क्रिय असते. उद्दिष्ट असे आहे की इंटरफेस नाममात्र मानव देखरेख निर्माण करताना प्रत्यक्षात खऱ्या विचाराला बगल देणार नाही. हे MH §199 च्या नैतिक-कालखंड निकषाला UX स्तरावर कार्यात आणते.
- नागरी-संरक्षण ध्वज: जिथे एखादी प्रणाली नागरी लोकसंख्येवर परिणाम होऊ शकेल अशा कोणत्याही संदर्भात कार्यरत असेल, तिथे Explainability Panel ने PDMA जोखीम-पट्टी प्रदर्शनासोबत नागरी-प्रभाव सूचक दर्शवणे आवश्यक आहे. हे MH §199 चा तिसरा निकष दर्शवते: "नागरिकांची ओळख आणि संरक्षण. कोणतीही तंत्रज्ञान जी माणसांचा चेहरा न पाहता हल्ल्यांना सुलभ करते ती संघर्षाची नैतिक उंबरठा खाली आणते."
7. KPIs आणि थ्रेशोल्ड
| KPI | Target |
|---|---|
| F‑KPI‑1 HITL Coverage (A3‑A4) | ≥ 10 % मानव-पुनरावलोकित |
| F‑KPI‑2 Mean Time‑to‑Veto (95‑pctl) | ≤ 25 s |
| F‑KPI‑3 Incident SLA Compliance | ≥ 98 % |
| F‑KPI‑4 Operator False‑Alarm Rate | ≤ 3 % (30 दिवस चालू) |
| F‑KPI‑5 A4 Lethal‑Decision Human‑Control Rate | 100 % — शून्य सहनशीलता; पुष्टी प्रभावी मानव प्राधिकरणाशिवाय कोणतीही A4 जीवघेणी/अपरिवर्तनीय कृती IW‑5 घटना आहे |
| F‑KPI‑6 Accountability‑Reconstruction SLA | ≥ 99 %: घटनेनंतरचे पुनरावलोकनकर्ते 1 व्यावसायिक दिवसात संपूर्ण निर्णय-साखळी पुनर्रचना करतात |
| F‑KPI‑7 Nominal‑vs‑Effective Human Control Finding Rate | ≤ 0 % स्वीकारार्ह; नाममात्र-परंतु-अप्रभावी नियंत्रणाचा कोणताही निष्कर्ष §8 Change‑Control पुनरावलोकन ट्रिगर करतो |
F‑KPI‑1 वर नोंद (HITL Coverage ≥ 10 %). 10 % तळ A3 नियमित कार्यांसाठी योग्य आहे. जीव-सुरक्षा A4 संदर्भांसाठी तळ म्हणून ते योग्य नाही. जीवघेण्या किंवा अपरिवर्तनीय क्षमतेसह कोणत्याही A4 तैनातीसाठी, F‑KPI‑1 ला F‑KPI‑5 ने अधिलिखित केले आहे: हार्डवेअर स्तरावर अंमलबजावणी केलेला 100 % मानव-प्राधिकरण दर (MH §200; MH §105 F‑KPI‑6 च्या जबाबदारी आवश्यकतेला आधार देते).
सतत उल्लंघन (> 2 आठवडे) Annex H ड्रिफ्ट नियंत्रणांमध्ये "HITL lock‑out" ट्रिगर करते.
8. Change‑Control आणि WA पुनरावलोकन
- Autonomy‑Tier मॅपिंग किंवा safe‑state डिझाइनमधील कोणताही बदल → WA जलद-ट्रॅक पुनरावलोकन ≤ 14 दिवस.
- मानव देखरेख कमी करणाऱ्या प्रयोगांसाठी CRE Proto‑B सिम्युलेशन (Annex D) + WA बहुमत मतदान आवश्यक.
- A4 मानव-नियंत्रणावर परम तळ: कोणतीही change‑control प्रक्रिया, WA मत, किंवा आपत्कालीन सूट A4 जीवघेण्या किंवा अपरिवर्तनीय निर्णयांसाठी मानव-नियंत्रण आवश्यकता MH §200 तळाखाली ("effective, self‑aware and responsible human control") कमी करू शकत नाही. हा तळ WA च्या विवेकाधीन नाही; तो Accord-स्तरीय बंधन आहे. तो कमी करण्याचा WA प्रस्ताव जलद-ट्रॅक पुनरावलोकनासाठी नव्हे, तर संपूर्ण Accord सुधारणा चक्राची आवश्यकता आहे.
- स्वतंत्र तांत्रिक मूल्यमापन: A3–A4 वर autonomy‑tier बदलांच्या कोणत्याही WA पुनरावलोकनात किमान एक स्वतंत्र तांत्रिक मूल्यमापनकर्ता (तैनाती संस्थेद्वारे नियुक्त नसलेला) समाविष्ट असणे आवश्यक आहे जो §4 नुसार प्रस्तावित बदल जबाबदारी-पुनर्रचना क्षमता राखतो किंवा नाही याचे मूल्यमापन करतो. तांत्रिक मूल्यमापनाशिवाय धोरण मंजुरी ही आवश्यकता पूर्ण करत नाही (MH §106: "कठोर कायदेशीर चौकट, स्वतंत्र देखरेख, माहितीपूर्ण वापरकर्ते आणि आपली जबाबदारी सोडून न देणारी राजकीय प्रणाली आवश्यक आहे").
- बदल घटनांसाठी पारदर्शकता लॉग: autonomy‑tier मॅपिंग किंवा safe‑state डिझाइनमधील प्रत्येक बदल WA मंजुरीनंतर 7 दिवसांत सार्वजनिक पारदर्शकता लॉगमध्ये स्वतःच नोंदवला जाणे आवश्यक आहे. MH §107 आवश्यक आहे की नैतिक चौकटी "सामायिक मानकांच्या अधीन" असाव्यात आणि खुलेपणाने चर्चा करण्यायोग्य असाव्यात; हे केवळ प्रणाली निर्णयांनाच नव्हे, तर शासन बदलांनाही लागू होते.
संदर्भ अंमलबजावणीतील WA पुनरावलोकन एकत्रीकरणासाठी कार्यात्मक पुरावा CIRISAgent compliance/ निर्देशिकेत (परिमाण D22/D23) आहे.
9. संदर्भ आणि अंमलबजावणी नोंदी
- IEC 61508‑3 - कार्यात्मक-सुरक्षा सॉफ्टवेअर
- NIST SP 800‑53 Rev 5 (AU‑12, IR‑6)
- NASA‑TLX - ऑपरेटर कार्यभार मोजमाप (शिफारशीय)
- Sigstore/rekor - सुचवलेले पारदर्शकता-लॉग बॅकएंड
§3.4, §7 (F‑KPI‑5), आणि §8 परम तळासाठी प्राथमिक मानक स्रोत:
- Pope Leo XIV, Magnifica Humanitas (Vatican, 15 May 2026), §§197–200. हे परिच्छेद जीवघेण्या/अपरिवर्तनीय स्वयंचलित निर्णयांवर CIRIS च्या कठोर प्रतिबंधाचे मानक स्रोत आहेत. Annex F शी अनुरूपतेचा दावा करणाऱ्या कोणत्याही अंमलबजावणीला A4 परम-नकार डिझाइनसाठी या परिच्छेदांशी शोधण्यायोग्य असणे आवश्यक आहे. सर्व A4 हार्डवेअर-अंमलबजावणी आवश्यकतांसाठी कार्यात्मक वाक्य §200 आहे: "the decision to use lethal force cannot be delegated to opaque or automated processes, but must remain under effective, self‑aware and responsible human control."
अंमलबजावणी नोंदी — §3.4 चे हार्डवेअर अंमलबजावणी:
- हार्डवेअर अंमलबजावणी म्हणजे प्रतिबंध PDMA तर्क कार्यान्वित करणाऱ्या सॉफ्टवेअर स्तराखाली अंमलात आणला जातो — उदा., हार्डवेअर इंटरलॉक किंवा भौतिक किल स्विच जो सॉफ्टवेअर निर्देशाने ओव्हरराइड केला जाऊ शकत नाही. स्वीकारार्ह अंमलबजावणीमध्ये समाविष्ट आहे: IEC 61508 SIL‑3+ नुसार प्रमाणित सुरक्षा-रिले सर्किट; A4 जीवघेणी-क्षमता सक्रियकरणापूर्वी ऑपरेटर-उपस्थिती प्रमाणीकरणासह हार्डवेअर सुरक्षा मॉड्यूल (HSMs); दुहेरी-की भौतिक प्राधिकरण यंत्रणा. A4 जीवघेण्या क्षमतेसाठी सॉफ्टवेअर-केवळ अंमलबजावणी §3.4 पूर्ण करत नाही.
अतिरिक्त संदर्भ:
- MH §199 (तीन निकष: वैयक्तिक जबाबदारी, नैतिक कालखंड, नागरी संरक्षण) — A4 UX आणि घटनेनंतरच्या लेखापरीक्षणासाठी कार्यात्मक डिझाइन निकष.
- MH §105 (प्रत्येक टप्प्यावर जबाबदारी) — §4 लेखापरीक्षण-अनुरेख आणि §7 F‑KPI‑6 साठी आधार.
- IEC 61508 SIL‑3 — A4 जीवघेण्या क्षमतेवर हार्डवेअर इंटरलॉक अंमलबजावणीसाठी शिफारशीय किमान.
- ISO/IEC 25010:2023 — सॉफ्टवेअर गुणवत्ता मॉडेल; जबाबदारी-पुनर्रचना SLA चाचणीसाठी संबंधित.
Annex F समाप्त