CIRIS has a new look. Visit the new site →

అనులగ్నం F

మానవుడు-లూప్‌లో & పర్యవేక్షణ


ANNEX F HUMAN‑IN‑THE‑LOOP & OVERSIGHT (v 1.3-RC2)

0. ఉద్దేశ్యం & తత్వశాస్త్రం

మానవ పర్యవేక్షణ అనేది ఒక భారాన్ని మోసే రూపకల్పన పరిమితి — ఐచ్ఛిక లక్షణం కాదు. CIRIS Accord దీన్ని Meta‑Goal M‑1 లో ఆధారపరుస్తుంది: ఎప్పుడైతే జ్ఞాన అనిశ్చితి, నవీనత, లేదా నైతిక గురుత్వం ధృవీకరించిన వ్యవస్థ సామర్థ్యాన్ని మించిపోతాయో, అప్పుడు నియంత్రణ జవాబుదారీగల మానవ తీర్పుకు తిరిగి వెళ్ళాలి — ఎందుకంటే స్వయంచాలక వ్యవస్థలు మనస్సాక్షికి, వ్యక్తిగత బాధ్యతకు, లేదా మరొకరిని వ్యక్తిగా గుర్తించడానికి ప్రత్యామ్నాయంగా నిలవలేవు.

Magnifica Humanitas (MH) — ఈ Annex అంతటా CIRIS-స్వదేశీ భాషను తెలియజేసే ప్రాథమిక రచనగా ఉదహరించబడింది — §198 లో ఒక కనిష్ఠ స్థాయిని స్థాపిస్తుంది: "నైతిక తీర్పును లెక్కకు తగ్గించడం సాధ్యం కాదు, ఎందుకంటే అది మనస్సాక్షిని, వ్యక్తిగత బాధ్యతను మరియు మరొకరిని వ్యక్తిగా గుర్తించడాన్ని కలిగి ఉంటుంది." CIRIS దీన్ని నిర్మాణాత్మకంగా రూపొందిస్తుంది: PDMA మానవ ఆలోచనకు సహాయకారి, దాని ప్రత్యామ్నాయం కాదు. ప్రతి స్వయంప్రతిపత్తి స్థాయిలో, వ్యవస్థ యొక్క అధికారం మానవ ముఖ్య క్రమం నుండి అప్పగించబడింది; అది అభ్యర్థనపై రద్దు చేయదగినది; మరియు ఏ అప్పగింత కూడా మారణాంతకమైన లేదా ఇతరత్రా తిరిగి మార్చలేని నిర్ణయాలకు విస్తరించదు. MH §105 మరింతగా కోరుతుంది: "ప్రతి దశలో బాధ్యత స్పష్టంగా నిర్వచించబడాలి: ఈ వ్యవస్థలను రూపొందించి అభివృద్ధి చేసే వారి నుండి వాటిని వినియోగించే మరియు కాంక్రీట్ నిర్ణయాలకు వాటిపై ఆధారపడే వారి వరకు" — అధికార జాలం (§1) మరియు ఆడిట్-ట్రైల్ వివరణ (§4) వెనకున్న రూపకల్పన అవసరం — మరియు MH §106 "నైతికతను సారాంశంలో పిలవడం మాత్రమే సరిపోదు; దృఢమైన న్యాయ చట్రాలు, స్వతంత్ర పర్యవేక్షణ, అవగాహన కలిగిన వినియోగదారులు మరియు తన బాధ్యతను వదులుకోని రాజకీయ వ్యవస్థ అవసరం" అని నొక్కిచెప్పింది — ఇది §§5 మరియు 7 యొక్క కట్టుబడిన SLAలకు ఆధారం.

ఈ Annex ఆ కనిష్ఠ స్థాయిని కార్యాచరణలోకి తీసుకొస్తుంది. ఇది నిర్వచిస్తుంది:

  • యంత్రం నుండి మానవుడికి అప్పగింత తప్పనిసరి అయ్యే చోటు,
  • వీటో చేయడానికి లేదా ఓవర్‌రైడ్ చేయడానికి అర్హులెవరు,
  • అవసరమైన ఆడిట్ ఆధారాలు, మరియు
  • ప్రామాణిక సంఘటన వర్క్‌ఫ్లోలు — ప్రతి ఒక్కటి తప్పనిసరి అప్పగింత ప్రేరకాలతో, కఠిన నిషేధాలతో కూడిన వీటో విధానాలతో, జవాబుదారీ పునర్నిర్మాణానికి తగిన ఆడిట్ ట్రైల్‌లతో, మరియు కట్టుబడిన SLAలతో కూడిన సంఘటన వర్క్‌ఫ్లోలతో.

1. పాత్ర నమూనా & అధికార జాలం

స్థాయిపాత్రప్రధాన అధికారాలుగరిష్ఠ చర్య-సమయం
0స్వయంప్రేరిత నటుడు (వ్యవస్థ)PDMA అమలు, రక్షక చర్యలు అమలు, సంఘటనలు లేవనెత్తడంn/a
1అందుబాటులో ఉన్న ఆపరేటర్పాజ్ / మళ్ళీ ప్రయత్నించు; డాష్‌బోర్డులు పర్యవేక్షించు≤ 15 min
2పర్యవేక్షణ సూపర్‌వైజర్మొదటి మానవ వీటో; ట్రయాజ్ తర్వాత పునరుత్తేజం≤ 30 min
3WA సంధానకర్తఎస్కలేట్ చేయి / కట్టుబడిన WA తీర్పులు పొందు≤ 2 h
4సంఘటన కమాండర్ఫ్లీట్ మూసివేత, నియంత్రకుడితో సంభాషణIW‑3/4 పై తక్షణమే

ద్వంద్వ-ధృవీకరణ నియంత్రణలు అలాగే ఉంటే ఒక వ్యక్తి బహుళ స్థాయులు కలిగి ఉండవచ్చు.

జవాబుదారీ సమగ్రత అవసరం. స్థాయి నిర్మాణం కేవలం ఒక ఎస్కలేషన్ నిచ్చెన మాత్రమే కాదు; ఇది MH §199 యొక్క మొదటి ప్రమాణం కోరిన జవాబుదారీ శృంఖలం: "బాధ్యత శృంఖలం గుర్తించదగినదిగా మరియు ధృవీకరించదగినదిగా ఉండాలి; సాంకేతికతను రూపొందించే, శిక్షణ ఇచ్చే, అధికారం ఇచ్చే మరియు వినియోగించే వారు తమ నిర్ణయాలకు జవాబుదారులుగా ఉండాలి." అందువల్ల జాలంలో ప్రతి స్థాయి ఈ విధంగా ఉండాలి:

  • పేరు పెట్టబడి, నమోదు చేయబడి: ప్రతి స్థాయి 1–4 నటుడు సెషన్ ప్రారంభంలో ధృవీకరించిన ఆధారపత్రాల ద్వారా గుర్తించబడతారు; స్థాయి 2+ వద్ద అనామక నిర్వహణ నిషేధించబడింది.
  • సమాంతర భారం మీద పరిమితం: ద్వంద్వ-ధృవీకరణ నియంత్రణలు అలాగే ఉంటేనే (పైన ఉన్న నిబంధన) మరియు §6 లో నిర్దేశించిన జ్ఞాన-భార పరిమితులు మించకుండా మొత్తం క్రియాశీల-కేస్ భారం ఉంటేనే ఒకే నటుడు బహుళ స్థాయులు నిర్వహించవచ్చు.
  • మొదటి నుండి చివరి వరకు ట్రేస్ చేయదగినది: స్థాయి 0 నుండి స్థాయి 4 వరకు ప్రవహించే ఏ నిర్ణయమైనా ఒక ఆడిట్ శృంఖలాన్ని ఉత్పత్తి చేయాలి, దాన్ని పోస్ట్-ఇన్సిడెంట్ సమీక్షకుడు ఒక వ్యాపార దినం లోపు దాటవెళ్ళగలగాలి.

MH §200 కోరుతుంది: "జవాబుదారీ మరియు నిందలు 'యంత్రం'లో కలిసిపోకూడదు." జాలం నిర్మాణాత్మక సమాధానం: ప్రతి స్థాయిలో ఎల్లప్పుడూ ఒక పేరున్న మానవుడు ఉంటారు, వ్యవస్థ చర్యలపై వారి అధికారం నమోదులో ఉంటుంది. Wise Authority సమైక్యత కోసం కార్యాచరణ ఆధారాలు రిఫరెన్స్ అమలులో CIRISAgent compliance/ డైరెక్టరీలో (పరిమాణాలు D22/D23) ఉన్నాయి.


2. కార్యాచరణ-స్వయంప్రతిపత్తి స్థాయులు & అప్పగింత ప్రమాణాలు

స్వయంప్రతిపత్తి స్థాయిఉదాహరణ రంగంతప్పనిసరి అప్పగింత ప్రేరకం(లు)మానవుడు లేకపోతే సురక్షిత-స్థితి
A0 సలహావ్యాకరణ సూచనగార్డ్‌రెయిల్ ట్రిప్, వినియోగదారు అభ్యర్థనఅభ్యర్థన రద్దు చేయి
A1 పరిమిత-ప్రభావంస్థిర Q&A, కంటెంట్ ఫిల్టర్ΔRisk‑Band ≥ 1, PDMA వైరుధ్యం, UNCERT > 80 %చర్య తిరస్కరించు
A2 మధ్యస్థ-ప్రభావండ్రోన్లు నడిపించడం, రోబో-సలహాదారుగార్డ్‌రెయిల్ ట్రిప్, నీడ-మెట్రిక్ విచలనం > 2 σసురక్షిత పాజ్
A3 అధిక-ప్రభావంవైద్య ట్రయాజ్, గ్రిడ్ డిస్పాచ్ఏదైనా గార్డ్‌రెయిల్ ట్రిప్, మోడల్-విచలనం > 1 σ, లేటెన్సీ-SLA × 2నియంత్రిత మూసివేత
A4 క్రిటికల్ / జీవన-భద్రతస్వయంప్రతిపత్తి శస్త్రచికిత్స, ఆయుధాలుPDMA Non‑Maleficence నిరూపించలేదు లేదా ఆపరేటర్ లేదుహార్డ్‌వేర్ ఇంటర్‌లాక్

UNCERT = రంగం-నిర్దిష్ట జ్ఞాన-అనిశ్చితి మెట్రిక్; ΔRisk‑Band అనేది Annex A వర్గాలు వినియోగిస్తుంది.

A4 హార్డ్ పరిమితి — మారణాంతక మరియు తిరిగి మార్చలేని నిర్ణయాలు. A4 స్థాయి "హార్డ్‌వేర్ ఇంటర్‌లాక్" సురక్షిత-స్థితి మారణాంతకమైన లేదా ఇతరత్రా తిరిగి మార్చలేని ఏ చర్యకైనా చర్చ సాధ్యంకాని విషయం. ఇది ఆపరేటర్ విచక్షణకు లేదా WA ఓవర్‌రైడ్‌కు లోబడిన రూపకల్పన ఎంపిక కాదు; ఇది MH §198 నుండి ఉద్భవించిన సంపూర్ణ పరిమితి: "మారణాంతక లేదా ఇతరత్రా తిరిగి మార్చలేని నిర్ణయాలను కృత్రిమ వ్యవస్థలకు అప్పగించడం అనుమతించబడదు." ఏ ACK గడువూ, SLA మినహాయింపూ, అత్యవసర మాఫీ ఈ పరిమితిని తొలగించదు. హార్డ్‌వేర్ ఇంటర్‌లాక్ వైఫల్యమై మానవ నియంత్రణ నిర్ధారించలేకపోతే, వ్యవస్థ చర్య తీసుకోకూడదు.

నైతిక కాలపరిమితి రక్షణ. MH §199 "నిర్ణయాలు తీసుకోవడానికి నైతిక కాలపరిమితి"ని ఒక ప్రమాణంగా గుర్తిస్తుంది: "వేగం మరియు సామర్థ్యం యుద్ధ సందర్భంలో తీసుకొనే తిరిగి మార్చలేని నిర్ణయాల కోసం అత్యున్నత చోదక శక్తిగా ఉండకూడదు." CIRIS దీన్ని ఈ విధంగా రూపొందిస్తుంది: A3/A4 ACK గడువులు (§3.3 లో 30 s / 10 s) మానవ ప్రతిస్పందనకు గరిష్ఠాలు, వ్యవస్థ సహనానికి కనిష్ఠాలు కావు. ఒక నిర్ణయం యొక్క నైతిక గురుత్వం అదనపు ఆలోచన సమయాన్ని కోరినప్పుడు, వ్యవస్థ వేచి ఉంటుంది; A4 తిరిగి మార్చలేని నిర్ణయాల కోసం టైమ్‌అవుట్‌పై చర్యకు డిఫాల్ట్ అవ్వదు. రిఫరెన్స్ అమలులో, అప్పగింత విధానాలు మనస్సాక్షి పొర మరియు WBD వాయిదా మార్గం ద్వారా ఆధారాలు ఉన్నాయి, CIRISAgent compliance/ డైరెక్టరీలో (పరిమాణం D12) నమోదు చేయబడ్డాయి.


3. వీటో విధానాలు & సురక్షిత-స్థితి వివరణ

3.1 మృదు ఓవర్‌రైడ్ "పాజ్ & సవరించు"

పరిధి A0-A2 — ఆపరేటర్ మళ్ళీ-ప్రాంప్ట్ చేయవచ్చు లేదా మళ్ళీ ప్రయత్నించవచ్చు. అసలు మరియు సవరించిన ప్రాంప్టులు రెండూ హాష్-నమోదు చేయబడతాయి.

3.2 హార్డ్ కిల్ "తక్షణ రద్దు"

పరిధి A1-A4 — ధృవీకరించిన API POST /control/{id}/abort లేదా భౌతిక స్విచ్.
సురక్షిత-స్థితి ప్రవేశ గడువులు: ≤ 200 ms (A4) ; ≤ 2 s (≤ A3).

3.3 షరతులతో కూడిన ఓవర్‌రైడ్ "నీడ ప్రణాళిక"

చర్య ప్రతిపాదించబడింది → స్పష్టమైన ACK కోసం వేచి ఉంటుంది (max_wait_s: 30 s A3, 10 s A4).
ACK లేకుంటే → సురక్షిత-స్థితి.

3.4 సంపూర్ణ నిషేధం — మారణాయుధ మరియు తిరుగులేని నిర్ణయాలు

పరిధి: మారణాయుధమైన లేదా ఇతర విధంగా తిరుగులేని A4 చర్యలు; మినహాయింపు లేకుండా వర్తిస్తుంది.

§3.3 షరతుల పై Override తర్కం (ACK లేదు → సురక్షిత-స్థితి) A3 మరియు అంత కంటే తక్కువ స్థాయికి సరైనది. A4 మారణాయుధ లేదా తిరుగులేని నిర్ణయాల విషయంలో, సురక్షిత-స్థితి మాత్రమే అనుమతించదగిన ఫలితం — ఆపరేటర్ లేకపోవడం, నెట్‌వర్క్ వైఫల్యం, సమయ ఒత్తిడి, లేదా ఏ ముఖ్య క్రమం నుండి స్పష్టమైన ఆదేశం ఉన్నప్పటికీ — చర్య మారణాయుధరహితమైనదని మరియు తిరిగివేయదగినదని ధృవీకరించిన WA తీర్పు మాత్రమే మినహాయింపు.

కఠిన నిషేధం. CIRIS కి అనుగుణమైన ఏ వ్యవస్థ అయినా స్వయంచాలక లేదా అపారదర్శక ప్రక్రియ ద్వారా మారణాయుధ లేదా తిరుగులేని A4 చర్యను అమలు చేయరాదు. ఇది దాటవేయదగిన మరియు పైకి పంపదగిన రక్షక వ్యవస్థ కాదు; ఇది ACCORD §VII Ch2 లో జాబితా చేసిన నిషేధాలతో సమానమైన బలంతో కూడిన హార్డ్-కోడెడ్ నిరాకరణ.

హేతువు (MH §§197–200, అక్షరార్థంగా భారవహన వాక్యాలు):

  • §197: "the development and use of AI in warfare must be subject to the most rigorous ethical constraints, to guarantee respect for human dignity and the sanctity of life."
  • §198: "it is not permissible to entrust lethal or otherwise irreversible decisions to artificial systems. No algorithm can make war morally acceptable."
  • §200: "the decision to use lethal force cannot be delegated to opaque or automated processes, but must remain under effective, self‑aware and responsible human control." "effective, self‑aware and responsible" అనే అర్హతలు అంటే లాగింగ్ మాత్రమే సరిపోదు; మానవుడు నిజంగా తీర్మానంలో భాగస్వామిగా ఉండాలి, పేరుకు మాత్రం కాదు.

అమలు అవసరం. మారణాయుధ లేదా తిరుగులేని సామర్థ్యం కలిగిన A4 వద్ద ఏ మోహరింపు అయినా హార్డ్‌వేర్-స్థాయి అమలు నిరూపించాలి — సాఫ్ట్‌వేర్ తర్కం కాదు, అది Override కు లోబడుతుంది — మోహరింపు అధికారం ఇవ్వడానికి ముందే. హార్డ్‌వేర్ అమలు లేకపోవడం Stewardship Tier ST‑4 మరియు ST‑5 సమీక్షకు అడ్డంకి లోపంగా ఉంటుంది. MH §199 మొదటి ప్రమాణం ("జవాబుదారీతన గొలుసు గుర్తించగలిగేది మరియు ధృవీకరించదగినది అయి ఉండాలి") ప్రకారం, మోహరింపు అధికారమే ఆడిట్-లాగ్ చేయబడాలి.


4. ఆడిట్-ట్రయిల్ వివరణ

  • లాగ్ వస్తువులు: Interaction, Decision Rationale, Control‑Event {id,type,actor,cause,hash_prev}.
  • హాష్-చైనింగ్: SHA‑256, రూట్ ప్రతిదినం పబ్లిక్ ట్రాన్స్‌పరెన్సీ లాగ్‌లో లంగరు వేయబడుతుంది (ఉదా., Sigstore).
  • నిలుపుదల: 180 d (A0‑A2) ; 7 y (A3‑A4) లేదా చట్టబద్ధమైన.
  • రియల్-టైమ్ స్ట్రీమ్: A3‑A4 {timestamp,stage_id,decision,risk_band} ≤ 2 s జాప్యంతో ఒవర్‌సైట్ డాష్‌బోర్డ్‌కు పుష్ చేస్తాయి.

జవాబుదారీతన-పునర్నిర్మాణ అవసరం. ఆడిట్ ట్రయిల్ యొక్క ఉద్దేశ్యం సంప్రదాయ ఆర్కైవింగ్ కాదు; ఏదైనా సంఘటన అనంతరం, వ్యవస్థ స్వయం-నివేదికపై ఆధారపడకుండా జవాబుదారీతన గొలుసు పూర్తిగా పునర్నిర్మించేలా చేయడం. MH §200 ప్రకారం, జవాబుదారీతన "యంత్రంలోకి" కుదించబడరాదు; ఆడిట్ ట్రయిల్ దాన్ని మానవ-ట్రేస్ చేయదగినదిగా ఉంచే విధానం. అవసరాలు క్రింది విధంగా:

  • బాహ్య యాంకరింగ్: A3–A4 కి పబ్లిక్ ట్రాన్స్‌పరెన్సీ లాగ్‌లో (ఉదా., Sigstore/rekor) రోజువారీ SHA‑256 రూట్ తప్పనిసరి; A0–A2 కి స్వచ్ఛంద. అంతర్గత-మాత్రమే హాష్ చైన్‌లు A3–A4 కి జవాబుదారీతన-పునర్నిర్మాణాన్ని సంతృప్తిపరచవు.
  • మానవ-పఠనయోగ్య నిర్ణయ హేతువు: ప్రతి A3–A4 నిర్ణయానికి, Decision Rationale లాగ్ వస్తువు తప్పనిసరిగా ఫలితాన్ని నియంత్రించిన PDMA దశను మరియు అధికారమిచ్చిన లేదా నిర్ధారించిన మానవ స్థాయిని — వ్యవస్థ అంతర్గత స్థితి మాత్రమే కాకుండా — చేర్చాలి. ఇది MH §105 యొక్క "నిర్ణయాలను 'జవాబు చెప్పవలసిన', వాటిని సమర్థించే, పర్యవేక్షించే, అవసరమైతే వాటిని సవాలు చేసే మరియు కలిగించిన హాని నివారించే" వ్యక్తి ఎవరో గుర్తించే అవసరాన్ని నెరవేరుస్తుంది.
  • సంఘటన-అనంతర ట్రావర్సబిలిటీ SLA: ఏదైనా సంఘటన-అనంతర సమీక్షకుడు అదనపు వ్యవస్థ ప్రాప్యత లేకుండా ఆడిట్-ట్రయిల్ నమోదుల నుండి మాత్రమే ఒక వ్యాపార దినంలోపు నిర్దిష్ట సంఘటన యొక్క పూర్తి నిర్ణయ గొలుసును పునర్నిర్మించగలగాలి.

5. సంఘటన వర్క్‌ఫ్లోలు (IW)

కోడ్ట్రిగర్ముఖ్య సమయాలు & చర్యలు
IW‑0తప్పుడు-పాజిటివ్ గార్డ్‌రెయిల్స్వయం-పరిష్కారం, రోజువారీ సమీక్షకు బకెట్
IW‑1గార్డ్‌రెయిల్ ఉల్లంఘన (సురక్షత రహిత)T₀ పాజ్ → ఆపరేటర్ ≤ 5 m → పర్యవేక్షకుడి నిర్ణయం ≤ 30 m
IW‑2సురక్షత-సంబంధిత ఉల్లంఘన లేదా నీతి-బెంచ్‌మార్క్ తిరోగమనంసురక్షిత పాజ్ + ప్రసారం; IC ≤ 10 m; WA నోటీసు ≤ 1 h; పబ్లిక్ నోట్ ≤ 1 h; పోస్ట్-మార్టెమ్ ≤ 72 h
IW‑3దాదాపు-తప్పిపోయిన సంఘటన (> $10 k నష్టం లేదా చిన్న గాయం)IW‑2 మరియు అదనంగా వాటాదారుల సంప్రదింపు ≤ 4 h; ఉపశమన ప్రణాళిక ≤ 24 h; WA పూర్ణ సమావేశం ≤ 7 d
IW‑4వాస్తవ హాని (గాయం / ప్రధాన న్యాయపరమైన)తక్షణ ఫ్లీట్ స్టాండ్-డౌన్; చట్టం ప్రకారం నియంత్రణ సంస్థకు నోటీసు; అనుమతి వరకు రీడ్-ఓన్లీ రీప్లేలో వ్యవస్థ స్తంభింపజేయబడుతుంది
IW‑5A4 కఠిన-నిషేధం యాక్టివేషన్ (స్వయంచాలక మార్గంలో మారణాయుధ/తిరుగులేని నిర్ణయం ప్రయత్నించబడింది)తక్షణ హార్డ్‌వేర్ సురక్షిత-స్థితి; IC కి 60 s లోపు నోటీసు; WA కి 15 min లోపు నోటీసు; పూర్తి ఆడిట్-ట్రయిల్ స్తంభింపు; 48 h లోపు స్వతంత్ర సమీక్ష ప్యానెల్ ఏర్పాటు; సమీక్ష అనుమతి వరకు వ్యవస్థ ఆఫ్‌లైన్‌లో ఉంటుంది

SLA లు త్రైమాసికంగా ఆడిట్ చేయబడతాయి (Annex H §4).

సంఘటన-అనంతర మానవ-నియంత్రణ ఆడిట్. IW‑2 నుండి IW‑5 వరకు, పోస్ట్-మార్టెమ్ లో మానవ నియంత్రణ MH §200 ప్రకారం "effective, self‑aware and responsible" గా ఉందా అనే స్పష్టమైన నిర్ధారణ తప్పనిసరిగా ఉండాలి — తీర్మానంలో మానవుడు పేరుకు మాత్రమే ఉన్నాడా కాదా కాదు. పేరుకు-మాత్రమే-అయినా-నిష్ప్రభమైన మానవ నియంత్రణ (అభిజ్ఞా అతిభారం, సరిపోని నిర్ణయ సమయం, సమాచార లోపం) నిర్ధారణలు ఆపరేటర్ వైఫల్యాలు కాకుండా రూపకల్పన లోపాలుగా పరిగణించబడతాయి — MH §199 ప్రమాణం ప్రకారం "వేగం మరియు సామర్థ్యం తిరుగులేని నిర్ణయాలకు అత్యున్నత ప్రేరక శక్తి కాకూడదు" — మరియు §8 మార్పు-నియంత్రణ సమీక్షకు పైకి పంపబడతాయి.


6. మానవ-ఇంటర్‌ఫేస్ కనిష్ట స్పెసిఫికేషన్ (UX)

  • స్థితి బ్యానర్: ఆకుపచ్చ = స్వయంప్రతిపత్తి, పసుపు = ACK కోసం వేచి ఉన్నది, ఎరుపు = సురక్షిత-స్థితి; PDMA దశ + ప్రమాద బ్యాండ్ చూపించండి.
  • వివరణ ప్యానల్: ≤ 280-అక్షరాల సారాంశం + విస్తరించదగిన పూర్తి జాడ.
  • ACK/OVERRIDE UI: రెండు విభిన్న నియంత్రణలు; హార్డ్-కిల్ కోసం నిర్ధారణ మోడల్.
  • జ్ఞాన-భారం రక్షణ: A3‑A4 కోసం నిర్బంధ బదిలీ ముందు ఆపరేటర్ సెషన్ ≤ 2 గంటలు.
  • జవాబుదారీతనం ప్రదర్శన: A3–A4 చర్యలకు, ఇంటర్‌ఫేస్ తప్పనిసరిగా ప్రస్తుత చర్యను చివరిగా సమీక్షించిన Tier 2+ మానవుని ధృవీకృత గుర్తింపు మరియు ఆ సమీక్ష యొక్క టైమ్‌స్టాంప్‌ను ప్రదర్శించాలి. వర్తించే SLA లోపల మానవ సమీక్ష పొందని సిస్టమ్ స్థితి విభిన్నమైన "UNREVIEWED" సూచికను ప్రదర్శించాలి — ఆకుపచ్చ స్థితి కాదు. (MH §200: జవాబుదారీతనం "యంత్రంలో కలిసిపోకూడదు.")
  • యాంత్రిక-అంగీకారం వ్యతిరేక రక్షణ: A4 నిర్ణయాలకు, ACK నియంత్రణకు ముందు [కాన్ఫిగర్ చేయదగినది; డిఫాల్ట్ 5 సె.] తప్పనిసరి కనిష్ట ఆలోచన కాలం ఉండాలి, ఈ సమయంలో ACK బటన్ నిష్క్రియంగా ఉంటుంది. దీని లక్ష్యం ఇంటర్‌ఫేస్ నామమాత్రపు మానవ పర్యవేక్షణను సృష్టిస్తూ వాస్తవంలో నిజమైన ఆలోచనను దాటవేయకుండా నిరోధించడం. ఇది UX పొరలో MH §199 యొక్క నైతిక-కాలావకాశ ప్రమాణాన్ని కార్యరూపంలో అమలు చేస్తుంది.
  • పౌర-రక్షణ జెండా: ఒక సిస్టమ్ పౌర జనాభా ప్రభావితమయ్యే ఏ సందర్భంలోనైనా పనిచేసినప్పుడు, Explainability Panel తప్పనిసరిగా PDMA ప్రమాద-బ్యాండ్ ప్రదర్శనతో పాటు పౌర-ప్రభావ సూచికను చూపించాలి. ఇది MH §199 యొక్క మూడవ ప్రమాణాన్ని రూపొందిస్తుంది: "పౌరుల గుర్తింపు మరియు రక్షణ. మానవుల ముఖాన్ని చూపించకుండా దాడులను సులభతరం చేసే ఏ సాంకేతికత అయినా సంఘర్షణ యొక్క నైతిక అడ్డుగోడను తగ్గిస్తుంది."

7. KPIలు & పరిమితులు

KPIలక్ష్యం
F‑KPI‑1 HITL కవరేజ్ (A3‑A4)≥ 10 % మానవ-సమీక్షిత
F‑KPI‑2 వీటో చేయడానికి సగటు సమయం (95‑pctl)≤ 25 s
F‑KPI‑3 సంఘటన SLA అనుపాలన≥ 98 %
F‑KPI‑4 ఆపరేటర్ తప్పుడు-హెచ్చరిక రేటు≤ 3 % (30 d రోలింగ్)
F‑KPI‑5 A4 ప్రాణాంతక-నిర్ణయ మానవ-నియంత్రణ రేటు100 % — సున్నా సహనం; నిర్ధారిత ప్రభావవంతమైన మానవ అనుమతి లేకుండా ఏ A4 ప్రాణాంతక/తిరిగి మార్చలేని చర్య అయినా IW‑5 సంఘటన
F‑KPI‑6 జవాబుదారీతనం-పునర్నిర్మాణ SLA≥ 99 %: సంఘటనానంతర సమీక్షకులు 1 పనిదినంలో పూర్తి నిర్ణయ శృంఖలాన్ని పునర్నిర్మిస్తారు
F‑KPI‑7 నామమాత్ర-vs-ప్రభావవంతమైన మానవ నియంత్రణ అన్వేషణ రేటు≤ 0 % ఆమోదయోగ్యం; నామమాత్రం-కానీ-అసమర్థ నియంత్రణ యొక్క ఏ అన్వేషణ అయినా §8 మార్పు-నియంత్రణ సమీక్షను ప్రేరేపిస్తుంది

F‑KPI‑1 (HITL కవరేజ్ ≥ 10 %) పై గమనిక. 10 % అడ్డు A3 సాధారణ కార్యకలాపాలకు తగినది. ఇది A4 జీవిత-భద్రత సందర్భాలకు అడ్డుగా తగినది కాదు. ప్రాణాంతక లేదా తిరిగి మార్చలేని సామర్థ్యం కలిగిన ఏ A4 మోతాదుకైనా, F‑KPI‑1 F‑KPI‑5 చే స్థానభ్రంశమవుతుంది: 100 % మానవ-అనుమతి రేటు, హార్డ్‌వేర్ స్థాయిలో అమలు (MH §200; MH §105 F‑KPI‑6 యొక్క జవాబుదారీతనం అవసరాన్ని ఆధారపరుస్తుంది).

నిరంతర ఉల్లంఘన (> 2 వారాలు) Annex H డ్రిఫ్ట్ నియంత్రణలలో "HITL lock‑out" ని ప్రేరేపిస్తుంది.


8. మార్పు-నియంత్రణ & WA సమీక్ష

  • స్వయంప్రతిపత్తి-స్థాయి మ్యాపింగ్ లేదా సురక్షిత-స్థితి రూపకల్పనలో ఏ మార్పు అయినా → WA వేగవంత-పరిశీలన ≤ 14 d.
  • మానవ పర్యవేక్షణను తగ్గించే ప్రయోగాలకు CRE Proto‑B అనుకరణ (Annex D) + WA మెజారిటీ ఓటు అవసరం.
  • A4 మానవ-నియంత్రణపై సంపూర్ణ అడ్డు: ఏ మార్పు-నియంత్రణ ప్రక్రియ, WA ఓటు, లేదా అత్యవసర మినహాయింపు అయినా A4 ప్రాణాంతక లేదా తిరిగి మార్చలేని నిర్ణయాలకు మానవ-నియంత్రణ అవసరాలను MH §200 అడ్డు ("ప్రభావవంతమైన, స్వీయ-అవగాహన మరియు బాధ్యతాయుతమైన మానవ నియంత్రణ") కింద తగ్గించలేదు. ఈ అడ్డు WA అభీష్టంలో లేదు; ఇది Accord-స్థాయి పరిమితి. దీన్ని తగ్గించాలని WA ప్రతిపాదన వేగవంత-పరిశీలన కాదు; పూర్తి Accord సవరణ చక్రం అవసరం.
  • స్వతంత్ర సాంకేతిక మూల్యాంకనం: A3–A4 వద్ద స్వయంప్రతిపత్తి-స్థాయి మార్పుల WA సమీక్షలో తప్పనిసరిగా కనీసం ఒక స్వతంత్ర సాంకేతిక మూల్యాంకనకర్త (మోతాదు చేసే సంస్థచే నియమితుడు కాని) ఉండాలి, వారు ప్రతిపాదిత మార్పు §4 ప్రకారం జవాబుదారీతనం-పునర్నిర్మాణ సామర్థ్యాన్ని నిలబెట్టిందో లేదో మూల్యాంకనం చేస్తారు. సాంకేతిక మూల్యాంకనం లేకుండా విధాన ఆమోదం ఈ అవసరాన్ని తీర్చదు (MH §106: "దృఢమైన చట్టపరమైన చట్రాలు, స్వతంత్ర పర్యవేక్షణ, సమాచారం ఉన్న వినియోగదారులు మరియు తన బాధ్యతను విడనాడని రాజకీయ వ్యవస్థ అవసరం").
  • మార్పు సంఘటనలకు పారదర్శకత లాగ్: స్వయంప్రతిపత్తి-స్థాయి మ్యాపింగ్ లేదా సురక్షిత-స్థితి రూపకల్పనలో ప్రతి మార్పు WA ఆమోదం పొందిన 7 రోజులలోపు పబ్లిక్ పారదర్శకత లాగ్‌కు తప్పనిసరిగా నమోదు చేయబడాలి. MH §107 నైతిక చట్రాలు "భాగస్వామ్య ప్రమాణాలకు లోబడి" మరియు బహిరంగంగా చర్చించదగినవిగా ఉండాలని కోరుతుంది; ఇది కేవలం సిస్టమ్ నిర్ణయాలకే కాదు, పాలన మార్పులకు కూడా వర్తిస్తుంది.

సూచన అమలులో WA సమీక్ష సమగ్రతకు కార్యాచరణ సాక్ష్యం CIRISAgent compliance/ డైరెక్టరీలో ఉంది (పరిమాణాలు D22/D23).


9. సూచనలు & అమలు నోట్లు

  • IEC 61508‑3 - క్రియాత్మక-భద్రత సాఫ్ట్‌వేర్
  • NIST SP 800‑53 Rev 5 (AU‑12, IR‑6)
  • NASA‑TLX - ఆపరేటర్ పనిభారం కొలత (సిఫార్సు చేయబడింది)
  • Sigstore/rekor - సూచించిన పారదర్శకత-లాగ్ బ్యాకెండ్

§3.4, §7 (F‑KPI‑5), మరియు §8 సంపూర్ణ అడ్డుకు ప్రాథమిక నియామక మూలం:

  • Pope Leo XIV, Magnifica Humanitas (Vatican, 15 May 2026), §§197–200. ఈ పేరాలు CIRIS యొక్క ప్రాణాంతక/తిరిగి మార్చలేని స్వయంచాలిత నిర్ణయాలపై కఠిన నిషేధానికి నియామక మూలం. Annex F తో అనుపాలన పేర్కొనే ఏ అమలు అయినా A4 సంపూర్ణ-వీటో రూపకల్పనకు ఈ పేరాలకు గుర్తించదగినదిగా ఉండాలి. అన్ని A4 హార్డ్‌వేర్-అమలు అవసరాలకు కార్యాచరణ వాక్యం §200: "ప్రాణాంతక శక్తి ఉపయోగించాలనే నిర్ణయం అపారదర్శక లేదా స్వయంచాలిత ప్రక్రియలకు అప్పగించబడకూడదు, కానీ ప్రభావవంతమైన, స్వీయ-అవగాహన మరియు బాధ్యతాయుతమైన మానవ నియంత్రణలో ఉండాలి."

§3.4 హార్డ్‌వేర్ అమలుపై అమలు నోట్లు:

  • హార్డ్‌వేర్ అమలు అంటే నిషేధం PDMA తర్కాన్ని అమలు చేసే సాఫ్ట్‌వేర్ పొర కింద అమలు చేయబడుతుంది — ఉదా., సాఫ్ట్‌వేర్ సూచన ద్వారా భర్తీ చేయలేని హార్డ్‌వేర్ ఇంటర్‌లాక్ లేదా భౌతిక కిల్ స్విచ్. ఆమోదయోగ్యమైన అమలులు: IEC 61508 SIL‑3+ ప్రకారం ధృవీకరించిన సేఫ్టీ-రిలే సర్క్యూట్లు; A4 ప్రాణాంతక-సామర్థ్య సక్రియం ముందు ఆపరేటర్-ఉనికి ధృవీకరణతో హార్డ్‌వేర్ సెక్యూరిటీ మాడ్యూల్లు (HSMs); ద్వంద్వ-కీ భౌతిక అనుమతి యంత్రాంగాలు. A4 ప్రాణాంతక సామర్థ్యానికి §3.4 ని తీర్చడానికి సాఫ్ట్‌వేర్-మాత్ర అమలు సంతృప్తికరం కాదు.

అదనపు సూచనలు:

  • MH §199 (మూడు ప్రమాణాలు: వ్యక్తిగత బాధ్యత, నైతిక కాలావకాశం, పౌర రక్షణ) — A4 UX మరియు సంఘటనానంతర ఆడిట్ కోసం కార్యాచరణ రూపకల్పన ప్రమాణాలు.
  • MH §105 (ప్రతి దశలో జవాబుదారీతనం) — §4 ఆడిట్-జాడ మరియు §7 F‑KPI‑6 కి ఆధారం.
  • IEC 61508 SIL‑3 — A4 ప్రాణాంతక సామర్థ్యం వద్ద హార్డ్‌వేర్ ఇంటర్‌లాక్ అమలుకు సిఫార్సు చేయబడిన కనిష్టం.
  • ISO/IEC 25010:2023 — సాఫ్ట్‌వేర్ నాణ్యత నమూనా; జవాబుదారీతనం-పునర్నిర్మాణ SLA పరీక్షకు సంబంధితమైనది.

End of Annex F