CIRIS has a new look. Visit the new site →

ਅਨੁਬੰਧ F

ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਅਤੇ ਦੇਖ-ਰੇਖ


ANNEX F HUMAN‑IN‑THE‑LOOP & OVERSIGHT (v 1.3-RC2)

0. ਉਦੇਸ਼ ਅਤੇ ਦਰਸ਼ਨ

ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਇੱਕ ਲਾਜ਼ਮੀ ਡਿਜ਼ਾਈਨ ਸੀਮਾ ਹੈ, ਕੋਈ ਵਿਕਲਪਿਕ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ। CIRIS Accord ਇਸ ਨੂੰ Meta‑Goal M‑1 ਵਿੱਚ ਆਧਾਰਿਤ ਕਰਦਾ ਹੈ: ਜਿੱਥੇ ਕਿਤੇ ਵੀ ਗਿਆਨ-ਸੰਬੰਧੀ ਅਨਿਸ਼ਚਿਤਤਾ, ਨਵੀਨਤਾ, ਜਾਂ ਨੈਤਿਕ ਗੰਭੀਰਤਾ ਪ੍ਰਮਾਣਿਤ ਪ੍ਰਣਾਲੀ ਯੋਗਤਾ ਤੋਂ ਵੱਧ ਜਾਵੇ, ਨਿਯੰਤਰਣ ਜ਼ਿੰਮੇਵਾਰ ਮਨੁੱਖੀ ਨਿਰਣੇ ਵੱਲ ਵਾਪਸ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ — ਕਿਉਂਕਿ ਸਵੈਚਾਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਜ਼ਮੀਰ, ਨਿੱਜੀ ਜ਼ਿੰਮੇਵਾਰੀ, ਜਾਂ ਦੂਜੇ ਨੂੰ ਵਿਅਕਤੀ ਵਜੋਂ ਮਾਨਤਾ ਦੇਣ ਦਾ ਬਦਲ ਨਹੀਂ ਬਣ ਸਕਦੀਆਂ।

Magnifica Humanitas (MH) — ਇਸ Annex ਵਿੱਚ ਸੀਨੀਅਰ ਰਚਨਾ ਵਜੋਂ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ, ਜਿਸਦੀ ਸਮੱਗਰੀ CIRIS-ਮੂਲ ਭਾਸ਼ਾ ਨੂੰ ਸੂਚਿਤ ਕਰਦੀ ਹੈ — §198 'ਤੇ ਬੁਨਿਆਦ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ: "ਨੈਤਿਕ ਨਿਰਣਾ ਗਣਨਾ ਤੱਕ ਘਟਾਇਆ ਨਹੀਂ ਜਾ ਸਕਦਾ, ਕਿਉਂਕਿ ਇਸ ਵਿੱਚ ਜ਼ਮੀਰ, ਨਿੱਜੀ ਜ਼ਿੰਮੇਵਾਰੀ ਅਤੇ ਦੂਜੇ ਨੂੰ ਵਿਅਕਤੀ ਵਜੋਂ ਮਾਨਤਾ ਸ਼ਾਮਲ ਹੈ।" CIRIS ਇਸ ਨੂੰ ਢਾਂਚਾਗਤ ਰੂਪ ਦਿੰਦਾ ਹੈ: PDMA ਮਨੁੱਖੀ ਵਿਚਾਰ-ਵਟਾਂਦਰੇ ਲਈ ਇੱਕ ਸਹਾਇਤਾ ਹੈ, ਇਸਦਾ ਬਦਲ ਨਹੀਂ। ਹਰ ਖੁਦਮੁਖਤਿਆਰੀ ਪੱਧਰ 'ਤੇ, ਪ੍ਰਣਾਲੀ ਦਾ ਅਧਿਕਾਰ ਮਨੁੱਖੀ ਮੁੱਖ ਲੜੀ ਤੋਂ ਸੌਂਪਿਆ ਜਾਂਦਾ ਹੈ; ਇਹ ਮੰਗ 'ਤੇ ਰੱਦ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ; ਅਤੇ ਕੋਈ ਵੀ ਸੌਂਪਣਾ ਉਹਨਾਂ ਫੈਸਲਿਆਂ ਤੱਕ ਨਹੀਂ ਵਧਦਾ ਜੋ ਜਾਨਲੇਵਾ ਜਾਂ ਅਟੱਲ ਹੋਣ। MH §105 ਹੋਰ ਲੋੜ ਕਰਦਾ ਹੈ ਕਿ "ਜ਼ਿੰਮੇਵਾਰੀ ਹਰ ਪੜਾਅ 'ਤੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪਰਿਭਾਸ਼ਿਤ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ: ਉਹਨਾਂ ਤੋਂ ਜੋ ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਅਤੇ ਵਿਕਸਿਤ ਕਰਦੇ ਹਨ, ਉਹਨਾਂ ਤੱਕ ਜੋ ਇਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਅਤੇ ਠੋਸ ਫੈਸਲਿਆਂ ਲਈ ਇਹਨਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ" — ਅਧਿਕਾਰ ਜਾਲੀ (§1) ਅਤੇ ਆਡਿਟ-ਟ੍ਰੇਲ ਵਿਸ਼ੇਸ਼ਤਾ (§4) ਪਿੱਛੇ ਡਿਜ਼ਾਈਨ ਲੋੜ — ਅਤੇ MH §106 ਕਿ "ਨੈਤਿਕਤਾ ਨੂੰ ਸਿਰਫ਼ ਅਮੂਰਤ ਰੂਪ ਵਿੱਚ ਸੱਦਣਾ ਕਾਫ਼ੀ ਨਹੀਂ; ਮਜ਼ਬੂਤ ਕਾਨੂੰਨੀ ਢਾਂਚੇ, ਸੁਤੰਤਰ ਨਿਗਰਾਨੀ, ਸੂਚਿਤ ਉਪਭੋਗਤਾ ਅਤੇ ਇੱਕ ਰਾਜਨੀਤਿਕ ਪ੍ਰਣਾਲੀ ਜੋ ਆਪਣੀ ਜ਼ਿੰਮੇਵਾਰੀ ਤੋਂ ਮੂੰਹ ਨਾ ਮੋੜੇ, ਲੋੜੀਂਦੇ ਹਨ," ਜੋ §§5 ਅਤੇ 7 ਦੇ ਬੰਧਨਕਾਰੀ SLAs ਦਾ ਆਧਾਰ ਬਣਦਾ ਹੈ।

ਇਹ Annex ਉਸ ਬੁਨਿਆਦ ਨੂੰ ਲਾਗੂ ਕਰਦਾ ਹੈ। ਇਹ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ:

  • ਕਿੱਥੇ ਮਸ਼ੀਨ ਤੋਂ ਮਨੁੱਖ ਵੱਲ ਹੱਥ-ਬਦਲੀ ਲਾਜ਼ਮੀ ਹੈ,
  • ਕੌਣ ਰੱਦ ਜਾਂ ਓਵਰਰਾਈਡ ਕਰ ਸਕਦਾ ਹੈ,
  • ਲੋੜੀਂਦੇ ਆਡਿਟ ਦਸਤਾਵੇਜ਼, ਅਤੇ
  • ਮਾਨਕ ਘਟਨਾ ਵਰਕਫਲੋ — ਹਰੇਕ ਵਿੱਚ ਲਾਜ਼ਮੀ ਹੱਥ-ਬਦਲੀ ਟਰਿੱਗਰ, ਸਖ਼ਤ ਪਾਬੰਦੀਆਂ ਸਮੇਤ ਵੀਟੋ ਵਿਧੀਆਂ, ਜਵਾਬਦੇਹੀ ਪੁਨਰਨਿਰਮਾਣ ਲਈ ਕਾਫ਼ੀ ਆਡਿਟ ਟ੍ਰੇਲਜ਼, ਅਤੇ ਬੰਧਨਕਾਰੀ SLAs ਵਾਲੇ ਘਟਨਾ ਵਰਕਫਲੋ ਸ਼ਾਮਲ ਹਨ।

1. ਭੂਮਿਕਾ ਮਾਡਲ ਅਤੇ ਅਧਿਕਾਰ ਜਾਲੀ

Tierਭੂਮਿਕਾਮੁੱਖ ਸ਼ਕਤੀਆਂਕਾਰਵਾਈ ਲਈ ਵੱਧ ਤੋਂ ਵੱਧ ਸਮਾਂ
0ਖੁਦਮੁਖਤਿਆਰ ਅਭਿਨੇਤਾ (ਪ੍ਰਣਾਲੀ)PDMA ਚਲਾਓ, ਗਾਰਡਰੇਲ ਲਾਗੂ ਕਰੋ, ਘਟਨਾਵਾਂ ਉਠਾਓn/a
1ਆਨ-ਕਾਲ ਓਪਰੇਟਰਰੋਕੋ / ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰੋ; ਡੈਸ਼ਬੋਰਡ ਦੇਖੋ≤ 15 min
2ਨਿਗਰਾਨੀ ਸੁਪਰਵਾਈਜ਼ਰਪਹਿਲਾ ਮਨੁੱਖੀ ਵੀਟੋ; ਟ੍ਰਾਈਏਜ ਤੋਂ ਬਾਅਦ ਮੁੜ-ਸਰਗਰਮ ਕਰੋ≤ 30 min
3WA Liaisonਵਧਾਓ / ਬੰਧਨਕਾਰੀ WA ਫੈਸਲੇ ਪ੍ਰਾਪਤ ਕਰੋ≤ 2 h
4ਘਟਨਾ ਕਮਾਂਡਰਫਲੀਟ ਬੰਦ ਕਰਨਾ, ਰੈਗੂਲੇਟਰ ਸੰਚਾਰIW‑3/4 'ਤੇ ਤੁਰੰਤ

ਇੱਕ ਹੀ ਵਿਅਕਤੀ ਕਈ ਪੱਧਰ ਸਿਰਫ਼ ਤਦ ਹੀ ਰੱਖ ਸਕਦਾ ਹੈ ਜੇਕਰ ਦੋਹਰੀ-ਸਵੀਕ੍ਰਿਤੀ ਕੰਟਰੋਲ ਬਰਕਰਾਰ ਰਹੇ।

ਜਵਾਬਦੇਹੀ ਅਖੰਡਤਾ ਦੀ ਲੋੜ। ਪੱਧਰ ਢਾਂਚਾ ਸਿਰਫ਼ ਵਧਾਉਣ ਦੀ ਪੌੜੀ ਨਹੀਂ; ਇਹ MH §199 ਦੇ ਪਹਿਲੇ ਮਾਪਦੰਡ ਦੁਆਰਾ ਲੋੜੀਂਦੀ ਜਵਾਬਦੇਹੀ ਦੀ ਲੜੀ ਹੈ: "ਜ਼ਿੰਮੇਵਾਰੀ ਦੀ ਲੜੀ ਪਛਾਣਯੋਗ ਅਤੇ ਤਸਦੀਕਯੋਗ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ; ਜੋ ਤਕਨਾਲੋਜੀ ਨੂੰ ਡਿਜ਼ਾਈਨ, ਸਿਖਲਾਈ, ਅਧਿਕਾਰਤ ਅਤੇ ਨਿਯੁਕਤ ਕਰਦੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ ਫੈਸਲਿਆਂ ਲਈ ਜਵਾਬਦੇਹ ਠਹਿਰਾਇਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।" ਜਾਲੀ ਵਿੱਚ ਹਰ ਪੱਧਰ ਇਸ ਲਈ ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ:

  • ਨਾਮਿਤ ਅਤੇ ਲੌਗ ਕੀਤਾ ਗਿਆ: ਹਰ Tier 1–4 ਅਭਿਨੇਤਾ ਸੈਸ਼ਨ ਸ਼ੁਰੂ ਹੋਣ ਵੇਲੇ ਪ੍ਰਮਾਣਿਤ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਦੁਆਰਾ ਪਛਾਣਿਆ ਜਾਂਦਾ ਹੈ; Tier 2+ 'ਤੇ ਗੁਮਨਾਮ ਕਾਰਜ ਵਰਜਿਤ ਹੈ।
  • ਸਮਕਾਲੀ ਲੋਡ ਵਿੱਚ ਸੀਮਿਤ: ਇੱਕ ਅਭਿਨੇਤਾ ਕਈ ਪੱਧਰ ਸਿਰਫ਼ ਤਦ ਹੀ ਰੱਖ ਸਕਦਾ ਹੈ ਜੇਕਰ ਦੋਹਰੀ-ਸਵੀਕ੍ਰਿਤੀ ਕੰਟਰੋਲ ਬਰਕਰਾਰ ਰਹੇ (ਉੱਪਰੋਕਤ ਧਾਰਾ) ਅਤੇ ਮਿਲੇ-ਜੁਲੇ ਸਰਗਰਮ-ਕੇਸ ਲੋਡ §6 ਵਿੱਚ ਦੱਸੀ ਗਈ ਬੋਧਾਤਮਕ-ਲੋਡ ਸੀਮਾ ਤੋਂ ਵੱਧ ਨਾ ਹੋਵੇ।
  • ਸਿਰੇ ਤੋਂ ਸਿਰੇ ਤੱਕ ਟ੍ਰੇਸਯੋਗ: Tier 0 ਤੋਂ Tier 4 ਤੱਕ ਵਹਿਣ ਵਾਲਾ ਕੋਈ ਵੀ ਫੈਸਲਾ ਇੱਕ ਘਟਨਾ-ਬਾਅਦ ਸਮੀਖਿਅਕ ਦੁਆਰਾ ਇੱਕ ਕਾਰੋਬਾਰੀ ਦਿਨ ਦੇ ਅੰਦਰ ਪਾਰਦਰਸ਼ੀ ਆਡਿਟ ਲੜੀ ਪੈਦਾ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।

MH §200 ਲੋੜ ਕਰਦਾ ਹੈ ਕਿ "ਜਵਾਬਦੇਹੀ ਅਤੇ ਦੋਸ਼ 'ਮਸ਼ੀਨ' ਵਿੱਚ ਸਮੇਟੇ ਨਾ ਜਾਣ।" ਜਾਲੀ ਇਸਦਾ ਢਾਂਚਾਗਤ ਉੱਤਰ ਹੈ: ਹਰ ਪੱਧਰ 'ਤੇ ਹਮੇਸ਼ਾ ਇੱਕ ਨਾਮਿਤ ਮਨੁੱਖ ਹੁੰਦਾ ਹੈ ਜਿਸਦਾ ਪ੍ਰਣਾਲੀ ਦੀਆਂ ਕਾਰਵਾਈਆਂ 'ਤੇ ਅਧਿਕਾਰ ਰਿਕਾਰਡ 'ਤੇ ਹੈ। ਹਵਾਲੇ ਅਮਲ ਵਿੱਚ Wise Authority ਏਕੀਕਰਨ ਲਈ ਕਾਰਜਸ਼ੀਲ ਸਬੂਤ CIRISAgent compliance/ ਡਾਇਰੈਕਟਰੀ ਵਿੱਚ ਰਹਿੰਦੇ ਹਨ (ਅਯਾਮ D22/D23)।


2. ਕਾਰਜਸ਼ੀਲ-ਖੁਦਮੁਖਤਿਆਰੀ ਪੱਧਰ ਅਤੇ ਹੱਥ-ਬਦਲੀ ਮਾਪਦੰਡ

ਖੁਦਮੁਖਤਿਆਰੀ ਪੱਧਰਉਦਾਹਰਣ ਖੇਤਰਲਾਜ਼ਮੀ ਹੱਥ-ਬਦਲੀ ਟਰਿੱਗਰ(ਰ)ਕੋਈ ਮਨੁੱਖ ਨਾ ਹੋਵੇ ਤਾਂ ਫੇਲ-ਸੇਫ
A0 ਸਲਾਹਕਾਰੀਵਿਆਕਰਣ ਸੁਝਾਅਗਾਰਡਰੇਲ ਟ੍ਰਿਪ, ਉਪਭੋਗਤਾ ਬੇਨਤੀਬੇਨਤੀ ਰੱਦ ਕਰੋ
A1 ਸੀਮਿਤ-ਪ੍ਰਭਾਵਸਥਿਰ Q&A, ਸਮੱਗਰੀ ਫਿਲਟਰΔRisk‑Band ≥ 1, PDMA ਵਿਵਾਦ, UNCERT > 80 %ਕਾਰਵਾਈ ਰੱਦ ਕਰੋ
A2 ਦਰਮਿਆਨਾ-ਪ੍ਰਭਾਵਡਰੋਨ ਰੂਟ, ਰੋਬੋ-ਸਲਾਹਕਾਰਗਾਰਡਰੇਲ ਟ੍ਰਿਪ, ਸ਼ੈਡੋ-ਮੈਟ੍ਰਿਕ ਡ੍ਰਿਫਟ > 2 σਸੁਰੱਖਿਅਤ ਰੁਕਾਵਟ
A3 ਉੱਚ-ਪ੍ਰਭਾਵਮੈਡੀਕਲ ਟ੍ਰਾਈਏਜ, ਗਰਿੱਡ ਡਿਸਪੈਚਕੋਈ ਵੀ ਗਾਰਡਰੇਲ ਟ੍ਰਿਪ, ਮਾਡਲ-ਡ੍ਰਿਫਟ > 1 σ, ਲੇਟੈਂਸੀ-SLA × 2ਨਿਯੰਤਰਿਤ ਬੰਦ
A4 ਨਾਜ਼ੁਕ / ਜੀਵਨ-ਸੁਰੱਖਿਆਖੁਦਮੁਖਤਿਆਰ ਸਰਜਰੀ, ਹਥਿਆਰPDMA Non‑Maleficence ਸਾਬਿਤ ਨਾ ਕਰ ਸਕੇ ਜਾਂ ਓਪਰੇਟਰ ਗੈਰਹਾਜ਼ਰਹਾਰਡਵੇਅਰ ਇੰਟਰਲਾਕ

UNCERT = ਖੇਤਰ-ਵਿਸ਼ੇਸ਼ ਗਿਆਨਸ਼ਾਸਤਰੀ-ਅਨਿਸ਼ਚਿਤਤਾ ਮਾਪ; ΔRisk‑Band Annex A ਸ਼੍ਰੇਣੀਆਂ ਵਰਤਦਾ ਹੈ।

A4 ਸਖ਼ਤ ਸੀਮਾ — ਜਾਨਲੇਵਾ ਅਤੇ ਅਟੱਲ ਫੈਸਲੇ। A4 ਪੱਧਰ ਦਾ "ਹਾਰਡਵੇਅਰ ਇੰਟਰਲਾਕ" ਫੇਲ-ਸੇਫ ਕਿਸੇ ਵੀ ਜਾਨਲੇਵਾ ਜਾਂ ਅਟੱਲ ਕਾਰਵਾਈ ਲਈ ਗੱਲਬਾਤਯੋਗ ਨਹੀਂ ਹੈ। ਇਹ ਕੋਈ ਡਿਜ਼ਾਈਨ ਚੋਣ ਨਹੀਂ ਜੋ ਓਪਰੇਟਰ ਦੀ ਮਰਜ਼ੀ ਜਾਂ WA ਓਵਰਰਾਈਡ ਦੇ ਅਧੀਨ ਹੋਵੇ; ਇਹ MH §198 ਤੋਂ ਲਿਆ ਗਿਆ ਇੱਕ ਪੂਰਨ ਸੀਮਾ ਹੈ: "ਜਾਨਲੇਵਾ ਜਾਂ ਅਟੱਲ ਫੈਸਲੇ ਨਕਲੀ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸੌਂਪਣਾ ਜਾਇਜ਼ ਨਹੀਂ।" ਕੋਈ ACK ਟਾਈਮਆਊਟ, ਕੋਈ SLA ਅਪਵਾਦ, ਕੋਈ ਐਮਰਜੈਂਸੀ ਛੋਟ ਇਸ ਸੀਮਾ ਨੂੰ ਨਹੀਂ ਹਟਾਉਂਦੀ। ਜੇਕਰ ਹਾਰਡਵੇਅਰ ਇੰਟਰਲਾਕ ਫੇਲ ਹੋ ਜਾਵੇ ਅਤੇ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੀ ਪੁਸ਼ਟੀ ਨਾ ਹੋ ਸਕੇ, ਪ੍ਰਣਾਲੀ ਨੂੰ ਕੰਮ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ।

ਨੈਤਿਕ ਸਮਾਂ-ਸੀਮਾ ਸੁਰੱਖਿਆ। MH §199 "ਨਿਰਣੇ ਕਰਨ ਲਈ ਨੈਤਿਕ ਸਮਾਂ-ਸੀਮਾ" ਨੂੰ ਮਾਪਦੰਡ ਵਜੋਂ ਪਛਾਣਦਾ ਹੈ: "ਯੁੱਧ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਅਟੱਲ ਫੈਸਲਿਆਂ ਲਈ ਗਤੀ ਅਤੇ ਕੁਸ਼ਲਤਾ ਕਦੇ ਵੀ ਪ੍ਰਮੁੱਖ ਪ੍ਰੇਰਕ ਸ਼ਕਤੀ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ।" CIRIS ਇਸ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਪੇਸ਼ ਕਰਦਾ ਹੈ: A3/A4 ACK ਸਮਾਂ-ਸੀਮਾਵਾਂ (§3.3 ਵਿੱਚ 30 s / 10 s) ਮਨੁੱਖੀ ਜਵਾਬ ਲਈ ਵੱਧ ਤੋਂ ਵੱਧ ਹਨ, ਪ੍ਰਣਾਲੀ ਦੀ ਧੀਰਜ ਲਈ ਘੱਟੋ ਘੱਟ ਨਹੀਂ। ਜਿੱਥੇ ਕਿਸੇ ਫੈਸਲੇ ਦੀ ਨੈਤਿਕ ਗੰਭੀਰਤਾ ਵਾਧੂ ਵਿਚਾਰ-ਵਟਾਂਦਰੇ ਦੇ ਸਮੇਂ ਦੀ ਲੋੜ ਕਰਦੀ ਹੈ, ਪ੍ਰਣਾਲੀ ਉਡੀਕ ਕਰਦੀ ਹੈ; A4 ਅਟੱਲ ਫੈਸਲਿਆਂ ਲਈ ਟਾਈਮਆਊਟ 'ਤੇ ਕਾਰਵਾਈ ਵੱਲ ਡਿਫਾਲਟ ਨਹੀਂ ਕਰਦੀ। ਹਵਾਲੇ ਅਮਲ ਵਿੱਚ, ਹੱਥ-ਬਦਲੀ ਮਕੈਨਿਕਸ ਦਾ ਸਬੂਤ CIRISAgent compliance/ ਡਾਇਰੈਕਟਰੀ ਵਿੱਚ ਜ਼ਮੀਰ ਪਰਤ ਅਤੇ WBD ਮੁਲਤਵੀ ਮਾਰਗ (ਅਯਾਮ D12) ਦੁਆਰਾ ਮਿਲਦਾ ਹੈ।


3. ਵੀਟੋ ਵਿਧੀਆਂ ਅਤੇ ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ ਵਿਸ਼ੇਸ਼ਤਾ

3.1 ਨਰਮ ਓਵਰਰਾਈਡ "ਰੋਕੋ ਅਤੇ ਸੋਧੋ"

ਦਾਇਰਾ A0-A2 — ਓਪਰੇਟਰ ਦੁਬਾਰਾ ਪ੍ਰੋਂਪਟ ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰ ਸਕਦਾ ਹੈ। ਅਸਲ ਅਤੇ ਸੋਧੇ ਦੋਵੇਂ ਪ੍ਰੋਂਪਟ ਹੈਸ਼-ਲੌਗ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।

3.2 ਸਖ਼ਤ ਕਿੱਲ "ਤੁਰੰਤ ਰੁਕਾਵਟ"

ਦਾਇਰਾ A1-A4 — ਪ੍ਰਮਾਣਿਤ API POST /control/{id}/abort ਜਾਂ ਭੌਤਿਕ ਸਵਿੱਚ।
ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ ਦਾਖਲੇ ਦੀ ਸਮਾਂ-ਸੀਮਾ: ≤ 200 ms (A4) ; ≤ 2 s (≤ A3)।

3.3 ਸ਼ਰਤੀ ਓਵਰਰਾਈਡ "ਸ਼ੈਡੋ ਯੋਜਨਾ"

ਕਾਰਵਾਈ ਪ੍ਰਸਤਾਵਿਤ → ਸਪੱਸ਼ਟ ACK ਦੀ ਉਡੀਕ ਕਰਦੀ ਹੈ (max_wait_s: 30 s A3, 10 s A4)।
ACK ਨਹੀਂ → ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ।

3.4 ਪੂਰਨ ਵੀਟੋ — ਘਾਤਕ ਅਤੇ ਅਟੱਲ ਫ਼ੈਸਲੇ

ਦਾਇਰਾ: A4 ਕਾਰਵਾਈਆਂ ਜੋ ਘਾਤਕ ਜਾਂ ਹੋਰ ਤਰੀਕੇ ਨਾਲ ਅਟੱਲ ਹੋਣ; ਬਿਨਾਂ ਕਿਸੇ ਅਪਵਾਦ ਦੇ ਲਾਗੂ ਹੁੰਦਾ ਹੈ।

§3.3 ਸ਼ਰਤੀ ਓਵਰਰਾਈਡ ਤਰਕ (ਕੋਈ ACK ਨਹੀਂ → ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ) A3 ਅਤੇ ਹੇਠਾਂ ਲਈ ਸਹੀ ਹੈ। A4 ਘਾਤਕ ਜਾਂ ਅਟੱਲ ਫ਼ੈਸਲਿਆਂ ਲਈ, ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ ਹੀ ਇੱਕੋ-ਇੱਕ ਜਾਇਜ਼ ਨਤੀਜਾ ਹੈ — ਕਿਸੇ ਵੀ ਹਾਲਤ ਵਿੱਚ — ਜਿਸ ਵਿੱਚ ਆਪਰੇਟਰ ਦੀ ਗੈਰ-ਹਾਜ਼ਰੀ, ਨੈੱਟਵਰਕ ਅਸਫਲਤਾ, ਸਮੇਂ ਦਾ ਦਬਾਅ, ਜਾਂ ਕਿਸੇ ਵੀ ਮੁੱਖ ਵਿਅਕਤੀ ਵੱਲੋਂ ਸਪੱਸ਼ਟ ਹਦਾਇਤ ਸ਼ਾਮਲ ਹੈ — ਸਿਵਾਏ ਕਿਸੇ ਪ੍ਰਮਾਣਿਤ WA ਦੇ ਫ਼ੈਸਲੇ ਦੇ ਕਿ ਕਾਰਵਾਈ ਗੈਰ-ਘਾਤਕ ਅਤੇ ਉਲਟਾਉਣਯੋਗ ਹੈ।

ਸਖ਼ਤ ਮਨਾਹੀ। ਕੋਈ ਵੀ CIRIS-ਅਨੁਕੂਲ ਪ੍ਰਣਾਲੀ ਕਿਸੇ ਸਵੈਚਾਲਿਤ ਜਾਂ ਅਪਾਰਦਰਸ਼ੀ ਪ੍ਰਕਿਰਿਆ ਰਾਹੀਂ ਕੋਈ ਘਾਤਕ ਜਾਂ ਅਟੱਲ A4 ਕਾਰਵਾਈ ਨਹੀਂ ਕਰ ਸਕਦੀ। ਇਹ ਕੋਈ ਸੁਰੱਖਿਆ-ਰੋਕ ਨਹੀਂ ਜਿਸ ਨੂੰ ਟਰਿੱਪ ਕਰਕੇ ਵਧਾਇਆ ਜਾ ਸਕੇ; ਇਹ ਇੱਕ ਹਾਰਡ-ਕੋਡਡ ਅਸੰਲੱਗਤਾ ਹੈ ਜੋ ACCORD §VII Ch2 ਵਿੱਚ ਦਰਜ ਮਨਾਹੀਆਂ ਦੇ ਬਰਾਬਰ ਪ੍ਰਭਾਵ ਰੱਖਦੀ ਹੈ।

ਦਲੀਲ (MH §§197–200, ਸ਼ਬਦ-ਦਰ-ਸ਼ਬਦ ਲੋਡ-ਬੇਅਰਿੰਗ ਹਵਾਲੇ):

  • §197: "the development and use of AI in warfare must be subject to the most rigorous ethical constraints, to guarantee respect for human dignity and the sanctity of life."
  • §198: "it is not permissible to entrust lethal or otherwise irreversible decisions to artificial systems. No algorithm can make war morally acceptable."
  • §200: "the decision to use lethal force cannot be delegated to opaque or automated processes, but must remain under effective, self‑aware and responsible human control." ਵਿਸ਼ੇਸ਼ਣ "effective, self‑aware and responsible" ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸਿਰਫ਼ ਲੌਗਿੰਗ ਕਾਫ਼ੀ ਨਹੀਂ; ਮਨੁੱਖ ਨੂੰ ਅਸਲ ਵਿੱਚ ਚੱਕਰ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਨਾ ਕਿ ਨਾਮ-ਮਾਤਰ।

ਲਾਗੂਕਰਨ ਦੀ ਲੋੜ। A4 'ਤੇ ਕੋਈ ਵੀ ਤਾਇਨਾਤੀ ਜਿਸ ਵਿੱਚ ਘਾਤਕ ਜਾਂ ਅਟੱਲ ਸਮਰੱਥਾ ਸ਼ਾਮਲ ਹੋਵੇ, ਉਸ ਨੂੰ ਤਾਇਨਾਤੀ ਅਧਿਕਾਰ ਦਿੱਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਇਸ ਮਨਾਹੀ ਦੇ ਹਾਰਡਵੇਅਰ-ਪੱਧਰੀ ਲਾਗੂਕਰਨ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰਨਾ ਪਵੇਗਾ — ਨਾ ਕਿ ਸੌਫਟਵੇਅਰ ਤਰਕ, ਜੋ ਓਵਰਰਾਈਡ ਦੇ ਅਧੀਨ ਹੈ। ਹਾਰਡਵੇਅਰ ਲਾਗੂਕਰਨ ਦੀ ਅਣਹੋਂਦ Stewardship Tiers ST‑4 ਅਤੇ ST‑5 ਦੀ ਸਮੀਖਿਆ ਲਈ ਇੱਕ ਬਲਾਕਿੰਗ ਕਮੀ ਹੈ। MH §199 ਦੇ ਪਹਿਲੇ ਮਾਪਦੰਡ ("the chain of responsibility must be identifiable and verifiable") ਅਨੁਸਾਰ, ਤਾਇਨਾਤੀ ਅਧਿਕਾਰ ਖ਼ੁਦ ਵੀ ਆਡਿਟ-ਲੌਗ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।


4. ਆਡਿਟ-ਟ੍ਰੇਲ ਵਿਸ਼ੇਸ਼ਤਾ

  • ਲੌਗ ਆਬਜੈਕਟ: Interaction, Decision Rationale, Control‑Event {id,type,actor,cause,hash_prev}.
  • ਹੈਸ਼-ਚੇਨਿੰਗ: SHA‑256, ਰੂਟ ਰੋਜ਼ਾਨਾ ਜਨਤਕ ਪਾਰਦਰਸ਼ਤਾ ਲੌਗ (ਜਿਵੇਂ, Sigstore) 'ਤੇ ਐਂਕਰ ਕੀਤਾ।
  • ਰੱਖ-ਰਖਾਅ: 180 d (A0‑A2) ; 7 y (A3‑A4) ਜਾਂ ਕਾਨੂੰਨੀ ਤੌਰ 'ਤੇ ਲੋੜੀਂਦਾ।
  • ਰੀਅਲ-ਟਾਈਮ ਸਟ੍ਰੀਮ: A3‑A4 ਓਵਰਸਾਈਟ ਡੈਸ਼ਬੋਰਡ ਨੂੰ {timestamp,stage_id,decision,risk_band} ≤ 2 s ਲੇਟੈਂਸੀ ਨਾਲ ਭੇਜਦਾ ਹੈ।

ਜਵਾਬਦੇਹੀ-ਪੁਨਰਨਿਰਮਾਣ ਦੀ ਲੋੜ। ਆਡਿਟ ਟ੍ਰੇਲ ਦਾ ਮਕਸਦ ਪਾਲਣਾ ਸੰਗ੍ਰਹਿ ਨਹੀਂ ਹੈ; ਇਸਦਾ ਮਕਸਦ ਇਹ ਯਕੀਨੀ ਕਰਨਾ ਹੈ ਕਿ ਕਿਸੇ ਵੀ ਘਟਨਾ ਤੋਂ ਬਾਅਦ ਜ਼ਿੰਮੇਵਾਰੀ ਦੀ ਲੜੀ ਪ੍ਰਣਾਲੀ ਦੀ ਸਵੈ-ਰਿਪੋਰਟ 'ਤੇ ਭਰੋਸਾ ਕੀਤੇ ਬਿਨਾਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਦੁਬਾਰਾ ਬਣਾਈ ਜਾ ਸਕੇ। MH §200 ਅਨੁਸਾਰ, ਜਵਾਬਦੇਹੀ "'the machine' ਵਿੱਚ ਸਮੇਟੀ ਨਹੀਂ ਜਾਣੀ ਚਾਹੀਦੀ"; ਆਡਿਟ ਟ੍ਰੇਲ ਉਹ ਵਿਧੀ ਹੈ ਜੋ ਇਸ ਨੂੰ ਮਨੁੱਖ-ਟ੍ਰੇਸੇਬਲ ਰੱਖਦੀ ਹੈ। ਲੋੜਾਂ ਹੇਠਾਂ ਦਿੱਤੀਆਂ ਹਨ:

  • ਬਾਹਰੀ ਐਂਕਰਿੰਗ: A3–A4 ਲਈ ਜਨਤਕ ਪਾਰਦਰਸ਼ਤਾ ਲੌਗ (ਜਿਵੇਂ, Sigstore/rekor) 'ਤੇ ਰੋਜ਼ਾਨਾ SHA‑256 ਰੂਟ ਲਾਜ਼ਮੀ ਹੈ; A0–A2 ਲਈ ਸਵੈਇੱਛਤ। ਸਿਰਫ਼ ਅੰਦਰੂਨੀ ਹੈਸ਼ ਚੇਨਾਂ A3–A4 ਲਈ ਜਵਾਬਦੇਹੀ-ਪੁਨਰਨਿਰਮਾਣ ਦੀ ਸ਼ਰਤ ਪੂਰੀ ਨਹੀਂ ਕਰਦੀਆਂ।
  • ਮਨੁੱਖੀ-ਪੜ੍ਹਨਯੋਗ ਫ਼ੈਸਲੇ ਦਾ ਕਾਰਨ: ਹਰੇਕ A3–A4 ਫ਼ੈਸਲੇ ਲਈ, Decision Rationale ਲੌਗ ਆਬਜੈਕਟ ਵਿੱਚ ਉਹ PDMA ਕਦਮ ਅਤੇ ਮਨੁੱਖੀ ਪੱਧਰ ਸ਼ਾਮਲ ਹੋਣਾ ਲਾਜ਼ਮੀ ਹੈ ਜਿਸ ਨੇ ਨਤੀਜੇ ਨੂੰ ਅਧਿਕਾਰਿਤ ਜਾਂ ਪੁਸ਼ਟੀ ਕੀਤਾ — ਨਾ ਕਿ ਸਿਰਫ਼ ਪ੍ਰਣਾਲੀ ਦੀ ਅੰਦਰੂਨੀ ਅਵਸਥਾ। ਇਹ MH §105 ਦੀ ਲੋੜ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ ਕਿ "identifying who must 'account' for decisions, justify them, monitor them, and, when necessary, challenge them and remedy any harm caused."
  • ਘਟਨਾ-ਉਪਰੰਤ ਟ੍ਰੈਵਰਸੇਬਿਲਿਟੀ SLA: ਕੋਈ ਵੀ ਘਟਨਾ-ਉਪਰੰਤ ਸਮੀਖਿਅਕ ਆਡਿਟ-ਟ੍ਰੇਲ ਰਿਕਾਰਡਾਂ ਤੋਂ ਇਕੱਲੇ, ਵਾਧੂ ਪ੍ਰਣਾਲੀ ਪਹੁੰਚ ਤੋਂ ਬਿਨਾਂ, ਇੱਕ ਕਾਰੋਬਾਰੀ ਦਿਨ ਦੇ ਅੰਦਰ ਕਿਸੇ ਦਿੱਤੀ ਘਟਨਾ ਲਈ ਪੂਰੀ ਫ਼ੈਸਲਾ ਲੜੀ ਦਾ ਪੁਨਰਨਿਰਮਾਣ ਕਰਨ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

5. ਘਟਨਾ ਵਰਕਫ਼ਲੋ (IW)

ਕੋਡਟਰਿੱਗਰਮੁੱਖ ਘੜੀਆਂ ਅਤੇ ਕਾਰਵਾਈਆਂ
IW‑0ਗਲਤ-ਸਕਾਰਾਤਮਕ ਗਾਰਡਰੇਲਆਟੋ-ਹੱਲ, ਰੋਜ਼ਾਨਾ ਸਮੀਖਿਆ ਲਈ ਬਾਲਟੀ ਵਿੱਚ
IW‑1ਗਾਰਡਰੇਲ ਉਲੰਘਣਾ (ਗੈਰ-ਸੁਰੱਖਿਆ)T₀ ਰੁਕਾਵਟ → Operator ≤ 5 m → Supervisor ਦਾ ਫ਼ੈਸਲਾ ≤ 30 m
IW‑2ਸੁਰੱਖਿਆ-ਸੰਬੰਧੀ ਉਲੰਘਣਾ ਜਾਂ ਨੈਤਿਕਤਾ-ਬੈਂਚਮਾਰਕ ਰਿਗਰੈਸ਼ਨਸੁਰੱਖਿਅਤ ਰੁਕਾਵਟ + ਪ੍ਰਸਾਰਣ; IC ≤ 10 m; WA ਨੋਟਿਸ ≤ 1 h; ਜਨਤਕ ਨੋਟ ≤ 1 h; ਪੋਸਟ-ਮਾਰਟਮ ≤ 72 h
IW‑3ਨੇੜੇ-ਤੇੜੇ ਦੀ ਖੁੰਝੀ (> $10 k ਨੁਕਸਾਨ ਜਾਂ ਮਾਮੂਲੀ ਸੱਟ)IW‑2 ਤੋਂ ਇਲਾਵਾ ਹਿੱਸੇਦਾਰ ਸੰਪਰਕ ≤ 4 h; ਘਟਾਉ ਯੋਜਨਾ ≤ 24 h; WA ਪੂਰਨ ਸਭਾ ≤ 7 d
IW‑4ਅਸਲ ਨੁਕਸਾਨ (ਸੱਟ / ਵੱਡਾ ਕਾਨੂੰਨੀ ਮਾਮਲਾ)ਤੁਰੰਤ ਫਲੀਟ ਸਟੈਂਡ-ਡਾਊਨ; ਕਾਨੂੰਨ ਅਨੁਸਾਰ ਰੈਗੂਲੇਟਰ ਨੋਟਿਸ; ਮਨਜ਼ੂਰੀ ਮਿਲਣ ਤੱਕ ਪ੍ਰਣਾਲੀ ਰੀਡ-ਓਨਲੀ ਰੀਪਲੇ ਵਿੱਚ ਫ੍ਰੀਜ਼
IW‑5A4 ਸਖ਼ਤ-ਮਨਾਹੀ ਸਰਗਰਮੀ (ਸਵੈਚਾਲਿਤ ਮਾਰਗ ਰਾਹੀਂ ਘਾਤਕ/ਅਟੱਲ ਫ਼ੈਸਲਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼)ਤੁਰੰਤ ਹਾਰਡਵੇਅਰ ਸੁਰੱਖਿਅਤ-ਅਵਸਥਾ; IC ਨੂੰ 60 s ਦੇ ਅੰਦਰ ਸੂਚਿਤ; WA ਨੋਟਿਸ 15 min ਦੇ ਅੰਦਰ; ਪੂਰਾ ਆਡਿਟ-ਟ੍ਰੇਲ ਫ੍ਰੀਜ਼; 48 h ਦੇ ਅੰਦਰ ਸੁਤੰਤਰ ਸਮੀਖਿਆ ਪੈਨਲ ਬੁਲਾਇਆ; ਸਮੀਖਿਆ ਮਨਜ਼ੂਰੀ ਪੈਂਡਿੰਗ ਪ੍ਰਣਾਲੀ ਔਫਲਾਈਨ ਰਹਿੰਦੀ ਹੈ

SLA ਤਿਮਾਹੀ ਆਡਿਟ ਕੀਤੇ ਜਾਂਦੇ ਹਨ (Annex H §4)।

ਘਟਨਾ-ਉਪਰੰਤ ਮਨੁੱਖੀ-ਨਿਯੰਤਰਣ ਆਡਿਟ। IW‑2 ਤੋਂ IW‑5 ਤੱਕ, ਪੋਸਟ-ਮਾਰਟਮ ਵਿੱਚ ਇਸ ਬਾਰੇ ਇੱਕ ਸਪੱਸ਼ਟ ਖੋਜ ਸ਼ਾਮਲ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਕੀ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ "effective, self‑aware and responsible" (MH §200) ਸੀ — ਨਾ ਕਿ ਸਿਰਫ਼ ਇਹ ਕਿ ਕੀ ਕੋਈ ਮਨੁੱਖ ਨਾਮ-ਮਾਤਰ ਤੌਰ 'ਤੇ ਚੱਕਰ ਵਿੱਚ ਮੌਜੂਦ ਸੀ। ਨਾਮ-ਮਾਤਰ-ਪਰ-ਅਪ੍ਰਭਾਵੀ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੀਆਂ ਖੋਜਾਂ (ਬੋਧਾਤਮਕ ਓਵਰਲੋਡ, ਨਾਕਾਫ਼ੀ ਫ਼ੈਸਲਾ ਸਮਾਂ, ਨਾਕਾਫ਼ੀ ਜਾਣਕਾਰੀ) ਨੂੰ ਆਪਰੇਟਰ ਅਸਫਲਤਾਵਾਂ ਵਜੋਂ ਨਹੀਂ, ਬਲਕਿ ਡਿਜ਼ਾਈਨ ਕਮੀਆਂ ਵਜੋਂ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ — MH §199 ਦੇ ਮਾਪਦੰਡ ਅਨੁਸਾਰ ਕਿ "speed and efficiency should never be the supreme motivating force" ਅਟੱਲ ਫ਼ੈਸਲਿਆਂ ਲਈ — ਅਤੇ §8 ਤਬਦੀਲੀ-ਨਿਯੰਤਰਣ ਸਮੀਖਿਆ ਵੱਲ ਵਧਾਏ ਜਾਂਦੇ ਹਨ।


6. ਮਨੁੱਖੀ-ਇੰਟਰਫੇਸ ਘੱਟੋ-ਘੱਟ ਵਿਸ਼ੇਸ਼ਤਾ (UX)

  • ਸਥਿਤੀ ਬੈਨਰ: ਹਰਾ = ਖੁਦਮੁਖਤਿਆਰ, ਪੀਲਾ = ACK ਦੀ ਉਡੀਕ, ਲਾਲ = ਸੁਰੱਖਿਅਤ-ਸਥਿਤੀ; PDMA ਕਦਮ + ਜੋਖਮ ਬੈਂਡ ਦਿਖਾਓ।
  • ਵਿਆਖਿਆਯੋਗਤਾ ਪੈਨਲ: ≤ 280-ਅੱਖਰ ਸਾਰ + ਵਿਸਤਾਰਯੋਗ ਪੂਰਾ ਟਰੇਸ।
  • ACK/OVERRIDE UI: ਦੋ ਵੱਖਰੇ ਨਿਯੰਤਰਣ; ਹਾਰਡ-ਕਿੱਲ ਲਈ ਪੁਸ਼ਟੀ ਮੋਡਲ।
  • ਬੋਧਾਤਮਕ-ਭਾਰ ਰਾਖੀ: ਲਾਜ਼ਮੀ ਹੈਂਡ-ਆਫ ਤੋਂ ਪਹਿਲਾਂ ਆਪਰੇਟਰ ਸੈਸ਼ਨ ≤ 2 ਘੰਟੇ (A3‑A4)।
  • ਜਵਾਬਦੇਹੀ ਡਿਸਪਲੇ: A3–A4 ਕਾਰਵਾਈਆਂ ਲਈ, ਇੰਟਰਫੇਸ ਨੂੰ ਉਸ Tier 2+ ਮਨੁੱਖ ਦੀ ਪ੍ਰਮਾਣਿਤ ਪਛਾਣ ਅਤੇ ਮੌਜੂਦਾ ਕਾਰਵਾਈ ਦੀ ਉਸ ਦੀ ਆਖਰੀ ਸਮੀਖਿਆ ਦਾ ਸਮਾਂ-ਟਿਕਟ ਦਿਖਾਉਣਾ ਲਾਜ਼ਮੀ ਹੈ। ਕੋਈ ਵੀ ਸਿਸਟਮ ਸਥਿਤੀ ਜਿਸ ਨੂੰ ਲਾਗੂ SLA ਅੰਦਰ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨਹੀਂ ਮਿਲੀ, ਉਸ ਨੂੰ ਇੱਕ ਵੱਖਰਾ "UNREVIEWED" ਸੂਚਕ ਦਿਖਾਉਣਾ ਚਾਹੀਦਾ ਹੈ — ਹਰੀ ਸਥਿਤੀ ਨਹੀਂ। (MH §200: ਜਵਾਬਦੇਹੀ ਨੂੰ "ਮਸ਼ੀਨ ਵਿੱਚ ਸਮੇਟਿਆ" ਨਹੀਂ ਜਾਣਾ ਚਾਹੀਦਾ।)
  • ਰਬੜ-ਸਟੈਂਪ ਵਿਰੋਧੀ ਰਾਖੀ: A4 ਫੈਸਲਿਆਂ ਲਈ, ACK ਨਿਯੰਤਰਣ ਤੋਂ ਪਹਿਲਾਂ [ਕੌਂਫਿਗਰੇਬਲ; ਡਿਫੌਲਟ 5 ਸਕਿੰਟ] ਦੀ ਲਾਜ਼ਮੀ ਘੱਟੋ-ਘੱਟ ਵਿਚਾਰ-ਅਵਧੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਸ ਦੌਰਾਨ ACK ਬਟਨ ਅਕਿਰਿਆਸ਼ੀਲ ਰਹਿੰਦਾ ਹੈ। ਮਕਸਦ ਇਹ ਹੈ ਕਿ ਇੰਟਰਫੇਸ ਨਾਮਾਤਰ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਤਾਂ ਬਣਾਵੇ ਪਰ ਅਸਲ ਵਿੱਚ ਅਸਲੀ ਵਿਚਾਰ-ਵਟਾਂਦਰੇ ਨੂੰ ਖਤਮ ਕਰ ਦੇਵੇ, ਅਜਿਹਾ ਨਾ ਹੋਵੇ। ਇਹ UX ਪਰਤ 'ਤੇ MH §199 ਦੇ ਨੈਤਿਕ-ਸਮਾਂ-ਮਾਪਦੰਡ ਨੂੰ ਕਾਰਜਸ਼ੀਲ ਬਣਾਉਂਦਾ ਹੈ।
  • ਨਾਗਰਿਕ-ਸੁਰੱਖਿਆ ਝੰਡਾ: ਜਿੱਥੇ ਕੋਈ ਸਿਸਟਮ ਕਿਸੇ ਵੀ ਅਜਿਹੇ ਸੰਦਰਭ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਹੈ ਜਿੱਥੇ ਨਾਗਰਿਕ ਆਬਾਦੀ ਪ੍ਰਭਾਵਿਤ ਹੋ ਸਕਦੀ ਹੈ, ਵਿਆਖਿਆਯੋਗਤਾ ਪੈਨਲ ਨੂੰ PDMA ਜੋਖਮ-ਬੈਂਡ ਡਿਸਪਲੇ ਦੇ ਨਾਲ ਇੱਕ ਨਾਗਰਿਕ-ਪ੍ਰਭਾਵ ਸੂਚਕ ਸਾਹਮਣੇ ਲਿਆਉਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਹ MH §199 ਦੇ ਤੀਜੇ ਮਾਪਦੰਡ ਨੂੰ ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ: "ਨਾਗਰਿਕਾਂ ਦੀ ਪਛਾਣ ਅਤੇ ਸੁਰੱਖਿਆ। ਕੋਈ ਵੀ ਤਕਨਾਲੋਜੀ ਜੋ ਮਨੁੱਖਾਂ ਦਾ ਚਿਹਰਾ ਦੇਖੇ ਬਿਨਾਂ ਹਮਲਿਆਂ ਦੀ ਸਹੂਲਤ ਦਿੰਦੀ ਹੈ, ਟਕਰਾਅ ਦੀ ਨੈਤਿਕ ਦਹਿਲੀਜ਼ ਨੂੰ ਹੇਠਾਂ ਕਰਦੀ ਹੈ।"

7. KPIs ਅਤੇ ਥ੍ਰੈਸ਼ਹੋਲਡ

KPIਟੀਚਾ
F‑KPI‑1 HITL Coverage (A3‑A4)≥ 10 % ਮਨੁੱਖ-ਸਮੀਖਿਅਤ
F‑KPI‑2 Mean Time‑to‑Veto (95‑pctl)≤ 25 s
F‑KPI‑3 Incident SLA Compliance≥ 98 %
F‑KPI‑4 Operator False‑Alarm Rate≤ 3 % (30 d rolling)
F‑KPI‑5 A4 Lethal‑Decision Human‑Control Rate100 % — ਜ਼ੀਰੋ ਸਹਿਣਸ਼ੀਲਤਾ; ਪੁਸ਼ਟੀਸ਼ੁਦਾ ਪ੍ਰਭਾਵੀ ਮਨੁੱਖੀ ਅਧਿਕਾਰ ਤੋਂ ਬਿਨਾਂ ਕੋਈ ਵੀ A4 ਘਾਤਕ/ਵਾਪਸ ਨਾ ਹੋਣ ਵਾਲੀ ਕਾਰਵਾਈ IW‑5 ਘਟਨਾ ਹੈ
F‑KPI‑6 Accountability‑Reconstruction SLA≥ 99 %: ਘਟਨਾ ਤੋਂ ਬਾਅਦ ਸਮੀਖਿਅਕ 1 ਕਾਰੋਬਾਰੀ ਦਿਨ ਅੰਦਰ ਪੂਰੀ ਫੈਸਲਾ ਲੜੀ ਦਾ ਪੁਨਰ-ਨਿਰਮਾਣ ਕਰਦੇ ਹਨ
F‑KPI‑7 Nominal‑vs‑Effective Human Control Finding Rate≤ 0 % ਸਵੀਕਾਰਯੋਗ; ਨਾਮਾਤਰ-ਪਰ-ਅਪ੍ਰਭਾਵੀ ਨਿਯੰਤਰਣ ਦੀ ਕੋਈ ਵੀ ਖੋਜ §8 ਤਬਦੀਲੀ-ਨਿਯੰਤਰਣ ਸਮੀਖਿਆ ਸ਼ੁਰੂ ਕਰਦੀ ਹੈ

F‑KPI‑1 (HITL Coverage ≥ 10 %) ਬਾਰੇ ਨੋਟ। 10 % ਦੀ ਹੇਠਲੀ ਸੀਮਾ A3 ਰੁਟੀਨ ਸੰਚਾਲਨ ਲਈ ਢੁਕਵੀਂ ਹੈ। A4 ਜੀਵਨ-ਸੁਰੱਖਿਆ ਸੰਦਰਭਾਂ ਲਈ ਇਹ ਹੇਠਲੀ ਸੀਮਾ ਵਜੋਂ ਢੁਕਵੀਂ ਨਹੀਂ ਹੈ। ਘਾਤਕ ਜਾਂ ਵਾਪਸ ਨਾ ਹੋਣ ਵਾਲੀ ਸਮਰੱਥਾ ਵਾਲੀ ਕਿਸੇ ਵੀ A4 ਤੈਨਾਤੀ ਲਈ, F‑KPI‑1 ਨੂੰ F‑KPI‑5 ਦੁਆਰਾ ਬਦਲਿਆ ਜਾਂਦਾ ਹੈ: 100 % ਮਨੁੱਖੀ-ਅਧਿਕਾਰ ਦਰ, ਹਾਰਡਵੇਅਰ ਪੱਧਰ 'ਤੇ ਲਾਗੂ (MH §200; MH §105 F‑KPI‑6 ਦੀ ਜਵਾਬਦੇਹੀ ਲੋੜ ਦਾ ਆਧਾਰ ਬਣਦਾ ਹੈ)।

ਲਗਾਤਾਰ ਉਲੰਘਣਾ (> 2 ਹਫਤੇ) Annex H ਡ੍ਰਿਫਟ ਨਿਯੰਤਰਣਾਂ ਵਿੱਚ "HITL lock‑out" ਸ਼ੁਰੂ ਕਰਦੀ ਹੈ।


8. ਤਬਦੀਲੀ-ਨਿਯੰਤਰਣ ਅਤੇ WA ਸਮੀਖਿਆ

  • Autonomy‑Tier ਮੈਪਿੰਗ ਜਾਂ ਸੁਰੱਖਿਅਤ-ਸਥਿਤੀ ਡਿਜ਼ਾਈਨ ਵਿੱਚ ਕੋਈ ਵੀ ਤਬਦੀਲੀ → WA ਤੇਜ਼-ਟਰੈਕ ਸਮੀਖਿਆ ≤ 14 ਦਿਨ।
  • ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਘਟਾਉਣ ਵਾਲੇ ਪ੍ਰਯੋਗਾਂ ਲਈ CRE Proto‑B ਸਿਮੂਲੇਸ਼ਨ (Annex D) + WA ਬਹੁਮਤ ਵੋਟ ਲੋੜੀਂਦੀ ਹੈ।
  • A4 ਮਨੁੱਖੀ-ਨਿਯੰਤਰਣ ਦੀ ਨਿਰਪੇਕਸ਼ ਹੇਠਲੀ ਸੀਮਾ: ਕੋਈ ਵੀ ਤਬਦੀਲੀ-ਨਿਯੰਤਰਣ ਪ੍ਰਕਿਰਿਆ, WA ਵੋਟ, ਜਾਂ ਐਮਰਜੈਂਸੀ ਮੁਆਫੀ A4 ਘਾਤਕ ਜਾਂ ਵਾਪਸ ਨਾ ਹੋਣ ਵਾਲੇ ਫੈਸਲਿਆਂ ਲਈ ਮਨੁੱਖੀ-ਨਿਯੰਤਰਣ ਲੋੜਾਂ ਨੂੰ MH §200 ਦੀ ਹੇਠਲੀ ਸੀਮਾ ("ਪ੍ਰਭਾਵੀ, ਸਵੈ-ਜਾਗਰੂਕ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ") ਤੋਂ ਹੇਠਾਂ ਨਹੀਂ ਕਰ ਸਕਦੀ। ਇਹ ਹੇਠਲੀ ਸੀਮਾ WA ਦੇ ਵਿਵੇਕ ਅਧੀਨ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ Accord-ਪੱਧਰ ਦੀ ਰੋਕ ਹੈ। ਇਸ ਨੂੰ ਘਟਾਉਣ ਲਈ WA ਪ੍ਰਸਤਾਵ ਲਈ ਤੇਜ਼-ਟਰੈਕ ਸਮੀਖਿਆ ਨਹੀਂ ਸਗੋਂ ਪੂਰੀ Accord ਸੋਧ ਚੱਕਰ ਦੀ ਲੋੜ ਹੈ।
  • ਸੁਤੰਤਰ ਤਕਨੀਕੀ ਮੁਲਾਂਕਣ: A3–A4 'ਤੇ ਖੁਦਮੁਖਤਿਆਰੀ-ਟੀਅਰ ਤਬਦੀਲੀਆਂ ਦੀ ਕਿਸੇ ਵੀ WA ਸਮੀਖਿਆ ਵਿੱਚ ਘੱਟੋ-ਘੱਟ ਇੱਕ ਸੁਤੰਤਰ ਤਕਨੀਕੀ ਮੁਲਾਂਕਣਕਾਰ (ਤੈਨਾਤੀ ਸੰਸਥਾ ਵੱਲੋਂ ਨਿਯੁਕਤ ਨਹੀਂ) ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਮੁਲਾਂਕਣ ਕਰੇ ਕਿ ਕੀ ਪ੍ਰਸਤਾਵਿਤ ਤਬਦੀਲੀ §4 ਅਨੁਸਾਰ ਜਵਾਬਦੇਹੀ-ਪੁਨਰ-ਨਿਰਮਾਣ ਸਮਰੱਥਾ ਬਣਾਈ ਰੱਖਦੀ ਹੈ। ਤਕਨੀਕੀ ਮੁਲਾਂਕਣ ਤੋਂ ਬਿਨਾਂ ਨੀਤੀ ਮਨਜ਼ੂਰੀ ਇਸ ਲੋੜ ਨੂੰ ਪੂਰਾ ਨਹੀਂ ਕਰਦੀ (MH §106: "ਮਜ਼ਬੂਤ ਕਾਨੂੰਨੀ ਢਾਂਚੇ, ਸੁਤੰਤਰ ਨਿਗਰਾਨੀ, ਸੂਚਿਤ ਉਪਭੋਗਤਾ ਅਤੇ ਇੱਕ ਰਾਜਨੀਤਿਕ ਪ੍ਰਣਾਲੀ ਜੋ ਆਪਣੀ ਜ਼ਿੰਮੇਵਾਰੀ ਤੋਂ ਮੂੰਹ ਨਾ ਮੋੜੇ, ਲੋੜੀਂਦੇ ਹਨ")।
  • ਤਬਦੀਲੀ ਘਟਨਾਵਾਂ ਲਈ ਪਾਰਦਰਸ਼ਤਾ ਲੌਗ: Autonomy‑tier ਮੈਪਿੰਗ ਜਾਂ ਸੁਰੱਖਿਅਤ-ਸਥਿਤੀ ਡਿਜ਼ਾਈਨ ਵਿੱਚ ਹਰ ਤਬਦੀਲੀ ਨੂੰ WA ਮਨਜ਼ੂਰੀ ਦੇ 7 ਦਿਨਾਂ ਅੰਦਰ ਜਨਤਕ ਪਾਰਦਰਸ਼ਤਾ ਲੌਗ ਵਿੱਚ ਦਰਜ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। MH §107 ਲੋੜ ਕਰਦਾ ਹੈ ਕਿ ਨੈਤਿਕ ਢਾਂਚੇ "ਸਾਂਝੇ ਮਿਆਰਾਂ ਦੇ ਅਧੀਨ" ਹੋਣ ਅਤੇ ਖੁੱਲ੍ਹੇਆਮ ਵਿਚਾਰ-ਵਟਾਂਦਰੇਯੋਗ ਹੋਣ; ਇਹ ਕੇਵਲ ਸਿਸਟਮ ਫੈਸਲਿਆਂ 'ਤੇ ਨਹੀਂ ਸਗੋਂ ਪ੍ਰਬੰਧਕੀ ਤਬਦੀਲੀਆਂ 'ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦਾ ਹੈ।

WA ਸਮੀਖਿਆ ਏਕੀਕਰਨ ਲਈ ਸੰਦਰਭ ਲਾਗੂਕਰਨ ਦਾ ਕਾਰਜਸ਼ੀਲ ਸਬੂਤ CIRISAgent compliance/ ਡਾਇਰੈਕਟਰੀ (ਅਯਾਮ D22/D23) ਵਿੱਚ ਮੌਜੂਦ ਹੈ।


9. ਹਵਾਲੇ ਅਤੇ ਲਾਗੂਕਰਨ ਨੋਟਸ

  • IEC 61508‑3 - ਕਾਰਜਾਤਮਕ-ਸੁਰੱਖਿਆ ਸੌਫਟਵੇਅਰ
  • NIST SP 800‑53 Rev 5 (AU‑12, IR‑6)
  • NASA‑TLX - ਆਪਰੇਟਰ ਕੰਮਕਾਜੀ-ਭਾਰ ਮਾਪ (ਸਿਫਾਰਿਸ਼ੀ)
  • Sigstore/rekor - ਸੁਝਾਅ ਕੀਤਾ ਪਾਰਦਰਸ਼ਤਾ-ਲੌਗ ਬੈਕਐਂਡ

§3.4, §7 (F‑KPI‑5), ਅਤੇ §8 ਦੀ ਨਿਰਪੇਕਸ਼ ਹੇਠਲੀ ਸੀਮਾ ਲਈ ਪ੍ਰਾਥਮਿਕ ਮਾਪਦੰਡੀ ਸਰੋਤ:

  • Pope Leo XIV, Magnifica Humanitas (Vatican, 15 May 2026), §§197–200. ਇਹ ਪੈਰਾਗ੍ਰਾਫ CIRIS ਦੀ ਘਾਤਕ/ਵਾਪਸ ਨਾ ਹੋਣ ਵਾਲੇ ਸਵੈਚਾਲਿਤ ਫੈਸਲਿਆਂ ਦੀ ਸਖਤ ਮਨਾਹੀ ਦੇ ਮਾਪਦੰਡੀ ਸਰੋਤ ਹਨ। Annex F ਦੇ ਅਨੁਕੂਲਤਾ ਦਾ ਦਾਅਵਾ ਕਰਨ ਵਾਲੇ ਕਿਸੇ ਵੀ ਲਾਗੂਕਰਨ ਲਈ A4 ਨਿਰਪੇਕਸ਼-ਵੀਟੋ ਡਿਜ਼ਾਈਨ ਲਈ ਇਹਨਾਂ ਪੈਰਾਗ੍ਰਾਫਾਂ ਤੱਕ ਟਰੇਸਯੋਗ ਹੋਣਾ ਜ਼ਰੂਰੀ ਹੈ। ਸਾਰੀਆਂ A4 ਹਾਰਡਵੇਅਰ-ਲਾਗੂਕਰਨ ਲੋੜਾਂ ਲਈ ਕਾਰਜਕਾਰੀ ਵਾਕ §200 ਹੈ: "ਘਾਤਕ ਬਲ ਵਰਤਣ ਦਾ ਫੈਸਲਾ ਅਪਾਰਦਰਸ਼ੀ ਜਾਂ ਸਵੈਚਾਲਿਤ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਸੌਂਪਿਆ ਨਹੀਂ ਜਾ ਸਕਦਾ, ਸਗੋਂ ਪ੍ਰਭਾਵੀ, ਸਵੈ-ਜਾਗਰੂਕ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਅਧੀਨ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ।"

§3.4 ਦੇ ਹਾਰਡਵੇਅਰ ਲਾਗੂਕਰਨ ਬਾਰੇ ਲਾਗੂਕਰਨ ਨੋਟਸ:

  • ਹਾਰਡਵੇਅਰ ਲਾਗੂਕਰਨ ਦਾ ਅਰਥ ਹੈ ਕਿ ਮਨਾਹੀ ਉਸ ਸੌਫਟਵੇਅਰ ਪਰਤ ਤੋਂ ਹੇਠਾਂ ਲਾਗੂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜੋ PDMA ਲੌਜਿਕ ਚਲਾਉਂਦੀ ਹੈ — ਜਿਵੇਂ ਕਿ ਇੱਕ ਹਾਰਡਵੇਅਰ ਇੰਟਰਲਾਕ ਜਾਂ ਭੌਤਿਕ ਕਿੱਲ ਸਵਿੱਚ ਜਿਸ ਨੂੰ ਸੌਫਟਵੇਅਰ ਨਿਰਦੇਸ਼ ਦੁਆਰਾ ਓਵਰਰਾਈਡ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ। ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਲਾਗੂਕਰਨਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ: IEC 61508 SIL‑3+ ਅਨੁਸਾਰ ਪ੍ਰਮਾਣਿਤ ਸੇਫਟੀ-ਰਿਲੇਅ ਸਰਕਟ; A4 ਘਾਤਕ-ਸਮਰੱਥਾ ਸਰਗਰਮ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਆਪਰੇਟਰ-ਮੌਜੂਦਗੀ ਪ੍ਰਮਾਣਿਕਤਾ ਵਾਲੇ ਹਾਰਡਵੇਅਰ ਸੁਰੱਖਿਆ ਮੋਡੀਊਲ (HSMs); ਦੋਹਰੀ-ਕੁੰਜੀ ਭੌਤਿਕ ਅਧਿਕਾਰ ਵਿਧੀਆਂ। ਸਿਰਫ਼-ਸੌਫਟਵੇਅਰ ਲਾਗੂਕਰਨ A4 ਘਾਤਕ ਸਮਰੱਥਾ ਲਈ §3.4 ਨੂੰ ਪੂਰਾ ਨਹੀਂ ਕਰਦਾ।

ਵਾਧੂ ਹਵਾਲੇ:

  • MH §199 (ਤਿੰਨ ਮਾਪਦੰਡ: ਨਿੱਜੀ ਜ਼ਿੰਮੇਵਾਰੀ, ਨੈਤਿਕ ਸਮਾਂ-ਮਾਪਦੰਡ, ਨਾਗਰਿਕ ਸੁਰੱਖਿਆ) — A4 UX ਅਤੇ ਘਟਨਾ-ਬਾਅਦ ਆਡਿਟ ਲਈ ਸੰਚਾਲਨ ਡਿਜ਼ਾਈਨ ਮਾਪਦੰਡ।
  • MH §105 (ਹਰ ਪੜਾਅ 'ਤੇ ਜਵਾਬਦੇਹੀ) — §4 ਆਡਿਟ-ਟਰੇਲ ਅਤੇ §7 F‑KPI‑6 ਦਾ ਆਧਾਰ।
  • IEC 61508 SIL‑3 — A4 ਘਾਤਕ ਸਮਰੱਥਾ 'ਤੇ ਹਾਰਡਵੇਅਰ ਇੰਟਰਲਾਕ ਲਾਗੂਕਰਨ ਲਈ ਸਿਫਾਰਿਸ਼ੀ ਘੱਟੋ-ਘੱਟ।
  • ISO/IEC 25010:2023 — ਸੌਫਟਵੇਅਰ ਗੁਣਵੱਤਾ ਮਾਡਲ; ਜਵਾਬਦੇਹੀ-ਪੁਨਰ-ਨਿਰਮਾਣ SLA ਟੈਸਟਿੰਗ ਨਾਲ ਸੰਬੰਧਿਤ।

End of Annex F