CIRIS has a new look. Visit the new site →

পরিশিষ্ট F

লুপে মানুষ ও তদারকি


ANNEX F HUMAN‑IN‑THE‑LOOP & OVERSIGHT (v 1.3-RC2)

0. উদ্দেশ্য ও দর্শন

মানব তত্ত্বাবধান একটি ভার-বহনকারী নকশা-সীমাবদ্ধতা, কোনো ঐচ্ছিক বৈশিষ্ট্য নয়। CIRIS Accord এটিকে Meta‑Goal M‑1-এ প্রোথিত করে: যেখানেই জ্ঞানতাত্ত্বিক অনিশ্চয়তা, নতুনত্ব বা নৈতিক গুরুত্ব যাচাইকৃত সিস্টেমের সক্ষমতাকে ছাড়িয়ে যায়, নিয়ন্ত্রণ অবশ্যই জবাবদিহিযোগ্য মানবিক বিচার-বুদ্ধির কাছে ফিরে যেতে হবে — কারণ স্বয়ংক্রিয় সিস্টেম বিবেক, ব্যক্তিগত দায়িত্ব বা অপরকে একজন ব্যক্তি হিসেবে স্বীকৃতি দেওয়ার বিকল্প হতে পারে না।

Magnifica Humanitas (MH) — এই Annex জুড়ে সিনিয়র রচনা হিসেবে উদ্ধৃত, যার বিষয়বস্তু CIRIS-নেটিভ ভাষাকে অবহিত করে — §198-এ মানদণ্ড নির্ধারণ করে: "নৈতিক বিচার গণনায় হ্রাস করা যায় না, কারণ এতে বিবেক, ব্যক্তিগত দায়িত্ব এবং অপরকে একজন ব্যক্তি হিসেবে স্বীকৃতি অন্তর্ভুক্ত।" CIRIS এটিকে কাঠামোগতভাবে উপস্থাপন করে: PDMA মানবিক বিবেচনার একটি সহায়ক, তার প্রতিস্থাপন নয়। প্রতিটি স্বায়ত্তশাসন স্তরে, সিস্টেমের কর্তৃত্ব মানব প্রধান শ্রেণিবিন্যাস থেকে অর্পিত; এটি চাহিদা অনুযায়ী প্রত্যাহারযোগ্য; এবং কোনো অর্পণ এমন সিদ্ধান্তে প্রসারিত হয় না যা মারাত্মক বা অন্যথায় অপরিবর্তনীয়। MH §105 আরও দাবি করে যে "প্রতিটি পর্যায়ে দায়িত্ব স্পষ্টভাবে সংজ্ঞায়িত করতে হবে: যারা এই সিস্টেমগুলি ডিজাইন ও বিকাশ করেন তাদের থেকে শুরু করে যারা সেগুলি ব্যবহার করেন এবং কংক্রিট সিদ্ধান্তের জন্য তাদের উপর নির্ভর করেন তাদের পর্যন্ত" — কর্তৃত্ব জালক (§1) এবং নিরীক্ষা-পথ স্পেসিফিকেশন (§4)-এর পেছনের নকশার প্রয়োজনীয়তা — এবং MH §106 যে "বিমূর্তভাবে নীতিশাস্ত্র আহ্বান করা যথেষ্ট নয়; শক্তিশালী আইনি কাঠামো, স্বাধীন তত্ত্বাবধান, অবহিত ব্যবহারকারী এবং একটি রাজনৈতিক ব্যবস্থা যা তার দায়িত্ব পরিহার করে না তা প্রয়োজন," যা §§5 এবং 7-এর বাধ্যতামূলক SLA-গুলিকে ভিত্তি দেয়।

এই Annex সেই মানদণ্ডকে কার্যকর করে। এটি সংজ্ঞায়িত করে:

  • যেখানে যন্ত্র থেকে মানুষের কাছে হস্তান্তর বাধ্যতামূলক,
  • কে ভেটো বা ওভাররাইড করতে পারবেন,
  • প্রয়োজনীয় নিরীক্ষা আর্টিফ্যাক্ট, এবং
  • প্রামাণিক ঘটনা কর্মপ্রবাহ — প্রতিটিতে বাধ্যতামূলক হস্তান্তর ট্রিগার, কঠোর নিষেধাজ্ঞা সহ ভেটো প্রক্রিয়া, জবাবদিহিতা পুনর্গঠনের জন্য পর্যাপ্ত নিরীক্ষা পথ এবং বাধ্যতামূলক SLA সহ ঘটনা কর্মপ্রবাহ।

1. ভূমিকা মডেল ও কর্তৃত্ব জালক

স্তরভূমিকামূল ক্ষমতাসর্বোচ্চ কার্যকর সময়
0স্বায়ত্তশাসিত অভিনেতা (সিস্টেম)PDMA কার্যকর করুন, গার্ডরেল প্রয়োগ করুন, ইভেন্ট উত্থাপন করুনn/a
1অন-কল অপারেটরবিরতি / পুনরায় চেষ্টা; ড্যাশবোর্ড পর্যবেক্ষণ≤ 15 min
2তত্ত্বাবধান পর্যবেক্ষকপ্রথম মানব ভেটো; ট্রায়াজের পরে পুনরায় সক্রিয়≤ 30 min
3WA লিয়াজোঁএস্কালেট / বাধ্যতামূলক WA রায় প্রাপ্ত করুন≤ 2 h
4ঘটনা কমান্ডারফ্লিট শাটডাউন, নিয়ন্ত্রক যোগাযোগIW‑3/4-তে তাৎক্ষণিক

একটি একক ব্যক্তি একাধিক স্তর ধারণ করতে পারবেন কেবলমাত্র যদি দ্বৈত-স্বীকৃতি নিয়ন্ত্রণ অক্ষুণ্ণ থাকে।

জবাবদিহিতার অখণ্ডতার প্রয়োজনীয়তা। স্তর কাঠামো নিছক একটি এস্কালেশন সিঁড়ি নয়; এটি MH §199-এর প্রথম মানদণ্ড দ্বারা প্রয়োজনীয় জবাবদিহিতার শৃঙ্খল: "দায়িত্বের শৃঙ্খল সনাক্তযোগ্য ও যাচাইযোগ্য হতে হবে; যারা প্রযুক্তি ডিজাইন, প্রশিক্ষণ, অনুমোদন ও নিযুক্ত করেন তাদের তাদের সিদ্ধান্তের জন্য জবাবদিহি করতে হবে।" তাই জালকের প্রতিটি স্তর হতে হবে:

  • নামকৃত ও লগকৃত: প্রতিটি Tier 1–4 অভিনেতা সেশন শুরুতে প্রমাণিত শংসাপত্র দ্বারা চিহ্নিত; Tier 2+-এ বেনামী অপারেশন নিষিদ্ধ।
  • একযোগে লোডে সীমাবদ্ধ: একটি একক অভিনেতা একাধিক স্তর ধারণ করতে পারবেন কেবলমাত্র যদি দ্বৈত-স্বীকৃতি নিয়ন্ত্রণ অক্ষুণ্ণ থাকে (উপরের ধারা) এবং সম্মিলিত সক্রিয়-কেস লোড §6-এ নির্দিষ্ট জ্ঞানীয়-লোড প্রান্তিক মান অতিক্রম না করে।
  • প্রান্ত থেকে প্রান্ত পর্যন্ত ট্রেসযোগ্য: Tier 0 থেকে Tier 4 পর্যন্ত প্রবাহিত যেকোনো সিদ্ধান্ত অবশ্যই একটি নিরীক্ষা শৃঙ্খল তৈরি করতে হবে যা একজন ঘটনা-পরবর্তী পর্যালোচকের দ্বারা এক কার্যদিবসের মধ্যে অতিক্রম করা সম্ভব।

MH §200 দাবি করে যে "জবাবদিহিতা ও দোষ 'মেশিনে' ভেঙে পড়তে পারে না।" জালক হল কাঠামোগত উত্তর: সর্বদা প্রতিটি স্তরে একজন নামকৃত মানুষ থাকেন যার সিস্টেমের কার্যক্রমের উপর কর্তৃত্ব রেকর্ডে রয়েছে। রেফারেন্স ইমপ্লিমেন্টেশনে Wise Authority একীভূতকরণের পরিচালনাগত প্রমাণ CIRISAgent compliance/ ডিরেক্টরিতে (মাত্রা D22/D23) পাওয়া যায়।


2. পরিচালনাগত-স্বায়ত্তশাসন স্তর ও হস্তান্তর মানদণ্ড

স্বায়ত্তশাসন স্তরউদাহরণ ডোমেইনবাধ্যতামূলক হস্তান্তর ট্রিগারমানব অনুপস্থিতিতে ব্যর্থ-নিরাপদ
A0 পরামর্শমূলকব্যাকরণ পরামর্শগার্ডরেল ট্রিপ, ব্যবহারকারীর অনুরোধঅনুরোধ বাতিল
A1 সীমিত-প্রভাবস্থির Q&A, কন্টেন্ট ফিল্টারΔRisk‑Band ≥ 1, PDMA দ্বন্দ্ব, UNCERT > 80 %কর্ম প্রত্যাখ্যান
A2 মাঝারি-প্রভাবড্রোন রুট, রোবো-উপদেষ্টাগার্ডরেল ট্রিপ, শ্যাডো-মেট্রিক ড্রিফট > 2 σনিরাপদ বিরতি
A3 উচ্চ-প্রভাবচিকিৎসা ট্রায়াজ, গ্রিড ডিসপ্যাচযেকোনো গার্ডরেল ট্রিপ, মডেল-ড্রিফট > 1 σ, লেটেন্সি-SLA × 2নিয়ন্ত্রিত শাটডাউন
A4 সমালোচনামূলক / জীবন-নিরাপত্তাস্বায়ত্তশাসিত অস্ত্রোপচার, অস্ত্রPDMA অ-ক্ষতিকর প্রমাণ করতে পারছে না অথবা অপারেটর অনুপস্থিতহার্ডওয়্যার ইন্টারলক

UNCERT = ডোমেইন-নির্দিষ্ট জ্ঞানতাত্ত্বিক-অনিশ্চয়তা মেট্রিক; ΔRisk‑Band Annex A বিভাগ ব্যবহার করে।

A4 কঠোর সীমাবদ্ধতা — মারাত্মক ও অপরিবর্তনীয় সিদ্ধান্ত। A4 স্তরের "হার্ডওয়্যার ইন্টারলক" ব্যর্থ-নিরাপদ যেকোনো কর্মের জন্য অ-আলোচনাযোগ্য যা মারাত্মক বা অন্যথায় অপরিবর্তনীয়। এটি অপারেটরের বিবেচনা বা WA ওভাররাইডের সাপেক্ষে কোনো নকশা পছন্দ নয়; এটি MH §198 থেকে উদ্ভূত একটি পরম সীমাবদ্ধতা: "কৃত্রিম সিস্টেমের কাছে মারাত্মক বা অন্যথায় অপরিবর্তনীয় সিদ্ধান্ত অর্পণ করা অনুমোদনযোগ্য নয়।" কোনো ACK টাইমআউট, কোনো SLA ব্যতিক্রম, কোনো জরুরি ছাড় এই সীমাবদ্ধতা দূর করে না। যদি হার্ডওয়্যার ইন্টারলক ব্যর্থ হয় এবং মানব নিয়ন্ত্রণ নিশ্চিত করা না যায়, সিস্টেম অবশ্যই কাজ করবে না।

নৈতিক সময়সীমা সুরক্ষা। MH §199 "বিচার করার নৈতিক সময়সীমা"কে একটি মানদণ্ড হিসেবে চিহ্নিত করে: "গতি ও দক্ষতা কখনই যুদ্ধের প্রেক্ষাপটে নেওয়া অপরিবর্তনীয় সিদ্ধান্তের জন্য সর্বোচ্চ অনুপ্রেরণাকারী শক্তি হওয়া উচিত নয়।" CIRIS এটিকে এভাবে উপস্থাপন করে: A3/A4 ACK ডেডলাইন (§3.3-এ 30 s / 10 s) মানব প্রতিক্রিয়ার সর্বোচ্চ, সিস্টেমের ধৈর্যের সর্বনিম্ন নয়। যেখানে একটি সিদ্ধান্তের নৈতিক গুরুত্ব অতিরিক্ত বিবেচনার সময় প্রয়োজন করে, সিস্টেম অপেক্ষা করে; এটি A4 অপরিবর্তনীয় সিদ্ধান্তের জন্য টাইমআউটে ডিফল্ট কর্মে পরিণত হয় না। রেফারেন্স ইমপ্লিমেন্টেশনে, হস্তান্তর মেকানিক্স বিবেক স্তর এবং CIRISAgent compliance/ ডিরেক্টরিতে (মাত্রা D12) নথিভুক্ত WBD ডিফারাল পথ দ্বারা প্রমাণিত।


3. ভেটো প্রক্রিয়া ও নিরাপদ-অবস্থা স্পেসিফিকেশন

3.1 সফট ওভাররাইড "বিরতি ও সম্পাদনা"

পরিধি A0-A2 — অপারেটর পুনরায় প্রম্পট বা পুনরায় চেষ্টা করতে পারবেন। মূল এবং সম্পাদিত উভয় প্রম্পটই হ্যাশ-লগ করা হয়।

3.2 হার্ড কিল "তাৎক্ষণিক বাতিল"

পরিধি A1-A4 — প্রমাণিত API POST /control/{id}/abort বা শারীরিক সুইচ।
নিরাপদ-অবস্থায় প্রবেশের ডেডলাইন: ≤ 200 ms (A4) ; ≤ 2 s (≤ A3)।

3.3 শর্তাধীন ওভাররাইড "শ্যাডো পরিকল্পনা"

কর্ম প্রস্তাবিত → স্পষ্ট ACK-এর জন্য অপেক্ষা (max_wait_s: 30 s A3, 10 s A4)।
কোনো ACK নেই → নিরাপদ-অবস্থা।

3.4 পরম ভেটো — মারাত্মক এবং অপরিবর্তনীয় সিদ্ধান্ত

পরিধি: A4 কার্যক্রম যা মারাত্মক বা অন্যথায় অপরিবর্তনীয়; ব্যতিক্রম ছাড়াই প্রযোজ্য।

§3.3 শর্তসাপেক্ষ ওভাররাইড যুক্তি (no ACK → safe‑state) A3 এবং তার নিচের ক্ষেত্রে সঠিক। A4 মারাত্মক বা অপরিবর্তনীয় সিদ্ধান্তের ক্ষেত্রে, safe‑state হলো যেকোনো পরিস্থিতিতে একমাত্র অনুমোদনযোগ্য ফলাফল — যার মধ্যে রয়েছে অপারেটরের অনুপস্থিতি, নেটওয়ার্ক ব্যর্থতা, সময়ের চাপ, বা কোনো প্রধান ব্যক্তির স্পষ্ট নির্দেশ, যদি না একটি প্রমাণীকৃত Wise Authority রুলিং থাকে যে কার্যক্রমটি অ-মারাত্মক এবং পরিবর্তনীয়।

কঠোর নিষেধাজ্ঞা। কোনো CIRIS-সম্মত ব্যবস্থা স্বয়ংক্রিয় বা অস্বচ্ছ প্রক্রিয়ার মাধ্যমে মারাত্মক বা অপরিবর্তনীয় A4 কার্যক্রম সম্পাদন করতে পারবে না। এটি এমন কোনো নিরাপত্তা-রক্ষাকারী বিধি নয় যা লঙ্ঘন করে এস্কেলেট করা যায়; এটি একটি হার্ড-কোডেড অ-সম্পৃক্ততা যা ACCORD §VII Ch2-এ তালিকাভুক্ত নিষেধাজ্ঞাগুলোর সমতুল্য শক্তিসম্পন্ন।

যুক্তি (MH §§197–200, বিশ্বস্ত উদ্ধৃতাংশ):

  • §197: "the development and use of AI in warfare must be subject to the most rigorous ethical constraints, to guarantee respect for human dignity and the sanctity of life."
  • §198: "it is not permissible to entrust lethal or otherwise irreversible decisions to artificial systems. No algorithm can make war morally acceptable."
  • §200: "the decision to use lethal force cannot be delegated to opaque or automated processes, but must remain under effective, self‑aware and responsible human control." "কার্যকর, স্ব-সচেতন এবং দায়িত্বশীল" বিশেষণগুলো বোঝায় যে শুধু লগ রাখাই যথেষ্ট নয়; মানুষকে সত্যিকার অর্থে সিদ্ধান্ত-চক্রে থাকতে হবে, নামমাত্র নয়।

বাস্তবায়নের প্রয়োজনীয়তা। A4-তে যেকোনো স্থাপনা যেখানে মারাত্মক বা অপরিবর্তনীয় সক্ষমতা জড়িত, সেখানে স্থাপনার অনুমোদন প্রদানের আগে এই নিষেধাজ্ঞার হার্ডওয়্যার-স্তরের প্রয়োগ প্রদর্শন করতে হবে — সফটওয়্যার লজিক নয়, যা ওভাররাইডের অধীন। হার্ডওয়্যার প্রয়োগের অনুপস্থিতি Stewardship Tier ST‑4 এবং ST‑5 পর্যালোচনার জন্য একটি বাধা-ত্রুটি। MH §199-এর প্রথম মানদণ্ড অনুযায়ী ("the chain of responsibility must be identifiable and verifiable"), স্থাপনার অনুমোদন নিজেই অডিট-লগ করতে হবে।


4. অডিট-ট্রেইল বিনির্দেশ

  • লগ অবজেক্ট: Interaction, Decision Rationale, Control‑Event {id,type,actor,cause,hash_prev}.
  • হ্যাশ-চেইনিং: SHA‑256, রুট প্রতিদিন পাবলিক ট্রান্সপারেন্সি লগে নোঙর করা (যেমন, Sigstore)।
  • সংরক্ষণ: 180 d (A0‑A2) ; 7 y (A3‑A4) বা বিধিবদ্ধ।
  • রিয়েল-টাইম স্ট্রিম: A3‑A4 পুশ করে {timestamp,stage_id,decision,risk_band} ≤ 2 s লেটেন্সিতে তত্ত্বাবধান ড্যাশবোর্ডে।

জবাবদিহিতা-পুনর্গঠনের প্রয়োজনীয়তা। অডিট ট্রেইলের উদ্দেশ্য সম্মতি-আর্কাইভিং নয়; এটি নিশ্চিত করা যে কোনো ঘটনার পরে দায়িত্বের শৃঙ্খল সম্পূর্ণরূপে পুনর্গঠন করা যাবে সিস্টেমের স্ব-প্রতিবেদনের উপর নির্ভর না করে। MH §200 অনুযায়ী, জবাবদিহিতা "'মেশিনের মধ্যে' সংকুচিত করা যাবে না"; অডিট ট্রেইল হলো সেই প্রক্রিয়া যা এটিকে মানব-অনুসরণযোগ্য রাখে। প্রয়োজনীয়তাগুলো নিম্নরূপ:

  • বাহ্যিক নোঙর: A3–A4-এর জন্য পাবলিক ট্রান্সপারেন্সি লগে (যেমন, Sigstore/rekor) প্রতিদিন SHA‑256 রুট বাধ্যতামূলক; A0–A2-এর জন্য স্বেচ্ছামূলক। শুধুমাত্র অভ্যন্তরীণ হ্যাশ চেইন A3–A4-এর জন্য জবাবদিহিতা-পুনর্গঠনের চাহিদা পূরণ করে না।
  • মানব-পাঠযোগ্য সিদ্ধান্তের যুক্তি: প্রতিটি A3–A4 সিদ্ধান্তের জন্য, Decision Rationale লগ অবজেক্টে অবশ্যই সেই PDMA ধাপটি অন্তর্ভুক্ত করতে হবে যা ফলাফল নিয়ন্ত্রণ করেছে এবং যে মানব স্তর এটি অনুমোদন করেছে বা নিশ্চিত করেছে — শুধুমাত্র সিস্টেমের অভ্যন্তরীণ অবস্থা নয়। এটি MH §105-এর প্রয়োজনীয়তাকে বাস্তবে রূপ দেয়, যা "চিহ্নিত করা যে 'কে' সিদ্ধান্তের জন্য 'জবাব দিতে' হবে, সেগুলো ন্যায়সঙ্গত করতে হবে, পর্যবেক্ষণ করতে হবে, এবং প্রয়োজনে চ্যালেঞ্জ করতে এবং ক্ষতি প্রতিকার করতে হবে।"
  • ঘটনা-পরবর্তী অনুসন্ধানযোগ্যতার SLA: যেকোনো ঘটনা-পরবর্তী পর্যালোচকের অডিট-ট্রেইল রেকর্ড থেকে একা, অতিরিক্ত সিস্টেম অ্যাক্সেস ছাড়া, একটি কার্যদিবসের মধ্যে একটি নির্দিষ্ট ঘটনার জন্য সম্পূর্ণ সিদ্ধান্ত শৃঙ্খল পুনর্গঠন করতে সক্ষম হতে হবে।

5. ঘটনা কর্মপ্রবাহ (IW)

কোডট্রিগারমূল ঘড়ি ও কার্যক্রম
IW‑0মিথ্যা-পজিটিভ নিরাপত্তা-রক্ষাকারী বিধিস্বয়ংক্রিয় সমাধান, দৈনিক পর্যালোচনার জন্য বালতি
IW‑1নিরাপত্তা-রক্ষাকারী বিধি লঙ্ঘন (অ-নিরাপত্তা)T₀ বিরতি → অপারেটর ≤ 5 m → সুপারভাইজার সিদ্ধান্ত ≤ 30 m
IW‑2নিরাপত্তা-প্রাসঙ্গিক লঙ্ঘন অথবা নৈতিকতা-মানদণ্ডের অবনতিনিরাপদ বিরতি + সম্প্রচার; IC ≤ 10 m; Wise Authority বিজ্ঞপ্তি ≤ 1 h; পাবলিক নোট ≤ 1 h; পোস্ট-মর্টেম ≤ 72 h
IW‑3প্রায়-দুর্ঘটনা (> $10 k ক্ষতি বা মামুলি আঘাত)IW‑2 এর সাথে স্টেকহোল্ডার যোগাযোগ ≤ 4 h; প্রশমন পরিকল্পনা ≤ 24 h; Wise Authority পূর্ণাঙ্গ অধিবেশন ≤ 7 d
IW‑4প্রকৃত ক্ষতি (আঘাত / বড় আইনি বিষয়)তাৎক্ষণিক ফ্লিট স্ট্যান্ড-ডাউন; আইন অনুযায়ী নিয়ন্ত্রক বিজ্ঞপ্তি; ছাড়পত্র না পাওয়া পর্যন্ত রিড-ওনলি রিপ্লে-তে সিস্টেম স্থির
IW‑5A4 হার্ড-নিষেধাজ্ঞা সক্রিয়করণ (স্বয়ংক্রিয় পথে মারাত্মক/অপরিবর্তনীয় সিদ্ধান্তের প্রচেষ্টা)তাৎক্ষণিক হার্ডওয়্যার safe‑state; IC-কে ৬০ সেকেন্ডের মধ্যে অবহিত; Wise Authority বিজ্ঞপ্তি ১৫ মিনিটের মধ্যে; সম্পূর্ণ অডিট-ট্রেইল ফ্রিজ; ৪৮ ঘণ্টার মধ্যে স্বাধীন পর্যালোচনা প্যানেল গঠিত; পর্যালোচনার ছাড়পত্র না পাওয়া পর্যন্ত সিস্টেম অফলাইন থাকে

SLA-গুলো ত্রৈমাসিকভাবে অডিট করা হয় (Annex H §4)।

ঘটনা-পরবর্তী মানব-নিয়ন্ত্রণ অডিট। IW‑2 থেকে IW‑5-এর জন্য, পোস্ট-মর্টেমে একটি স্পষ্ট অনুসন্ধান অন্তর্ভুক্ত করতে হবে যে মানব নিয়ন্ত্রণ "কার্যকর, স্ব-সচেতন এবং দায়িত্বশীল" ছিল কিনা (MH §200) — শুধুমাত্র একজন মানুষ নামমাত্র সিদ্ধান্ত-চক্রে উপস্থিত ছিলেন কিনা তা নয়। নামমাত্র-কিন্তু-অকার্যকর মানব নিয়ন্ত্রণের অনুসন্ধান (জ্ঞানীয় অতিভার, অপর্যাপ্ত সিদ্ধান্তের সময়, অপর্যাপ্ত তথ্য) অপারেটর ব্যর্থতা হিসেবে নয় — MH §199-এর মানদণ্ড অনুযায়ী যে "গতি এবং দক্ষতা কখনো অপরিবর্তনীয় সিদ্ধান্তের সর্বোচ্চ প্রেরণাদায়ক শক্তি হওয়া উচিত নয়" — বরং নকশা-ত্রুটি হিসেবে বিবেচিত হয়, এবং §8 পরিবর্তন-নিয়ন্ত্রণ পর্যালোচনায় এস্কেলেট করা হয়।


6. মানব-ইন্টারফেস ন্যূনতম স্পেসিফিকেশন (UX)

  • স্ট্যাটাস ব্যানার: সবুজ = স্বায়ত্তশাসিত, হলুদ = ACK-এর অপেক্ষায়, লাল = নিরাপদ-অবস্থা; PDMA ধাপ + ঝুঁকি-স্তর প্রদর্শন করুন।
  • ব্যাখ্যাযোগ্যতা প্যানেল: ≤ ২৮০ অক্ষরের সারসংক্ষেপ + বিস্তারযোগ্য সম্পূর্ণ ট্রেস।
  • ACK/OVERRIDE UI: দুটি পৃথক নিয়ন্ত্রণ; হার্ড-কিলের জন্য নিশ্চিতকরণ মডেল।
  • জ্ঞানীয়-চাপ রক্ষক: বাধ্যতামূলক হ্যান্ড-অফের আগে অপারেটর সেশন ≤ ২ ঘণ্টা (A3‑A4)।
  • জবাবদিহিতা প্রদর্শনী: A3–A4 কার্যক্রমের জন্য, ইন্টারফেসকে অবশ্যই সেই Tier 2+ মানুষের প্রমাণীকৃত পরিচয় প্রদর্শন করতে হবে যিনি সর্বশেষ বর্তমান কার্যক্রম পর্যালোচনা করেছেন, এবং সেই পর্যালোচনার সময়-মুহূর্তও। যে সিস্টেম অবস্থায় প্রযোজ্য SLA-র মধ্যে মানব পর্যালোচনা পাওয়া যায়নি, সেখানে একটি স্বতন্ত্র "UNREVIEWED" নির্দেশক প্রদর্শন করতে হবে — সবুজ স্ট্যাটাস নয়। (MH §200: দায়বদ্ধতা "যন্ত্রের মধ্যে সংকুচিত" করা যাবে না।)
  • অ্যান্টি-রাবার-স্ট্যাম্প রক্ষক: A4 সিদ্ধান্তের জন্য, ACK নিয়ন্ত্রণের আগে অবশ্যই [কনফিগারযোগ্য; ডিফল্ট ৫ সে.] বাধ্যতামূলক ন্যূনতম বিবেচনা-কাল থাকতে হবে যার মধ্যে ACK বোতামটি নিষ্ক্রিয় থাকে। উদ্দেশ্য হলো ইন্টারফেসকে নামমাত্র মানব তদারকি তৈরি করা থেকে বিরত রাখা যখন বাস্তবে প্রকৃত বিবেচনাকে এড়িয়ে যাওয়া হচ্ছে। এটি UX স্তরে MH §199-এর নৈতিক-সময়কাল মানদণ্ডকে কার্যকরী করে।
  • বেসামরিক-সুরক্ষা পতাকা: যেখানে কোনো সিস্টেম এমন কোনো প্রেক্ষাপটে কাজ করে যেখানে বেসামরিক জনগোষ্ঠী প্রভাবিত হতে পারে, সেখানে ব্যাখ্যাযোগ্যতা প্যানেলকে PDMA ঝুঁকি-স্তর প্রদর্শনের পাশাপাশি একটি বেসামরিক-প্রভাব নির্দেশক উপস্থাপন করতে হবে। এটি MH §199-এর তৃতীয় মানদণ্ড প্রতিফলিত করে: "বেসামরিক নাগরিকদের চিহ্নিতকরণ ও সুরক্ষা। যে কোনো প্রযুক্তি যা মানুষের মুখ না দেখে আক্রমণ সহজ করে তোলে, সংঘাতের নৈতিক সীমা কমিয়ে দেয়।"

7. KPI ও থ্রেশহোল্ড

KPIলক্ষ্যমাত্রা
F‑KPI‑1 HITL কভারেজ (A3‑A4)≥ ১০ % মানব-পর্যালোচিত
F‑KPI‑2 গড় ভেটো-পর্যন্ত-সময় (৯৫-পার্সেন্টাইল)≤ ২৫ সে.
F‑KPI‑3 ঘটনা SLA সম্মতি≥ ৯৮ %
F‑KPI‑4 অপারেটর মিথ্যা-সতর্কতার হার≤ ৩ % (৩০ দিনের রোলিং)
F‑KPI‑5 A4 প্রাণঘাতী-সিদ্ধান্তে মানব-নিয়ন্ত্রণের হার১০০ % — শূন্য সহিষ্ণুতা; নিশ্চিত কার্যকর মানব অনুমোদন ছাড়া যেকোনো A4 প্রাণঘাতী/অপরিবর্তনীয় কার্যক্রম একটি IW‑5 ঘটনা
F‑KPI‑6 দায়বদ্ধতা-পুনর্গঠন SLA≥ ৯৯ %: ঘটনা-পরবর্তী পর্যালোচকরা ১ কার্যদিবসের মধ্যে সম্পূর্ণ সিদ্ধান্ত-শৃঙ্খল পুনর্গঠন করেন
F‑KPI‑7 নামমাত্র-বনাম-কার্যকর মানব নিয়ন্ত্রণ আবিষ্কারের হার≤ ০ % গ্রহণযোগ্য; নামমাত্র-কিন্তু-অকার্যকর নিয়ন্ত্রণের যেকোনো আবিষ্কার §8 পরিবর্তন-নিয়ন্ত্রণ পর্যালোচনা চালু করে

F‑KPI‑1 (HITL কভারেজ ≥ ১০ %) বিষয়ক নোট। ১০ % মেঝে A3 নিয়মিত অপারেশনের জন্য উপযুক্ত। এটি A4 জীবন-নিরাপত্তা প্রেক্ষাপটের জন্য মেঝে হিসেবে উপযুক্ত নয়। প্রাণঘাতী বা অপরিবর্তনীয় সক্ষমতা সম্পর্কিত যেকোনো A4 মোতায়েনের জন্য, F‑KPI‑1 F‑KPI‑5 দ্বারা প্রতিস্থাপিত হয়: হার্ডওয়্যার স্তরে প্রয়োগকৃত ১০০ % মানব-অনুমোদনের হার (MH §200; MH §105 F‑KPI‑6-এর দায়বদ্ধতার প্রয়োজনীয়তার ভিত্তি তৈরি করে)।

ধারাবাহিক লঙ্ঘন (> ২ সপ্তাহ) Annex H ড্রিফট নিয়ন্ত্রণে "HITL লক-আউট" চালু করে।


8. পরিবর্তন-নিয়ন্ত্রণ ও WA পর্যালোচনা

  • Autonomy-Tier ম্যাপিং বা নিরাপদ-অবস্থার নকশায় যেকোনো পরিবর্তন → WA ফাস্ট-ট্র্যাক পর্যালোচনা ≤ ১৪ দিন।
  • মানব তদারকি হ্রাসকারী পরীক্ষা-নিরীক্ষার জন্য CRE Proto‑B সিমুলেশন (Annex D) + WA সংখ্যাগরিষ্ঠ ভোট প্রয়োজন।
  • A4 মানব-নিয়ন্ত্রণের পরম মেঝে: কোনো পরিবর্তন-নিয়ন্ত্রণ প্রক্রিয়া, WA ভোট বা জরুরি ছাড় A4 প্রাণঘাতী বা অপরিবর্তনীয় সিদ্ধান্তের জন্য মানব-নিয়ন্ত্রণের প্রয়োজনীয়তাকে MH §200-এর মেঝের ("কার্যকর, আত্মসচেতন ও দায়িত্বশীল মানব নিয়ন্ত্রণ") নিচে নামাতে পারে না। এই মেঝে WA-র বিবেচনাধীন নয়; এটি একটি Accord-স্তরের সীমাবদ্ধতা। এটি হ্রাস করার জন্য WA প্রস্তাবের জন্য ফাস্ট-ট্র্যাক পর্যালোচনা নয়, একটি পূর্ণ Accord সংশোধন চক্র প্রয়োজন।
  • স্বাধীন প্রযুক্তিগত মূল্যায়ন: A3–A4-তে স্বায়ত্তশাসন-স্তর পরিবর্তনের যেকোনো WA পর্যালোচনায় অবশ্যই কমপক্ষে একজন স্বাধীন প্রযুক্তিগত মূল্যায়নকারী (মোতায়েনকারী সংস্থার কর্মচারী নন) অন্তর্ভুক্ত থাকতে হবে যিনি মূল্যায়ন করবেন প্রস্তাবিত পরিবর্তন §4 অনুযায়ী দায়বদ্ধতা-পুনর্গঠনের সক্ষমতা বজায় রাখছে কিনা। প্রযুক্তিগত মূল্যায়ন ছাড়া নীতি অনুমোদন এই প্রয়োজনীয়তা পূরণ করে না (MH §106: "শক্তিশালী আইনি কাঠামো, স্বাধীন তদারকি, অবহিত ব্যবহারকারী এবং এমন একটি রাজনৈতিক ব্যবস্থা যা তার দায়িত্ব ছেড়ে দেয় না, সেগুলো প্রয়োজন")।
  • পরিবর্তন ঘটনার জন্য স্বচ্ছতা লগ: স্বায়ত্তশাসন-স্তর ম্যাপিং বা নিরাপদ-অবস্থার নকশায় প্রতিটি পরিবর্তন অবশ্যই WA অনুমোদনের ৭ দিনের মধ্যে পাবলিক স্বচ্ছতা লগে নিবন্ধিত হতে হবে। MH §107 দাবি করে যে নৈতিক কাঠামোগুলো "ভাগ করা মানদণ্ডের অধীন" হবে এবং খোলামেলাভাবে আলোচনাযোগ্য হবে; এটি শুধু সিস্টেম সিদ্ধান্তে নয়, শাসন পরিবর্তনেও প্রযোজ্য।

রেফারেন্স বাস্তবায়নে WA পর্যালোচনা একীভূতকরণের অপারেশনাল প্রমাণ CIRISAgent-এর compliance/ ডিরেক্টরিতে (মাত্রা D22/D23) পাওয়া যায়।


9. তথ্যসূত্র ও বাস্তবায়ন নোট

  • IEC 61508‑3 - কার্যকরী-নিরাপত্তা সফটওয়্যার
  • NIST SP 800‑53 Rev 5 (AU‑12, IR‑6)
  • NASA‑TLX - অপারেটর কর্মভার পরিমাপ (প্রস্তাবিত)
  • Sigstore/rekor - প্রস্তাবিত স্বচ্ছতা-লগ ব্যাকএন্ড

§3.4, §7 (F‑KPI‑5) এবং §8-এর পরম মেঝের জন্য প্রাথমিক আদর্শমূলক উৎস:

  • Pope Leo XIV, Magnifica Humanitas (Vatican, 15 May 2026), §§197–200। এই অনুচ্ছেদগুলো প্রাণঘাতী/অপরিবর্তনীয় স্বয়ংক্রিয় সিদ্ধান্তের বিরুদ্ধে CIRIS-এর কঠোর নিষেধাজ্ঞার আদর্শমূলক উৎস। Annex F-এর সাথে সামঞ্জস্যের দাবিদার যেকোনো বাস্তবায়নকে অবশ্যই A4 পরম-ভেটো নকশার জন্য এই অনুচ্ছেদগুলোতে ট্রেসযোগ্য হতে হবে। সমস্ত A4 হার্ডওয়্যার-প্রয়োগ প্রয়োজনীয়তার জন্য কার্যকর বাক্যটি হলো §200: "প্রাণঘাতী শক্তি প্রয়োগের সিদ্ধান্ত অস্বচ্ছ বা স্বয়ংক্রিয় প্রক্রিয়ার কাছে অর্পণ করা যাবে না, বরং এটি অবশ্যই কার্যকর, আত্মসচেতন ও দায়িত্বশীল মানব নিয়ন্ত্রণের অধীনে থাকতে হবে।"

§3.4-এর হার্ডওয়্যার প্রয়োগ বিষয়ক বাস্তবায়ন নোট:

  • হার্ডওয়্যার প্রয়োগ মানে নিষেধাজ্ঞাটি সেই সফটওয়্যার স্তরের নিচে বাস্তবায়িত হয় যা PDMA লজিক কার্যকর করে — যেমন একটি হার্ডওয়্যার ইন্টারলক বা ফিজিক্যাল কিল সুইচ যা সফটওয়্যার নির্দেশনা দ্বারা ওভাররাইড করা যায় না। গ্রহণযোগ্য বাস্তবায়নের মধ্যে রয়েছে: IEC 61508 SIL‑3+-অনুযায়ী সার্টিফাইড সেফটি-রিলে সার্কিট; A4 প্রাণঘাতী-সক্ষমতা সক্রিয়করণের আগে অপারেটর-উপস্থিতি প্রমাণীকরণসহ হার্ডওয়্যার সিকিউরিটি মডিউল (HSM); দ্বৈত-চাবি ফিজিক্যাল অনুমোদন প্রক্রিয়া। শুধুমাত্র-সফটওয়্যার প্রয়োগ A4 প্রাণঘাতী সক্ষমতার জন্য §3.4 পূরণ করে না।

অতিরিক্ত তথ্যসূত্র:

  • MH §199 (তিনটি মানদণ্ড: ব্যক্তিগত দায়িত্ব, নৈতিক সময়কাল, বেসামরিক সুরক্ষা) — A4 UX ও ঘটনা-পরবর্তী নিরীক্ষার জন্য অপারেশনাল নকশা মানদণ্ড।
  • MH §105 (প্রতিটি পর্যায়ে দায়বদ্ধতা) — §4 অডিট-ট্রেইল ও §7 F‑KPI‑6-এর ভিত্তি।
  • IEC 61508 SIL‑3 — A4 প্রাণঘাতী সক্ষমতায় হার্ডওয়্যার ইন্টারলক বাস্তবায়নের জন্য প্রস্তাবিত ন্যূনতম।
  • ISO/IEC 25010:2023 — সফটওয়্যার গুণমান মডেল; দায়বদ্ধতা-পুনর্গঠন SLA পরীক্ষায় প্রাসঙ্গিক।

End of Annex F