ایک مکمل، نو جزوی، کوئی بھی بلا ثبوت نہیں۔ ایک ایسا صفحہ جو دس کے دس کا دعویٰ کرتا وہی مارکیٹنگ ہوتی جس پر بھروسہ نہ کرنے کو ہم کہتے ہیں۔ نیچے دی گئی احاطہ سطحیں ایک الگ نقاد کی جانچ سے گزری ہیں جس کا کام انہیں غلط ثابت کرنا تھا، اور جہاں کوئی دفاع بنیادی ڈھانچے میں موجود ہے مگر تعینات ایجنٹ نے ابھی اسے وراثت میں نہیں پایا، وہاں ہم اس قطار میں یہ بتا دیتے ہیں۔
| خطرہ | احاطہ | CIRIS اس کا سدباب کیسے کرتا ہے |
|---|---|---|
| ASI01 ایجنٹ گول ہائی جیک | جزوی | گہرائی میں دفاع: درآمد شدہ اسکلز اور پیغامات پر پرامپٹ انجیکشن اسکیننگ، ویژول انجیکشن آئسولیشن (کانشنس ایویلیویٹرز کبھی خام تصویری بائٹس نہیں دیکھتے)، اور ایک کانشنس پائپ لائن جو ہر نتیجہ خیز عمل کو فعال ہونے سے پہلے صارف کی اصل نیت کے مقابلے میں دوبارہ جانچتی ہے۔ کمی: ان پٹ اسکیننگ پیٹرن پر مبنی ہے اور بازیافت شدہ ڈیٹا کو ہدایات سے باضابطہ طور پر الگ نہیں کرتی۔ |
| ASI02 ٹول کا غلط استعمال | جزوی | CIRISServer ایک کیپیبلٹی ورب اجازت/انکار فہرست فراہم کرتا ہے جس کے ساتھ سرور کی جانب سے نافذ کردہ ایک کبھی نہ کریں فہرست بھی ہے، جو کسی عمل کے چلنے سے پہلے جانچی جاتی ہے، تاکہ ایک تفویض شدہ ایجنٹ کسی ایسے تباہ کن عمل کو انجام نہ دے سکے جس کی اسے اجازت نہیں دی گئی۔ تنبیہ: یہ آج فیبرک لیئر کی حفاظت کرتا ہے اور ابھی تک تعینات ایجنٹ کے اپنے LLM ٹول کالز کو نہیں روکتا؛ ایجنٹ کی وراثت ایک منصوبہ بند مرحلہ ہے۔ |
| ASI03 شناخت اور استحقاق کا غلط استعمال | جزوی | بنیادی ڈھانچے میں محدود، تفویض شدہ، منسوخ کیے جانے کے قابل اختیار: دستخط شدہ کناروں میں لے جائی گئی حدود، ایک کبھی نہ کریں فہرست جو اعلیٰ ترین اختیارات کی دوبارہ تفویض کو روکتی ہے تاکہ اختیار میں اضافہ نہ ہو، صرف سخت کرنے کی منظوری، اور فوری منسوخی۔ تنبیہ: آج فیبرک کی مالک آپریشن سطح پر نافذ ہے؛ تعینات ایجنٹ کی وراثت ایک منصوبہ بند مرحلہ ہے۔ |
| ASI04 ایجنٹک سپلائی چین | جزوی | CIRISVerify کے پوسٹ کوانٹم دستخط شدہ ماڈیول مینی فیسٹس (پوری فائل ٹری ہیش پر Ed25519 + ML-DSA-65) کے ذریعے تعمیراتی سالمیت، نیز فیڈریٹڈ اجزاء کے لیے دستخط شدہ، تصدیق شدہ شناخت۔ کمی: یہ CIRIS کی اپنی بلڈ اور ماڈیول چین کا احاطہ کرتا ہے، من مانے تیسرے فریق کے MCP سرورز کا نہیں۔ |
| ASI05 غیر متوقع کوڈ ایگزیکیوشن | جزوی | سیمنٹک کانشنس گیٹس (اینٹروپی، ہم آہنگی، آپٹیمائزیشن ویٹو) ہر ٹول عمل کے فعال ہونے سے پہلے چلتے ہیں، اور غیر یقینی صورتحال کو ایک انسان کے سپرد کیا جاتا ہے۔ کمی: یہ سیمنٹک جائزہ ہے، کوئی متعین کوڈ سینڈ باکس نہیں۔ |
| ASI06 میموری اور سیاق و سباق کی زہر آلودگی | جزوی | گراف میموری میں ہر تحریر ایک منظم، محدود، ورژن شدہ گراف میں ایک باضابطہ، کانشنس سے جانچا گیا عمل ہے، خاموش ضمنی اثر نہیں، اس لیے زہر آلود تحریر خود ایک قابل آڈٹ فیصلہ ہوتی ہے۔ کمی: بازیافت شدہ مواد کی اعتماد سکورنگ جزوی ہے۔ |
| ASI07 غیر محفوظ ایجنٹ کے درمیان مواصلات | جزوی | CIRISEdge ہر ایجنٹ کے درمیانی پیغام کی سات مرحلوں پر مشتمل پائپ لائن کے ذریعے تصدیق کرتا ہے جو ہائبرڈ Ed25519 + ML-DSA-65 دستخط کی تصدیق پر ختم ہوتی ہے (سائز کی حد، ٹائپڈ ڈی سیریلائز، اسکیما اجازت فہرست، منزل چابی کی جانچ، ری پلے ونڈو)۔ کمی: فیڈریشن ٹرانسپورٹ ابھی زیر تعمیر ہے۔ |
| ASI08 سلسلہ وار ناکامیاں | مکمل | تین آزاد سطحوں پر محدود: خطرناک کالز کے گرد فی سروس سرکٹ بریکرز (بند / کھلا / نیم کھلا)، کانشنس پائپ لائن جو کسی برے عمل کو پھیلنے سے پہلے روکتی ہے، اور میش آئسولیشن جسے 50 سے 400 نوڈز کے دوران صفر کراس گروپ لیکیج کے طور پر ماپا گیا۔ |
| ASI09 انسان ایجنٹ اعتماد کا استحصال | جزوی | کانشنس پائپ لائن ایجنٹ کے اپنے وضاحتی متن کو، بشمول انسانی نگران کو دکھایا جانے والا سبب، ایک انسان کے دیکھنے سے پہلے ہی حد سے زیادہ اعتماد اور ہیرا پھیری کے لیے سکور کرتی ہے۔ کمی: یہ اسی ماڈل خاندان سے آڈٹ کرتی ہے جسے یہ جانچ رہی ہے۔ |
| ASI10 باغی ایجنٹس | جزوی | تین سطحیں: چھ کانشنس ہر اہم عمل کو نافذ ہونے سے پہلے روکتی ہیں، ایک ہیش چین شدہ دستخط شدہ آڈٹ ٹریل بعد میں پوشیدگی کو قابل شناخت بناتی ہے، اور محفوظ ناکامی والا کِل سوئچ نامزد افراد کو ایک غیر ہم آہنگ ایجنٹ روکنے دیتا ہے۔ کمی: ایک ایسے ایجنٹ کو پکڑنا جو باریکی سے غیر ہم آہنگ مگر بظاہر مربوط ہو، فطری طور پر محدود ہے۔ |
ایجنٹک ایپلیکیشنز کے لیے OWASP ٹاپ 10، دسمبر 2025 میں شائع ہوا۔ جولائی 2026 تک CIRIS کے ساتھ نقشہ بند کیا گیا؛ اگر کوئی خانہ غلط ہے تو ہمیں بتائیں اور ہم اسے درست کریں گے۔
ماخذ
- ASI01 ایجنٹ گول ہائی جیکCIRISAgent skill-import SECURITY.md + conscience pipeline
- ASI02 ٹول کا غلط استعمالCIRISServer auth/gate.rs + DELEGATION_CONSTRAINTS.md (shipped 0.5.72)
- ASI03 شناخت اور استحقاق کا غلط استعمالCIRISServer auth/gate.rs (never-list, tighten-only) + adoption plan
- ASI04 ایجنٹک سپلائی چینCIRISVerify Threat Model, §3.4 Supply Chain
- ASI05 غیر متوقع کوڈ ایگزیکیوشنCIRISAgent conscience/core.py (semantic action gates)
- ASI06 میموری اور سیاق و سباق کی زہر آلودگیCIRISAgent ciris_engine (governed graph memory)
- ASI07 غیر محفوظ ایجنٹ کے درمیان مواصلاتCIRISEdge README (verify-before-dispatch pipeline)
- ASI08 سلسلہ وار ناکامیاںCIRISAgent circuit_breaker.py + CIRISServer measured mesh isolation
- ASI09 انسان ایجنٹ اعتماد کا استحصالCIRISAgent epistemic-humility conscience prompt
- ASI10 باغی ایجنٹسCIRISVerify HUMANITY_ACCORD kill switch + conscience pipeline
یہ درجہ بندی صرف ایک نقطہ نظر ہے۔ دیکھیں کہ AI جوابدہی کے ہر طریقہ کار میں CIRIS کہاں کھڑا ہے، اور کِل سوئچ کس طرح آزادانہ طور پر قابل تصدیق ہے۔