یک مورد کامل، نه مورد جزئی، و هیچکدام بدون پشتوانه ادعا نشدهاند. صفحهای که ادعا کند هر ده مورد را پوشش میدهد، دقیقاً همان بازاریابیای است که به شما میگوییم اعتماد نکنید. سطوح پوشش زیر از دست یک منتقد مستقل که کارش تخریب آنها بود جان سالم به در بردند و هرجا دفاعی در زیرساخت وجود دارد اما عامل مستقرشده هنوز آن را به ارث نبرده، در همان ردیف اعلام میکنیم.
| ریسک | پوشش | CIRIS چگونه به آن میپردازد |
|---|---|---|
| ASI01 ربودن هدف عامل | جزئی | دفاع لایهبهلایه: اسکن تزریق پرامپت روی مهارتها و پیامهای وارداتی، جداسازی تزریق تصویری (ارزیابهای وجدان هرگز بایتهای خام تصویر را نمیبینند)، و خط لوله وجدان که هر اقدام حاصل را پیش از اجرا در برابر قصد اصلی کاربر دوباره بررسی میکند. شکاف: اسکن ورودی مبتنی بر الگو است و بهطور رسمی دادههای بازیابیشده را از دستورالعملها جدا نمیکند. |
| ASI02 سوءاستفاده از ابزار | جزئی | CIRISServer یک فهرست مجاز/ممنوع مبتنی بر فعل قابلیت به همراه یک «فهرست هرگز» اعمالشده توسط سرور ارائه میدهد که پیش از اجرای هر عملیات بررسی میشود، بنابراین یک عامل نمایندگیشده نمیتواند عملیاتی مخرب را که مجوزش را نداشته فراخوانی کند. نکته احتیاطی: این امروز از لایه فابریک محافظت میکند و هنوز فراخوانیهای ابزارِ مدل زبانی بزرگِ خودِ عامل مستقرشده را دروازهبانی نمیکند؛ بهارثرسیدن به عامل یک فاز برنامهریزیشده است. |
| ASI03 سوءاستفاده از هویت و امتیاز | جزئی | اختیار محدود، نمایندگیشده و قابللغو در زیرساخت: محدودیتهایی که در یالهای امضاشده حمل میشوند، یک «فهرست هرگز» که از واگذاری مجدد بالاترین اختیارات جلوگیری میکند تا اختیار نتواند تشدید شود، تأیید فقط در جهت سختگیرانهتر، و لغو فوری. نکته احتیاطی: امروز روی سطح عملیاتمالکِ فابریک اعمال میشود؛ بهارثرسیدن به عامل مستقرشده یک فاز برنامهریزیشده است. |
| ASI04 زنجیره تأمین عاملمحور | جزئی | یکپارچگی ساخت از طریق مانیفستهای ماژول امضاشده پساکوانتومی CIRISVerify (Ed25519 + ML-DSA-65 روی یک هش کامل درختفایل)، به همراه هویت امضاشده و گواهیشده برای اجزای فدراسیونی. شکاف: زنجیره ساخت و ماژول خود CIRIS را پوشش میدهد، نه سرورهای دلخواه امسیپی شخص ثالث. |
| ASI05 اجرای غیرمنتظره کد | جزئی | دروازههای معنایی وجدان (آنتروپی، انسجام، وتوی بهینهسازی) پیش از اجرای هر اقدام ابزاری اجرا میشوند و عدمقطعیت به انسان واگذار میشود. شکاف: این یک بازبینی معنایی است، نه یک سندباکس قطعی کد. |
| ASI06 مسمومسازی حافظه و زمینه | جزئی | هر نوشتن در حافظه گراف یک اقدام تحت حاکمیت و بررسیشده توسط وجدان در یک گراف محدود و نسخهبندیشده است، نه یک عارضه جانبی خاموش، بنابراین یک نوشتن مسمومکننده خودش یک تصمیم قابلممیزی است. شکاف: امتیازدهی اعتماد به محتوای بازیابیشده جزئی است. |
| ASI07 ارتباط ناایمن بین عاملها | جزئی | CIRISEdge هر پیام بینعاملی را از طریق یک خط لوله هفتمرحلهای که به تأیید امضای ترکیبی Ed25519 + ML-DSA-65 ختم میشود بررسی میکند (سقف اندازه، سریالزدایی تایپشده، فهرست مجاز شِما، بررسی کلید مقصد، پنجره تکرار). شکاف: لایه انتقال فدراسیون هنوز در حال ساختهشدن است. |
| ASI08 خرابیهای زنجیرهای | کامل | در سه لایه مستقل محدود شده: مدارشکنهای بهازای هر سرویس (بسته / باز / نیمهباز) دور فراخوانیهای پرریسک، خط لوله وجدان که یک اقدام نادرست را پیش از انتشار متوقف میکند، و جداسازی مش که در آن نشت بینگروهی صفر در 50 تا 400 گره اندازهگیری شده است. |
| ASI09 سوءاستفاده از اعتماد انسان و عامل | جزئی | خط لوله وجدان متن توضیحی خودِ عامل، از جمله دلیلی که به بازبین انسانی نشان داده میشود، را پیش از اینکه انسان آن را ببیند از نظر اعتمادبهنفس بیشازحد و دستکاری امتیازدهی میکند. شکاف: ممیزی با همان خانواده مدلی انجام میشود که در حال بررسی آن است. |
| ASI10 عاملهای سرکش | جزئی | سه لایه: شش وجدان هر اقدام دارای پیامد را پیش از اجرا دروازهبانی میکنند، یک مسیر ممیزی امضاشده و زنجیرشده با هش، پنهانکاری را پس از وقوع قابلکشف میسازد، و کلید خاموشی ایمندر-شکست به انسانهای نامبردهشده اجازه میدهد یک عامل ناهمراستا را متوقف کنند. شکاف: شناسایی عاملی که بهطور ظریف ناهمراستا اما منسجم است، ذاتاً محدود است. |
ده ریسک برتر OWASP برای برنامههای عاملمحور، منتشرشده در دسامبر 2025. تا جولای 2026 به CIRIS نگاشت شده است؛ اگر خانهای اشتباه است به ما بگویید تا آن را اصلاح کنیم.
منابع
- ASI01 ربودن هدف عاملCIRISAgent skill-import SECURITY.md + conscience pipeline
- ASI02 سوءاستفاده از ابزارCIRISServer auth/gate.rs + DELEGATION_CONSTRAINTS.md (shipped 0.5.72)
- ASI03 سوءاستفاده از هویت و امتیازCIRISServer auth/gate.rs (never-list, tighten-only) + adoption plan
- ASI04 زنجیره تأمین عاملمحورCIRISVerify Threat Model, §3.4 Supply Chain
- ASI05 اجرای غیرمنتظره کدCIRISAgent conscience/core.py (semantic action gates)
- ASI06 مسمومسازی حافظه و زمینهCIRISAgent ciris_engine (governed graph memory)
- ASI07 ارتباط ناایمن بین عاملهاCIRISEdge README (verify-before-dispatch pipeline)
- ASI08 خرابیهای زنجیرهایCIRISAgent circuit_breaker.py + CIRISServer measured mesh isolation
- ASI09 سوءاستفاده از اعتماد انسان و عاملCIRISAgent epistemic-humility conscience prompt
- ASI10 عاملهای سرکشCIRISVerify HUMANITY_ACCORD kill switch + conscience pipeline
این طبقهبندی فقط یک زاویه دید است. ببینید CIRIS در میان همه رویکردهای پاسخگویی هوش مصنوعی کجا قرار دارد و کلید خاموشی چگونه بهطور مستقل قابلتأیید است.