एक पूर्ण, नऊ आंशिक, कोणतीही उडवाउडवी नाही. सर्व दहा पूर्ण असल्याचा दावा करणारे पान म्हणजे नेमके तेच जाहिरातबाजी असते जिच्यावर विश्वास ठेवू नका असे आम्ही सांगतो. खालील कव्हरेज पातळ्या त्या मोडून काढण्याचे काम असलेल्या एका वेगळ्या साशंक परीक्षकाच्या तपासणीतून तग धरून आल्या आहेत, आणि जिथे संरक्षण मूळ रचनेत आहे पण तैनात केलेल्या एजंटला अजून मिळालेले नाही, तिथे आम्ही त्या ओळीत तसे स्पष्टपणे नमूद करतो.
| धोका | कव्हरेज | CIRIS त्याला कसे उत्तर देते |
|---|---|---|
| ASI01 एजंट उद्दिष्ट अपहरण | आंशिक | बहुस्तरीय संरक्षण: आयात केलेल्या कौशल्ये आणि संदेशांवर प्रॉम्प्ट-इंजेक्शन स्कॅनिंग, दृश्य-इंजेक्शन अलगीकरण (कॉन्शन्स मूल्यांकनकर्ते कधीही कच्चे इमेज बाइट्स पाहत नाहीत), आणि प्रत्येक परिणामी कृती प्रत्यक्ष घडण्यापूर्वी वापरकर्त्याच्या मूळ हेतूविरुद्ध पुन्हा तपासणारी कॉन्शन्स पाइपलाइन. उणीव: इनपुट स्कॅनिंग नमुना-आधारित आहे आणि पुनर्प्राप्त केलेला डेटा व सूचना यांच्यात औपचारिक फरक करत नाही. |
| ASI02 साधनांचा गैरवापर | आंशिक | CIRISServer मध्ये सर्व्हर-अंमलबजावणी असलेल्या नेव्हर-लिस्टसह क्षमता-क्रियापद अनुमती/नकार यादी दिली जाते, जी क्रिया चालण्याआधी तपासली जाते, त्यामुळे प्रत्यायोजित एजंट त्याला न दिलेली विध्वंसक क्रिया चालवू शकत नाही. सूचना: हे आज फॅब्रिक स्तरावर लागू होते आणि अजून तैनात केलेल्या एजंटच्या स्वतःच्या LLM टूल कॉल्सना गेट करत नाही; एजंट वारसाहक्क हा नियोजित टप्पा आहे. |
| ASI03 ओळख आणि विशेषाधिकार गैरवापर | आंशिक | मूळ रचनेत मर्यादित, प्रत्यायोजित, रद्द करता येणारे अधिकार: स्वाक्षरीत कड्यांमधून वाहून नेलेले निर्बंध, सर्वोच्च अधिकार पुन्हा-प्रत्यायोजित होऊ न देणारी नेव्हर-लिस्ट जेणेकरून अधिकार वाढू शकत नाही, फक्त कडक करण्याची मान्यता पद्धत, आणि तात्काळ रद्दीकरण. सूचना: हे आज फॅब्रिकच्या मालक-ऑपरेशन पृष्ठभागावर लागू होते; तैनात-एजंट वारसाहक्क हा नियोजित टप्पा आहे. |
| ASI04 एजंटिक पुरवठा साखळी | आंशिक | CIRISVerify च्या पोस्ट-क्वांटम स्वाक्षरीत मॉड्यूल मॅनिफेस्टद्वारे (संपूर्ण फाइल-ट्री हॅशवर Ed25519 + ML-DSA-65) बिल्ड अखंडता, तसेच फेडरेटेड घटकांसाठी स्वाक्षरीत, अॅटेस्ट केलेली ओळख. उणीव: हे CIRIS च्या स्वतःच्या बिल्ड आणि मॉड्यूल साखळीला कव्हर करते, कोणत्याही तृतीय-पक्ष MCP सर्व्हरला नाही. |
| ASI05 अनपेक्षित कोड अंमलबजावणी | आंशिक | प्रत्येक टूल क्रिया चालण्यापूर्वी सिमॅंटिक कॉन्शन्स गेट (एंट्रॉपी, सुसंगतता, ऑप्टिमायझेशन-व्हेटो) चालतात, आणि अनिश्चितता असल्यास निर्णय माणसाकडे सोपवला जातो. उणीव: ही सिमॅंटिक तपासणी आहे, निर्धारात्मक कोड सँडबॉक्स नाही. |
| ASI06 मेमरी आणि संदर्भ विषबाधा | आंशिक | ग्राफ मेमरीतील प्रत्येक लेखन ही मर्यादित, आवृत्तीबद्ध ग्राफमधील एक नियंत्रित, कॉन्शन्स-तपासलेली क्रिया असते, गुप्त साइड इफेक्ट नाही, त्यामुळे विषबाधा करणारे लेखन स्वतःच पडताळणीयोग्य निर्णय ठरते. उणीव: पुनर्प्राप्त केलेल्या मजकुराचे विश्वास-गुणांकन आंशिक आहे. |
| ASI07 असुरक्षित आंतर-एजंट संवाद | आंशिक | CIRISEdge प्रत्येक आंतर-एजंट संदेश सात-टप्प्यांच्या पाइपलाइनमधून पडताळतो, जी संकरित Ed25519 + ML-DSA-65 स्वाक्षरी पडताळणीवर संपते (आकार मर्यादा, टाइप केलेले डीसिरियलायझेशन, स्कीमा अनुमती-यादी, गंतव्य-किल्ली तपासणी, रिप्ले विंडो). उणीव: फेडरेशन ट्रान्सपोर्ट अजूनही बांधणीच्या टप्प्यात आहे. |
| ASI08 साखळी बनणारी अपयशे | पूर्ण | तीन स्वतंत्र स्तरांवर मर्यादित: जोखमीच्या कॉल्सभोवती प्रत्येक-सेवा सर्किट ब्रेकर्स (बंद / उघडे / अर्ध-उघडे), वाईट कृती पसरण्याआधी थांबवणारी कॉन्शन्स पाइपलाइन, आणि ५० ते ४०० नोड्समध्ये शून्य गट-दर-गट गळती अशी मोजलेली मेश अलगीकरण. |
| ASI09 मानव-एजंट विश्वास शोषण | आंशिक | कॉन्शन्स पाइपलाइन माणूस पुनरावलोकनकर्त्याला दाखवल्या जाणाऱ्या कारणासह एजंटच्या स्वतःच्या स्पष्टीकरणात्मक मजकुराला अतिआत्मविश्वास आणि हेराफेरीसाठी तो माणसापर्यंत पोहोचण्याआधीच गुणांकित करते. उणीव: ती ज्या मॉडेल कुटुंबाला तपासते त्याच मॉडेल कुटुंबाने ती तपासणी करते. |
| ASI10 बंडखोर एजंट्स | आंशिक | तीन स्तर: सहा कॉन्शन्स प्रत्येक महत्त्वपूर्ण क्रिया अंमलात येण्याआधी गेट करतात, हॅश-साखळीबद्ध स्वाक्षरीत ऑडिट ट्रेल नंतर लपवाछपवी शोधण्याजोगी बनवते, आणि फेल-सेफ किल स्विच ठराविक माणसांना दिशाभूल झालेल्या एजंटला थांबवू देतो. उणीव: सूक्ष्मपणे दिशाभूल झालेला पण सुसंगत दिसणारा एजंट पकडणे मूलतःच मर्यादित आहे. |
एजंटिक अॅप्लिकेशन्ससाठी OWASP टॉप 10, डिसेंबर 2025 मध्ये प्रकाशित. CIRIS शी जुलै 2026 पर्यंत जोडलेले; एखादा सेल चुकीचा वाटल्यास आम्हाला सांगा, आम्ही तो दुरुस्त करू.
स्रोत
- ASI01 एजंट उद्दिष्ट अपहरणCIRISAgent skill-import SECURITY.md + conscience pipeline
- ASI02 साधनांचा गैरवापरCIRISServer auth/gate.rs + DELEGATION_CONSTRAINTS.md (shipped 0.5.72)
- ASI03 ओळख आणि विशेषाधिकार गैरवापरCIRISServer auth/gate.rs (never-list, tighten-only) + adoption plan
- ASI04 एजंटिक पुरवठा साखळीCIRISVerify Threat Model, §3.4 Supply Chain
- ASI05 अनपेक्षित कोड अंमलबजावणीCIRISAgent conscience/core.py (semantic action gates)
- ASI06 मेमरी आणि संदर्भ विषबाधाCIRISAgent ciris_engine (governed graph memory)
- ASI07 असुरक्षित आंतर-एजंट संवादCIRISEdge README (verify-before-dispatch pipeline)
- ASI08 साखळी बनणारी अपयशेCIRISAgent circuit_breaker.py + CIRISServer measured mesh isolation
- ASI09 मानव-एजंट विश्वास शोषणCIRISAgent epistemic-humility conscience prompt
- ASI10 बंडखोर एजंट्सCIRISVerify HUMANITY_ACCORD kill switch + conscience pipeline
हे वर्गीकरण एक दृष्टिकोन आहे. CIRIS एआय जबाबदारीच्या प्रत्येक दृष्टिकोनामध्ये कुठे बसते, आणि किल स्विच स्वतंत्रपणे कसा पडताळता येतो, ते पहा.