ਇੱਕ ਪੂਰਾ, ਨੌਂ ਅੰਸ਼ਕ, ਕੋਈ ਵੀ ਹੱਥ-ਹਿਲਾ ਕੇ ਟਾਲਿਆ ਨਹੀਂ ਗਿਆ। ਇੱਕ ਪੰਨਾ ਜੋ ਸਾਰੇ ਦਸ ਦਾ ਦਾਅਵਾ ਕਰਦਾ, ਉਹ ਬਿਲਕੁਲ ਉਹੀ ਮਾਰਕੀਟਿੰਗ ਹੁੰਦੀ ਜਿਸ 'ਤੇ ਭਰੋਸਾ ਨਾ ਕਰਨ ਲਈ ਅਸੀਂ ਤੁਹਾਨੂੰ ਕਹਿੰਦੇ ਹਾਂ। ਹੇਠਾਂ ਦਿੱਤੇ ਕਵਰੇਜ ਪੱਧਰ ਇੱਕ ਵੱਖਰੇ ਸ਼ੰਕਾਵਾਦੀ ਦੀ ਜਾਂਚ ਤੋਂ ਬਚ ਗਏ ਜਿਸਦਾ ਕੰਮ ਇਹਨਾਂ ਨੂੰ ਢਾਹੁਣਾ ਸੀ, ਅਤੇ ਜਿੱਥੇ ਇੱਕ ਰੱਖਿਆ ਬੁਨਿਆਦ ਵਿੱਚ ਮੌਜੂਦ ਹੈ ਪਰ ਤਾਇਨਾਤ ਏਜੰਟ ਨੇ ਹਾਲੇ ਇਸਨੂੰ ਗ੍ਰਹਿਣ ਨਹੀਂ ਕੀਤਾ, ਅਸੀਂ ਇਹ ਗੱਲ ਉਸ ਕਤਾਰ 'ਤੇ ਕਹਿੰਦੇ ਹਾਂ।
| ਖਤਰਾ | ਕਵਰੇਜ | CIRIS ਇਸਨੂੰ ਕਿਵੇਂ ਸੰਬੋਧਿਤ ਕਰਦਾ ਹੈ |
|---|---|---|
| ASI01 ਏਜੰਟ ਟੀਚਾ ਹਾਈਜੈਕ | ਅੰਸ਼ਕ | ਗਹਿਰਾਈ ਵਿੱਚ ਰੱਖਿਆ: ਆਯਾਤ ਕੀਤੇ ਸਕਿੱਲਾਂ ਅਤੇ ਸੁਨੇਹਿਆਂ 'ਤੇ ਪ੍ਰੌਂਪਟ-ਇੰਜੈਕਸ਼ਨ ਸਕੈਨਿੰਗ, ਵਿਜ਼ੁਅਲ-ਇੰਜੈਕਸ਼ਨ ਆਈਸੋਲੇਸ਼ਨ (ਕਾਨਸ਼ੀਅੰਸ ਮੁਲਾਂਕਣਕਾਰ ਕਦੇ ਵੀ ਕੱਚੇ ਚਿੱਤਰ ਬਾਈਟ ਨਹੀਂ ਦੇਖਦੇ), ਅਤੇ ਇੱਕ ਕਾਨਸ਼ੀਅੰਸ ਪਾਈਪਲਾਈਨ ਜੋ ਹਰ ਨਤੀਜੇ ਵਾਲੇ ਐਕਸ਼ਨ ਨੂੰ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਯੂਜ਼ਰ ਦੇ ਮੂਲ ਇਰਾਦੇ ਨਾਲ ਦੁਬਾਰਾ ਜਾਂਚਦੀ ਹੈ। ਕਮੀ: ਇਨਪੁਟ ਸਕੈਨਿੰਗ ਪੈਟਰਨ-ਅਧਾਰਿਤ ਹੈ ਅਤੇ ਪ੍ਰਾਪਤ ਕੀਤੇ ਡਾਟੇ ਨੂੰ ਹਦਾਇਤਾਂ ਤੋਂ ਰਸਮੀ ਤੌਰ 'ਤੇ ਵੱਖ ਨਹੀਂ ਕਰਦੀ। |
| ASI02 ਟੂਲ ਦੀ ਦੁਰਵਰਤੋਂ | ਅੰਸ਼ਕ | CIRISServer ਇੱਕ ਸਮਰੱਥਾ-ਕਿਰਿਆ ਇਜਾਜ਼ਤ/ਇਨਕਾਰ ਸੂਚੀ ਦੇ ਨਾਲ ਇੱਕ ਸਰਵਰ-ਲਾਗੂ ਕੀਤੀ ਕਦੇ-ਨਹੀਂ-ਸੂਚੀ ਭੇਜਦਾ ਹੈ, ਜੋ ਕਿਸੇ ਓਪਰੇਸ਼ਨ ਦੇ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਜਾਂਚੀ ਜਾਂਦੀ ਹੈ, ਇਸ ਲਈ ਇੱਕ ਸੌਂਪਿਆ ਗਿਆ ਏਜੰਟ ਉਹ ਵਿਨਾਸ਼ਕਾਰੀ ਓਪ ਨਹੀਂ ਚਲਾ ਸਕਦਾ ਜਿਸਦੀ ਉਸਨੂੰ ਇਜਾਜ਼ਤ ਨਹੀਂ ਦਿੱਤੀ ਗਈ ਸੀ। ਚੇਤਾਵਨੀ: ਇਹ ਅੱਜ ਫੈਬਰਿਕ ਪਰਤ ਦੀ ਰਾਖੀ ਕਰਦਾ ਹੈ ਅਤੇ ਹਾਲੇ ਤਾਇਨਾਤ ਏਜੰਟ ਦੇ ਆਪਣੇ LLM ਟੂਲ ਕਾਲਾਂ ਨੂੰ ਗੇਟ ਨਹੀਂ ਕਰਦਾ; ਏਜੰਟ ਵਿਰਾਸਤ ਇੱਕ ਯੋਜਨਾਬੱਧ ਪੜਾਅ ਹੈ। |
| ASI03 ਪਛਾਣ ਅਤੇ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਦੀ ਦੁਰਵਰਤੋਂ | ਅੰਸ਼ਕ | ਬੁਨਿਆਦ ਵਿੱਚ ਸੀਮਿਤ, ਸੌਂਪਿਆ, ਰੱਦ ਕੀਤਾ ਜਾ ਸਕਣ ਵਾਲਾ ਅਧਿਕਾਰ: ਦਸਤਖਤ ਕੀਤੇ ਕਿਨਾਰਿਆਂ ਵਿੱਚ ਲਿਜਾਈਆਂ ਗਈਆਂ ਪਾਬੰਦੀਆਂ, ਇੱਕ ਕਦੇ-ਨਹੀਂ-ਸੂਚੀ ਜੋ ਸਭ ਤੋਂ ਵੱਧ ਤਾਕਤਾਂ ਨੂੰ ਦੁਬਾਰਾ ਸੌਂਪਣ ਤੋਂ ਰੋਕਦੀ ਹੈ ਤਾਂ ਜੋ ਅਧਿਕਾਰ ਵਧ ਨਾ ਸਕੇ, ਸਿਰਫ਼-ਕੱਸਣ ਵਾਲੀ ਮਨਜ਼ੂਰੀ, ਅਤੇ ਤੁਰੰਤ ਰੱਦੀਕਰਨ। ਚੇਤਾਵਨੀ: ਅੱਜ ਫੈਬਰਿਕ ਦੀ ਮਾਲਕ-ਓਪ ਸਤਹ 'ਤੇ ਲਾਗੂ ਕੀਤਾ ਗਿਆ; ਤਾਇਨਾਤ-ਏਜੰਟ ਵਿਰਾਸਤ ਇੱਕ ਯੋਜਨਾਬੱਧ ਪੜਾਅ ਹੈ। |
| ASI04 ਏਜੰਟਿਕ ਸਪਲਾਈ ਚੇਨ | ਅੰਸ਼ਕ | CIRISVerify ਦੇ ਪੋਸਟ-ਕੁਆਂਟਮ ਦਸਤਖਤ ਕੀਤੇ ਮੌਡਿਊਲ ਮੈਨੀਫੈਸਟਾਂ (ਪੂਰੇ ਫਾਈਲ-ਟ੍ਰੀ ਹੈਸ਼ 'ਤੇ Ed25519 + ML-DSA-65) ਰਾਹੀਂ ਬਿਲਡ ਇਕਸਾਰਤਾ, ਨਾਲ ਹੀ ਫੈਡਰੇਟਿਡ ਕੰਪੋਨੈਂਟਾਂ ਲਈ ਦਸਤਖਤ ਕੀਤੀ, ਪ੍ਰਮਾਣਿਤ ਪਛਾਣ। ਕਮੀ: ਇਹ CIRIS ਦੀ ਆਪਣੀ ਬਿਲਡ ਅਤੇ ਮੌਡਿਊਲ ਚੇਨ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ, ਕਿਸੇ ਮਨਮਾਨੇ ਤੀਜੀ-ਧਿਰ MCP ਸਰਵਰ ਨੂੰ ਨਹੀਂ। |
| ASI05 ਅਚਾਨਕ ਕੋਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨ | ਅੰਸ਼ਕ | ਸਿਮੈਂਟਿਕ ਕਾਨਸ਼ੀਅੰਸ ਗੇਟ (ਐਂਟ੍ਰੌਪੀ, ਕੋਹੀਰੈਂਸ, ਓਪਟੀਮਾਈਜ਼ੇਸ਼ਨ-ਵੀਟੋ) ਹਰ ਟੂਲ ਐਕਸ਼ਨ ਦੇ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਚੱਲਦੇ ਹਨ, ਅਤੇ ਅਨਿਸ਼ਚਿਤਤਾ ਮਨੁੱਖ ਨੂੰ ਸੌਂਪੀ ਜਾਂਦੀ ਹੈ। ਕਮੀ: ਇਹ ਸਿਮੈਂਟਿਕ ਸਮੀਖਿਆ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਨਿਰਧਾਰਿਤ ਕੋਡ ਸੈਂਡਬਾਕਸ। |
| ASI06 ਮੈਮੋਰੀ ਅਤੇ ਸੰਦਰਭ ਜ਼ਹਿਰੀਲਾਪਣ | ਅੰਸ਼ਕ | ਗ੍ਰਾਫ ਮੈਮੋਰੀ ਵਿੱਚ ਹਰ ਲਿਖਤ ਇੱਕ ਸ਼ਾਸਿਤ, ਕਾਨਸ਼ੀਅੰਸ-ਜਾਂਚੀ ਗਈ ਕਾਰਵਾਈ ਹੈ ਜੋ ਇੱਕ ਸੀਮਿਤ, ਵਰਜਨ ਵਾਲੇ ਗ੍ਰਾਫ ਵਿੱਚ ਹੁੰਦੀ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਚੁੱਪ ਸਾਈਡ ਇਫੈਕਟ, ਇਸ ਲਈ ਜ਼ਹਿਰੀਲੀ ਲਿਖਤ ਖੁਦ ਇੱਕ ਆਡਿਟ ਕੀਤੇ ਜਾ ਸਕਣ ਵਾਲਾ ਫੈਸਲਾ ਹੈ। ਕਮੀ: ਪ੍ਰਾਪਤ ਕੀਤੀ ਸਮੱਗਰੀ ਦੀ ਭਰੋਸਾ-ਸਕੋਰਿੰਗ ਅੰਸ਼ਕ ਹੈ। |
| ASI07 ਅਸੁਰੱਖਿਅਤ ਅੰਤਰ-ਏਜੰਟ ਸੰਚਾਰ | ਅੰਸ਼ਕ | CIRISEdge ਹਰ ਅੰਤਰ-ਏਜੰਟ ਸੁਨੇਹੇ ਨੂੰ ਇੱਕ ਸੱਤ-ਪੜਾਵੀ ਪਾਈਪਲਾਈਨ ਰਾਹੀਂ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਜੋ ਹਾਈਬ੍ਰਿਡ Ed25519 + ML-DSA-65 ਦਸਤਖਤ ਪੁਸ਼ਟੀਕਰਣ (ਆਕਾਰ ਸੀਮਾ, ਟਾਈਪਡ ਡੀਸੀਰੀਅਲਾਈਜ਼, ਸਕੀਮਾ ਇਜਾਜ਼ਤ-ਸੂਚੀ, ਮੰਜ਼ਿਲ-ਕੁੰਜੀ ਜਾਂਚ, ਰੀਪਲੇ ਵਿੰਡੋ) 'ਤੇ ਖਤਮ ਹੁੰਦੀ ਹੈ। ਕਮੀ: ਫੈਡਰੇਸ਼ਨ ਟ੍ਰਾਂਸਪੋਰਟ ਹਾਲੇ ਵੀ ਬਣਾਈ ਜਾ ਰਹੀ ਹੈ। |
| ASI08 ਲੜੀਵਾਰ ਅਸਫਲਤਾਵਾਂ | ਪੂਰਾ | ਤਿੰਨ ਸੁਤੰਤਰ ਪਰਤਾਂ 'ਤੇ ਸੀਮਿਤ: ਜੋਖਮ ਭਰੀਆਂ ਕਾਲਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਪ੍ਰਤੀ-ਸੇਵਾ ਸਰਕਟ ਬ੍ਰੇਕਰ (ਬੰਦ / ਖੁੱਲ੍ਹਾ / ਅੱਧ-ਖੁੱਲ੍ਹਾ), ਕਾਨਸ਼ੀਅੰਸ ਪਾਈਪਲਾਈਨ ਜੋ ਕਿਸੇ ਮਾੜੇ ਐਕਸ਼ਨ ਨੂੰ ਫੈਲਣ ਤੋਂ ਪਹਿਲਾਂ ਰੋਕਦੀ ਹੈ, ਅਤੇ 50 ਤੋਂ 400 ਨੋਡਾਂ ਵਿੱਚ ਜ਼ੀਰੋ ਕ੍ਰਾਸ-ਗਰੁੱਪ ਲੀਕੇਜ 'ਤੇ ਮਾਪੀ ਗਈ ਮੈਸ਼ ਆਈਸੋਲੇਸ਼ਨ। |
| ASI09 ਮਨੁੱਖ-ਏਜੰਟ ਭਰੋਸੇ ਦਾ ਸ਼ੋਸ਼ਣ | ਅੰਸ਼ਕ | ਕਾਨਸ਼ੀਅੰਸ ਪਾਈਪਲਾਈਨ ਏਜੰਟ ਦੇ ਆਪਣੇ ਵਿਆਖਿਆਤਮਕ ਪਾਠ ਨੂੰ, ਜਿਸ ਵਿੱਚ ਮਨੁੱਖੀ ਸਮੀਖਿਅਕ ਨੂੰ ਦਿਖਾਇਆ ਗਿਆ ਕਾਰਨ ਵੀ ਸ਼ਾਮਲ ਹੈ, ਕਿਸੇ ਮਨੁੱਖ ਦੇ ਦੇਖਣ ਤੋਂ ਪਹਿਲਾਂ ਵਾਧੂ-ਭਰੋਸੇ ਅਤੇ ਹੇਰਾਫੇਰੀ ਲਈ ਸਕੋਰ ਕਰਦੀ ਹੈ। ਕਮੀ: ਇਹ ਉਸੇ ਮਾਡਲ ਪਰਿਵਾਰ ਨਾਲ ਆਡਿਟ ਕਰਦੀ ਹੈ ਜਿਸਦੀ ਇਹ ਜਾਂਚ ਕਰ ਰਹੀ ਹੈ। |
| ASI10 ਬਦਮਾਸ਼ ਏਜੰਟ | ਅੰਸ਼ਕ | ਤਿੰਨ ਪਰਤਾਂ: ਛੇ ਕਾਨਸ਼ੀਅੰਸ ਹਰ ਨਤੀਜੇ ਭਰਪੂਰ ਕਾਰਵਾਈ ਨੂੰ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਗੇਟ ਕਰਦੇ ਹਨ, ਇੱਕ ਹੈਸ਼-ਚੇਨਡ ਦਸਤਖਤ ਵਾਲਾ ਆਡਿਟ ਟ੍ਰੇਲ ਲੁਕਾਵ ਨੂੰ ਬਾਅਦ ਵਿੱਚ ਪਤਾ ਲਗਾਉਣ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ, ਅਤੇ ਸੁਰੱਖਿਅਤ-ਢੰਗ-ਨਾਲ-ਅਸਫਲ ਕਿਲ ਸਵਿੱਚ ਨਾਮਜ਼ਦ ਮਨੁੱਖਾਂ ਨੂੰ ਗਲਤ-ਇਕਸਾਰ ਏਜੰਟ ਰੋਕਣ ਦਿੰਦਾ ਹੈ। ਕਮੀ: ਇੱਕ ਸੂਖਮ-ਗਲਤ-ਇਕਸਾਰ-ਪਰ-ਸੁਸੰਗਤ ਏਜੰਟ ਨੂੰ ਫੜਨਾ ਸੁਭਾਵਿਕ ਤੌਰ 'ਤੇ ਸੀਮਿਤ ਹੈ। |
ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਟਾਪ 10, ਦਸੰਬਰ 2025 ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ। ਜੁਲਾਈ 2026 ਤੱਕ CIRIS ਨਾਲ ਮੈਪ ਕੀਤਾ ਗਿਆ; ਜੇ ਕੋਈ ਸੈੱਲ ਗਲਤ ਹੈ ਤਾਂ ਸਾਨੂੰ ਦੱਸੋ ਅਤੇ ਅਸੀਂ ਇਸਨੂੰ ਠੀਕ ਕਰਾਂਗੇ।
ਸਰੋਤ
- ASI01 ਏਜੰਟ ਟੀਚਾ ਹਾਈਜੈਕCIRISAgent skill-import SECURITY.md + conscience pipeline
- ASI02 ਟੂਲ ਦੀ ਦੁਰਵਰਤੋਂCIRISServer auth/gate.rs + DELEGATION_CONSTRAINTS.md (shipped 0.5.72)
- ASI03 ਪਛਾਣ ਅਤੇ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਦੀ ਦੁਰਵਰਤੋਂCIRISServer auth/gate.rs (never-list, tighten-only) + adoption plan
- ASI04 ਏਜੰਟਿਕ ਸਪਲਾਈ ਚੇਨCIRISVerify Threat Model, §3.4 Supply Chain
- ASI05 ਅਚਾਨਕ ਕੋਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨCIRISAgent conscience/core.py (semantic action gates)
- ASI06 ਮੈਮੋਰੀ ਅਤੇ ਸੰਦਰਭ ਜ਼ਹਿਰੀਲਾਪਣCIRISAgent ciris_engine (governed graph memory)
- ASI07 ਅਸੁਰੱਖਿਅਤ ਅੰਤਰ-ਏਜੰਟ ਸੰਚਾਰCIRISEdge README (verify-before-dispatch pipeline)
- ASI08 ਲੜੀਵਾਰ ਅਸਫਲਤਾਵਾਂCIRISAgent circuit_breaker.py + CIRISServer measured mesh isolation
- ASI09 ਮਨੁੱਖ-ਏਜੰਟ ਭਰੋਸੇ ਦਾ ਸ਼ੋਸ਼ਣCIRISAgent epistemic-humility conscience prompt
- ASI10 ਬਦਮਾਸ਼ ਏਜੰਟCIRISVerify HUMANITY_ACCORD kill switch + conscience pipeline
ਵਰਗੀਕਰਣ ਪ੍ਰਣਾਲੀ ਇੱਕ ਨਜ਼ਰੀਆ ਹੈ। ਦੇਖੋ ਕਿ AI ਜਵਾਬਦੇਹੀ ਦੇ ਹਰ ਤਰੀਕੇ ਵਿੱਚ CIRIS ਕਿੱਥੇ ਖੜ੍ਹਾ ਹੈ, ਅਤੇ ਕਿਲ ਸਵਿੱਚ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਕਿਵੇਂ ਤਸਦੀਕ ਯੋਗ ਹੈ।