Moja kamili, tisa sehemu, hakuna iliyodanganywa. Ukurasa ulioidai vyote kumi ungekuwa ni sawa kabisa na uuzaji tunaokushauri usiuamini. Viwango vya ufuasi hapa chini vilipita ukaguzi wa mtu tofauti wa kutilia shaka ambaye kazi yake ilikuwa kuvibomoa, na pale ambapo ulinzi upo kwenye msingi wa mfumo lakini wakala uliotumika bado haujaurithi, tunasema hivyo kwenye safu husika.
| Hatari | Ufuasi | Jinsi CIRIS inavyoishughulikia |
|---|---|---|
| ASI01 Utekaji wa Lengo la Wakala | Sehemu | Ulinzi wa tabaka nyingi: uchunguzi wa kudunga-amri (prompt-injection) kwenye ujuzi na jumbe zilizoingizwa, utengano wa udungaji wa kuona (wathamini wa dhamiri hawaoni kamwe data ghafi za picha), na mkondo wa dhamiri unaokagua upya kila hatua inayotokana nayo dhidi ya nia halisi ya mtumiaji kabla haijafanyika. Pengo: uchunguzi wa data unaoingia unategemea muundo (pattern) na haugawanyi rasmi data iliyopatikana kutoka kwa maagizo. |
| ASI02 Matumizi Mabaya ya Zana | Sehemu | CIRISServer inasafirishwa na orodha ya vitenzi vya uwezo vinavyoruhusiwa/visivyoruhusiwa yenye orodha ya kuzuiwa kabisa inayotekelezwa na seva, inayokaguliwa kabla operesheni haijaendeshwa, hivyo wakala aliyekasimiwa hawezi kutekeleza operesheni ya uharibifu asiyoruhusiwa. Tahadhari: hii inalinda tabaka la msingi (fabric) leo na bado haizuii moja kwa moja miito ya zana za LLM ya wakala yenyewe iliyotumika; urithi wa wakala ni hatua iliyopangwa kwa baadaye. |
| ASI03 Matumizi Mabaya ya Utambulisho na Mamlaka | Sehemu | Mamlaka yenye mipaka, iliyokasimiwa, na inayoweza kubatilishwa ndani ya msingi wa mfumo: vizuizi vinavyobebwa kwenye kingo zilizosainiwa, orodha ya kuzuiwa kabisa inayozuia ukasimiaji upya wa mamlaka za juu zaidi ili mamlaka isiweze kupanda daraja, uidhinishaji unaoruhusu tu kukaza (si kulegeza), na ubatilishaji wa papo hapo. Tahadhari: inatekelezwa kwenye eneo la operesheni za mmiliki wa msingi wa mfumo leo; urithi wa wakala uliotumika ni hatua iliyopangwa kwa baadaye. |
| ASI04 Msururu wa Ugavi wa Kiwakala | Sehemu | Uadilifu wa ujenzi kupitia orodha za moduli zilizosainiwa za baada ya kwantamu za CIRISVerify (Ed25519 + ML-DSA-65 juu ya alama ya heshi ya mti mzima wa faili), pamoja na utambulisho uliosainiwa na kuthibitishwa kwa vipengele vya shirikisho. Pengo: inashughulikia ujenzi na msururu wa moduli za CIRIS mwenyewe, si seva zozote za MCP za wahusika wengine. |
| ASI05 Uendeshaji Msimbo Usiotarajiwa | Sehemu | Malango ya dhamiri ya kimaana (entropy, ulinganifu, kupinga-uboreshaji) yanaendeshwa kwenye kila hatua ya zana kabla haijafanyika, na kutokuwa na uhakika kunaachiwa kwa binadamu. Pengo: hii ni ukaguzi wa kimaana, si sanduku la kuhakikisha msimbo (sandbox) la hakika. |
| ASI06 Sumu kwenye Kumbukumbu na Mazingira | Sehemu | Kila uandishi kwenye kumbukumbu ya grafu ni hatua inayosimamiwa na kukaguliwa na dhamiri ndani ya grafu yenye mipaka na matoleo, si athari ya kando ya kimya kimya, hivyo uandishi wa sumu wenyewe ni uamuzi unaoweza kukaguliwa. Pengo: uwekaji alama za uaminifu kwenye maudhui yaliyopatikana ni wa sehemu tu. |
| ASI07 Mawasiliano Yasiyo Salama Kati ya Wakala | Sehemu | CIRISEdge inathibitisha kila ujumbe kati ya wakala kupitia mkondo wa hatua saba unaomalizika kwa uthibitishaji wa saini ya mseto wa Ed25519 + ML-DSA-65 (kikomo cha ukubwa, ubadilishaji wa aina uliopangwa, orodha ya ruhusa ya muundo, ukaguzi wa funguo ya marudio, dirisha la kuzuia urudiaji). Pengo: usafirishaji wa shirikisho bado unajengwa. |
| ASI08 Kushindwa kwa Mfululizo | Kamili | Kina mipaka katika tabaka tatu huru: viunga vya mzunguko kwa kila huduma (vimefungwa / vimefunguliwa / nusu-wazi) kuzunguka miito hatarishi, mkondo wa dhamiri unaozuia hatua mbaya kabla haijaenea, na utengano wa mtandao uliopimwa kuwa hauna uvujaji kati ya makundi katika nodi 50 hadi 400. |
| ASI09 Unyanyasaji wa Uaminifu Kati ya Binadamu na Wakala | Sehemu | Mkondo wa dhamiri unapima maandishi ya maelezo ya wakala mwenyewe, ikiwemo sababu inayoonyeshwa kwa mkaguzi wa kibinadamu, kwa kujiamini kupita kiasi na udanganyifu kabla binadamu hajayaona. Pengo: unakagua kwa kutumia familia ile ile ya mfano unaoukagua. |
| ASI10 Wakala Waasi | Sehemu | Tabaka tatu: dhamiri sita zinalinda kila hatua yenye matokeo kabla haijatekelezwa, njia ya ukaguzi iliyosainiwa na kuunganishwa kwa heshi inafanya ufichaji ugundulike baadaye, na kitufe cha kuzima kinachoshindwa kwa usalama kinaruhusu binadamu wanaotambulika kwa majina kusimamisha wakala asiye na mwelekeo sahihi. Pengo: kukamata wakala aliyepotoka kwa udanganifu lakini bado anaonekana mwenye mantiki ni jambo lenye mipaka kwa asili. |
OWASP Top 10 kwa Programu za Kiwakala, iliyochapishwa Desemba 2025. Imelinganishwa na CIRIS hadi Julai 2026; tuambie ikiwa kiini fulani si sahihi na tutakirekebisha.
Vyanzo
- ASI01 Utekaji wa Lengo la WakalaCIRISAgent skill-import SECURITY.md + conscience pipeline
- ASI02 Matumizi Mabaya ya ZanaCIRISServer auth/gate.rs + DELEGATION_CONSTRAINTS.md (shipped 0.5.72)
- ASI03 Matumizi Mabaya ya Utambulisho na MamlakaCIRISServer auth/gate.rs (never-list, tighten-only) + adoption plan
- ASI04 Msururu wa Ugavi wa KiwakalaCIRISVerify Threat Model, §3.4 Supply Chain
- ASI05 Uendeshaji Msimbo UsiotarajiwaCIRISAgent conscience/core.py (semantic action gates)
- ASI06 Sumu kwenye Kumbukumbu na MazingiraCIRISAgent ciris_engine (governed graph memory)
- ASI07 Mawasiliano Yasiyo Salama Kati ya WakalaCIRISEdge README (verify-before-dispatch pipeline)
- ASI08 Kushindwa kwa MfululizoCIRISAgent circuit_breaker.py + CIRISServer measured mesh isolation
- ASI09 Unyanyasaji wa Uaminifu Kati ya Binadamu na WakalaCIRISAgent epistemic-humility conscience prompt
- ASI10 Wakala WaasiCIRISVerify HUMANITY_ACCORD kill switch + conscience pipeline
Taksonomia hii ni kiwango kimoja tu cha kuangalia. Ona mahali CIRIS ilipo miongoni mwa mbinu zote za uwajibikaji wa AI, na jinsi kitufe cha kuzima kinavyoweza kuthibitishwa kwa uhuru.