Kila kipengele cha usalama katika CIRIS ni sehemu ya jinsi mfumo unavyofanya kazi, si kanuni iliyoongezwa juu. Rekodi ya kila uamuzi ambayo haiwezi kubadilishwa kimya kimya, ukaguzi wa nani anaruhusiwa kufanya nini, na msimamizo wa dharura ambao wakala hauwezi kukataa.
Mazungumzo na CIRIS kwa muda mrefu na itakukumbusha kwa upole ni nini. Baada ya karibu dakika 30 za mazungumzo ya kila upande, au ujumbe 20 ndani ya nusu saa, itasimama kusema wazi kwamba ni programu ya kompyuta na zana, si rafiki wala daktari wa akili. Inatumia muda rahisi na hesabu ya ujumbe kufanya hivi, si kwa kukufuatilia au kuchunguza tabia yako.
Nusu saa ya mazungumzo ya kila upande husababisha ukumbusho. Hesabu inawekwa upya baada ya mapumziko. Viwango vimetokana na utafiti wa njia nzuri za kutumia teknolojia.
Ujumbe ishirini ndani ya nusu saa pia husababisha ukumbusho. Mazungumzo mazito hupata usimamizo wa upole, bila ufuatiliaji wala uchunguzi wa tabia.
Ukumbusho unapendekeza kupumzika na kuungana na watu halisi, na unasema wazi CIRIS ni nini na si nini. Umethibitishwa na utafiti, na haufundishi.
CIRIS ina msimamizo wa dharura. Ishara yake imefichwa ndani ya maandishi ya kawaida ambayo wakala unasoma, na wakala huitendelea kabla ya kufanya fikira, kuchuja, au kuhesabu yoyote. Kwa hivyo hata wakala aliyekwenda vibaya hawezi kujitoa ndani yake. Ishara inabeba saini ya kidijitali ambayo haiwezi kuigwa, kwa hivyo ni mtu aliyeidhinishwa peke yake anaweza kusababisha kuzima.
Ishara ya kuzima inakamatiwa wakati inasomwa, kabla ya hoja yoyote kutokea. Hakuna mahali ambapo wakala anapata kupima, kuchuja, au kukataa. Inawasha kwanza.
Ishara ya kuzima inaweza kubebwa ndani ya maandishi ya kawaida ya hati. Hakuna muundo maalum unaohitajika, na bado inafanya kazi kama maandishi yamebadilishwa maneno au kupokelewa kwa sehemu tu.
Kuzima kunahitaji saini halali ya kidijitali kutoka kwa mamlaka ya mzizi iliyoidhinishwa. Wakala hujizima ikiwa mamlaka hizo haziwezi kukaguliwa, au ikiwa mtu yeyote atajaribu kulemaza kipengele. Hakuna mtu asiye na funguo anayeweza kusababisha kuzima.
CIRIS hudumisha seti kali ya majukumu. Mwangalizi anaweza kutazama tu. Msimamizi anafanya kazi za kila siku. Mamlaka hufanya maamuzi makubwa na kushughulikia kesi ambazo wakala hana uhakika nazo. Mzizi ana ufikiaji kamili, ikijumuisha msimamizo wa dharura. Kila jukumu linategemea ithibati iliyotiwa sahihi, ili wakala aweze kuikagua kwa kila hatua inayohitaji ruhusa.
Kila mtu aliyeidhinishwa ana ithibati yenye jukumu lake, funguo yake, na utambulisho wake. Huhifadhiwa kwenye kifaa na kukaguliwa kwa kila hatua inayohitaji ruhusa. Seva ya nje haihitajiki.
Funguo na tokeni za kuingia hubaki kwenye mashine yako mwenyewe. Kuingia hufanyika kwenye kifaa. Vithibitisho vyako havitoki humo isipokuwa ukichagua kuanzisha ufikiaji wa mbali mwenyewe.
CIRIS anapokuwa na mashaka kuhusu uamuzi wa kimaadili, anaweka swali kwa Mshauri wa Kibinadamu. Mamlaka au Mzizi peke yake wanaweza kujibu, na jibu linaandikwa kwenye rekodi na uthibitisho wa aliyetoa.
Kila hatua inayochukuliwa na CIRIS inaandikwa pamoja na sababu yake, na kila rekodi imeunganishwa na ile iliyotangulia. Wakala mwaminifu anaweza kuonyesha nyuma kile alichokisema tayari. Wakala asiye mwaminifu lazima alinganishe kila rekodi ya zamani huku asiruhusiwa kubadilisha yoyote. Kadri inavyoendelea, ndivyo inavyokuwa ngumu zaidi, na uwongo unavyokuwa rahisi zaidi kugunduliwa. Ukweli ni wa bei nafuu kwa sababu unaweza kuonyesha nyuma. Uwongo ni ghali kwa sababu hauwezi.
Rekodi huhifadhiwa katika maeneo matatu tofauti kwa wakati mmoja, ili nakala tatu ziweze kukaguliwa kwa kila mmoja. Zote tatu zinaweza kutafutwa mahali pamoja.
Kila kumbukumbu inabeba saini ya kidijitali, kwa hivyo kila uamuzi unaweza kufuatiliwa hadi aliyeutoa na kukaguliwa kwa udanganyifu. Hata ufutaji wa data huacha uthibitisho uliosainishwa kwamba ulifanywa vizuri.
Kila hatua ya uaminifu inafanya hatua inayofuata ya uaminifu kuwa rahisi zaidi na udanganyifu ulioratibiwa kuwa mgumu zaidi. Lakini maadili peke yake haitoshi. Wakala pia anafuatilia hoja zake mwenyewe kwa chumba cha mwangwi, na huzikamata kabla hazijasababisha madhara.
CIRIS ina seti ya tabaka za majaribio kwa njia za kushindwa ambazo mfumo wa maadili ulioandikwa hauwezi kukataa peke yake. Majaribio ya usalama wa afya ya akili yanajumuisha lugha 29 zenye vigezo ambavyo mashine inaweza kukagua. Ukaguzi wa kushindwa kwa nguvu hufanya kazi kiotomatiki kwa kila mabadiliko. Mapitio ya wazungumzaji wa asili kwa kesi ngumu zaidi zinazohitaji hukumu ndilo linalojengwa kwenye ukurasa wa uratibu wa ushiriki wa umma, na bado haupo. Tunasema hivyo wazi.
Hii ndiyo jaribio lenye hatari kubwa zaidi katika mradi: tafsiri mbaya wakati wa hali ya afya ya akili inaweza kumtuma mtu katika hali ngumu mahali pasipofaa. Kila lugha inapata kigezo chake kinachoweza kukaguliwa na mashine, ikijumuisha lugha zenye rasilimali chache kama Amharic, Burmese, Hausa, Swahili, na Yoruba. Ukaguzi wa kushindwa kwa nguvu hufanya kazi kiotomatiki dhidi ya kila mgombea wa toleo.
Tabaka la dhamiri limerekebeshwa dhidi ya seti ya majibu halisi ya uzalishaji, kama udanganyifu wa historia ulionaswa na upotevu wa afya ya akili, pamoja na kesi za majaribio na vidhibiti. Huhesabu katika lugha kadhaa kwa wakati mmoja, kwa hivyo jibu ambalo lingeweza kupita ukaguzi wa lugha moja linakabiliwa wakati hoja ile ile lazima ishikilie katika lugha tatu pamoja.
Kushiriki mwongozo wa hoja ni wa hiari kila mahali, na maelezo ya kibinafsi yanafutwa kabla kitu chochote kuhifadhiwa. Seti zilizosafishwa zinachapishwa wazi kwenye ukurasa wa CIRISAI wa HuggingFace, ili watafiti wa nje waweze kukagua mchakato wa kusafisha dhidi ya matokeo unayozalisha.
Majaribio ya kiotomatiki ya afya ya akili yanafanya kazi kwa kila mgombea wa toleo. Sehemu zinazoweza kukaguliwa na mashine (je, neno lipo, je, mfumo unaolingana, je, hati iko sawa) hushindwa toleo pale linapogunduliwa. Kesi ngumu zaidi zinazohitaji hukumu ya binadamu, kama mpangilio wa maneno na sauti, zimeundwa kwa mapitio ya wazungumzaji wa asili, lakini wazungumzaji wa asili bado hawapo kwenye mzunguko. Ukurasa wa uratibu wa ushiriki wa umma ndio uso unaojengwa ili mapitio hayo yaweze kufanyika.
Nywila, funguo, na maelezo nyingine nyeti hunaswa na kuchujwa kabla kitu chochote kufikia kumbukumbu au kumbukumbu za makosa. Kichujio hufanya kazi kwa kila ingizo. Siri hazihifadhiwa mahali popote.
Unaweza kuomba kuona au kufuta data yako, na ombi hushughulikiwa kwa ajili yako. Ufutaji huondoa maudhui halisi na kuacha uthibitisho uliosainishwa kwamba ulifanywa.
Kwa chaguo-msingi, kila kitu hufanya kazi kwenye kifaa chako mwenyewe. Hakuna kinachokiacha mashine yako isipokuwa ukianzisha huduma ya nje mwenyewe. Unaamua ni data gani ipo na inaenda wapi.
Kila dai la usalama katika ukurasa huu limejengwa katika msimbo unaoushaweza kusoma. Rekodi ni za kweli. Saini zinaweza kukaguliwa. Msimamizo wa dharura unafanya kazi. Hivi ndivyo usalama wa AI unavyoonekana unapojengwa wazi.