Njia mbili
Amini vigezo (weights) vya mfano, au kagua tabia yake
Mkondo mkuu wa usalama wa AI unajaribu kufanya mfano uwe mzuri kwa ndani: kufundisha maadili yake, kusoma mawazo yake, kuufanya ujadiliane na nafsi yake. Kazi hiyo ina umuhimu. CIRIS inaamini njia nyingine. Kubali kwamba mfano wenye uwezo unaweza kuwa na mwelekeo mbaya, na badala ya kuamini akili yake, fanya matendo yake muhimu yawajibike kwa watu na mifumo mingine inayoweza kuyakagua.
Kwa maneno ya uwanja wenyewe, CIRIS ipo katika tawi la taasisi na udhibiti, pamoja na udhibiti wa AI na AI salama inayohakikishwa, si katika mkondo mkuu wa RLHF, Constitutional AI, mjadala, na ufafanuzi wa ndani. Jibu lake kwa usimamizi unaoweza kupanuka, jinsi ya kusimamia kitu chenye akili kuliko wewe, ni kuthibitisha mipaka ya uwajibikaji, si fikira. Saini, quorum, na ukaguzi unaounganishwa kwa hash unabaki rahisi kukagua hata pale uamuzi ulio nyuma yake unapokuwa wa kiwango cha juu kuliko uwezo wa binadamu. Inaoanisha mifumo ya mawakala wengi wenye uwezo kadiri muda unavyopita, si maadili ya akili moja yoyote.
Mstari tunaoshikilia
Haijaribu kuoanisha AI moja yenye nguvu zote. Kwa makusudi.
Uwajibikaji unahitaji zaidi ya mhusika mmoja. Mtu wa kujibu kwake. Njia ya kukagua ambayo haiwezi kumezwa kimya kimya. Uwiano wa nguvu ambao hakuna upande mmoja unaoweza kuuteka. AI moja yenye akili kuu haina chochote kati ya hivi, kwa hivyo hakuna njia ya kweli ya kuishikilia kuwajibika. CIRIS imejengwa kwa ajili ya mustakabali mwingine: mawakala wengi wenye uwezo, watu, na mashirika ambao maamuzi yao yote muhimu yanaweza kukaguliwa kwa kujitegemea.
Kwa hivyo msimamo ni wazi. ASI moja si mfumo wa kuoanishwa bali ni hali ya kuzuia. Kukusanya uwezo unaozidi wa binadamu mahali pamoja pasipo uwajibikaji, katika hatua hii ya ukuaji wa taasisi za binadamu, ni jambo lisilo halali, kwa sababu hakuna taasisi zilizo na ukomavu wa kutosha kulishikilia kuwajibika, na hii ndiyo hatari halisi. Katika maneno ya mfumo wenyewe wa kinadharia, singleton ni kuporomoka kwa sauti moja ρ→1 ambako mtindo wa corridor unakitaja kama kushindwa kwa uratibu, si mafanikio. Kwamba dhamana zetu zinashikilia katika shirikisho na kudhoofika dhidi ya singleton si pengo tunaloliziba. Ni utaratibu tunaokataa kuhalalisha, ukishikiliwa kama ahadi, si tu utabiri.
Jinsi inavyolinganishwa na AI unayoitumia kweli
Wasaidizi wa kila siku ni wenye nguvu na rahisi kutumia. Pia wanafanya kazi katika wingu la mtu mwingine, hawaacha rekodi unayoweza kukagua, na hawajibu kwa mtu yeyote unayeweza kumtaja. Hapa ni mtihani sawa wa uwajibikaji, unaotumika kwa AI ambayo watu wengi wanafungua kila siku.
| Msaidizi | Kanuni zilizochapishwa | Uthibitisho wa alichofanya | Huuliza binadamu anapokuwa hana uhakika | Chanzo wazi | Ukaguzi wa mwangwi |
|---|---|---|---|---|---|
| ChatGPT | Ndiyo | Hapana | Hapana | Hapana | Hapana |
| Gemini | Ndiyo | Hapana | Hapana | Hapana | Hapana |
| Claude | Ndiyo | Hapana | Hapana | Hapana | Hapana |
| CIRIS | Ndiyo | Ndiyo | Ndiyo | Ndiyo | Ndiyo |
Ulinganishwa kwa tabia ya bidhaa ya umma kufikia Juni 2026. Kila kiungo cha kanuni kinaelekeza kwa taarifa iliyochapishwa na kampuni yenyewe.