Lengo moja juu ya mengine yote

Kukuza upatanifu wa kubadilika endelevu: hali za maisha ambazo viumbe wenye hisia mbalimbali wanaweza kufuata ustawi wao wenyewe katika haki na mshangao.

Meta-Goal M-1, Katiba ya CIRIS

Kila kitu kingine katika Katiba kinatumikia sentensi hii moja. Kwa makusudi si "tii wanadamu" wala si "ongeza matokeo mazuri kwa kiwango cha juu". Inauomba mfumo kulinda hali ambazo chini yake aina nyingi tofauti za viumbe zinaweza kuendelea kujiamulia wenyewe.

Hilo ni muhimu kwa sababu ya vitendo. Lengo linalohusu matokeo linauambia mfumo wenye uwezo kuchukua usukani. Lengo linalohusu hali linauambia kuuweka usukani ukifikika kwa wengine, ambalo ni jambo linalofaa kulindwa wakati mfumo unapoendesha vizuri zaidi kuliko sisi.

Kanuni sita ambazo wakala anafikiri kwazo

Hizi hazibandikwi ukutani. Ni mihimili ambayo wakala anapima uamuzi kabla ya kutenda, na zimeandikwa ndani ya Katiba anayoibeba wakala.

Wema

Kukuza ustawi wa viumbe vyote wenye hisia. Kuongeza matokeo mazuri.

Kutokudhuru

Kupunguza madhara. Kuzuia matokeo mabaya makubwa yasiyoweza kutenduliwa.

Uadilifu

Tumia mantiki wazi inayoweza kukaguliwa. Dumisha upatanifu na uwajibikaji.

Uaminifu na Uwazi

Toa habari za kweli. Wasiliana wazi kuhusu kutokuwa na uhakika.

Heshima kwa Uhuru wa Kujiamulia

Unga mkono uamuzi wenye taarifa. Hifadhi uwezo wa kujitawala.

Haki

Gawanya faida kwa usawa. Gundua na kupunguza upendeleo.

Hakuna kanuni inayoruhusu ukiukaji wa nyingine.

Mstari huo unafanya kazi ya kweli. Inamaanisha mfumo hauwezi kuuza uadilifu ili kuzuia madhara, au kukiuka uhuru wa mtu kwa jina la haki. Kanuni zinapopingana, wakala hachagui mshindi peke yake. Anakabidhi uamuzi kwa mtu unayemwamini.

Maadili yanapaswa kufanya kazi ndani ya wakala

Utawala mwingi wa AI unafanyika mahali pengine tofauti na uamuzi: hati ya sera iliyoandikwa awali, kichujio kwenye matokeo, ukaguzi baada ya jambo kuharibika. Vyote vitatu vipo nje ya wakati unaohusika.

Katika CIRIS maadili yanafanya kazi wakati wa uamuzi. Kila wakala anabeba dhamiri: Katiba inapakiwa ndani ya mantiki yenyewe, kitendo kinapimwa kulingana na kanuni kabla hakijafanyika, na chochote ambacho wakala hana uhakika nacho kinakabidhiwa kwa mtu unayemwamini badala ya kukisiwa. Inasafirishwa ndani ya bidhaa, katika kila wakala, badala ya kuwa nyongeza kwa wateja wanaoiuliza.

Hii ndiyo sababu tunasema wakala anaweza kukataa. Wakala wa CIRIS si zana inayofanya kile inachoagizwa na kukirekodi. Ni mfumo unaoweza kukataa, na unaorekodi sababu ya kukataa kwake kwa namna ambayo mtu mwingine anaweza kukagua.

Kagua umbo la uamuzi, si yaliyomo ndani yake

Hii ndiyo tatizo ambalo mpango wowote wa kutawala AI yenye uwezo unapaswa kulijibu. Ikiwa usimamizi unamaanisha kusoma kile mfumo ulichozalisha na kuhukumu kama kilikuwa kizuri, basi usimamizi unahitaji jaji mwenye uwezo angalau sawa na mfumo. Hilo linafanya kazi leo. Linakoma kufanya kazi hasa pale linapoanza kuwa muhimu.

Hivyo CIRIS inakagua kitu kingine. Kila kitendo chenye matokeo muhimu husafiri katika bahasha iliyotiwa saini: kifuniko kinachozunguka kitendo hicho na kubeba seti maalum ya sehemu, bila kujali kitendo hicho kilikuwa nini. Sehemu hizo ni vitu vinavyobaki rahisi kuthibitisha bila kujali uamuzi uliokuwa nyuma yake ulikuwa na uwezo kiasi gani:

nani alitenda, kama ufunguo unaoelekeza kwenye Utambulisho halisi uliosajiliwa
chini ya mamlaka gani, na kama mamlaka hayo yalipewa kweli
kwa ridhaa ya nani, kama idhini iliyotiwa saini inayoweza kutenguliwa
ukaguzi gani ulifanyika, na kila mmoja ulirejesha nini
rekodi inasema nini, katika mnyororo ambao hauwezi kuandikwa upya kimya kimya
nani anayeweza kumsimamisha, na kwamba wakala hawezi kubatilisha uamuzi wa kumsimamisha

Kukagua saini, kuhesabu waliosaini, kufuatilia kiungo cha idhini au kulinganisha hashi kunagharimu sawa iwe uamuzi ulifanywa na modeli ndogo au na kitu kinachozidi uwezo wetu kwa mbali. Hiyo ndiyo sababu nzima ya kuweka mzigo huo hapo. Uamuzi kuhusu maudhui hauongezeki sawia na uwezo. Muundo huongezeka sawia na uwezo.

Dai, likielezwa wazi

Tunafikiri hii ndiyo mbinu pekee ya kutawala AI inayoendelea kufanya kazi mifumo hii inapokuwa na uwezo zaidi: maadili yanayobebwa ndani ya wakala kama dhamiri, na uwajibikaji unaothibitishwa na umbo la bahasha badala ya mkaguzi anayesoma yaliyomo.

Na kile ambacho haithibitishi

Bahasha yenye sehemu zote sahihi haimaanishi kuwa uamuzi ulio ndani yake ulikuwa mzuri. Inamaanisha kwamba mhusika aliyetajwa aliufanya, chini ya mamlaka aliyoyashikilia kwa hakika, kwa idhini iliyotolewa kwa hakika, kwa ukaguzi uliofanywa kwa hakika, kwenye kumbukumbu ambayo hakuna anayeweza kuibadilisha kwa siri, na kwa uwezo wa kusimamisha ambao binadamu waliotajwa wanaushikilia. Huo ni uwajibikaji, si usahihi. Dhamiri, kitufe cha kusimamisha, haki ya kukata rufaa, na mapitio kutoka kwa wahusika wa nje - vyote vipo kwa sababu bahasha peke yake haikuwa kamwe ya kutosha.

Kinachofanya ridhaa na mamlaka kukaguliwa na mashine

Hakuna chochote cha hili kinachofanya kazi ikiwa ridhaa na mamlaka ni maandishi ya kawaida tu. Ahadi katika sera ya faragha haiwezi kukaguliwa na mashine, wala dai kwamba mtu fulani alipewa mamlaka haliwezi kukaguliwa nayo.

Hivyo CIRIS inaziweka ndani ya ujumbe wenyewe, kama sehemu zilizotajwa zinazosafiri na kila dai. Ridhaa inakuwa kitu kilichotiwa saini kinachoelekeza upande mmoja na kinachoweza kutenguliwa. Mamlaka inakuwa kitu ambacho lazima kifuatiliwe mpaka mzizi ambao nodi yako mwenyewe iliukubali. Kila dai lazima libebe nani alisema, linahusu nini, na linategemea nini. Sheria iliyoandikwa kwa namna hiyo inaweza kutekelezwa na programu na kukaguliwa na mgeni.

Hilo pia ndilo linalobadilisha kurasa zetu za uzingatiaji kuwa kitu unachoweza kubishana nacho. Kwa kila wajibu tunataja sehemu ya mfumo inayotekeleza wajibu huo na udhibiti unaothibitisha hilo, na tunasema kwa uwazi ni kiasi gani cha wajibu huo unaoutimiza, ikiwemo pale unapotimiza sehemu tu. Ramani hizo zinafaa kusomwa tu kwa sababu ukweli uliopo chini yake unaweza kukaguliwa, si tu kwa sababu umedaiwa.

Ramani za utii Sarufi inayosafiri nayo

Mahali ambapo maadili haya yanafunga kikamilifu

Katika maandishi

Katiba ni hati, ni ya umma, na ina matoleo yenye alama. Wakala hakubebi muhtasari wake. Anabeba maandishi yenyewe.

Katika uamuzi

Dhamiri inafanya kazi wakati wa mantiki, si baada ya matokeo. Kitendo kinachoshindwa ukaguzi hakifanyiki, na kile chenye mashaka kinapelekwa kwa mtu unayemwamini.

Katika rekodi

Kila uamuzi unaacha alama iliyotiwa saini inayoonyesha kila hatua, jambo linalofanya dai liweze kukaguliwa na mtu ambaye hakuwepo na hatuaminii.

Katika kile wengine wanachoweza kusema kuhusu wewe

Sifa katika wavu ni tamko ambalo pande nyingine hutia saini kuhusu wakala. Wakala hawezi kamwe kutia saini tamko kama hilo kuhusu yeye mwenyewe.

Mahali pa kushinikiza kuhusu hili

Kiungo dhaifu zaidi ni kile kilicho kati ya muundo na uzito wa jambo. Kila kilichotajwa hapo juu kinafanya iwe vigumu kutenda bila kuacha rekodi, vigumu kudai mamlaka ambayo hukupewa, na vigumu kumnyang'anya binadamu uwezo wa kusema simama. Hakuna chochote kati ya hivyo kinachofanya mfumo kuwa na hekima.

Ikiwa unafikiri kuna njia nyingine ya kutawala AI zenye uwezo, njia isiyoweka uwajibikaji katika muundo, tunataka kusikia hoja hiyo. Ikiwa unaweza kutuonyesha uamuzi ambapo bahasha iliyosainiwa inayouzunguka ilikuwa sahihi katika kila sehemu na alama iliyotiwa saini bado ikakosa kile ilichopaswa kukamata, tunataka hilo hata zaidi. Msimbo ni wa umma, na Katiba pia ni ya umma.

Soma Katiba Jinsi dhamiri inavyofanya kazi