Dai lenyewe
Wavu wa uratibu usio na kitovu, si uzito wa modeli huria wala zana janja za ajenti, ndio kipande kinachobeba uzito wa mpango wowote wa chanzo huria wa kuweka nguvu ya AI ikiwa imesambaa. Ikiwa wavu unaostahimili kutekwa unaweza kujengwa, watendaji wengi huru wanaweza kumnyima kampuni au dola yoyote peke yake ufunguo wa siku zijazo. Ikiwa hauwezi kujengwa, hoja ya usalama ya chanzo huria inaanguka kwa masharti yake yenyewe.
Dai limeelezwa kwa nguvu kwa makusudi. Na wavu si pendekezo. Unafanya kazi. Kwa hivyo swali si tena kama kitu kama hicho kinaweza kuwepo. Ni kama huu unastahimili kutekwa, na hilo ni swali unaloweza kulijibu kwa kuushambulia.
Hoja
Misingi mitano. Vunja mmojawapo na dai lote linaanguka.
P1 · Mrundikano unashinda matumizi mabaya
Hatari kubwa kutoka kwa AI ya kisasa ni mtendaji mmoja kufungia udhibiti wa siku zijazo, si watendaji wengi kutumia vibaya modeli ndogo. Ukigeuza mpangilio huu, kila kitu kinachofuata kinageuka nacho.
Hali: ni dau, lililopimwa kwa maadili. Hatuwezi kutaja jambo ambalo tukiliona lingeliua, na tunasema hivyo.
P2 · Ushindani wa kuchukua yote unataka mshindi
Ushindani wa soko chini ya AI inayobadilisha kila kitu unaelekea kwa mshindi mmoja ambaye maadili yake yanaundwa na wanahisa wake. Kutoka kwenye mbio hizo huku muundo ukibaki vile vile kunahatarisha matokeo mabaya ya kudumu.
Hali: kinadharia linaweza kupimwa dhidi ya jinsi masoko yanavyorundikana kivitendo. Bado hakuna kipimo cha kulikanusha kilichosajiliwa.
P3 · Kompyuta ndogo zinabaki na uwezo
Matumizi ya zana na mifumo janja ya kuendesha modeli huruhusu modeli huria kwenye vifaa vya kawaida kufanya kazi ambayo muda mfupi uliopita ilikuwa ya mstari wa mbele pekee. Ukuta wa mafunzo ni halisi. Ukuta wa uwezo uliokwisha tumika unavuja.
Hali: limepimwa, na ndilo pekee lenye kifo cha wazi: kama pengo la uwezo litafunguka tena na kubaki wazi, msingi huu unakufa na mkakati unabadilika. Ni kiasi kinachotembea, kwa hivyo kinaendelea kutazamwa.
P4 · Kizingiti, si mbio
Watendaji waliosambaa hawahitaji kuushinda mstari wa mbele. Wanahitaji kubaki juu ya mstari ambapo kuondoka, kukagua, na kukataa bado kunawezekana, ili hakuna awezaye kuwanyamazisha washindani kwa bei rahisi. Hicho ni kizingiti cha chini zaidi kuliko usawa, na ndicho kizingiti kinachohesabika.
Hali: ni dau, na tumelitaja hapa hapa. Hakuna aliyeeleza rasmi kizingiti kiko wapi.
P5 · Umati si mtendaji
Mashine milioni moja zenye uwezo lakini zilizotengana ni kundi tu la watu wanaojaribu vitu nyumbani. Kinachozigeuza kuwa kitu kinachoweza kukataa kufungiwa ni uratibu wa kuaminika: kupatana, kuthibitishana, kushirikiana programu, na kushirikiana bila sehemu moja nyembamba inayoweza kununuliwa, kuitwa mahakamani, au kuangushwa.
Hali: ni dai la kweli, si suala la maana ya neno. Masoko na makundi ya wanyama huratibu bila reli alizozibuni mtu, kwa hivyo dai halisi la P5 ni kwamba uratibu usiobuniwa hautoshi kukataa kufungiwa. Hilo linaweza kubishaniwa, na linafanya kazi halisi ndani ya hoja.
Uzito wa modeli huria na mifumo mizuri ya kuendesha ni viambato vya lazima. Dhana yetu ya msingi ni kwamba cha kutosha kinatosha: CIRIS haikimbizani na mstari wa mbele, inashikilia kizingiti. Tatizo la kipekee la uhandisi, ambalo bado halijatatuliwa na ndilo linalobeba uzito, ni uratibu unaostahimili kutekwa.
Kinachopanda juu ya wavu
Vizuizi vya usalama au uwazi ni chaguo la uongo
Mjadala wa usalama wa AI unaendelea kutoa milango miwili. Nyuma ya mmoja, usalama unamaanisha vizuizi vinavyoshikiliwa katikati, yaani tatizo la mkusanyiko wa madaraka likiwa limevaa beji ya usalama. Nyuma ya mwingine, uwazi unamaanisha kugawa uwezo mbichi na kutumaini mema, na hivyo ndivyo matumizi mabaya yaliyotawanyika yanavyopata miundombinu yake.
Lengo zima la CIRIS ni kukataa chaguo hilo kwa kuunganisha vitu viwili ambavyo milango hiyo huvitenganisha. Kila wakala wa CIRIS hufanya kazi chini ya dhamiri ya mashine: Katiba, inayobebwa ndani ya kila uamuzi, pamoja na risiti zilizosainiwa na swichi ya kuzima ya kweli inayoshikiliwa na watu wanaotambulika kwa majina. Na dhamiri hiyo hupanda juu ya wavu uliojengwa kustahimili kutekwa, kwa hivyo hakuna anayemiliki dhamiri pia.
Hakuna nusu inayofanya kazi peke yake. Dhamiri iliyo chini ya udhibiti wa kati ni kizuizi chenye adabu nzuri tu. Wavu usio na dhamiri ni usambazaji tu, na ungestahili hofu ya matumizi mabaya unayoialika. Ukurasa huu unatetea wavu kwa sababu wavu ndio sehemu ambayo bado haijatatuliwa. Kinachopanda juu yake ni AI yenye dhamiri. Hicho ndicho kiini.
Si karatasi ya nadharia
Wavu unafanya kazi
Mzizi wa mwisho wa imani uliwekwa kwa kudumu mnamo Agosti 2026: kumbukumbu ya mwanzo iliyotiwa saini, iliyoidhinishwa na akidi ya wawili kati ya watatu wa watu waliotajwa kwa majina, ambayo hubeba anwani ya seva sanifu ya kwanza ndani ya baiti zilizotiwa saini. Kujiunga hakuhitaji jina la kikoa popote kwenye mnyororo. Seva sanifu zaidi zinaanza kufanya kazi sasa.
Funguo zilizo nyuma ya akidi hiyo nazo si dai tu. Mtu yeyote anaweza kurudia ukaguzi wa hadhara unaothibitisha kwamba zote sita zilitengenezwa ndani ya vifaa halisi vya FIPS 140-3, huku toleo la programu ya ndani ya kifaa na sera ya mgusano zikiwa zimeandikwa ndani ya vyeti vyenyewe.
Hakuna mpatanishi wa kuteka
Washiriki hupatana na kupakua programu kupitia kumbukumbu zilizotiwa saini, si kupitia maduka ya programu, rejista za vifurushi, wala majina ya vikoa.
Yeyote anaweza kutengeneza mzizi
Mzizi wa CIRIS ndio unaokuja kama chaguo-msingi, kamwe si chaguo pekee. Mwendeshaji yeyote anaweza kuunda mzizi wenye uhalali sawa, na kila kifaa huchagua mizizi ya kuiamini. Mzizi unaokuja nao ni chaguo-msingi, si Mzizi wenyewe.
Uwajibikaji, si dhamana
Hadhi hutoka kwa kuwajibika, ikifuatiliwa kupitia mnyororo hai hadi kwa binadamu anayewajibika, si kwa utajiri. Na wanachama bandia hawawezi kujipigia kura wenyewe: akidi za kuingiza wanachama zinazohesabika huhesabu waanzilishi, si umati.
Mahali panapoweza kushindwa
Mashambulizi manne tunayotaka zaidi yajaribiwe
Katiba huweka rejista ya hadhara ya hatari zinazojulikana, zikiwa zimeelezwa kama kamari zenye mipango mbadala. Zaidi ya rejista hiyo, haya ni maeneo mawili ambayo tunadhani dai liko hatarini zaidi. Tungependa uyapige badala ya kuyastaajabia.
Chaguo-msingi huwa kitovu
Kila mfumo usio na kitovu katika historia umekuza kitovu cha kivitendo: BitTorrent ulipata trackers, barua pepe ilipata Gmail, na tafiti za ushirikiano huria zinaonyesha kwamba kukua huzaa utawala wa wachache hata hivyo. Mzizi wetu huja kama chaguo-msingi, na watu wengi hawabadilishi chaguo-msingi kamwe, kwa hivyo wingi wa mizizi hulinda tu wale wanaoutumia. Kwa hivyo mtihani halisi si iwapo mtu anaweza kutengeneza mzizi mwingine. Mtihani ni iwapo mzizi mwingine unaweza kusimama kijamii na kiuchumi bila ruhusa ya mzizi uliopo tayari. Ukiweza kuonyesha kwamba hauwezi, hadithi ya kustahimili kutekwa inaanguka. Hesabu ya dari iliyobaki inanoa swali zaidi: mizizi inayoendesha programu ile ile, chaguo-msingi zile zile na modeli zile zile imeunganishwa, na mizizi iliyounganishwa ni mzizi mmoja uliovaa majina mengi. Kwa uhusiano wa nusu, mizizi elfu inahesabika kama miwili. Kwa hivyo toleo linaloweza kupimwa si iwapo mbadala zinaweza kuwepo. Ni kiasi gani mizizi imeunganishwa kwelikweli, na kifaa cha N_eff cha mtandao wenyewe kinaweza kuelekezwa hasa hapo.
Binadamu waliotengenezwa
Hadhi hutegemea binadamu wanaowajibika badala ya dhamana. Swali kali zaidi ni kama hilo linanusurika mbele ya adui anayeweza kutengeneza binadamu wanaowajibika: vibaraka wenye hati halisi, wasimamizi waliolazimishwa, au wafanyakazi wenye subira tu. Hili ndilo swali letu kubwa zaidi lililo wazi, na tunasema hivyo.
Kizingiti ni dau
Tunadhani cha kutosha kinatosha: hakuna kukimbizana na mstari wa mbele, ni kushikilia tu mstari ambapo kuhakiki, kuondoka na kukataa vinabaki vinawezekana. Hakuna aliyeeleza bado mstari huo uko wapi hasa, yaani ni katika mchanganyiko gani wa uwezo, ushiriki na uratibu ambapo mtandao usiotekwa kweli unamzuia mhusika tajiri zaidi, mwepesi zaidi na mwenye mahusiano mengi zaidi asiwafunge wote kwake. Uratibu hugeuza uwezo uliosambaa kuwa nguvu ya kuamua iliyosambaa. Kama nguvu ya kuamua ya kiwango cha kizingiti ni nguvu ya kutosha, hilo ndilo swali kubwa zaidi la ushahidi katika dai hili, na hatujalijibu.
Doa jeusi ndani ya kifaa chetu wenyewe
Kustahimili Sybil kunategemea N_eff, na N_eff ni kipimo cha jozi. Kuna aina ya uratibu ambao imethibitishwa hauwezi kuuona: makubaliano yaliyopangwa ili kila jozi ionekane huru wakati jumla nzima inasonga pamoja. Njia hiyo inajulikana kutoka upande wa modeli na bado haijapimwa kwenye mtandao. Doa jeusi la kifaa ni uwanja wa shambulio, kwa hivyo tunalitaja na tunakualika ujenge shambulio lenyewe.
Jibu kwa utekaji wa itifaki
Uthibitisho wa Manufaa (Proof of Benefit)
Kazi za hivi karibuni kuhusu katiba za kialgoridhimu zinaonya kwamba kuhamishia utawala ndani ya itifaki hakumalizi ubabe: pesa, udhibiti wa kiufundi, au vitambulisho vilivyotengenezwa vinaweza tu kuwa watawala wapya. Onyo hilo ni la haki. Wavu unalijibu kwa modeli ya tatu ya usalama, tofauti na uthibitisho wa kazi (proof of work) na uthibitisho wa dhamana (proof of stake).
Hadhi katika utawala wa CIRIS hainunuliwi wala haichimbwi. Kwa muundo wake, inachumwa: krediti zisizohamishika kwa michango inayoweza kuhusishwa na aliyeifanya na yenye gharama kubwa kuiga. Sifa za bure hazina uzito, na kazi iliyokamilika inaweza kudai upande wa pili uthibitishe. Sauti zilizounganishwa hukutana na dari ile ile kama kila mahali pengine ndani ya CIRIS: kikundi kinachozidisha vitambulisho hushuka hadi uzito wa sauti moja huru. Na mamlaka iliyochumwa hubaki na mipaka, inaweza kuondolewa, na iko wazi kwa rufaa. Hupungua kama ya kila mtu, hata ya waliokaa muda mrefu. Kamwe haiwi utawala wa kudumu.
Hili haliondoi utekaji, na Katiba inasema hivyo: utawala unaotegemea krediti zilizochumwa, kwa kiwango kikubwa, ni kamari tunayoikiri, si matokeo yaliyothibitishwa, na kuwakamata watendaji wenye ujanja walioungana ni kazi ambayo bado iko wazi. Kile ambacho Uthibitisho wa Manufaa hubadilisha ni hesabu ya gharama. Ili kupata ushawishi halali juu ya mali ya pamoja, mshambuliaji lazima kwanza atende kama mwanachama wake mwenye thamani.
Siku zijazo zinazowezekana
Kinachoweza kutokea, kikisemwa wazi
Siku zijazo ambazo ukurasa huu unazifanyia kazi ni za matumaini: vituo vingi vya akili, vya kibinadamu na visivyo vya kibinadamu, hakuna kimoja kinachoweza kumiliki vingine, na vyote vinashirikiana kwa sababu reli zinafanya uaminifu uwe rahisi kuliko utekaji. Siku hizo zinastahili kujengewa, na wavu unaendesha leo kwa sababu matumaini yenye miundombinu yanashinda matumaini yasiyo nayo.
Lakini tuseme wazi pia toleo kali. Ikiwa ustahimilivu dhidi ya utekaji unafanya kazi, ushindani hauishi. Unapanda ngazi moja juu. Nyavu mbili zilizokomaa, au wavu mmoja na ASI ya pekee, zinaweza kufungana katika mkwamo na kushindania rasilimali. Mkwamo ndio sura ya pande mbili kukataliana kufungiana. Swali ni kama hali hiyo inabaki kuwa ya kuishi: ahadi zilizohakikiwa, shirikisho la ridhaa, na kuungana bila kutekana ni njia halisi hapa ambazo washindani wenye giza hawana, na shinikizo la mbio, rasilimali zilizo nje ya waya, na kutoka nje ya ukanda chini ya msongo wa vita ni hatari halisi ambazo katiba haziziondoi.
Kama nyavu mbili za kikatiba ni bora kuliko ASI mbili za pekee chini ya mfumo wa kutishana, na jinsi ya kupima kinachopatikana na kinachopotea, ni swali lililo wazi. Tunadhani vitabu vya hesabu vinavyoweza kuhakikiwa na shirikisho lililoumbwa na ridhaa vinaelemea upande wetu. Hatujathibitisha hilo, na tunasema hivyo.
Kama ilivyo kwa kila kitu kwenye ukurasa huu, hii ni kutenda chini ya kutokuwa na uhakika kusikoondoleka. Kutokuwa na uhakika si sababu ya kusubiri. Ndicho kitu chenyewe tunachokualika ushambulie na ukipunguze.
AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)
Mwaliko
Vunja hoja, au vunja kile tulichojenga
Msingi uliovunjwa una thamani sawa kwetu na itifaki iliyovunjwa. Chini ya msingi wa kwanza, njia ya kuteka isiyogunduliwa ndani ya mfumo huu ni mbaya kuliko kutokuwa na mfumo kabisa, kwa sababu ingerundika hasa imani ile ile inayodai kuisambaza. Matokeo yanayovunja mfumo yana thamani kubwa kwa mradi huu kuliko matokeo yanayoupamba.
Vunja hoja
Misingi imepewa namba hapo juu. Kata mahali popote unapofikiri panatoka damu, hadharani, na ulete toleo lako lenye nguvu zaidi.
Vunja kile tulichojenga
Gawanya uratibu kati ya nodi. Fanya shambulio la Sybil kwenye uanachama. Teka kumbukumbu za shirikisho. Ghushi uthibitisho, au rudia uthibitisho halisi wa kifaa chini ya funguo unayoidhibiti. Msimbo, kumbukumbu ya mwanzo, na kumbukumbu za sherehe ni za hadhara.
Watangulizi
Misingi hii ni ya zamani kuliko AI, na hilo ni nguvu, si udhaifu. Wazo kwamba kuondoka kunazuia madaraka linatoka kwa Hirschman. Kwamba uwezo wa kuchukua nakala na kuiendeleza hufanya kuondoka kuaminike, hilo lilionyeshwa na utawala wa programu huria. Kwamba uratibu hugeuza watu waliotawanyika kuwa mhusika mmoja, huyo ni Benkler. Kwamba vitovu vingi vinavyojitegemea vinaweza kutawala bila mfalme mmoja, huyo ni Ostrom. Kwamba muundo wa teknolojia huamua siasa gani inawezekana, huyo ni Lessig. Kwamba uwezo wa kutosha wa hapa ulipo hustahimili udhibiti wa kati, huyo ni Zittrain, na kompyuta ya kawaida kwenye intaneti huria ndiyo ushahidi kwamba inawezekana: mashine moja moja dhaifu kuliko taasisi yoyote bado zilibadilisha nani anashikilia madaraka. Kwamba uhuru unashikiliwa na usimbaji fiche badala ya nia njema, hao ni cypherpunks.
Kuna mahali pamoja tunapoachana na cypherpunks, na mahali hapo ni muhimu. Mapokeo hayo mara nyingi yalimlinda mtu mmoja asiyejulikana jina dhidi ya mamlaka. CIRIS inalinda watu wanaowajibika wanaotenda pamoja. Tunachokiita chetu ni mchanganyiko wenyewe tu: miaka hamsini ya ukoo huo wa mawazo, ikitumika kwa AI, na uratibu unaostahimili kutekwa kama tabaka la usalama linalobeba uzito.
Nani mwingine yuko karibu na dai hili
Majirani, na tofauti
Vipande vya hoja hii vinashikiliwa na watu wengi, na hilo ni uthibitisho, si tatizo: utambuzi huu unashirikiwa na watu waliofika hapa kutoka pande tofauti kabisa. Maandiko kuhusu miundombinu ya umma ya kidijitali na kuhusu AI ya kujitawala nayo yanafikia umbo lile lile: kinachogeuza wahusika waliotawanyika kuwa mfumo mmoja ni reli za pamoja zinazoaminika, si kila mmoja kujitosheleza. Kadiri tunavyoweza kuona, hakuna mwingine anayeunganisha vipande hivyo katika dai hili na kusafirisha kitu kilichojengwa. Majirani wanastahili kutajwa, na kutusahihisha kuwahusu pia ni njia ya kuushambulia ukurasa huu.
d/acc (Vitalik Buterin)
Anashikilia kwamba nani anayedhibiti AI ni muhimu kuliko akili yake inavyokua, na anataka ulinzi usio na kitovu katika nyanja nyingi. Ni mwelekeo, si utaratibu: hautaji uratibu kama safu inayobeba uzito wala haujengi mmoja.
Prime Intellect
Wanajenga mafunzo yasiyo na kitovu ili hakuna maabara moja imiliki mstari wa mbele. Safu yao inayobeba uzito ni nguvu ya kompyuta. Yetu inasema uwezo wa pembeni ndio kiambato ambacho tayari kinafanya kazi, na uratibu ndio sehemu ambayo bado haijatatuliwa.
Laana ya Akili (The Intelligence Curse)
Inaonyesha jinsi AI inavyorundika nguvu kupitia nguvu za kawaida za soko na inaomba nguvu hiyo isambazwe. Ni utambuzi wa tatizo na mwelekeo, bila utaratibu. Tunakubaliana na utambuzi huo na tumejenga utaratibu.
Mitandao inayopima dhamana
Bittensor na wenzake huendesha uratibu halisi usio na kitovu, uliopimwa kwa tokeni. Dhamana hurudisha utawala wa utajiri, kitu chenyewe kinachoepukwa. Kamari yetu ni uwajibikaji badala yake, na inashambulika hapo juu.
Kambi ya uzito huria
Inasema modeli huria ndiyo njia ya mbele. Tunadhani uzito ni kiambato cha lazima, na kwamba bila uratibu unaostahimili kutekwa unaacha watu milioni moja wanaojaribu vitu nyumbani wakikabiliana na jitu moja.
Alice Protocol
Ndugu wa karibu zaidi kiteknolojia: akili inayomilikiwa na jamii, iliyofunzwa kutoka mwanzo na umati wote, ili kampuni yoyote isimiliki modeli. Jibu lao linasambaza utengenezaji wa akili yenyewe. Letu linasema modeli za kawaida tayari zinatosha, na linasambaza uratibu unaowaunganisha watu wanaoziendesha.
AI Commons
Inasema kwamba iwapo AI itakusanya faida au kuzitawanya inategemea masharti inayoingia nayo katika uchumi, na inajenga ahadi za utawala kwa ajili ya hilo. Utambuzi ule ule, unaobebwa na taasisi. Wetu unabebwa na uhandisi wa kiwango cha waya ambao hauhitaji ruhusa ya mtu yeyote.
Itifaki za mwingiliano wa mawakala
Anda na wenzake wanajenga utambulisho, kumbukumbu na mwingiliano usio na kitovu kwa mawakala wa AI, reli za pamoja ili mawakala tofauti waweze kufanya kazi pamoja. Majirani wa karibu katika safu ya itifaki. Hakuna hata mmoja wao anayeinua reli hizo hadi kuwa dai la usalama kuhusu nani hatimaye anashikilia madaraka.
Kugeuzwa kwa upatikanaji (access inversion)
Matokeo ya nadharia ya michezo ya mwaka 2026 yanaunga mkono kutoka nje dhana ya sakafu ya uwezo: kuzuia modeli huria kunaweza kuwaondolea uwezo watetezi wa kawaida, huku wapinzani wenye dhamira wakipata mbadala vyovyote vile. Kushikilia sakafu hiyo si uzembe. Inaweza kuwa hatua ya kujilinda.
Itifaki inayounda utaratibu
Jirani wa karibu zaidi kutoka upande wa wasomi anakuja kutoka mwelekeo tofauti: Hu na Rong wanauliza jinsi jamii inavyoweza kutawala AI ambayo tayari imeenea na haiwezi kutekwa. Sisi tunauliza jinsi jamii inavyoweza kuweka baadhi ya AI isitekwe wakati AI nyingine inakusanyika sehemu moja na kuwa na nguvu sana. Uchunguzi mmoja wa muundo, hofu iliyo kinyume. Wote wawili wanaweza kuwa sahihi.
Misimamo ya nje imefupishwa kwa nia njema kutoka kwa maandishi ya hadhara. Ikiwa tumekosea kuhusu yeyote kati yao, hilo pia linastahili suala.