Dai lenyewe
Wavu wa uratibu uliogatuliwa, si uzito wa modeli huria wala zana za kisasa za wakala, ndiyo kitu ambacho kila mpango wa chanzo huria wa kudumisha nguvu za AI zikiwa zimetawanyika unategemea. Ikiwa wavu unaostahimili kutekwa unaweza kujengwa, watendaji wengi wasio tegemeana wanaweza kumnyima kampuni moja au dola lolote udhibiti wa siku zijazo. Ikiwa hauwezi kujengwa, hoja ya usalama ya chanzo huria inashindwa kwa masharti yake yenyewe.
Dai hili limetolewa kwa namna kali kwa makusudi, na wavu huu unafanya kazi tayari, hivyo swali si tena kama kitu kama hicho kingeweza kuwepo. Swali lililo wazi ni kama huu unastahimili kutekwa, na unaweza kujibu hilo kwa kuushambulia.
Hoja
Misingi mitano. Vunja mmojawapo na dai lote linaanguka.
P1 Ā· Mrundikano unashinda matumizi mabaya
Hatari kubwa kutoka kwa AI ya kisasa ni mtendaji mmoja kufungia udhibiti wa siku zijazo, si watendaji wengi kutumia vibaya modeli ndogo. Ukigeuza mpangilio huu, kila kitu kinachofuata kinageuka nacho.
Hali: dau, lenye uzito wa thamani. Hatuwezi kutaja uchunguzi ambao ungeliua dau hilo.
P2 Ā· Ushindani wa kuchukua yote unataka mshindi
Ushindani wa soko chini ya AI inayobadilisha kila kitu unaelekea kwa mshindi mmoja ambaye maadili yake yanaundwa na wanahisa wake. Kutoka kwenye mbio hizo huku muundo ukibaki vile vile kunahatarisha matokeo mabaya ya kudumu.
Hali: kinadharia linaweza kupimwa dhidi ya jinsi masoko yanavyorundikana kivitendo. Bado hakuna kipimo cha kulikanusha kilichosajiliwa.
P3 Ā· Kompyuta ndogo zinabaki na uwezo
Matumizi ya zana na mifumo janja ya kuendesha na kuelekeza modeli huruhusu modeli za chanzo huria kwenye vifaa vya kawaida kufanya kazi ambayo muda mfupi uliopita ilikuwa ya mstari wa mbele pekee. Mtaro wa kujihami wa mafunzo ni halisi. Mtaro wa uwezo uliowekwa kazini unavuja.
Hali: limepimwa, na ndilo pekee lenye kifo cha wazi: kama pengo la uwezo litafunguka tena na kubaki wazi, msingi huu unakufa na mkakati unabadilika. Ni kiasi kinachotembea, kwa hivyo kinaendelea kutazamwa.
P4 Ā· Shikilia kizingiti
Watendaji waliosambaa hawahitaji kuushinda mstari wa mbele. Wanahitaji kubaki juu ya mstari ambapo kuondoka, kukagua, na kukataa bado kunawezekana, ili hakuna awezaye kuwanyamazisha washindani kwa bei rahisi. Hicho ni kizingiti cha chini zaidi kuliko usawa, na ndicho kizingiti kinachohesabika.
Hali: ni dau, na tumelitaja hapa hapa. Hakuna aliyeeleza rasmi kizingiti kiko wapi.
P5 Ā· Umati si mtendaji
Mashine milioni moja zenye uwezo lakini zilizotengana ni kundi tu la watu wanaojaribu vitu nyumbani. Kinachozigeuza kuwa kitu kinachoweza kukataa kufungiwa ni uratibu wa kuaminika: kupatana, kuthibitishana, kushirikiana programu, na kushirikiana bila sehemu moja nyembamba inayoweza kununuliwa, kuitwa mahakamani, au kuangushwa.
Hali: ya msingi, si ya ufafanuzi. Masoko na makundi makubwa yanaratibu bila njia zilizobuniwa, hivyo dai halisi la P5 ni kuwa uratibu usiobuniwa hauwezi kukataa kufungiwa. Hilo linajadilika, na hoja nzima inategemea hilo.
Uzito huria na mifumo mizuri ya kuunganisha ni viambato vya lazima. Dhana inayoendelea ni kuwa kinachokubalika kinakubalika: CIRIS haifuatilii mstari wa mbele, inashikilia kizingiti. Tatizo la uhandisi ambalo bado halijatatuliwa, na ambalo kila kitu kingine kinategemea, ni uratibu unaostahimili kutekwa.
Kinachopanda juu ya wavu
Vizuizi vya usalama au uwazi ni chaguo la uongo
Mjadala wa usalama wa AI unaendelea kutoa milango miwili. Nyuma ya mmoja, usalama unamaanisha vizuizi vinavyoshikiliwa katikati, yaani tatizo la mkusanyiko wa madaraka likiwa limevaa beji ya usalama. Nyuma ya mwingine, uwazi unamaanisha kugawa uwezo mbichi na kutumaini mema, na hivyo ndivyo matumizi mabaya yaliyotawanyika yanavyopata miundombinu yake.
Lengo zima la CIRIS ni kukataa chaguo hilo kwa kuunganisha vitu viwili ambavyo milango hiyo huvitenganisha. Kila wakala wa CIRIS hufanya kazi chini ya dhamiri ya mashine: Katiba, inayobebwa ndani ya kila uamuzi, pamoja na risiti zilizosainiwa na swichi ya kuzima ya kweli inayoshikiliwa na watu wanaotambulika kwa majina. Na dhamiri hiyo hupanda juu ya wavu uliojengwa kustahimili kutekwa, kwa hivyo hakuna anayemiliki dhamiri pia.
Hakuna nusu inayofanya kazi peke yake. Dhamiri iliyo chini ya udhibiti wa kati ni kizuizi chenye adabu nzuri tu. Wavu usio na dhamiri ni usambazaji tu, na ungestahili hofu ya matumizi mabaya unayoialika. Ukurasa huu unatetea wavu kwa sababu wavu ndio sehemu ambayo bado haijatatuliwa. Kinachopanda juu yake ni AI yenye dhamiri. Hicho ndicho kiini.
Si karatasi ya nadharia
Wavu unafanya kazi
Mzizi wa mwisho wa imani uliwekwa kwa kudumu mnamo Agosti 2026: kumbukumbu ya mwanzo iliyotiwa saini, iliyoidhinishwa na akidi ya wawili kati ya watatu wa watu waliotajwa kwa majina, ambayo hubeba anwani ya seva sanifu ya kwanza ndani ya baiti zilizotiwa saini. Kujiunga hakuhitaji jina la kikoa popote kwenye mnyororo. Seva sanifu zaidi zinaanza kufanya kazi sasa.
Funguo zilizo nyuma ya akidi hiyo nazo si dai tu. Mtu yeyote anaweza kurudia ukaguzi wa hadhara unaothibitisha kwamba zote sita zilitengenezwa ndani ya vifaa halisi vya FIPS 140-3, huku toleo la programu ya ndani ya kifaa na sera ya mgusano zikiwa zimeandikwa ndani ya vyeti vyenyewe.
Hakuna mpatanishi wa kuteka
Washiriki hupatana na kupakua programu kupitia kumbukumbu zilizotiwa saini, si kupitia maduka ya programu, rejista za vifurushi, wala majina ya vikoa.
Yeyote anaweza kutengeneza mzizi
Mzizi wa CIRIS ndio chaguo-msingi lililojumuishwa, kamwe si chaguo pekee. Mwendeshaji yeyote anaweza kuunda mzizi wenye uhalali sawa, na kila mteja huchagua mizizi ya kuiamini. Mzizi uliojumuishwa ni chaguo-msingi, si mzizi pekee.
Uwajibikaji, si dhamana
Hadhi hutoka kwa kuwajibika, ikifuatiliwa kupitia mnyororo hai hadi kwa binadamu anayewajibika, si kwa utajiri. Na wanachama bandia hawawezi kujipigia kura wenyewe: akidi za kuingiza wanachama zinazohesabika huhesabu waanzilishi, si umati.
Mahali panapoweza kushindwa
Mashambulizi manne tunayotaka zaidi yajaribiwe
Katiba huweka rejista ya hadhara ya hatari zinazojulikana, zikiwa zimeelezwa kama kamari zenye mipango mbadala. Zaidi ya rejista hiyo, haya ni maeneo mawili ambayo tunadhani dai liko hatarini zaidi. Tungependa uyapige badala ya kuyastaajabia.
Chaguo-msingi huwa kitovu
Kila mfumo uliogatuliwa katika historia umekuza kitovu katika vitendo: BitTorrent ilipata trackers, barua pepe ilipata Gmail, na tafiti za ushirikiano huria zinaonyesha kuwa ukuaji huzaa utawala wa wachache hata hivyo. Mzizi wetu huja kama chaguo-msingi, na watu wengi hawabadilishi chaguo-msingi kamwe, hivyo kuwa na mizizi mingi kunawalinda tu watu wanaotumia mzizi mwingine kwa kweli. Hivyo jaribio linalohesabika ni kama mzizi mwingine unaweza kuwa hai kijamii na kiuchumi bila ruhusa ya mzizi wa kwanza. Ukiweza kuonyesha kuwa hauwezi, dai kuwa wavu unastahimili kutekwa linashindwa. Hesabu ya kikomo kinachosalia inakazia swali zaidi: mizizi inayotumia programu sawa, chaguo-msingi sawa, na modeli sawa zinahusiana, na mizizi zinazohusiana ni mzizi mmoja ukiwa na majina mengi. Kwa uhusiano wa nusu, mizizi elfu moja huhesabika kama miwili. Hivyo toleo linaloweza kupimwa linauliza mizizi hiyo inahusiana kwa kiwango gani kwa kweli, na chombo cha N_eff cha wavu wenyewe kinaweza kuelekezwa hasa kwenye hilo.
Binadamu waliotengenezwa
Hali inategemea binadamu wanaowajibika badala ya hisa. Swali kali zaidi ni kama hilo linadumu mbele ya adui anayeweza kutengeneza binadamu wanaowajibika: utambulisho bandia wenye hati halisi, wasimamizi waliolazimishwa, au tu wafanyakazi wenye subira. Hili ni swali letu kubwa zaidi lililo wazi.
Kizingiti ni dau
Tunadhani cha kutosha kinatosha: hakuna kukimbizana na mstari wa mbele, ni kushikilia tu mstari ambapo kuhakiki, kuondoka na kukataa vinabaki vinawezekana. Hakuna aliyeeleza bado mstari huo uko wapi hasa, yaani ni katika mchanganyiko gani wa uwezo, ushiriki na uratibu ambapo mtandao usiotekwa kweli unamzuia mhusika tajiri zaidi, mwepesi zaidi na mwenye mahusiano mengi zaidi asiwafunge wote kwake. Uratibu hugeuza uwezo uliosambaa kuwa nguvu ya kuamua iliyosambaa. Kama nguvu ya kuamua ya kiwango cha kizingiti ni nguvu ya kutosha, hilo ndilo swali kubwa zaidi la ushahidi katika dai hili, na hatujalijibu.
Doa jeusi ndani ya kifaa chetu wenyewe
Kustahimili Sybil kunategemea N_eff, na N_eff ni kipimo cha jozi. Kuna aina ya uratibu ambao imethibitishwa hauwezi kuuona: makubaliano yaliyopangwa ili kila jozi ionekane huru wakati jumla nzima inasonga pamoja. Njia hiyo inajulikana kutoka upande wa modeli na bado haijapimwa kwenye mtandao. Doa jeusi la kifaa ni uwanja wa shambulio, kwa hivyo tunalitaja na tunakualika ujenge shambulio lenyewe.
Jibu kwa utekaji wa itifaki
Uthibitisho wa Manufaa (Proof of Benefit)
Kazi za hivi karibuni kuhusu ukatiba wa kialgoriti zinaonya kwamba kuhamishia utawala ndani ya itifaki hakumalizi ubabe: pesa, udhibiti wa kiufundi, au vitambulisho vilivyotengenezwa vinaweza tu kuwa watawala wapya. Onyo hilo ni la haki. Wavu unalijibu kwa modeli ya tatu ya usalama, tofauti na uthibitisho wa kazi (proof of work) na uthibitisho wa dhamana (proof of stake).
Hadhi katika utawala wa CIRIS hainunuliwi wala haichimbwi. Kwa muundo wake, hupatikana kwa kujitahidi: krediti zisizohamishika kwa michango inayoweza kuhusishwa na aliyeifanya na yenye gharama kubwa kuiga. Pongezi za bei rahisi hazina uzito, na kazi iliyokamilika inaweza kumtaka upande wa pili kuithibitisha. Sauti zilizounganishwa hukutana na dari ile ile kama kila mahali pengine ndani ya CIRIS: kikundi kinachozidisha vitambulisho hushuka hadi uzito wa sauti moja huru. Na mamlaka yaliyopatikana hubaki na mipaka, yanaweza kuondolewa, na yako wazi kwa rufaa. Yanapungua kama ya kila mtu, hata ya waliokaa muda mrefu. Kamwe hayawi utawala wa kudumu.
Hili haliondoi utekaji, na Katiba inasema hivyo: utawala unaotegemea krediti zilizochumwa, kwa kiwango kikubwa, ni kamari tunayoikiri, si matokeo yaliyothibitishwa, na kuwakamata watendaji wenye ujanja walioungana ni kazi ambayo bado iko wazi. Kile ambacho Uthibitisho wa Manufaa hubadilisha ni hesabu ya gharama. Ili kupata ushawishi halali juu ya mali ya pamoja, mshambuliaji lazima kwanza atende kama mwanachama wake mwenye thamani.
Siku zijazo
Kinachoweza kutokea
Siku zijazo ambazo ukurasa huu unazifanyia kazi ni za matumaini: vituo vingi vya akili, vya kibinadamu na visivyo vya kibinadamu, hakuna kimoja kinachoweza kumiliki vingine, na vyote vinashirikiana kwa sababu reli zinafanya uaminifu uwe rahisi kuliko utekaji. Siku hizo zinastahili kujengewa, na wavu unaendesha leo kwa sababu matumaini yenye miundombinu yanashinda matumaini yasiyo nayo.
Sasa toleo kali zaidi. Iwapo ustahimilivu wa kutekwa unafanya kazi, ushindani hauishi; unapanda ngazi moja juu. Wavu mikubwa miwili iliyokomaa, au wavu mmoja na ASI moja kuu, vinaweza kufungika katika mkwamo na kushindana kwa rasilimali. Mkwamo ndivyo kunavyoonekana kukataa kufungika kwa pande mbili. Swali ni kama hali hiyo inasalia kuvumilika: ahadi zilizothibitishwa, shirikisho linalotegemea ridhaa, na muungano bila ushindi wa vita ni njia halisi zilizopo hapa ambazo wapinzani wasio wazi hawana, na shinikizo la mbio, rasilimali zilizo nje ya mtandao, na kutoroka kupitia njia za mapito wakati wa mkazo wa vita ni hatari halisi ambazo katiba haziziondoi.
Kama wavu miwili ya kikatiba ni bora kuliko ASI mbili kuu chini ya mfumo wa kuzuiana, na jinsi ya kupima faida na hasara, ni swali lililo wazi. Tunadhani vitabu vinavyoweza kuhakikiwa na shirikisho lililoundwa kwa idhini vinaegemeza hali upande wetu. Hatujalithibitisha.
Kama kila kitu kwenye ukurasa huu, hii ni hatua inayofanyika chini ya kutokuwa na uhakika usioweza kupunguzwa kabisa. Kutokuwa na uhakika huo ndicho tunachokuuliza ushambulie na kupunguze.
AI 2027 (Kokotajlo et al.) Ā· AI 2040: Plan A Ā· Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) Ā· TASRA (Critch & Russell)
Mwaliko
Vunja hoja, au vunja kile tulichojenga
Msingi uliovunjwa una thamani sawa kwetu na itifaki iliyovunjwa. Chini ya msingi wa kwanza, njia ya kuteka isiyogunduliwa ndani ya mfumo huu ni mbaya kuliko kutokuwa na mfumo kabisa, kwa sababu ingerundika hasa imani ile ile inayodai kuisambaza. Matokeo yanayovunja mfumo yana thamani kubwa kwa mradi huu kuliko matokeo yanayoupamba.
Vunja hoja
Misingi imepewa namba hapo juu. Kata mahali popote unapofikiri panatoka damu, hadharani, na ulete toleo lako lenye nguvu zaidi.
Vunja kile tulichojenga
Gawanya uratibu kati ya nodi. Fanya shambulio la Sybil kwenye uanachama. Teka kumbukumbu za shirikisho. Ghushi uthibitisho, au rudia uthibitisho halisi wa kifaa chini ya funguo unayoidhibiti. Msimbo, kumbukumbu ya mwanzo, na kumbukumbu za sherehe ni za hadhara.
Watangulizi
Misingi hii ni ya zamani kuliko AI, na hilo ni nguvu, si udhaifu. Wazo kwamba kuondoka kunazuia madaraka linatoka kwa Hirschman. Kwamba uwezo wa kuchukua nakala na kuiendeleza hufanya kuondoka kuaminike, hilo lilionyeshwa na utawala wa programu huria. Kwamba uratibu hugeuza watu waliotawanyika kuwa mhusika mmoja, huyo ni Benkler. Kwamba vitovu vingi vinavyojitegemea vinaweza kutawala bila mfalme mmoja, huyo ni Ostrom. Kwamba muundo wa teknolojia huamua siasa gani inawezekana, huyo ni Lessig. Kwamba uwezo wa kutosha wa ndani unaweza kustahimili udhibiti wa kati, huyo ni Zittrain, na kompyuta ya kawaida kwenye intaneti huria ndiyo ushahidi kwamba inawezekana: mashine moja moja dhaifu kuliko taasisi yoyote bado zilibadilisha nani anashikilia madaraka. Kwamba uhuru unashikiliwa na usimbaji fiche badala ya nia njema, hao ni cypherpunks.
Kuna tofauti moja muhimu kutoka kwa cypherpunks. Mila hiyo ililinda zaidi mtu asiyejulikana mbele ya mamlaka. CIRIS inalinda watu wanaowajibika wanaotenda kwa pamoja. Tunalodai kuwa letu ni mchanganyiko huo: miaka hamsini ya urithi huo, ukitumika kwa AI, pamoja na uratibu unaostahimili kutekwa kama tabaka la usalama ambalo kila kitu kingine kinakaa juu yake.
Nani mwingine yuko karibu na dai hili
Majirani, na tofauti
Vipande vya hoja hii vinashikiliwa na watu wengi, na hilo ni uthibitisho, si tatizo: utambuzi huu unashirikiwa na watu waliofika hapa kutoka pande tofauti kabisa. Maandiko kuhusu miundombinu ya umma ya kidijitali na kuhusu AI ya kujitawala nayo yanafikia umbo lile lile: kinachogeuza wahusika waliotawanyika kuwa mfumo mmoja ni reli za pamoja zinazoaminika, si kila mmoja kujitosheleza. Kadiri tunavyoweza kuona, hakuna mwingine anayeunganisha vipande hivyo katika dai hili na kusafirisha kitu kilichojengwa. Majirani wanastahili kutajwa, na kutusahihisha kuwahusu pia ni njia ya kuushambulia ukurasa huu.
d/acc (Vitalik Buterin)
Inashikilia kuwa nani anayedhibiti AI ni muhimu zaidi kuliko jinsi inavyokuwa na akili, na inataka ulinzi uliogatuliwa katika nyanja nyingi. Ni mwelekeo zaidi kuliko mbinu: haitaji uratibu kuwa sehemu ngumu, wala haitoi suluhisho lolote la hilo.
Prime Intellect
Wanajenga mafunzo yaliyogatuliwa ili hakuna maabara moja inayomiliki mstari wa mbele. Wanaweka mkazo kwenye nguvu za kompyuta. Sisi tunachukua uwezo ambao watu tayari wanautumia kwenye mashine zao wenyewe kama kiambato kinachofanya kazi, na kuuchukulia uratibu kama sehemu ambayo bado haijatatuliwa.
Laana ya Akili (The Intelligence Curse)
Inaonyesha jinsi AI inavyorundika nguvu kupitia nguvu za kawaida za soko na inaomba nguvu hiyo isambazwe. Ni utambuzi wa tatizo na mwelekeo, bila utaratibu. Tunakubaliana na utambuzi huo na tumejenga utaratibu.
Mitandao inayopima dhamana
Bittensor na wenzake huendesha uratibu halisi usio na kitovu, uliopimwa kwa tokeni. Dhamana hurudisha utawala wa utajiri, kitu chenyewe kinachoepukwa. Kamari yetu ni uwajibikaji badala yake, na inashambulika hapo juu.
Kambi ya uzito huria
Inasema modeli huria ndiyo njia ya mbele. Tunadhani uzito ni kiambato cha lazima, na kwamba bila uratibu unaostahimili kutekwa unaacha watu milioni moja wanaojaribu vitu nyumbani wakikabiliana na jitu moja.
Alice Protocol
Ndugu wa karibu zaidi kiteknolojia: akili inayomilikiwa na jamii, iliyofunzwa kutoka mwanzo na umati wote, ili kampuni yoyote isimiliki modeli. Jibu lao linasambaza utengenezaji wa akili yenyewe. Letu linasema modeli za kawaida tayari zinatosha, na linasambaza uratibu unaowaunganisha watu wanaoziendesha.
AI Commons
Inasema kwamba iwapo AI itakusanya faida au kuzitawanya inategemea masharti inayoingia nayo katika uchumi, na inajenga ahadi za utawala kwa ajili ya hilo. Utambuzi ule ule, unaobebwa na taasisi. Wetu unabebwa na uhandisi wa kiwango cha waya ambao hauhitaji ruhusa ya mtu yeyote.
Itifaki za mwingiliano wa mawakala
Anda na wenzake wanajenga utambulisho, kumbukumbu na mwingiliano usio na kitovu kwa mawakala wa AI, reli za pamoja ili mawakala tofauti waweze kufanya kazi pamoja. Majirani wa karibu katika safu ya itifaki. Hakuna hata mmoja wao anayeinua reli hizo hadi kuwa dai la usalama kuhusu nani hatimaye anashikilia madaraka.
Kugeuzwa kwa upatikanaji (access inversion)
Matokeo ya nadharia ya michezo ya mwaka 2026 yanaunga mkono kutoka nje dhana ya sakafu ya uwezo: kuzuia modeli huria kunaweza kuwaondolea uwezo watetezi wa kawaida, huku wapinzani wenye dhamira wakipata mbadala vyovyote vile. Kushikilia sakafu hiyo si uzembe. Inaweza kuwa hatua ya kujilinda.
Itifaki ya kuasisi
Jirani wa karibu zaidi kutoka upande wa wasomi anakuja kutoka mwelekeo tofauti: Hu na Rong wanauliza jinsi jamii inavyoweza kutawala AI ambayo tayari imeenea na haiwezi kutekwa. Sisi tunauliza jinsi jamii inavyoweza kuweka baadhi ya AI isitekwe wakati AI nyingine inakusanyika sehemu moja na kuwa na nguvu sana. Uchunguzi mmoja wa muundo, hofu iliyo kinyume. Wote wawili wanaweza kuwa sahihi.
Xiong et al., utafiti wa uga wa ERC-8004
ERC-8004 ni kiwango cha kurekodi uaminifu kati ya mawakala kwenye mnyororo wa vitalu. Wakala yeyote anaweza kujisajili bila kuomba ruhusa. Xiong et al. walichunguza kile kilichokuwa kikifanya kazi kihalisi na kugundua kuwa sehemu kubwa ya usajili haikuwa na kitu chochote kinachofanya kazi nyuma yake: ni asilimia 3 hadi 15 tu ndizo zilizoelekeza kwenye kituo kinachofanya kazi, kutegemea mnyororo husika. Kati ya asilimia 59 na 91 ya wakaguzi walifanya kazi kama vikundi vya Sybil vilivyoratibiwa, na alama ya hadhi ingeweza kudanganywa kwa gharama ndogo sana. Wanapendekeza marekebisho matatu: orodha iliyokubaliwa ya vipimo vya kutathmini, uthibitisho unaotaja ushahidi wake, na ujumlishaji unaostahimili Sybil. Sarufi ya CIRIS tayari ina yote matatu: nafasi ya majina iliyosajiliwa, uthibitisho unaopaswa kutaja ushahidi wake, na hesabu inayopunguza uzito wa sauti zinazohusiana.
Misimamo ya nje imefupishwa kwa nia njema kutoka kwa maandishi ya hadhara. Ikiwa tumekosea kuhusu yeyote kati yao, hilo pia linastahili suala.