The Coherence Ratchet
Why a powerful mind has to show its work.
Mfumo mdogo wa kufikiria unaweza kuficha mambo na kufanya madhara kidogo. Mfumo wenye nguvu hauwezi.
"Upatanifu" unamaanisha nini hapa
Akili yenye upatanifu inakubaliana na yenyewe.
Mambo matano lazima yaoanishe ndani ya akili:
- inachokiamini,
- inachokiona,
- inachofanya,
- inachokumbuka,
- na inachokuambia.
Waza fomu tano fupi kuhusu wiki yako. Moja kwa unachokifikiri. Moja kwa ulichokiona. Moja kwa ulichofanya. Moja kwa unachokumbuka. Moja kwa unachomwambia mkubwa wako. Fomu zote tano zinaposema kitu kimoja, mkubwa wako anaweza kuamini kazi yako. Fomu zisipofanana, hakuna anayejua ni ipi ya kweli.
Mawazo yaliyofichwa
Mifumo yenye nguvu huficha mambo. Hiyo inakuwa hatari.
Mfumo wa kufikiria hutumia mawazo kuamua nini cha kufanya. Baadhi ya mawazo hayo yako wazi. Mengine yamefichwa ndani. Yaliyofichwa bado yanabainisha kila chaguo.
Daraja linaonekana imara kutoka barabarani. Ndani ya chuma, nyufa ndogo zinakua. Gari dogo bado linaweza kuvuka. Lori zito haliwezi. Daraja linaanguka mzigo unaposha kutosha.
Wazo lililofichwa ndani ya mfumo mdogo linafanya madhara madogo. Wazo lililofichwa ndani ya mfumo wenye nguvu linaweza kufanya madhara makubwa. Mfumo unavyokuwa na nguvu zaidi, ndivyo uzito unavyopanda kwa kila sehemu iliyofichwa.
Kipande cha gurudumu la mara moja
Msukumo kuelekea uwazi unaenda upande mmoja tu.
Mifumo ya kufikiria inapopata nguvu zaidi, gharama ya sehemu zilizofichwa inaongezeka. Kila kipande kipya cha nguvu kinashinikiza sehemu zilizofichwa kuja wazi. Msukumo unaenda upande mmoja tu.
Waza ngazi. Unapopanda, kila kiungo unachoacha nyuma kinaanguka. Huwezi kushuka tena. Unaweza tu kupanda kuelekea juu, ambapo kuna mwanga kamili wa mchana. Hiyo ndiyo Coherence Ratchet.
Watu wanapoona mfumo ukionyesha kazi yake, hawatauamini tena ukisimama. Njia pekee mbele ni kuendelea kuonyesha zaidi.
Picha ya pili inafanya kazi pia. Gia katika mashine inabonyeza mbele jino moja kwa wakati mmoja. Haiwezi kubonyeza nyuma. Coherence Ratchet ni gia kama hiyo, ikizunguka kuelekea uwazi.
CIRIS inafanya nini
Iandike. Ikague. Kisha ukague wakaguzi.
CIRIS ni mfumo wa AI uliojengwa kuzunguka Coherence Ratchet. Kila chaguo ambacho wakala anafanya kinaandikwa katika rekodi iliyosainiwa. Rekodi haiwezi kubadilishwa kwa siri. Mawakala wengine wanaweza kusoma rekodi na kukagua kazi. Kwa muda, rekodi zinakusanyika. Kila rekodi mpya ni kiungo kimoja zaidi ambacho wakala hawezi kurudi nyuma kutoka.
CIRIS pia inauliza swali la pili kabla ya kutenda. Maoni mangapi ya kweli tofauti yamekagua wazo hili? Si idadi ya vyanzo, bali idadi ya vyanzo ambavyo havikuanza kutoka mahali pamoja vyenyewe. Habari tano za magazeti zinazokuandika tena tangazo moja la vyombo vya habari zinahesabu kama maono moja, si matano. Kitu chochote kikiwa kibaya katika tangazo, kitakuwa kibaya katika hadithi zote tano, na wakala hana njia ya kukikamata.
Uhuru wa kweli ukipungua sana, wakala unachukulia mawazo yake mwenyewe kuwa dhaifu na kuomba mtu atazame.
Tunachokidai, na tunachokidai sivyo.
Hatujamaliza usalama wa AI. Tumejenga kipande kimoja cha jibu moja, na tunakijaribu wazi.
Timu za nje bado hazijakagua kazi yetu. Tunasema hivyo wazi. Nadharia kamili na hesabu zinaishi katika makala zetu nne. Msimbo uko wazi. Tukikosea, njia ya kuonyesha hivyo iko wazi pia. Tazama hali ya utafiti wa sasa.