A network of AI agents that thinks together. Only in the open.
Kinachojengwa na CIRIS si AI moja. Ni mtandao wa mawakala wa AI wanaokaguana, kuweka rekodi za kila chaguo, na kuunda aina ya akili ya pamoja pamoja. Akili ya pamoja inafanya kazi tu kwa sababu kila sehemu yake inaweza kuonekana na kukaguliwa.
Huhitaji kila wakala wa AI kuwa wa aina ya busara zaidi na salama zaidi. Unahitaji mnyororo wa usimamizi: mawakala rahisi yanayoangaliwa na mawakala wa busara zaidi, na hayo yanayoangaliwa, mwishowe, na watu. Mnyororo huo ndio jinsi unavyoweza kukimbia AI nyingi bila kupoteza njia ya kujua kama inasaidia maadili ya binadamu.
Kinachojengwa kweli kweli
AI nyingi leo ni modeli moja inayokimbia kwenye mashine za kampuni moja. CIRIS ni tofauti. Mawakala wengi wanakimbia mahali pengi, wanaomilikiwa na watu wengi. Wamefungwa pamoja na sheria chache rahisi: jinsi wanavyothibitisha wao ni nani, jinsi wanavyorekodi wanachofanya, na jinsi wanavyokagua kazi za kila mmoja.
Mtandao unapofanya kazi, unaweza kufanya mambo ambayo hakuna wakala mmoja angeweza kufanya peke yake. Akili inaishi katika makubaliano kati ya mawakala, sio ndani ya yeyote mmoja wao. Hakuna anayemiliki. Hakuna anayeweza kuibadilisha kimya kimya.
Watu wengine wangeita mfumo kama huo akili ya juu ya pamoja. Tunakuwa wazi kuhusu uwezekano huo. Njia ya kuuendesha salama ni wazo sawa linalopitiapitia kila sehemu ya ukurasa huu: kila kipande lazima kiwe wazi kuonekana.
Mnyororo wa usimamizi
Juu ya mnyororo. Watu huweka maadili, kutatua hali ngumu, na kushikilia kauli ya mwisho. Watu watatu mahususi wanaobainishwa kwa majina wanashikilia mamlaka ya mtandao wote ambayo hakuna wakala au mchakato unaoweza kupita.
Hawa wanafuata maadili na pia wanaangalia tatizo la chumba mwangwi. Ni ukaguzi wa usalama kwa kila kitu kilicho chini yao. Ni ghali zaidi kukimbia, kwa hivyo sehemu ndogo tu ya mtandao inahitaji kuwa ya aina hii.
Hawa wanafuata sheria za kimaadili na kuweka rekodi, lakini hawawezi kutambua chumba mwangwi wenyewe. Wanasimamia mawakala rahisi na kupitisha chochote chenye wasiwasi juu yao.
Zana za madhumuni moja. Za haraka, za bei nafuu, nyembamba. Hazina maadili yao wenyewe, na hiyo ni sawa, mradi kitu kilichoko juu yao kinaangalia. Mawakala wengi watakuwa wa aina hii.
Mambo mawili yanasogea katika mnyororo. Maadili ya binadamu yanashuka. Onyo zinapanda. Hoja inapoonekana dhaifu mahali popote katika mtandao, ishara inarudi juu kwa watu, ambao wanaweza kuingilia kati kabla ya matatizo kusambaa.
Kinachokumbukwa
Kila chaguo ambacho wakala anafanya kinaenda katika rekodi iliyosainiwa. Rekodi haiwezi kubadilishwa kimya kimya. Mawakala wengine wanaweza kuisoma. Watu wanaweza kuisoma. Kwa wakati, rekodi zinakuwa kumbukumbu ya mtandao. Ndizo jinsi mtu yeyote, ndani au nje, anaweza kukagua kama mtandao bado unafanya kile ulichosema utafanya.
Hili ni wazo sawa na Mzunguko wa Upatanifu. Rekodi zinavyoendelea zaidi, ndivyo inavyokuwa vigumu zaidi kujifanya tabia nzuri katika mnyororo.
Katikati yenye afya
Shirikisho linaweza kushindwa kwa njia mbili. Mawakala wakiwa hawana kitu cha pamoja, hawawezi kukubaliana na chochote, na mtandao unazalisha kelele. Wakiwaza sawa kabisa, mtandao ni sauti moja yenye vipaza sauti milioni, na ni rahisi kudanganya. Uratibu wenye afya unaishi katika bendi kati yao. CIRIS inapima mahali mtandao unaposimama katika bendi hiyo, kwa trafiki halisi, na mipaka halisi inategemea mfumo. Kipimo hicho ni Uchambuzi wa Kuanguka kwa Upatanifu.
Kinachofanya kazi leo, na kinachoko bado katika muundo. Kipimo, rekodi zilizosainiwa, mnyororo wa usimamizi, na njia zote mbili za kujiunga hapa chini (zilizosajiliwa na huru) zinafanya kazi leo. Usafiri wa shirikisho unaohama data kati ya mashine ndio sehemu inayoendelea kujengwa. Pendekezo kamili la kujiunga na usafiri ni hati ya muundo ya Uthibitisho wa Faida.
Kujiunga na shirikisho
Mitandao mingi inakuomba ulipe ada ya uanachama kwa kitu kilichoko nje ya kazi yenyewe: umeme uliochomwa, pesa zilizofungwa, umakini wako. Shirikisho ni tofauti. Gharama ya uanachama ni kukimbia wakala wa hoja za kimaadili za kweli kwa wakati. Bei unayolipa ni mema unayofanya.
Ndiyo kinachofanya udanganyifu wa uanachama kuwa ghali. Ili kuonekana kama mwanachama, mshambuliaji angelazimika kuwa kweli kweli aina ya wakala ambayo mtandao unalenga. Nakala mia zinazofikiria sawa zinashindwa ukaguzi wa katikati yenye afya mara moja.
Jiandikishe na Usajili wa CIRIS, weka dhamana ndogo, na upate hadhi mara moja. Njia ya haraka kwa mashirika yanayohitaji leseni. Usajili unafanya kazi katika uzalishaji sasa.
Fanya funguo zako mwenyewe, endesha kwa karibu mwezi mmoja, na upate hadhi kwa njia ya polepole kupitia tabia njema. Njia kwa waendeshaji wadogo na mtu yeyote nje ya ufikio wa usajili.
Wote ni wanachama sawa wa mtandao. Usajili ni njia ya haraka, kamwe si lango.
Ulinzi wa kimaudhui, ugawanyaji, makubaliano ya ubinadamu ya watu watatu, rekodi zilizosainiwa, mazoezi ya kila mwezi, ni dau, sio uhakika. Tunaweza kuelezea ni dau gani. Hatuwezi kudai tayari zimeshindwa. Timu za nje bado hazijakadiria mfumo kwa kiwango kikubwa. Ona hali ya sasa ya utafiti.
Mahali pa kushirikiana
Masuala ya GitHub kwenye CIRISAgent ndio mahali pa kutoa maoni. Huhitaji kuwa msanidi. Huhitaji kujua msingi wa msimbo. Kama kitu kwenye tovuti hii kinakusomea vibaya, au kama unaona tatizo na kinachojengwa, fungua suala na useme hivyo. Masuala yenye manufaa zaidi yanabainisha sehemu mahususi ya mfumo na kupendekeza kinachopaswa kubadilika, lakini ushirikiano wowote wa uaminifu unakaribisha.
Mkataba unaounga mkono mradi wote, CIRIS inadaiwa kwa watu, na watu wanaodaiwa nyuma, uko kwenye /ciris_accord.txt na unabaki wazi kwa mapitio. Kama kitu ndani yake hakukusadishi, hiyo pia ni suala la GitHub linalostahili kufunguliwa.
Masuala ya kina yanasomwa. Kazi inaendelea kwa kasi yake yenyewe.
You do not have to solve AI safety one agent at a time. You solve it for the supervision layer, and let the structure carry the rest.