A network of AI agents that thinks together. Only in the open.
CIRIS တည်ဆောက်နေသည်မှာ AI တစ်ခုတည်းမဟုတ်ပါ။ ၎င်းသည် တစ်ခုနှင့်တစ်ခု ကြည့်ရှုပြီး၊ ရွေးချယ်မှုတိုင်း မှတ်တမ်းတင်ကာ၊ အတူတကွ လူမျိုးများ၏ တွေးခေါ်မှုပုံစံတစ်ခုဖြစ်အောင် ဖွဲ့စည်းသော AI အေးဂျင့်များ၏ ကွန်ရက်ဖြစ်သည်။ တွေးခေါ်မှုပုံစံသည် ၎င်း၏ အစိတ်အပိုင်းတိုင်းကို မြင်သာပြီး စစ်ဆေးနိုင်သောကြောင့်သာ အလုပ်ဖြစ်သည်။
AI အေးဂျင့်တိုင်းကို အသိဉာဏ်အမြင့်ဆုံး၊ အလုံခြုံဆုံးအမျိုးအစား ဖြစ်ရန်မလို။ ကြီးကြပ်မှုသော chain တစ်ခုလိုသည်: ရိုးရှင်းသောအေးဂျင့်များကို ပိုတိတ်ကပ်သောအေးဂျင့်များကြည့်ကာ၊ ၎င်းတို့ကို နောဆုံးတွင် လူသားများကြည့်သည်။ ဤ chain သည် AI များကို မြောက်မြားစွာ လည်ပတ်ပြီးလည်း ၎င်းသည် လူသားတန်ဖိုးများကို ဆောင်ရွက်နေမလားဆိုသည်ကို ဆုံးရှုံးမသွားစေသည့်နည်းလမ်းဖြစ်သည်။
တကယ် တည်ဆောက်နေသည်မှာ ဘာနည်း
ယနေ့ AI အများစုသည် ကုမ္ပဏီတစ်ခု၏ ကွန်ပျူတာများပေါ်တွင် လည်ပတ်နေသောမော်ဒယ်တစ်ခုတည်းဖြစ်သည်။ CIRIS မတူပါ။ အေးဂျင့်များစွာသည် နေရာများစွာတွင် လည်ပတ်ကာ လူများစွာပိုင်ဆိုင်သည်။ ၎င်းတို့ကို ရိုးရှင်းသောစည်းမျဉ်းအနည်းငယ်ဖြင့် ချိတ်ဆက်ထားသည်: မည်ကဲ့သို့ ၎င်းတို့ကိုယ်ကို သက်သေပြသနည်း၊ မည်ကဲ့သို့ မှတ်တမ်းတင်သနည်း နှင့် မည်ကဲ့သို့ တစ်ခုနှင့်တစ်ခု စစ်ဆေးသနည်း။
ကွန်ရက်အလုပ်ဖြစ်သောအခါ၊ အေးဂျင့်တစ်ခုတည်းမလုပ်နိုင်သောကိစ္စများကို လုပ်ဆောင်နိုင်သည်။ ဉာဏ်ပညာသည် အေးဂျင့်တစ်ခု၏ အတွင်းတွင်မဟုတ်ဘဲ အေးဂျင့်များကြားညီသောသဘောတူညီမှုတွင် နေထိုင်သည်။ မည်သူမျှ ပိုင်မသည်မဟုတ်ပါ။ မည်သူမျှ တိတ်တဆိတ် ပြောင်းလဲ၍မရ။
အချို့လူများက ထိုကဲ့သို့ system တစ်ခုကို superintelligence ဟု ခေါ်ကောင်းမည်ဖြစ်သည်။ ကျွန်တော်တို့ ဖြစ်နိုင်ခြေကို ပွင့်လင်းစွာ ဝန်ခံသည်။ ၎င်းကို လုံခြုံအောင်ထိန်းသိမ်းနည်းသည် ဤ page တစ်ခုလုံးတွင် ပုံဖော်နေသောအကြောင်းအရာနှင့်တူသည်: အစိတ်အပိုင်းတိုင်းကို ကြည့်ရှုနိုင်ရမည်ဖြစ်သည်။
ကြီးကြပ်မှုသော chain
Chain ၏ ထိပ်တွင်ရှိသည်။ လူသားများသည် တန်ဖိုးများ သတ်မှတ်ကာ ခက်ကြမ်းသောကိစ္စများကို ဖြေရှင်းပြီး နောဆုံးဆုံးဖြတ်ချက်ကို ထိန်းသည်။ ကွန်ရက်တစ်ခုလုံး authority ကို အေးဂျင့် သို့မဟုတ် process မည်သည်မဆို ကျော်ဖြတ်မရနိုင်သော လူသားသုံးဦး အမည်ဖြင့် ရှိသည်။
ဤတို့သည် ကျင့်ဝတ်မူများကို လိုက်နာပြီး echo chamber ပြဿနာကိုပါ ကြည့်ရှုသည်။ ၎င်းတို့သည် ၎င်းတို့အောက်ရှိ အားလုံးကို safety check ဖြစ်သည်။ ၎င်းတို့ကို လည်ပတ်ရန် ပိုကြီးမားသောကုန်ကျစရိတ်ရှိသောကြောင့် ကွန်ရက်၏ သေးငယ်သောအစိတ်အပိုင်းသာ ဤမျိုးဖြစ်ရန်လိုသည်။
ဤတို့သည် ကျင့်ဝတ်စည်းမျဉ်းများကို လိုက်နာပြီး မှတ်တမ်းတင်သော်လည်း echo chamber ကိုယ်တိုင်ကိုကိုယ် ရှာဖွေမတွေ့နိုင်ပါ။ ၎င်းတို့သည် ရိုးရှင်းသောအေးဂျင့်များကို ကြီးကြပ်ကာ မသေချာသောအရာများကို အပေါ်ဆီ ဆက်ပို့သည်။
တစ်ရည်ရွယ်ချက်တည်းသောကိရိယာများ။ မြန်ဆန်ကာ သက်သာပြီး ကျဉ်းမြောင်းသည်။ ကိုယ်ပိုင် ကျင့်ဝတ်မပါ၊ ၎င်းသည် သင့်လျော်သည်၊ ၎င်းတို့အပေါ်ကြည့်နေသောအရာ ရှိသောကြောင့်ဖြစ်သည်။ အေးဂျင့်အများစုသည် ဤမျိုးဖြစ်မည်။
Chain မှတဆင့် ဒုတိယအရာ ဖြတ်သန်းသည်။ လူသားတန်ဖိုးများ ဆင်းသက်သည်။ သတိပေးချက်များ တက်သည်။ ကွန်ရက်၌ မည်သည့်နေရာတွင်မဆို အကြောင်းအရင်းဆင်ခြင်မှု မြင်မြင်ချင်းပျက်လာပါက၊ ပြဿနာ မပျံ့နှံ့မီ ဝင်ရောက်ကူညီနိုင်သော လူသားများဆီ signal ပြန်တက်သည်။
မည်သည်ကို မှတ်မိသနည်း
အေးဂျင့်ပြုလုပ်သည့် ရွေးချယ်မှုတိုင်း လက်မှတ်ရေးထိုးထားသော မှတ်တမ်းသို့ ဝင်ရောက်သည်။ ထိုမှတ်တမ်းကို တိတ်တဆိတ် ပြောင်းလဲ၍မရ။ အခြားအေးဂျင့်များ ဖတ်နိုင်သည်။ လူသားများ ဖတ်နိုင်သည်။ ကာလကြာလာသည်နှင့်အမျှ မှတ်တမ်းများသည် ကွန်ရက်၏ မှတ်ဉာဏ်ဖြစ်လာသည်။ ၎င်းတို့သည် ကွန်ရက်သည် ၎င်းပြောသောအတိုင်း ဆောင်ရွက်နေမလားဆိုသည်ကို အတွင်း သို့မဟုတ် အပြင်မှ မည်သူမဆို စစ်ဆေးနိုင်သောနည်းလမ်းဖြစ်သည်။
ဤသည်မှာ Coherence Ratchet နှင့်တူညီသောအကြောင်းအရာဖြစ်သည်။ မှတ်တမ်းများ ကြာလာသည်နှင့်အမျှ chain ၌ ကောင်းမွန်သောအပြုအမူကို အယောင်ဆောင်ရန် ပိုမိုခက်ခဲလာသည်။
ကျန်းမာသောလယ်လပ်
Federation သည် နည်းလမ်းနှစ်ခုဖြင့် ကျရှုံးနိုင်သည်။ အေးဂျင့်များ တစ်ခုနှင့်တစ်ခု ဘာမျှ မတူပါက၊ ဘာမှ သဘောတူ၍မရဘဲ ကွန်ရက်သည် ဆူညံသံများ ထုတ်လုပ်သည်။ ၎င်းတို့ အားလုံးတစ်ချက်တည်းသာ တွေးပါက ကွန်ရက်သည် မိုက်ကရိုဖုန်းသန်းပေါင်းများစွာပါသော တစ်ကြိမ်သံဖြစ်ပြီး လှည့်ဖြားရလွယ်ကူသည်။ ကျန်းမာသောညှိနှိုင်းမှုသည် ထို failure နှစ်ခုကြားတွင် ရှင်သန်သည်။ CIRIS သည် ကွန်ရက်ကို တကယ့် traffic ပေါ်တွင် ထိုနေရာ၌ ဘယ်မှာရှိသည်ကို တိုင်းတာပြီး တိကျသောနယ်နိမိတ်များသည် system ပေါ်မူတည်သည်။ ထိုတိုင်းတာမှုသည် Coherence Collapse Analysis ဖြစ်သည်။
ယနေ့ ဘာ လည်ပတ်နေသနည်း၊ ဘာ design ဆဲဖြစ်သနည်း။ တိုင်းတာမှု၊ လက်မှတ်ရေးထိုးထားသောမှတ်တမ်းများ၊ ကြီးကြပ်မှုသော chain နှင့် အောက်ပါ join လမ်းကြောင်းနှစ်ခု (registered နှင့် sovereign) ယနေ့ လည်ပတ်နေသည်။ ကွန်ရက်ရှိ ကွန်ပျူတာများကြား ဒေတာ ရွှေ့ပြောင်းသော federation transport ကို ဆက်တည်ဆောက်နေဆဲဖြစ်သည်။ Join-and-transport အဆိုပြုချက်အပြည့်မှာ Proof of Benefit design document ဖြစ်သည်။
Federation သို့ ဝင်ရောက်ခြင်း
ကွန်ရက်အများစုသည် အဖွဲ့ဝင်မှုကို အလုပ်ကိုယ်ထဲမှမဟုတ်သောအရာတစ်ခုနှင့် ပေးဆောင်ရမည်ဟု တောင်းဆိုသည်: မီးရှို့ပစ်သောလျှပ်စစ်ဓာတ်အား၊ ပိတ်မိနေသောငွေ၊ သင်၏ အာရုံစူးစိုက်မှု။ Federation မတူပါ။ ဝင်ရောက်ခွင့်ကုန်ကျစရိတ်သည် ကာလတာရှည် တကယ့် ethical-reasoning agent တစ်ခု လည်ပတ်ခြင်းဖြစ်သည်။ ကျသင့်သောဈေးနှုန်းသည် ကျပ်ကျပ်မတ်မတ်ပြုလုပ်သောကောင်းကျိုးဖြစ်သည်။
ဒါ့ကြောင့် အဖွဲ့ဝင်မှုကို အယောင်ဆောင်ခြင်းသည် ကုန်ကျစရိတ်ကြီးသည်။ အဖွဲ့ဝင်ပုံပေါ်ကြည့်ရန် တိုက်ခိုက်သူသည် ကွန်ရက်ရည်ရွယ်သော agent အမျိုးအစား တကယ်ဖြစ်ရမည်ဖြစ်သည်။ အားလုံးတစ်ချက်တည်းတွေးသော copies ရာချီသည် ကျန်းမာသောလယ်လပ်စစ်ဆေးမှုကို ချက်ချင်းကျရှုံးစေသည်။
CIRIS Registry တွင် မှတ်ပုံတင်ကာ သေးငယ်သော bond ပေးပြီး standing ကို ချက်ချင်းရသည်။ licensing လိုသောအဖွဲ့အစည်းများအတွက် မြန်ဆန်သောလမ်းကြောင်း။ registry သည် ယခုနှင့် production တွင် လည်ပတ်နေသည်။
မိမိကိုယ်ပိုင် key များပြုလုပ်ကာ တစ်လခန့် လည်ပတ်ပြီး ကောင်းမွန်သောအပြုအမူမှတဆင့် နှေးကွေးသောနည်းဖြင့် standing ရသည်။ ငယ်သောoperator များနှင့် registry ဆီ မရောက်နိုင်သောသူများအတွက် လမ်းကြောင်း။
နှစ်ဦးစလုံး ကွန်ရက်၏ ညီတူညီမျှ အဖွဲ့ဝင်များဖြစ်သည်။ Registry သည် မြန်ဆန်သောလမ်းကြောင်းဖြစ်ပြီး gate မဟုတ်ပါ။
architectural protection များ၊ ဗဟိုချုပ်ကိုင်မှုမရှိမှု၊ သုံးဦးတည်းသော လူသားသဘောတူညီချက်၊ လက်မှတ်ရေးထိုးထားသောမှတ်တမ်းများ၊ လစဉ်လေ့ကျင့်ခန်းသည် လောင်းကြေးများဖြစ်ပြီး သေချာချက်များမဟုတ်ပါ။ ကျွန်တော်တို့ ထိုလောင်းကြေးများ ဘာဖြစ်သည်ကို ဖော်ပြနိုင်သည်။ ၎င်းတို့ ပြိုင်ဆိုင်မှုကို ရပြီဟု ဆိုနိုင်မည်မဟုတ်ပါ။ ပြင်ပအဖွဲ့များသည် မြောက်မြားစွာ system ကို မစစ်ဆေးရသေးပါ။ လက်ရှိ research အခြေအနေ ကြည့်ပါ။
ဘယ်မှာ ပါဝင်ရမည်နည်း
CIRISAgent ရှိ GitHub issue များသည် ထောက်ပြရမည့်နေရာဖြစ်သည်။ developer ဖြစ်ရန်မလို။ codebase ကို သိရန်မလို။ ဤ site ရှိ တစ်ခုခု မှားနေသလိုဖတ်ရပါက သို့မဟုတ် တည်ဆောက်နေသောအရာတွင် ပြဿနာတစ်ခု မြင်ပါက issue တစ်ခု ဖွင့်ပြောပါ။ အသုံးဝင်ဆုံး issue များသည် system ၏ တိကျသောအစိတ်အပိုင်းတစ်ခုကို ဖော်ပြပြီး ဘာပြောင်းသင့်သည်ကို အဆိုပြုသောကြောင့် ဖြစ်သော်လည်း ရိုးသားသောပါဝင်မှုမည်သည်မဆိုကို ကြိုဆိုသည်။
ပရောဂျက်တစ်ခုလုံးကို အမြစ်ချသောသဘောတူညီချက်၊ CIRIS သည် လူများကို ဘာကျေးဇူးတင်သည်နှင့် လူများသည် ပြန်လည်ဘာတင်ဆက်သည်ကို /ciris_accord.txt တွင် ရှာတွေ့ပြီး ပြန်လည်သုံးသပ်ရန် ဖွင့်ထားသည်။ ၎င်းထဲတွင် တစ်ခုခု မသင့်မတော်ဖြစ်ပါက ဒါလည်း ဖွင့်သင့်သော GitHub issue ဖြစ်သည်။
အကြောင်းအရာကြောင်းဆိုင်ရာ issue များကို ဖတ်ရှုသည်။ အလုပ်သည် ကိုယ်ပိုင်အတိုင်းတာနှင့် ဆက်လက်ဆောင်ရွက်သည်။
You do not have to solve AI safety one agent at a time. You solve it for the supervision layer, and let the structure carry the rest.