← မူလ စာမျက်နှာသို့ ပြန်သွားပါ
Superalignment
AI သည် ၎င်းအတွက် တာဝန်ခံမည့်သူ မည်သူမဆိုထက် ပိုမိုမြန်ဆန်နေသည်။
- 01
ကြောက်စိတ်
ကျွန်တော်တို့ စစ်ဆေးမရနိုင်တဲ့ စိတ်တွေ တည်ဆောက်နေသည်။ ကုမ္ပဏီတစ်ခုတည်း ပြန်ရေးနိုင်တဲ့ စည်းမျဉ်းတွေနဲ့ ထောင်ချောက်ချထားသည်၊ ကုမ္ပဏီပြင်ဘက်မှ ဘယ်သူမှ မမြင်နိုင်တဲ့ စနစ်တွေထဲမှာ ရှိသည်။ lab ကို ယုံကြည်ဖို့ ကျွန်တော်တို့ကို တောင်းဆိုသည်။
- 02
ဘယ်လို အလုပ်လုပ်သလဲ
CIRIS ဟာ AI ကို network တစ်ခုထဲ ထည့်ပြီး သူလုပ်တဲ့ ကြိုးပမ်းမှုတိုင်းဟာ လက်မှတ်ထိုးထားတဲ့ မှတ်တမ်းဖြစ်သည်။ လူတစ်ဦး၊ AI တစ်ခု နှင့် အဖွဲ့အစည်းတစ်ခုဟာ တူညီသော identity အမျိုးအစားကို ဆောင်ကြပြီး အားလုံး တူညီသောတာဝန်ကို ခံယူသည်။
- 03
ဘာ ပြောင်းသွားသလဲ
ယင်းက AI ကို ကောင်းမွန်အောင် မလုပ်ပေးသလို model အတွင်းတွင် ဖြစ်ပျက်နေသည့်အကြောင်းကိုလည်း ပြောဆိုခြင်းမရှိပါ။ ၎င်းလုပ်ဆောင်ပေးသည့်အရာမှာ အေးဂျင့်ကို ကိုင်ဆောင်ထားသူများအနေဖြင့် အေးဂျင့်ကို ခေတ္တရပ်ရန်၊ ပြင်ဆင်ရန်နှင့် ငြင်းပယ်ရန် စွမ်းဆောင်နိုင်စွမ်းကို ထိန်းသိမ်းပေးထားခြင်းဖြစ်ပြီး သတင်းထုတ်ပြန်ချက်များကို ဖတ်ရှုမည့်အစား လက်မှတ်ရေးထိုးထားမှုများကို ဖတ်ရှုစစ်ဆေးနိုင်စေခြင်း ဖြစ်သည်။
- 04
ဒါပြီးရင်
၎င်းသည် ပူးပေါင်းပါဝင်သူများကိုသာ စည်းနှောင်ထားသဖြင့် တာဝန်ခံမှုမရှိသော superintelligence တစ်ခု အခြားနေရာတွင် ပေါ်ပေါက်လာခြင်းကို တားဆီး၍မရပါ။ CIRIS အတွင်းတွင် ၎င်းရှိသော စည်းမျဉ်းများနှင့် ကွန်ရက်ဖြင့် ထိုအင်အားကို တာဝန်ခံမှုမရှိဘဲ ပေါ်ပေါက်မလာစေရန် အတတ်နိုင်ဆုံး ကြိုးစားသည်။ တူညီသော လက်မှတ်ထိုးထားသည့် မှတ်တမ်းများသည် သင့်ဖုန်းပေါ်ရှိ AI နှင့် တူညီသော ကိုယ်ပိုင် အခြေခံစနစ်ပေါ်တွင် လည်ပတ်သည်။
ကြောက်စိတ်လေးခု၊ ဖြေရှင်းချက် တစ်ခုတည်း။ သင် မဖြစ်မနေ ယုံကြည်ရသည့် ဗဟိုကို ဖယ်ရှားလိုက်တာနဲ့ လေးခုလုံး တစ်ပြိုင်နက် ပြောင်းသွားသည်။
တူညီသော ဖြေရှင်းချက်၊ အခြား ကြောက်စိတ်များဘက်မှ မြင်တွေ့ရပုံ