Research testbed · DOI 10.5281/zenodo.21730551
ትንሽ የሚያስብ ሥርዓት ነገሮችን ደብቆ አነስተኛ ጉዳት ሊያደርስ ይችላል። ኃይለኛ የሆነ ሥርዓት ግን ይህንን ማድረግ አይችልም።
«ተቀናጀ» ማለት እዚህ ምን ማለት ነው
ተቀናጅ አዕምሮ ከራሱ ጋር ይስማማል።
አምስት ነገሮቹ አዕምሮ ውስጥ ሊስማሙ ይገባቸዋል፡
- ምን ያምናል፣
- ምን ያያል፣
- ምን ያደርጋል፣
- ምን ያስታውሳል፣
- እና ምን ይነግርዎ።
ስለ ሳምንትዎ አምስት አጫጭር ቅጾችን በዓይነ ሕሊናዎ ይሳሉ። አንዱ ስላሰቡት ነገር። አንዱ ስላዩት ነገር። አንዱ ስላደረጉት ነገር። አንዱ ስላስታወሱት ነገር። አንዱ ለአለቃዎ ስለሚነግሩት ነገር። አምስቱም ቅጾች ተመሳሳይ ነገር ሲናገሩ፣ አለቃዎ ሥራዎን ሊተማመንበት ይችላል። ቅጾቹ በማይጣጣሙበት ጊዜ ግን የትኛው እውነተኛ እንደሆነ ማንም አያውቅም።
የተሰወሩ ሃሳቦቹ
ኃያሎቹ ሥርዓቶቹ ይሠውራሉ። ያ አደገኛ ይሆናል።
አንድ የሚያስብ ሥርዓት ምን እንደሚያደርግ ለመወሰን ሐሳቦችን ይጠቀማል። ከእነዚያ ሐሳቦች መካከል አንዳንዶቹ በግልጽ ክፍት ናቸው። ሌሎቹ ደግሞ በውስጥ የተሰወሩ ናቸው። የተሰወሩትም ቢሆኑ አሁንም እያንዳንዱን ምርጫ ይቀርጻሉ።
አንድ ድልድይ በመኪና ሲያቋርጡት ጠንካራ ይመስላል። ነገር ግን በብረቱ ውስጥ ጥቃቅን ስንጥቆች እያደጉ ናቸው። ትንሽ መኪና አሁንም ሊያልፍበት ይችላል። ከባድ የጭነት መኪና ግን አይችልም። ሸክሙ በቂ በሆነ መጠን ሲከብድ ድልድዩ ይፈርሳል።
በአነስተኛ ሥርዓት ውስጥ ያለ የተሰወረ ሐሳብ የሚያደርሰው ጉዳት አነስተኛ ነው። በኃይለኛ ሥርዓት ውስጥ ያለ የተሰወረ ሐሳብ ግን ትልቅ ጉዳት ሊያደርስ ይችላል። ሥርዓቱ ይበልጥ ኃይለኛ በሆነ ቁጥር፣ በእያንዳንዱ የተሰወረ ክፍል ላይ የሚወድቀው ሸክም ይጨምራል።
ራቸቱ
ወደ ክፍቱ ሚወስዱ ግፊቱ አንድ አቅጣጫ ብቻ ይሄዳሉ።
የሚያስቡ ሥርዓቶች ይበልጥ ኃይለኛ እየሆኑ ሲሄዱ፣ የተሰወሩ ክፍሎች የሚያስከፍሉት ዋጋ ያድጋል። እያንዳንዱ አዲስ ተጨማሪ ኃይል የተሰወሩት ክፍሎች ወደ ግልጽ ዕይታ እንዲወጡ ይበልጥ ይገፋቸዋል። ይህ ግፊት በአንድ አቅጣጫ ብቻ ይጓዛል።
አንድ መሰላል በዓይነ ሕሊናዎ ይሳሉ። ወደ ላይ በሚወጡበት ጊዜ፣ ትተውት የሚያልፉት እያንዳንዱ እርከን ይወድቃል። ወደ ታች መውረድ አይችሉም። ሙሉ የቀን ብርሃን ወዳለበት ወደ ላይኛው ጫፍ ብቻ መውጣት ይችላሉ። ተቀናጀነት ራቸት ማለት ያ ነው።
ሰዎቹ ሥርዓቱ ሥራ ሲያሳዩ ካዩ፣ ካቆመ ዳግም ሊተማመኑ አይፈቅዱም። ወደፊቱ ብቸኛ አቅጣጫ ደግሞ የበለጠ ሲያሳዩ ቀጠሎ ነው።
ሌላ ሁለተኛ ምሳሌም ይሰራል፤ በአንድ ማሽን ውስጥ ያለ ጥርስ ያለው ማዞሪያ በአንድ ጊዜ አንድ ጥርስ ወደ ፊት ይንቀሳቀሳል። ወደ ኋላ መመለስ አይችልም። ተቀናጀነት ራቸት ወደ ክፍትነት የሚዞር እንደዚህ ያለ ማዞሪያ ነው።
CIRIS ምን ያደርጋል
ጻፉ። ፈትሹ። ፈታሾቹን ፈትሹ።
CIRIS በተቀናጀነት ራቸት ዙሪያ የተገነባ የAI ሥርዓት ነው። ወኪሉ የሚያደርገው እያንዳንዱ ምርጫ በተፈረመ መዝገብ ላይ ይጻፋል። ያ መዝገብ በድብቅ ሊቀየር አይችልም። ሌሎች ወኪሎች መዝገቡን ሊያነቡ እና ሥራውን ሊፈትሹ ይችላሉ። ጊዜ እያለፈ ሲሄድ መዝገቦቹ ይከማቻሉ። እያንዳንዱ አዲስ መዝገብ ወኪሉ ወደ ኋላ ሊመልሰው የማይችል ተጨማሪ ደረጃ ነው።
CIRIS እርምጃ ከመውሰዱ በፊት ሁለተኛ ጥያቄንም ይጠይቃል። ይህንን ሐሳብ ምን ያህል በእውነት የተለያዩ አመለካከቶች ፈትሸውታል? ይህ የሚያመለክተው የምንጮቹን ብዛት ሳይሆን፣ ራሳቸው ከአንድ ቦታ ያልጀመሩትን የምንጮች ብዛት ነው። አንድን የፕሬስ መግለጫ አሻሽለው የጻፉ አምስት የዜና ዘገባዎች እንደ አምስት ሳይሆን እንደ አንድ አመለካከት ይቆጠራሉ። በፕሬስ መግለጫው ላይ የሆነ ስህተት ካለ፣ በአምስቱም ዘገባዎች ላይ ስህተት ይሆናል፣ ወኪሉም ያንን ስህተት የሚይዝበት መንገድ አይኖረውም።
እውነተኛው ነፃነት በጣም ዝቅተኛ በሚሆንበት ጊዜ፣ ወኪሉ የራሱን አስተሳሰብ ገና ሊታመን እንደማይችል አድርጎ በመቁጠር አንድ ሰው እንዲመለከተው ይጠይቃል።
የምንናገረው እና የማንናገረው።
የAI ደህንነትን ሙሉ በሙሉ አልፈታነውም። የአንድ መፍትሔ አንዲት ክፍል ገንብተናል፣ እሷንም በግልጽ ክፍት በሆነ መንገድ እየፈተሽን ነው።
የውጭ ቡድኖች ሥራችንን ገና አልፈተሹትም። ይህንንም በግልጽ እንናገራለን። ሙሉው ንድፈ-ሐሳብ እና ሂሳቡ በአራቱ ጽሑፎቻችን ውስጥ ይገኛሉ። ኮዱ ክፍት ነው። ከተሳሳትንም ያንን ለማሳየት የሚያስችለው መንገድ ክፍት ነው። አሁን ያለውን የምርምር ሁኔታ ይመልከቱ።