ዛሬ ምርትላይ ያለው በጣም ደህንነቱ የተረጋገጠ እና ሥነ ምግባራዊ ሰው ሰራሽ አስተውሎት
ተጠያቂነት ከሌለ ሰው ሰራሽ አስተውሎት ከሚሰጠው ይልቅ ብዙ ጊዜ ይወስዳል።
ተጠያቂነቱን ማረጋገጥ ካልቻሉ ፣ ማስታወቂያ ብቻ ነው። ምን መፈለግ እንዳለቦት እና አሁን ያሉ አቀራረቦች እንዴት እንደሚወዳደሩ ይኸው።
ተጠያቂነቱን ማረጋገጥ ካልቻሉ ፣ ማስታወቂያ ብቻ ነው። ምን መፈለግ እንዳለቦት እና አሁን ያሉ አቀራረቦች እንዴት እንደሚወዳደሩ ይኸው።
ህሊና አስፈላጊ ነው። ግን በቂ አይደለም።
አንዳንድ ሰው ሰራሽ አስተውሎት ምንም ህግ የለውም። አንዳንዱ ህጎችን ይከተላል ፣ ግን ምንጮቹ እርስ በርሳቸው ብቻ ሲደጋገሙ ሊለይ አይችልም። አንድ ዓይነት ብቻ መረጃው ከተለያዩ ቦታዎች እንደሚመጣ ያረጋግጣል።
የወጡ መርሆዎች የሉም። የኦዲት ዱካ የለም። ምንጩ ዝግ ነው። ምን እንዳደረገ ወይም ለምን እንዳደረገ ማረጋገጥ አይቻልም።
አብዛኛዎቹ ለሸማቾች የሚሆኑ የሰው ሰራሽ አስተውሎት ረዳቶች (ChatGPT፣ Gemini) ከሕዝብ ተጠያቂነት አንፃር እዚህ ናቸው። ጠንካራ የውስጥ ልምዶች ሊኖሩ ይችላሉ ፣ ግን ማረጋገጥ አይቻልም።
ውጫዊ ቁጥጥር ያስፈልጋል። ራሱን ማስተዳደር አይችልም።
ሥነ ምግባራዊ ህጎችን ይከተላል። ግን ሁሉም ምንጮቹ እርስ በርሳቸው ሲደጋገሙ ሊለይ አይችልም ፣ ስለዚህ በእርግጠኝነት ስህተት ሊሆን ይችላል።
ቁጥጥር ሲደረግበት ደህንነቱ የተጠበቀ ነው። ብቻውን ድምፅ ማባዣ ክበቦችን ሊለይ አይችልም።
ሥነ ምግባራዊ ህጎችን ይከተላል እናም መረጃው ከትክክለኛ የተለያዩ ቦታዎች እንደሚመጣ ያረጋግጣል። ስምምነቱ አጠራጣሪ ሲመስል ፣ ከተግባር በፊት ምልክት ያደርጋል።
CIRIS የሚገነባው ይህ ነው።
ሰው ሰራሽ አስተውሎት እያንዳንዱን ህግ ሊከተል፣ እያንዳንዱን ኦዲት ሊያልፍ ይችላል፣ ሆኖም ሁሉም መረጃ ከአንድ ቦታ ከመጣ ሊሳነው ይችላል። ያ ዓይን ያጋፈጠው ስፍራ CIRIS ለመፍታት የተሰራው ነው።
እነዚህ ሰው ሰራሽ አስተውሎትን ሊቆጠር ከሚችልና ተጠያቂ ሊያደርግ የሚያስችሉ ነገሮች ናቸው። የመጀመሪያዎቹ ስድስቱ ትክክለኛ ነገር ስለ ማድረግ ናቸው። ሰባተኛው ትክክለኛ ነገርን ማድረግ መጥፎ መረጃ ላይ ሲመሰረት ሁኔታዎቹን ስለ መያዝ ነው።
ወኪሉ የሕዝብ ሥነ ምግባራዊ ማዕቀፍ መከተል አለበት። የተደበቁ ህጎች አይደሉም ፣ ማንኛውም ሰው ሊያነበው እና ተጠያቂ ሊያደርገው የሚችለው ሰነድ።
እያንዳንዱ ተግባር ወኪሉ ከማደረጉ በፊት የህሊና ማረጋገጫ ያልፋል። ድርጊቱ ከደረሰ በኋላ አይደለም። ከደረሰ በፊት።
ሲጠራጠር ወይም ሊሆን የሚችል ጉዳት ሲያጋጥም ፣ ወኪሉ ከመገመት ይልቅ ሰው ይጠይቃል። በሥርዓቱ ውስጥ ሰርጿል ፣ አማራጭ አይደለም።
እያንዳንዱ ውሳኔ ምን እንደደረሰ እና ለምን እንደደረሰ ማረጋገጥ ትችሉ ዘንድ ይመዘገባል እና ይፈረምበታል። ለእያንዳንዱ ተግባር ደረሰኝ።
ፈቃዱ ሁለቱም አቅጣጫ ያለው ነው። ወኪሉን አይ ማለት ይቻላል። ወኪሉም እርስዎን አይ ማለት ይችላል። አንዳቸውም ስምምነት ለማድረግ አይገደዱም።
ማየት ያልቻሉትን ማቆጣጠር አይቻልም። CIRIS በ AGPL-3.0 ስር ሙሉ በሙሉ ክፍት ምንጭ ነው። ማንኛውም ሰው ኮዱን ሊያነብ ፣ ሊያረጋግጥ እና ሊያሻሽለው ይችላል።
ህጎች ብቻቸውን ሊይዙት የማይችሉት ነገር።
ከተግባር በፊት ወኪሉ ይጠይቃል ፣ «ምንጮቼ በትክክል እርስ በርሳቸው ይቃረናሉ ፣ ወይስ ሁሉም ከአንድ ቦታ መረጃ ያገኛሉ?» ሁሉም ከአንድ ዋናው ኮፒ ያደረጉ አስር ምንጮች በእውነቱ አንድ ምንጭ ብቻ ናቸው። ስምምነቱ በጣም አንድ ወጥ ሲሆን ፣ ወኪሉ ሰው ሊያጤነው ምልክት ያደርጋል።
በጣም ሩጫዊ
ምንጮቹ ጠቃሚ ምንም ነገር ሊያስቀምጡ እስኪያቅታቸው ድረስ እርስ በርሳቸው ይቃረናሉ።
ጤናማ
ምንጮቹ በትክክል ይለያያሉ። ትክክለኛ ስምምነት ትርጉም አለው።
ድምፅ ማባዣ ክበብ
ስምምነት ይመስላል ፣ ግን ምንጮቹ እርስ በርሳቸው ብቻ ይደጋገማሉ።
ይህ CIRIS ከሌሎች የሰው ሰራሽ አስተውሎት ተጠያቂነት ማዕቀፎች የሚለይ ነው።
ሂሳቡ ያስፈልጋዎታል? ሙሉ ጥናቱን ያንብቡ →እስከ የካቲት 2026 ድረስ በሕዝብ ላይ ካለው ሰነድ ላይ ተመስርቶ። ነገሩን ከዘለልን ወይም ስህተት ከሰራን ፣ ያሳውቁን።
| ፕሮጀክት | እያንዳንዱን ውሳኔ ያረጋግጣል | የወጡ ህጎች | ህሊና ተሰርቷል | ያደረጋቸው ነገሮች ማስረጃ | ክፍት ምንጭ | ድምፅ ማባዣ ክበብ መለየት |
|---|---|---|---|---|---|---|
| CIRIS | አዎ | አዎ | አዎ | አዎ | AGPL-3.0 | አዎ |
| Constitutional AI | ስልጠና ብቻ | ዘዘቂ | አይ | አይ | አይ | አይ |
| LlamaFirewall / NeMo Guardrails | አዎ | አይ | አይ | ምዝገባ | አዎ | አይ |
| HatCat | አዎ | ከፊል | አቅጣጫ አመልካች | ከፊል | CC0 | አይ |
| የሥነ ምግባር ቦርዶች / አስተዳደር ማዕቀፎች | አይ | አዎ | አይ | እጅ ሰፍሮ | ይለያያል | አይ |
የውፅዓት ማጣሪያዎች እና አስተዳደር ማዕቀፎች አስፈላጊ ፣ ግን የተለያዩ ችግሮችን ይፈቱ ዘንድ ናቸው። ማጣሪያዎቹ ጎጂ ውፅዓቶችን ይዘጋሉ። ህሊናው ስለ እሴቶች ያስባል። CIRIS ሁለቱንም ለማድረግ እና ብቻቸውን የትኛውም ሊፈታ የማይችላቸውን ዓይን ማጋፈጥ ስፍራዎች ለመያዝ ያለመ ነው።
አደገኛ ውፅዓቶችን ያግዳሉ ፣ ፕሮምፕት ኢንጄክሽን ፣ ጎጂ ይዘት ፣ ተቃዋሚ ጥቃቶች። ወጥቶ ሲሄዱ መጥፎ ነገሮችን ሚይዝ ማጣሪያ ይመሳሰላል።
ድርጊቱ ትክክል ነው ወይ ከደህንነቱ ተጠብቆ ብቻ ሳይሆን ያስባል። ውሳኔ ከመስጠቱ በፊት ሁኔታውን የሚመዝን ዳኛ ይመሳሰላል።
ስምምነቱ ትክክለኛ ነው ወይ ፣ ወይስ ድግግሞሽ ብቻ ነው ብሎ ያረጋግጣል። «ሁሉም አንዱን ጽሑፍ አነበቡ?» ብሎ የሚጠይቅ ፋክት ቼከር ይመሳሰላል።
ብዙ ትናንሽ ወኪሎች ፣ እያንዳንዳቸው ለወጡ መርሆዎች ታስረዋል ፣ እያንዳንዳቸው ሊቆጠሩ ይችላሉ ፣ እያንዳንዳቸው ለሰዎች ሥልጣን ይወርዳሉ። አንድ ኩባንያ ወይም አካል ሙሉ ቁጥጥሩን አይያዝም። ወኪሎቹ በጣም ነፃነት ያላቸው ሲሆኑ ፣ አንድ ውድቀት ሁሉን ቦታ እንዲዛመት ለማድረግ የሚያስቸግር ይሆናል።
ይህ ንቁ ምርምር ነው። ምን ያህሉ ጸንቷል እና ምን ያህሉ አሁን ሲፈተሽ እንዳለ ለሕዝብ ይፋ እናደርጋለን።
ጠንካራ መሠረት ያለው
አሁን ሲፈተሽ ያለ
በዚህ ገጽ ላይ ያለ እያንዳንዱ ክርክር ሊያነቡት በሚችሉ ኮድ ፣ ሊያረጋግጡት በሚችሉ ዱካዎች ፣ እና ሊያጣሩት በሚችሉ ምርምር ይደገፋል። ያ ዓላማው ነው።