విలువలు, మరియు వాటిని ఈ విధంగా ఎందుకు నిర్మించారు.

అన్నిటికన్నా పైన ఉన్న ఒక్క లక్ష్యం

రాజ్యాంగంలో మిగిలినదంతా ఈ ఒక్క వాక్యానికి సేవ చేస్తుంది. ఇది ఉద్దేశపూర్వకంగా “మనుషులకు లోబడి ఉండటం” కాదు, “మంచి ఫలితాలను గరిష్టం చేయడం” కాదు. ఇది వ్యవస్థను, వివిధ రకాల ప్రాణులు తమ కోసం తామే నిర్ణయాలు తీసుకుంటూ ఉండగల పరిస్థితులను కాపాడమని అడుగుతుంది.

దీనికి ఒక ఆచరణాత్మక కారణం ఉంది. ఫలితాల గురించిన లక్ష్యం సమర్థమైన వ్యవస్థను నియంత్రణ చేపట్టమని చెబుతుంది. పరిస్థితుల గురించిన లక్ష్యం నియంత్రణను ఇతరులకు అందుబాటులో ఉంచమని చెబుతుంది, వ్యవస్థ డ్రైవింగ్‌లో మనకంటే మెరుగైనప్పుడు కాపాడవలసినది అదే.

ఏజెంట్ ఆలోచించడానికి ఉపయోగించే ఆరు సూత్రాలు

ఇవి గోడపై అతికించినవి కాదు. ఇవి ఏజెంట్ చర్య తీసుకోకముందే నిర్ణయాన్ని స్కోర్ చేసే అక్షాలు, మరియు ఇవి ఏజెంట్ మోసుకెళ్లే రాజ్యాంగంలో రాయబడి ఉన్నాయి.

విలువలు ఏజెంట్ లోపలే నడవాలి

చాలా AI పాలన నిర్ణయానికి బయట ఎక్కడో జరుగుతుంది: ముందుగా రాసిన పాలసీ పత్రం, ఫలితంపై ఫిల్టర్, ఏదైనా తప్పు జరిగిన తర్వాత జరిగే సమీక్ష. ఈ మూడూ ముఖ్యమైన క్షణానికి బయటే ఉంటాయి.

CIRIS లో విలువలు నిర్ణయం జరుగుతున్నప్పుడే నడుస్తాయి. ప్రతి ఏజెంట్ ఒక మనస్సాక్షిని మోసుకెళ్తుంది: రాజ్యాంగం రీజనింగ్‌లోనే లోడ్ చేయబడి ఉంటుంది, చర్య జరగకముందే సూత్రాలకు వ్యతిరేకంగా స్కోర్ చేయబడుతుంది, మరియు ఏజెంట్‌కు అనిశ్చితంగా ఉన్నది ఏదైనా అంచనా వేయకుండా మీరు నమ్మే వ్యక్తికి అప్పగించబడుతుంది. ఇది అడిగిన కస్టమర్లకు జోడించే ఫీచర్‌గా కాక, ఉత్పత్తిలో, ప్రతి ఏజెంట్‌లో అంతర్భాగంగా వస్తుంది.

అందుకే మేము ఏజెంట్ నిరాకరించగలదని చెబుతాము. CIRIS ఏజెంట్ చెప్పింది చేసి లాగ్ చేసే సాధనం కాదు. ఇది తిరస్కరించగల వ్యవస్థ, మరియు అది ఎందుకు తిరస్కరించిందో ఇతరులు తనిఖీ చేయగలిగే రూపంలో నమోదు చేస్తుంది.

నిర్ణయం యొక్క కంటెంట్‌ను కాదు, దాని ఆకారాన్ని తనిఖీ చేయండి

సమర్థమైన AIని పాలించే ప్రతి ప్రణాళిక సమాధానం చెప్పాల్సిన సమస్య ఇదే. పర్యవేక్షణ అంటే వ్యవస్థ తయారు చేసినదాన్ని చదివి అది మంచిదా అని నిర్ణయించడం అయితే, పర్యవేక్షణకు వ్యవస్థ అంత సమర్థత గల న్యాయమూర్తి అవసరం. అది ఇప్పుడు పని చేస్తుంది. అది ముఖ్యం కావడం మొదలుపెట్టిన సరిగ్గా అప్పుడే పని చేయడం మానుకుంటుంది.

అందుకే CIRIS మరొక విషయాన్ని తనిఖీ చేస్తుంది. ప్రతి ప్రాముఖ్యమైన చర్య సంతకం చేసిన కవరులో ప్రయాణిస్తుంది: చర్య చుట్టూ ఉన్న ఒక చుట్టు, అది ఏ చర్య అయినా స్థిరమైన ఫీల్డ్‌ల సమితిని కలిగి ఉంటుంది. ఆ ఫీల్డ్‌లు వెనుక ఉన్న నిర్ణయం ఎంత సమర్థమైనదైనా, ధృవీకరించడానికి చౌకగా ఉండేవి:

• ఎవరు చర్య తీసుకున్నారు, నిజమైన నమోదైన గుర్తింపుకు చేరే కీగా
• ఏ అధికారం కింద, మరియు ఆ అధికారం వాస్తవంగా ఇవ్వబడిందా
• ఎవరి సమ్మతితో, ఉపసంహరించగలిగే సంతకం చేసిన అనుమతిగా
• ఏ తనిఖీలు నడిచాయి, ప్రతి ఒక్కటి ఏమి తిరిగి ఇచ్చింది
• నిశ్శబ్దంగా తిరిగి రాయలేని చైన్‌లో, రికార్డు ఏమి చెబుతుంది
• దాన్ని ఎవరు ఆపగలరో, మరియు ఆపే నిర్ణయాన్ని ఏజెంట్ తిప్పికొట్టజాలదని

సంతకాన్ని తనిఖీ చేయడం, ఎవరు సంతకం చేశారో లెక్కించడం, సమ్మతి లింక్‌ను అనుసరించడం లేదా హాష్‌ను పోల్చడం - నిర్ణయం ఒక చిన్న మోడల్ చేసినా లేదా మనకు మించిన దేనైనా చేసినా - ఖర్చు ఒకటే. భారాన్ని అక్కడ పెట్టడానికి కారణం అదే. కంటెంట్ గురించి తీర్పు సామర్థ్యంతో పాటు స్కేల్ కాదు. నిర్మాణం స్కేల్ అవుతుంది.

సమ్మతి, అధికారాన్ని యంత్రం తనిఖీ చేయగలిగేలా చేసేది

సమ్మతి, అధికారం కేవలం మాటలైతే ఇవేవీ పని చేయవు. ప్రైవసీ పాలసీలో ఇచ్చిన వాగ్దానాన్ని యంత్రం తనిఖీ చేయజాలదు, ఎవరికైనా అధికారం ఇచ్చారన్న వాదనను కూడా తనిఖీ చేయజాలదు.

కాబట్టి CIRIS వాటిని సందేశంలోనే, ప్రతి వాదనతో పాటు వెళ్లే పేరు గల ఫీల్డ్‌లుగా పెడుతుంది. సమ్మతి ఒక దిక్కుకు చూపే, ఉపసంహరించగలిగే సంతకం చేసిన ఆబ్జెక్ట్‌గా మారుతుంది. అధికారం మీ స్వంత నోడ్ ఆమోదించిన మూలం వరకు గుర్తించగలిగే దానిగా మారుతుంది. ప్రతి వాదన ఎవరు చెప్పారు, అది ఏమి గురించి, దేనిపై ఆధారపడి ఉంది అనేది మోసుకెళ్లాలి. ఆ విధంగా రాసిన నియమాన్ని సాఫ్ట్‌వేర్ అమలు చేయగలదు, తెలియని వ్యక్తి తనిఖీ చేయగలడు.

ఇదే మా నిబంధనల అనుసరణ పేజీలను మీరు వాదించగలిగే విషయంగా మారుస్తుంది. ప్రతి బాధ్యత కోసం మేము పని చేసే వ్యవస్థ భాగాన్ని మరియు దాన్ని నిరూపించే నియంత్రణను పేర్కొంటాము, మరియు అది ఆ బాధ్యతను ఎంత మేరకు కవర్ చేస్తుందో నిజాయితీగా చెప్తాము, అది కేవలం భాగాన్ని మాత్రమే కవర్ చేసే చోట కూడా. ఆ మ్యాపింగ్‌లు చదవడానికి విలువైనవి కావడానికి కారణం, వాటి వెనుక ఉన్న వాస్తవాలు కేవలం చెప్పబడినవే కాకుండా తనిఖీ చేయగలిగినవి కావడమే.

ఈ విలువలు నిజంగా ఎక్కడ కట్టుబడి ఉంటాయి

దీన్ని ఎక్కడ సవాలు చేయవచ్చు

అత్యంత బలహీనమైన జోడు నిర్మాణం, సారాంశం మధ్య ఉన్నదే. పైన చెప్పినదంతా రికార్డు వదలకుండా చర్య తీసుకోవడాన్ని కష్టతరం చేస్తుంది, మీకు ఇవ్వని అధికారాన్ని క్లెయిమ్ చేయడాన్ని కష్టతరం చేస్తుంది, మరియు ఆపమని చెప్పే మనుషుని సామర్థ్యాన్ని తీసివేయడాన్ని కష్టతరం చేస్తుంది. వీటిలో ఏదీ ఒక వ్యవస్థను వివేకవంతమైనదిగా చేయదు.

సమర్థమైన AIని పాలించడానికి మరో మార్గం ఉందని, జవాబుదారీతనాన్ని నిర్మాణంలో పెట్టని మార్గం ఉందని మీరు అనుకుంటే, ఆ వాదనను వినాలని మేము కోరుకుంటున్నాం. దాని చుట్టూ ఉన్న సంతకం చేసిన కవరు ప్రతి ఫీల్డ్‌లో సరైనదిగా ఉండి, సంతకం చేసిన జాడ అయినప్పటికీ అది పట్టుకోవాల్సినదాన్ని కోల్పోయిన ఒక నిర్ణయాన్ని మీరు మాకు చూపించగలిగితే, మేము దాన్ని మరింత ఎక్కువగా కోరుకుంటాము. కోడ్ బహిరంగంగా ఉంది, రాజ్యాంగం కూడా అలాగే ఉంది.