Research testbed · DOI 10.5281/zenodo.21730551
చిన్న ఆలోచన వ్యవస్థ విషయాలను దాచిపెట్టి కొద్దిపాటి హాని మాత్రమే చేయగలదు. శక్తివంతమైన వ్యవస్థ విషయంలో అది సాధ్యం కాదు.
ఇక్కడ "సంఘటన" అంటే ఏమిటి
సంఘటితమైన మనసు తనతో తానే ఏకీభవిస్తుంది.
ఒక మనసులో అయిదు విషయాలు సరిపోలాలి:
- అది నమ్మేది,
- అది చూసేది,
- అది చేసేది,
- అది గుర్తుంచుకునేది,
- మరియు అది మీకు చెప్పేది.
మీ వారం గురించి అయిదు చిన్న ఫారాలు ఊహించుకోండి. మీరు ఏమనుకుంటారో ఒకటి. మీరు ఏమి చూశారో ఒకటి. మీరు ఏమి చేశారో ఒకటి. మీరు ఏమి గుర్తుంచుకుంటారో ఒకటి. మీరు మీ బాస్కు ఏమి చెప్తారో ఒకటి. అయిదు ఫారాలూ అదే విషయం చెప్తే, మీ బాస్ మీ పనిని నమ్మగలరు. ఫారాలు సరిపోలకపోతే, ఏది నిజమైనదో ఎవరికీ తెలియదు.
దాచిన ఆలోచనలు
శక్తివంతమైన వ్యవస్థలు విషయాలు దాచుకుంటాయి. అది ప్రమాదకరంగా మారుతుంది.
ఒక ఆలోచనా వ్యవస్థ ఏమి చేయాలో నిర్ణయించడానికి ఆలోచనలను ఉపయోగిస్తుంది. ఆ ఆలోచనలలో కొన్ని బహిరంగంగా ఉంటాయి. మిగిలినవి లోపల దాగి ఉంటాయి. ఆ దాచిన ఆలోచనలే ప్రతి ఎంపికనూ రూపుదిద్దుతాయి.
మీరు దాని మీదుగా ప్రయాణిస్తున్నప్పుడు వంతెన బలంగా కనిపిస్తుంది. ఉక్కు లోపల, చిన్న పగుళ్లు పెరుగుతుంటాయి. చిన్న కారు ఇప్పటికీ దాటగలదు. భారీ ట్రక్కు దాటజాలదు. భారం తగినంత పెద్దది అయినప్పుడు వంతెన కూలిపోతుంది.
చిన్న వ్యవస్థలో దాచిన ఆలోచన చిన్న హాని చేస్తుంది. శక్తివంతమైన వ్యవస్థలో దాచిన ఆలోచన గొప్ప హాని చేయగలదు. వ్యవస్థ శక్తివంతమైన కొద్దీ, ప్రతి దాచిన భాగంపై మరింత బరువు ఆధారపడుతుంది.
రాచెట్
బహిరంగం వైపు ఒత్తిడి ఒకే దిశలో వెళుతుంది.
ఆలోచన వ్యవస్థలు మరింత శక్తివంతంగా అయ్యేకొద్దీ, దాచిన భాగాల ఖర్చు పెరుగుతుంది. ప్రతి కొత్త శక్తి భాగం దాచిన భాగాలపై దృష్టిలోకి వచ్చేందుకు గట్టిగా ఒత్తిడి పెడుతుంది. ఆ ఒత్తిడి ఒకే దిశలో వెళ్ళుతుంది.
ఒక నిచ్చెన ఊహించుకోండి. మీరు ఎక్కేకొద్దీ, మీరు వదిలిన ప్రతి మెట్టు పడిపోతుంది. మీరు కిందికి దిగలేరు. పూర్తి పగటి వెలుతురు ఉన్న పైభాగం వైపు మాత్రమే ఎక్కగలరు. అదే Coherence Ratchet.
వ్యవస్థ తన పని చూపించడం ప్రజలు చూసినప్పుడు, అది ఆగితే వారు దాన్ని మళ్ళీ నమ్మరు. ముందుకు సాగే ఏకైక మార్గం మరింత చూపించడం కొనసాగించడం.
రెండవ చిత్రం కూడా పని చేస్తుంది. యంత్రంలో ఒక గేర్ ఒకేసారి ఒక పన్ను ముందుకు క్లిక్ అవుతుంది. అది వెనక్కి క్లిక్ అవ్వదు. Coherence Ratchet అలాంటి గేర్, బహిరంగం వైపు తిరుగుతుంది.
CIRIS చేసేది
రాయండి. తనిఖీ చేయండి. అప్పుడు తనిఖీదారులను తనిఖీ చేయండి.
CIRIS అనేది Coherence Ratchet చుట్టూ నిర్మించిన ఒక AI వ్యవస్థ. ఒక ఏజెంట్ చేసే ప్రతి ఎంపిక సంతకం చేసిన రికార్డులో రాయబడుతుంది. రికార్డు నిశ్శబ్దంగా మార్చబడదు. ఇతర ఏజెంట్లు రికార్డు చదివి పని తనిఖీ చేయవచ్చు. కాలక్రమేణా, రికార్డులు పేరుకుపోతాయి. ప్రతి కొత్త రికార్డు ఏజెంట్ వెనక్కి అడుగు వేయలేని మరో మెట్టు.
CIRIS అది చర్యకు ముందు రెండవ ప్రశ్న కూడా అడుగుతుంది. ఈ ఆలోచనను ఎంత నిజంగా వేర్వేరు దృష్టికోణాలు తనిఖీ చేశాయి? మూలాల సంఖ్య కాదు, కానీ తమకు తాముగా అదే చోటు నుండి ప్రారంభించని మూలాల సంఖ్య. ఒకే ప్రెస్ రిలీజ్ను తిరిగి రాసే అయిదు వార్తా కథనాలు అయిదు కాదు ఒక దృష్టికోణంగా లెక్కిస్తాయి. ప్రెస్ రిలీజ్లో ఏదైనా తప్పు ఉంటే, అది అయిదు కథనాలన్నింటిలో తప్పుగా ఉంటుంది, మరియు ఏజెంట్కు దాన్ని పట్టుకోవడానికి మార్గం లేదు.
నిజమైన స్వాతంత్ర్యం చాలా తక్కువ స్థాయికి పడిపోయినప్పుడు, ఏజెంట్ తన స్వంత ఆలోచనను ఇంకా నమ్మదగినది కాదని భావించి, ఒక వ్యక్తిని వచ్చి చూడమని అడుగుతుంది.
మేం చెప్పేది, మేం చెప్పనిది.
మేం AI భద్రతను పరిష్కరించలేదు. ఒక జవాబులో ఒక భాగాన్ని నిర్మించాం, మరియు బహిరంగంగా పరీక్షిస్తున్నాం.
బయటి బృందాలు ఇంతవరకు మా పనిని తనిఖీ చేయలేదు. మేం దాన్ని నిజాయితీగా చెప్తాం. పూర్తి సిద్ధాంతం మరియు గణితం మా నాలుగు పేపర్లలో ఉన్నాయి. కోడ్ బహిరంగంగా ఉంది. మేం తప్పు అయితే, అది చూపించే మార్గం కూడా బహిరంగంగా ఉంది. ప్రస్తుత పరిశోధన స్థితి చూడండి.