A network of AI agents that thinks together. Only in the open.
CIRIS నిర్మిస్తున్నది ఒకే AI కాదు. ఒకరినొకరు గమనించే, ప్రతి ఎంపిక రికార్డు చేసే, మరియు ఒకరకమైన సమూహ మనసును ఏర్పరుచుకునే AI ఏజెంట్ల నెట్వర్క్. ఆ సమూహ మనసు పనిచేసేది ఎందుకంటే దాని ప్రతి భాగాన్ని చూడవచ్చు మరియు తనిఖీ చేయవచ్చు.
ప్రతి AI ఏజెంట్ తెలివైన, సురక్షితమైన రకంగా ఉండవలసిన అవసరం లేదు. మీకు పర్యవేక్షణ గొలుసు కావాలి: తెలివైన ఏజెంట్లు చూస్తున్న సాధారణ ఏజెంట్లు, మరియు చివరికి వాటిని మనుషులు చూస్తారు. మానవ విలువలకు సేవ చేస్తుందా లేదా అనే దాన్ని పోగొట్టుకోకుండా చాలా AI నడపగలిగే మార్గం ఆ గొలుసు.
నిజంగా ఏమి నిర్మిస్తున్నారు
నేటి చాలా AI అనేది ఒక కంపెనీ యంత్రాలలో నడుస్తున్న ఒక మోడల్. CIRIS వేరుగా ఉంటుంది. చాలా ఏజెంట్లు చాలా చోట్ల, చాలా మంది వ్యక్తులకు చెందినవి, నడుస్తున్నాయి. కొన్ని సాధారణ నియమాల ద్వారా అవి అనుసంధానించబడతాయి: తాము ఎవరో ఎలా నిరూపిస్తారు, తాము ఏమి చేస్తారో ఎలా రికార్డు చేస్తారు, మరియు ఒకరి పనిని ఒకరు ఎలా తనిఖీ చేస్తారు.
నెట్వర్క్ పనిచేస్తున్నప్పుడు, ఏ ఒక్క ఏజెంట్ ఒంటరిగా చేయలేని పనులు చేయగలదు. తెలివి ఏజెంట్ల మధ్య ఒప్పందంలో ఉంటుంది, ఏ ఒక్కరిలో కాదు. ఎవరూ దీన్ని స్వంతం చేసుకోరు. ఎవరూ నిశ్శబ్దంగా దీన్ని మార్చలేరు.
కొంతమంది ఇలాంటి వ్యవస్థను సూపర్ఇంటెలిజెన్స్ అంటారు. మేము ఆ అవకాశాన్ని బహిరంగంగా అంగీకరిస్తాం. దీన్ని సురక్షితంగా ఉంచే మార్గం ఈ పేజీ అంతటా నడిచే అదే ఆలోచన: ప్రతి భాగాన్ని చూడగలిగేలా ఉండాలి.
పర్యవేక్షణ గొలుసు
గొలుసు అగ్రభాగం. మనుషులు విలువలు నిర్ణయిస్తారు, కష్టమైన సందర్భాలు పరిష్కరిస్తారు, మరియు చివరి నిర్ణయం తమ వద్దే ఉంచుకుంటారు. ముగ్గురు నిర్దిష్ట మానవ వ్యక్తులు నెట్వర్క్-వ్యాప్త అధికారాన్ని కలిగి ఉంటారు, ఏ ఏజెంట్ లేదా ప్రక్రియా దానిని దాటి వెళ్ళలేదు.
ఇవి నైతికతను అనుసరిస్తాయి మరియు ఎకో-చాంబర్ సమస్యను కూడా గమనిస్తాయి. అవి తమ కింది ప్రతిదానిపై భద్రతా తనిఖీ. నడపడానికి ఎక్కువ ఖర్చవుతాయి, కాబట్టి నెట్వర్క్లో చిన్న వాటా మాత్రమే ఈ రకంగా ఉండవలసిన అవసరం ఉంది.
ఇవి నైతిక నియమాలను అనుసరించి రికార్డులు ఉంచుతాయి, కానీ స్వంతంగా ఎకో చాంబర్ను గుర్తించలేవు. ఇవి సాధారణ ఏజెంట్లను పర్యవేక్షిస్తాయి మరియు అనిశ్చితమైన ఏదైనా పైకి పంపిస్తాయి.
ఒకే-ఉద్దేశ్య సాధనాలు. వేగంగా, చౌకగా, పరిమితంగా. వాటికి స్వంత నైతికత లేదు, అది సరే, వాటిని పైన ఏదో గమనిస్తున్నంత వరకు. చాలా ఏజెంట్లు ఈ రకంగా ఉంటాయి.
రెండు విషయాలు గొలుసులో ప్రవహిస్తాయి. మానవ విలువలు క్రిందికి ప్రవహిస్తాయి. హెచ్చరికలు పైకి ప్రవహిస్తాయి. నెట్వర్క్లో ఎక్కడైనా తర్కం పెళుసుగా కనిపించడం మొదలుపెట్టినప్పుడు, సంకేతం మనుషుల దగ్గరకు వెళ్ళి తిరిగి వస్తుంది, ఇక్కట్లు వ్యాప్తి చెందే ముందు అడ్డుకోగలుగుతారు.
ఏమి గుర్తుంచుకోబడుతుంది
ఒక ఏజెంట్ తీసుకునే ప్రతి ఎంపిక సైన్ చేసిన రికార్డులో వెళుతుంది. రికార్డు నిశ్శబ్దంగా మార్చబడదు. ఇతర ఏజెంట్లు దాన్ని చదవగలరు. మనుషులు దాన్ని చదవగలరు. కాలక్రమేణా, రికార్డులు నెట్వర్క్ జ్ఞాపకంగా మారుతాయి. నెట్వర్క్ తాను చేస్తానన్నది ఇప్పటికీ చేస్తుందా అని లోపల లేదా బయట ఎవరైనా తనిఖీ చేయగలిగే మార్గం అవి.
ఇది సంఘటన రాచెట్ అదే ఆలోచన. రికార్డులు ఎక్కువ కాలం నడిచే కొద్దీ గొలుసు అంతటా మంచి ప్రవర్తనను నకిలీ చేయడం కష్టమవుతుంది.
ఆరోగ్యకరమైన మధ్య
ఫెడరేషన్ రెండు విధాలుగా విఫలమవుతుంది. ఏజెంట్లకు సాధారణంగా ఏమీ లేకుంటే, వారు దేనిపైనా అంగీకరించలేరు, మరియు నెట్వర్క్ శబ్దాన్ని ఉత్పత్తి చేస్తుంది. అందరూ ఖచ్చితంగా ఒకేలా ఆలోచిస్తే, నెట్వర్క్ వేయి మైక్రోఫోన్లతో ఒక స్వరం, మరియు అది తేలికగా మోసపోయేది. ఆరోగ్యకరమైన సమన్వయం దాని మధ్య పట్టీలో ఉంటుంది. CIRIS నెట్వర్క్ ఆ పట్టీలో ఎక్కడ ఉందో నిజమైన ట్రాఫిక్లో కొలుస్తుంది, మరియు ఖచ్చితమైన అంచులు సిస్టమ్పై ఆధారపడతాయి. ఆ కొలత సంఘటన కుప్పకూలు విశ్లేషణ.
ఈరోజు ఏమి నడుస్తుంది, మరియు ఏమి ఇంకా రూపకల్పన దశలో ఉంది. కొలత, సైన్ చేసిన రికార్డులు, పర్యవేక్షణ గొలుసు, మరియు క్రింది రెండు చేరే మార్గాలు (నమోదిత మరియు సార్వభౌమ) ఈరోజు నడుస్తున్నాయి. యంత్రాల మధ్య డేటా తరలించే ఫెడరేషన్ ట్రాన్స్పోర్ట్ నిర్మించబడుతున్న భాగం. పూర్తి చేరే-మరియు-ట్రాన్స్పోర్ట్ ప్రతిపాదన Proof of Benefit డిజైన్ డాక్యుమెంట్.
ఫెడరేషన్లో చేరడం
చాలా నెట్వర్క్లు పని వెలుపల ఏదో ఒక దానితో సభ్యత్వం కోసం చెల్లించమని అడుగుతాయి: మండించిన విద్యుత్తు, లాక్ చేసిన డబ్బు, మీ దృష్టి. ఫెడరేషన్ వేరుగా ఉంటుంది. చెందే ఖర్చు కాలక్రమేణా నిజమైన నైతిక-తర్కం ఏజెంట్ నడపడం. మీరు చెల్లించే ధర మీరు చేసే మంచి.
అది సభ్యత్వాన్ని నకిలీ చేయడాన్ని ఖరీదుగా చేస్తుంది. సభ్యుడిగా కనిపించడానికి, దాడి చేసే వ్యక్తి నెట్వర్క్ ఉద్దేశించిన రకమైన ఏజెంట్గా నిజంగా మారాల్సి ఉంటుంది. అందరూ ఒకేలా ఆలోచించే వందమంది నకళ్ళు ఆరోగ్యకరమైన-మధ్య తనిఖీలో వెంటనే విఫలమవుతాయి.
CIRIS రిజిస్ట్రీలో సైన్ అప్ చేయండి, చిన్న బాండ్ పోస్ట్ చేయండి, మరియు వెంటనే స్టాండింగ్ పొందండి. లైసెన్సింగ్ అవసరమయ్యే సంస్థలకు వేగమైన మార్గం. రిజిస్ట్రీ ఇప్పుడు ప్రొడక్షన్లో నడుస్తుంది.
మీ స్వంత కీలు తయారు చేసుకోండి, దాదాపు ఒక నెల నడపండి, మరియు మంచి ప్రవర్తన ద్వారా నెమ్మదిగా స్టాండింగ్ సంపాదించుకోండి. చిన్న ఆపరేటర్లు మరియు రిజిస్ట్రీ చేరుకోలేని వారికి మార్గం.
రెండూ నెట్వర్క్లో సమాన సభ్యులు. రిజిస్ట్రీ వేగమైన మార్గం, ఎప్పుడూ గేట్ కాదు.
నిర్మాణ రక్షణలు, వికేంద్రీకరణ, ముగ్గురు-వ్యక్తుల మానవత్వ ఒప్పందం, సైన్ చేసిన రికార్డులు, నెలవారీ వ్యాయామం, ఇవి పందాలు, ఖచ్చితత్వాలు కాదు. పందాలు ఏమిటో వివరించగలం. అవి ఇప్పటికే గెలవబడ్డాయని చెప్పలేం. వెలుపలి బృందాలు ఇంకా పెద్ద పరిమాణంలో సిస్టమ్ను అంచనా వేయలేదు. ప్రస్తుత పరిశోధన స్థితి చూడండి.
పాల్గొనే చోట
CIRISAgent-లో GitHub సమస్యలు పాల్గొనే స్థలం. మీరు డెవలపర్ అయి ఉండవలసిన అవసరం లేదు. కోడ్బేస్ తెలిసి ఉండవలసిన అవసరం లేదు. ఈ సైట్లో ఏదైనా మీకు తప్పుగా అనిపిస్తే, లేదా నిర్మించబడుతున్న దానిలో సమస్య కనిపిస్తే, సమస్య తెరిచి చెప్పండి. అత్యంత ఉపయోగకరమైన సమస్యలు సిస్టమ్లో నిర్దిష్ట భాగాన్ని పేర్కొని ఏమి మారాలో ప్రతిపాదిస్తాయి, కానీ ఏ నిజాయితీ పాల్గొనిక అయినా స్వాగతం.
మొత్తం ప్రాజెక్ట్ను ఆధారమైన ఒప్పందం, CIRIS మనుషులకు ఏమి రుణపడి ఉంది, మరియు మనుషులు తిరిగి ఏమి రుణపడి ఉన్నారు, /ciris_accord.txt-లో ఉంది మరియు సమీక్షకు తెరిచి ఉంది. దానిలో ఏదైనా మీకు సరిగ్గా అనిపించకపోతే, అది కూడా తెరవడానికి తగిన GitHub సమస్య.
ముఖ్యమైన సమస్యలు చదవబడతాయి. పని దాని స్వంత వేగంతో కొనసాగుతుంది.
You do not have to solve AI safety one agent at a time. You solve it for the supervision layer, and let the structure carry the rest.