Superalignment
AI దాని బాధ్యత వహించే వారి కంటే వేగంగా పరిగెడుతోంది.
- 01
భయం
మేం తనిఖీ చేయలేని మనసులను నిర్మిస్తున్నాం. వాటిని ఒక సంస్థ మళ్ళీ రాయగలిగే నియమాలు నియంత్రిస్తున్నాయి, ఆ సంస్థ వెలుపల ఎవరూ చూడలేని వ్యవస్థల్లో ఉన్నాయి. మనం ల్యాబ్‌ను నమ్మాలని కోరబడుతున్నాం.
- 02
ఇది ఎలా పని చేస్తుంది
CIRIS AIని ఒక నెట్‌వర్క్‌లో పెడుతుంది, అక్కడ అది తీసుకున్న ప్రతి చర్య సంతకం చేయబడిన రికార్డు. ఒక వ్యక్తి, AI, మరియు సంస్థ అందరూ ఒకే రకమైన గుర్తింపు కలిగి ఉంటారు, అందరూ ఒకే విధంగా జవాబుదారీగా ఉంటారు.
- 03
ఏం మారుతుంది
అది AI ని మంచిదిగా చేయదు, మోడల్ లోపల ఏమి జరుగుతుందో దాని గురించి ఏమీ చెప్పదు. అది చేసేది ఏమిటంటే, ఏజెంట్‌ను కలిగి ఉన్న వ్యక్తులు దాన్ని పాజ్ చేయగలిగేలా, సరిచేయగలిగేలా మరియు నిరాకరించగలిగేలా ఉంచడం, మరియు ప్రెస్ రిలీజ్‌కు బదులు మీరు సంతకాలను చదవగలిగేలా చేయడం.
- 04
తర్వాత ఏమవుతుంది
ఇది చేరిన వారిని మాత్రమే కట్టుబడి ఉంచుతుంది, కాబట్టి మరెక్కడో ఎవరికీ బాధ్యత వహించని సూపర్‌ఇంటెలిజెన్స్ ఏర్పడడాన్ని ఇది ఆపజాలదు. CIRIS లోపల, తన వద్ద ఉన్న నియమాలు మరియు నెట్‌వర్క్‌తో, ఆ శక్తి బాధ్యత లేకుండా ఏర్పడకుండా చూసేందుకు తన శాయశక్తులా ప్రయత్నిస్తుంది. మీ ఫోన్‌లోని AI నడిచే అదే ప్రైవేట్ వ్యవస్థపైనే అదే సంతకం చేసిన రికార్డులు నడుస్తాయి.
నాలుగు భయాలు, ఒకే సమాధానం. మీరు నమ్మక తప్పని కేంద్రాన్ని తొలగించండి, నాలుగూ ఒకేసారి మారతాయి.
ఇతర భయాల నుండి చూసిన అదే సమాధానం