Superalignment
AI उन लोगों से आगे निकल रहा है जो इसके लिए जिम्मेदार हैं।
- 01
डर
हम ऐसे दिमाग बना रहे हैं जिनकी जाँच नहीं कर सकते। उन्हें ऐसे नियम चलाते हैं जो एक कंपनी फिर से लिख सकती है, ऐसे सिस्टम के अंदर जिसे उस कंपनी के बाहर कोई देख नहीं सकता। हमसे कहा जाता है कि लैब पर भरोसा रखें।
- 02
यह कैसे काम करता है
CIRIS AI को एक ऐसे नेटवर्क में रखता है जहाँ उसका हर कदम एक साइन किया हुआ रिकॉर्ड है। एक इंसान, एक AI और एक संस्था सबके पास एक जैसी पहचान होती है, और सब एक जैसे हिसाब से जवाबदेह होते हैं।
- 03
क्या बदलता है
AI को ईमानदार रखना किसी एक कंपनी की उम्मीद नहीं रहता। यह नेटवर्क का काम बन जाता है। आप प्रेस रिलीज पर भरोसा नहीं करते। आप हस्ताक्षर पढ़ते हैं।
- 04
और फिर
एक नेटवर्क जो किसी बेहद ताकतवर AI को जवाबदेह रख सकता है, वो अपनी बनावट से ही बिना केंद्र वाला इंटरनेट है। वही साइन किए रिकॉर्ड किसी को भी सच जाँचने देते हैं, और वो उसी निजी आधार पर चलते हैं जिस पर आपके फोन का AI चलता है।
चार डर, एक जमीन। जिस केंद्र पर आप मजबूरन भरोसा करते हैं उसे हटाइए, और चारों चीजें एक साथ बदल जाती हैं।
दूसरे दरवाजों से वही जमीन