CIRIS
यह पृष्ठ मशीन द्वारा अनुवादित है। अगर कुछ गलत लगे, तो कृपया GitHub पर एक issue खोलें। रेपो सार्वजनिक है ताकि कोई भी इसे ठीक करने में मदद कर सके। अनुवाद की समस्या रिपोर्ट करें

← मुख्य पेज पर वापस जाएं

Superalignment

AI उन लोगों से आगे निकल रहा है जो इसके लिए जिम्मेदार हैं।

  1. 01

    डर

    हम ऐसे दिमाग बना रहे हैं जिनकी जाँच नहीं कर सकते। उन्हें ऐसे नियम चलाते हैं जो एक कंपनी फिर से लिख सकती है, ऐसे सिस्टम के अंदर जिसे उस कंपनी के बाहर कोई देख नहीं सकता। हमसे कहा जाता है कि लैब पर भरोसा रखें।

  2. 02

    यह कैसे काम करता है

    CIRIS AI को एक ऐसे नेटवर्क में रखता है जहाँ उसका हर कदम एक साइन किया हुआ रिकॉर्ड है। एक इंसान, एक AI और एक संस्था सबके पास एक जैसी पहचान होती है, और सब एक जैसे हिसाब से जवाबदेह होते हैं।

  3. 03

    क्या बदलता है

    यह AI को अच्छा नहीं बनाता, और मॉडल के अंदर क्या होता है, इसके बारे में कुछ नहीं कहता। यह जो करता है वह यह है कि एजेंट रखने वाले लोग उसे रोकने, सुधारने और मना करने में सक्षम बने रहते हैं, और यह आपको प्रेस रिलीज़ के बजाय हस्ताक्षर पढ़ने देता है।

  4. 04

    और फिर

    यह केवल उन्हीं को बांधता है जो इसमें शामिल होते हैं, इसलिए यह कहीं और बन रही गैर-जवाबदेह सुपरइंटेलिजेंस को नहीं रोक सकता। CIRIS के अंदर यह अपने नियमों और नेटवर्क के साथ पूरी कोशिश करता है ताकि वह ताकत गैर-जवाबदेह रूप में न बन पाए। वही हस्ताक्षरित रिकॉर्ड उसी निजी सबस्ट्रेट पर चलते हैं जिस पर आपके फोन का AI चलता है।

चार डर, एक जवाब। जिस केंद्र पर आप मजबूरन भरोसा करते हैं उसे हटाइए, और चारों चीजें एक साथ बदल जाती हैं।

वही जवाब, बाकी डरों की नज़र से