Superalignment
AI कोणत्याही जबाबदार व्यक्तीपेक्षा वेगाने पुढे जात आहे.
- 01
भीती
आम्ही असे मन बनवत आहोत जे आम्ही तपासू शकत नाही. ते एका कंपनीने पुन्हा लिहू शकणाऱ्या नियमांनी चालतात, त्या कंपनीबाहेर कोणालाही दिसत नसलेल्या प्रणालींमध्ये. आम्हाला प्रयोगशाळेवर विश्वास ठेवायला सांगितले जाते.
- 02
हे कसे काम करते
CIRIS AI ला एका नेटवर्कमध्ये ठेवतो जिथे तो करत असलेली प्रत्येक कृती एक सही केलेली नोंद असते. एक माणूस, एक AI आणि एक संघटना सगळे एकाच प्रकारची ओळख बाळगतात, आणि सगळ्यांना एकाच मानकाने धरले जाते.
- 03
काय बदलते
ते AI ला चांगले बनवत नाही, आणि मॉडेलच्या आत काय घडते याबद्दल काहीही सांगत नाही. ते जे करते ते म्हणजे एजंट बाळगणाऱ्या लोकांना तो थांबवण्यास, दुरुस्त करण्यास आणि नकार देण्यास सक्षम ठेवते, आणि तुम्हाला प्रेस रिलीजऐवजी स्वाक्षऱ्या वाचू देते.
- 04
आणि मग
ते फक्त सामील होणाऱ्यांनाच बंधनकारक असते, त्यामुळे इतरत्र कुठेतरी बेजबाबदार सुपरइंटेलिजन्स तयार होण्यापासून ते रोखू शकत नाही. CIRIS च्या आत, त्याच्याकडे असलेले नियम आणि नेटवर्क वापरून ती शक्ती बेजबाबदारपणे तयार होऊ नये यासाठी ते सर्वतोपरी प्रयत्न करते. तुमच्या फोनवरील AI ज्यावर चालते त्याच खाजगी आधारावर या सही केलेल्या नोंदीही चालतात.
चार भीती, एक पाया. ज्या केंद्रावर विश्वास ठेवण्याची सक्ती आहे ते काढून टाका, आणि चारही एकाच वेळी बदलतात.
इतर भीतींकडून पाहिलेले तेच उत्तर