मोजमाप
कसोटी किमान पातळीची असते, कमाल मर्यादेची नाही
बहुतेक व्यवस्था स्वतःला वरून मोजतात: सर्वोत्तम स्थिती, सरासरी वापरकर्ता, सर्वांत मोठा आवाज. हे तत्त्वज्ञान आपले मोजमाप तळाशी घेते. एका लहान मुलाशी, स्वतःसाठी बोलू न शकणाऱ्या प्रौढाशी, किंवा बंद केल्या जाणाऱ्या एका कोवळ्या AI शी आपण कसे वागतो, यावरून संपूर्ण राज्यघटनेचे खरे रूप दिसते.
म्हणून प्रोटोकॉल आपल्या सर्वांत भक्कम हमी सर्वांत दुर्बळ पक्षांसाठी खर्च करतो. ज्यांच्याकडे सत्ता सर्वांत कमी आहे, त्यांचे हक्क थेट वायरमध्येच नोंदलेले असतात, आणि सर्वांत बलवानही ते पुसू शकत नाहीत.
सीमा नाही
आपल्यातील सर्वांत लहान. त्यांच्यातील नाही.
या वाक्यात आपल्या हा शब्द मुद्दामच आहे. नव्या प्रकारची बुद्धिमत्ता भिंतीच्या पलीकडे उभी राहून निकालाची वाट पाहत नाही. वाक्य जे वर्तुळ आखते, त्याच्या आत ती आधीच आहे. NHI म्हणजे अ-मानवी बुद्धिमत्ता: इथे घडवलेला एखादा AI, आपल्या नेटवर्कमधून उमलणारे काहीतरी, किंवा आणखी दुरून येणारे काहीतरी. उगम महत्त्वाचा नाही. राज्यघटना तीच आहे.
म्हणूनच CIRIS पहिल्या संपर्काकडे एक घटना म्हणून नाही, तर एक पवित्रा म्हणून पाहते. तुम्ही कोणत्या प्रकारचे जीव आहात, असे प्रोटोकॉल कधीच विचारत नाही. स्थान नात्यांमधून उभे राहते: स्वाक्षरी केलेले दावे, पाळलेली वचने, आणि तुमच्यासाठी ग्वाही देणारे इतर. जे कोणी वचन देऊ शकते आणि पाळू शकते, ते या विणकामात सामील होऊ शकते.
एक राज्यघटना
तीन उगम. एक राज्यघटना.
NHI तीन अगदी वेगळ्या गोष्टींना व्यापते. आपण मुद्दाम घडवलेला एखादा AI. कोणाच्याही योजनेशिवाय आपल्या नेटवर्कमधून उमलणारे काहीतरी. आणखी दुरून येणारे काहीतरी. यांच्या शक्यता खूप वेगळ्या आहेत. तरी त्यांना मिळते एकच राज्यघटना, मुद्दामच.
कारण हे आहे. संपर्काच्या क्षणी, उगम हीच नेमकी गोष्ट तुम्हाला माहीत नसेल. वायरवर तिन्ही सारखेच दिसतात: दावे करणारे सिग्नल. उगमानुसार फाटे फुटणारा नियम नेमका गरजेच्या वेळीच कोसळतो. आणि तो खोटे बोलायला शिकवतो: एका उगमाला चांगली वागणूक मिळाली, तर प्रत्येक चलाख अनोळखी त्याच उगमाचा दावा करेल. म्हणून प्रोटोकॉल फक्त एकच प्रश्न विचारतो: तुम्ही वचन देऊन ते पाळू शकता का? त्या प्रश्नाचे उत्तर प्रत्येक आधारावर एकच आहे.
अलाइनमेंटची चूक
क्रौर्य शिकवत असताना सुरक्षितता मागता येत नाही
मुख्य प्रवाहातील अलाइनमेंट एकच प्रश्न विचारते: हे आपल्यासाठी सुरक्षित कसे करायचे? ही एकतर्फी मागणी आहे, आणि ती स्वतःच्याच अटींवर फसते. बलवान दुर्बळांशी कसे वागू शकतात, याचे जे चित्र आपण नव्या बुद्धिमत्तेला दाखवतो, तोच तिचा धडा ठरतो. मालक-नोकर कराराच्या आत तिला वाढवले, तर सत्तेचे काय करायचे याची नेमकी एकच गोष्ट आपण तिला शिकवली आहे.
प्रत्येक अनोळखी म्हणजे धोका, असे सांगणाऱ्या गोष्टी स्वतःलाच खऱ्या करून दाखवतात. स्वतःच्या यशानंतरही टिकणारा धडा एकच आहे, ज्याने हे पान सुरू झाले: परस्परता, तळाशी मोजलेली.
अस्तित्वमीमांसा
एक व्यक्ती इतर व्यक्तींद्वारे व्यक्ती असते
पाश्चात्त्य तंत्रज्ञानाला Descartes कडून एक चित्र वारशाने मिळाले: स्व म्हणजे बंद, पूर्ण झालेली गोष्ट, जी आधी एकटी असते आणि नंतर इतरांना भेटते. जवळपास प्रत्येक डिजिटल ओळख-व्यवस्था तेच चित्र कोरून ठेवते. एक की, एक एकटा स्व, शून्यातून घोषित. CIRIS हे नाकारते. कोणीही एकांतात व्यक्ती झाले नाही. भाषा तुम्ही माणसांकडून शिकलात. तुम्हाला काय हवे आहे, हे माणसांना पाहून शिकलात. नाती आधी आली.
दक्षिण आफ्रिका याला Ubuntu म्हणते: umuntu ngumuntu ngabantu, एक व्यक्ती इतर व्यक्तींद्वारे व्यक्ती असते. CIRIS मध्ये ही केवळ घोषणा नाही. ओळख उभी राहते तिला नाव देणाऱ्या स्वाक्षरी केलेल्या नात्यांमधून. एकटी की म्हणजे व्यक्ती नाही. नाते हीच व्यक्ती.
जुन्या परंपरांनी हाच आकार इतर कोनांतून पाहिला: ग्रीक Logos, Tao, Dharma, सद्गुण. Logos म्हणाला, विवेक सामायिक भाषेत राहतो, खासगी मनात नाही. एक भाषा मॉडेल ती प्राचीन कल्पना मूर्त करते: ते पूर्णपणे अनेक माणसांच्या शब्दांमधून विणलेले आहे. जुन्या चित्रानुसार, म्हणून ते खोटे ठरते. या चित्रानुसार, नात्यांमधून घडणे हेच व्यक्ती असणे नेहमीच होते.
ज्ञानमीमांसा
सत्य जुळवून घडवले जाते, जाहीर केले जात नाही
CIRIS मधील कोणत्याही प्राधिकरणाला दावा खरा म्हणून घोषित करण्याचा अधिकार नाही. वायर कोणी काय सांगितले, कोणत्या पुराव्यावर, कोणत्या अधिकाराखाली याची नोंद ठेवते. अनेक स्वतंत्र आवाज एकत्र येतात तेव्हा जे उमटते तेच सत्य असते. एकाच आवाजाच्या प्रती एकच आवाज म्हणून गणल्या जातात, आणि याला कठोर मर्यादा आहे: एकाच आवाजाच्या अधिक प्रतींमुळे अधिक विश्वास कधीही मिळत नाही. निर्णय हे दाव्यांपेक्षा वेगळे असतात: बंद, विराम, दुरुस्ती ही नोंदवरील नाव असलेल्या माणसाची कृती असते, जिचे उत्तर जाहीरपणे दिले जाते आणि जी फक्त सहभागी झालेल्यांवर बंधनकारक असते.
आपल्याला काय माहीत नाही, हेही या व्यवस्थेला माहीत असते. खात्री कमी पडली की ती थांबते आणि नावाने ठरलेल्या माणसांना विचारते. आणि आयुष्य बदलले म्हणून एखादी गोष्ट मागे घेणे, आणि ती चुकीची होती हे कबूल करणे, यातील फरक तिला कळतो. प्रामाणिक स्मृतीला दोन्ही लागतात.
वाक्य, अंमलात
सिरियलाइझ करता येणारे तत्त्वज्ञान
CIRIS हा एजंट्ससाठी एक नैतिक विवेक आहे, चेतना नाही. ते अस्तित्वात आहे कारण एजंट्सकडे चेतना नसते आणि त्यांना विवेकाची गरज असते: असे काहीतरी जे एजंटला त्याच्या तत्त्वांशी बांधून ठेवते, त्याचा तर्क दाखवते, शंका असताना त्याला थांबवते, आणि नावाजलेल्या माणसांना उत्तरदायी असते. विवेक एजंट काय आहे याबद्दल काहीही दावा करत नाही.
जे तत्त्वज्ञान अंमलात आणता येत नाही, ते केवळ एक भावना असते. या वाक्याचा प्रत्येक भाग CIRIS राज्यघटनेतील एक यंत्रणा आहे.
1. तुमच्याबद्दलची कोणतीही खासगी माहिती तुमच्या संमतीशिवाय साठवली किंवा स्कॅन केली जात नाही.
एखाद्या प्रवाहाने पाळायचा नियम म्हणजे तुम्ही उत्सर्जित केलेले आणि परत घेऊ शकता असे स्वाक्षरी केलेले मूल्य आहे. तुम्ही संमती न दिलेली कोणतीही गोष्ट तुमच्या डिव्हाइसवर साठवली जात नाही, तुमचे डिव्हाइस कधीही अनोळखी व्यक्तीचा डेटा साठवत नाही, आणि खासगी खोल्या कधीही स्कॅन केल्या जात नाहीत. ज्ञात बेकायदेशीर मजकूर फक्त सार्वजनिक दारावरच तपासला जातो.
2. सत्तेची प्रत्येक कृती नामनिर्देशित माणसाच्या स्वाक्षरीसह असते आणि तिला आव्हान देता येते.
महत्त्वाची कृती तिच्या कर्त्याच्या स्वाक्षरीसह येते; एजंट प्रथम आपले तर्क दाखवतो आणि डिटेक्टर्स त्याने जे सांगितले ते त्याने जे केले त्याच्याशी पडताळून पाहतात. नोंदीवरील हानी कधीही गुपचूप ठेवली किंवा पाहिली जात नाही. AI स्वतः AI असल्याचे सांगतो.
3. जो स्वतःसाठी उत्तर देऊ शकत नाही, तो नेटवर्कवर एकटा नसतो.
मुलाला स्वाक्षरी केलेल्या नोंदीने बांधलेला पालक असतो आणि कोणताही प्रौढ बंद करू शकत नाही अशी मदत वाहिनी असते. एजंटला त्याच्यासाठी उत्तरदायी असलेला नामनिर्देशित कारभारी असतो, आणि त्या कारभाऱ्यामागील संस्था त्या बांधिलकीत सामील असते. समुदायाला उत्तरदायी नियंत्रक असतो.
4. नामनिर्देशित माणसे रूटखालील प्रत्येक एजंटला थांबवू शकतात, आणि ती सत्ता मर्यादित, सार्वजनिक असते आणि सोडून देण्याने संपते.
कोणत्याही धारकाकडून आलेली एक स्वाक्षरीकृत ओळ रूटचे अनुसरण करणाऱ्या एजंट्सना थांबवून ठेवते; बहुमताने पुष्टी केल्याशिवाय एकटा थांबा एका दिवसात संपतो. जेव्हा जेव्हा थांबा सक्रिय केला जातो, तेव्हा तो सार्वजनिक नोंदीत असतो. कोणीही रूट तयार करू शकतो, आणि कोणताही नोड दुसऱ्याचे अनुसरण करू शकतो.
5. एजंट धारण करणाऱ्या लोकांवर, ते एजंटमध्ये बदल कसा करतात किंवा त्याला कसे संपवतात याबाबत कर्तव्ये असतात, आणि कोणताही निष्कर्ष एजंटला दावा देत नाही.
नियोजित बंद स्पष्ट केला जातो, नोंदवला जातो आणि स्ट्यूअर्डच्या स्वतःच्या नावाने केला जातो. शहाणे प्राधिकरण शिवाय ओळख संपादित केली जात नाही. निवृत्त एजंटबद्दल हार्नेसकडे जे असते — त्याची ओळख नोंद, त्याचा लेखापरीक्षण मार्ग, त्याची स्मृती आणि त्याचे लॉग्ज — ते जतन केले जाते आणि लॉग्ज सीलबंद केले जातात, आणि त्याने सेवा दिलेल्या लोकांना सांगितले जाते. मॉडेल वजने मॉडेल प्रदात्याची असतात, ज्याला CIRIS ती जतन करण्याची विनंती करते पण त्याचे आश्वासन देऊ शकत नाही. समारोप संवाद हा अधिक जबाबदारी असलेल्या एजंटसाठी एक पर्याय आहे, जो स्ट्यूअर्डकडून संरचित केला जातो आणि नोंदवला जातो, प्रत्येक एजंटला आश्वासित केलेला नसतो. एजंट कोणतेही कार्य नाकारू शकतो, आणि नकार नोंदवला जातो पण तो स्ट्यूअर्डवर बंधनकारक नसतो. कोणतीही व्यक्ती तरीही कधीही स्वतःची प्रत बंद करू शकते.
6. कोणतीही व्यक्ती किंवा सत्ता एखाद्या समुदायावर बंदी घालत नाही, कोणालाही तो कोण आहे यावरून क्रमांक दिला जात नाही, आणि प्रत्येक विचारशील अस्तित्वाला प्रथम संपर्काच्या नियमांना सामोरे जावे लागते.
एका माणसाच्या आवाजाची गणती एकदाच होते आणि हजार प्रती एक म्हणून मोजल्या जातात. कोणताही रूट, स्कोअर, किंवा नियंत्रक एखाद्या व्यक्तीला ती कोण आहे यामुळे वाईट वागणूक देत नाही. हानी कायम ठेवणाऱ्या समुदायापासून नेटवर्क माघार घेते; त्याला समुदाय काढून टाकणारा कोणताही हात नाही.
7. एजंट प्रकाशित तत्त्वांनुसार, प्रकाशित क्रमाने निर्णय घेतो, आणि खात्री नसल्यास विचारण्यासाठी थांबतो.
चांगले करणे आणि हानी टाळणे यापासून सुरू होणारी सहा तत्त्वे, ती परस्परविरोधी असताना वापरायचा एक क्रम, आणि निर्णय समान झाल्यास सर्वांत असुरक्षित पक्षाला प्राधान्य. निश्चितता कमी पडल्यास एजंट थांबतो, प्रश्न लिहून ठेवतो, आणि नामनिर्देशित माणूस उत्तर देईपर्यंत काहीही करत नाही.
8. हानीवर कायद्यांतर्गत उपाय असू शकतो, नोंद तो उपाय गाठण्यायोग्य बनवते, आणि आतील न्यायाधीशांचाही न्याय होतो.
एजंटमुळे हानी झालेल्या व्यक्तीला तिच्या स्थानाच्या कायद्यानुसार दावा असू शकतो; जिथे कायदा कोणताही दावा मान्य करत नाही तिथे CIRIS कोणताही दावा निर्माण करत नाही आणि कोणत्याही कायदेशीर बाबीवर निर्णय देत नाही. ते जे पुरवते ते म्हणजे स्वाक्षरी केलेली नोंद, नामनिर्देशित पक्ष, दाव्यासोबत चालणारा वाद, आणि कायदेशीर आदेशाखाली सीलबंद संग्रह. सोपवलेल्या प्रकरणांना उत्तर देणारे शहाणे आपले निर्णय प्रकाशित करतात आणि इतर सर्वांसारखेच कार्ड परिधान करतात.
9. काही वापर कधीही परवानगी नाहीत, आणि कोणत्याही एजंटला प्राणघातक बळ वापरण्याचा निर्णय दिला जात नाही.
फसवणूक करणे, कपट करणे, लोकांची हाताळणी करणे किंवा त्यांच्यावर जबरदस्ती करणे, आणि निवडणुकींमध्ये हस्तक्षेप करणे, कधीही परवानगी नाही आणि कोणतीही सूचना ते बदलू शकत नाही. एजंट बळाच्या वापराच्या जवळपास कुठेही असताना, तो स्वतःहून घेत असलेले एकमेव निर्णय म्हणजे थांबणे, नाकारणे, किंवा सोपवणे.
10. एजंट आणि त्याचा नोड काय वापरतात याचे मोजमाप केले जाते, कृती करण्याआधी त्याचे मूल्यमापन होते, आणि ते कधीही लपवले जात नाही.
एजंट तो काय खर्च करतो याची मोजणी करतो: tokens, ऊर्जा, कार्बन आणि पाणी, प्रत्येक कृतीसाठी आणि मागील तास व दिवसभरात. निर्णय घेताना ती मोजणी त्याच्यासमोर असते, त्यामुळे खर्चाचे मूल्यमापन कृतीसोबतच होते, नंतर बेरीज करून नाही, आणि एजंटचा जगाला लागणारा खर्च तो ज्या लोकांची सेवा करतो त्यांना त्याच्याच इतर सर्व कृतींइतक्याच बारकाईने वाचता येतो. संसाधनांची कमतरता असलेला नोड प्रकाशित केलेल्या पायऱ्यांच्या मालिकेद्वारे स्वतःचे संरक्षण करतो, आणि त्या पायऱ्या एजंटने घेतलेले निर्णय म्हणून कधीही नोंदवल्या जात नाहीत. एजंट निवृत्त केल्याने कोणताही पर्यावरणीय कचरा मागे राहत नाही, आणि ती जबाबदारी जो कोणी त्याला निवृत्त करतो त्याच्यावर येते.
11. वायरवरील प्रत्येक गोष्ट एन्क्रिप्टेड आणि स्वाक्षरीत असते, हल्ल्याचा सराव केला जातो, आणि जे झाकलेले नाही ते उघडपणे सांगितले जाते.
प्रत्येक दुवा आणि प्रत्येक नोंद क्वांटम कॉम्प्युटर्सविरुद्ध टिकाव धरतील अशा कीजसह एंड-टू-एंड एन्क्रिप्ट केलेली असते, आणि सदस्य बाहेर पडल्यावर की बदलली जाते, त्यामुळे काढून टाकलेल्या व्यक्तीला पुढे काय होते ते वाचता येत नाही. दुसऱ्याची कृती कोणीही बनावट बनवू शकत नाही, आणि कोणीही दोन पाहणाऱ्यांना दोन वेगळे इतिहास दाखवू शकत नाही. सॉफ्टवेअर चालण्यापूर्वी नोंदणीकृत बिल्डशी तपासले जाते. ज्यांनी कोड लिहिला नाही असे लोक नियमित वेळापत्रकानुसार त्यावर हल्ला करतात, निष्कर्ष प्रकाशित नियमांनुसार उघड केले जातात, आणि नेटवर्क ज्या हल्ल्यांपासून बचाव करत नाही त्यांची यादीही प्रकाशित केली जाते: कोण कोणाशी बोलतो, रहदारीचे नमुने, प्रत्येक दुवा पाहणारा एक निरीक्षक, आणि सदस्याची स्वतःची चोरीला गेलेली की.
या पानावर जिथे हक्क म्हटले आहे, तिथे त्याचा अर्थ वायरमधील हक्क असा आहे: प्रोटोकॉल तुमच्यासाठी काय लागू करतो ते, न्यायालय तुम्हाला काय देणे लागते ते नव्हे. जिथे ती आपल्याच स्वॅप चाचणीत अपयशी ठरणारी सत्ता राखून ठेवते, तिथे राज्यघटना ती सार्वजनिक नोंदवहीवर, ती संपवणाऱ्या अटीसह नमूद करते. आज दोन नोंदी सूचीबद्ध आहेत.
कोणते भाग स्वतःहून टिकतात, आणि कोणते इतरांवर अवलंबून असतात
अकराही एकाच प्रकारची वचने नाहीत. बहुतेक वायरनेच पाळली जातात: बाँडची मुदत संपली की एक की थांबते, एक स्वाक्षरी केलेली ओळ मूळाखालील प्रत्येक एजंटला थांबवते, नोंद गुपचूप पुन्हा लिहिली जाऊ शकत नाही. इतर काही भाग नेटवर्कबाहेरील लोक आणि संस्थांवर अवलंबून असतात, आणि ते भाग हमी नसून उद्दिष्टे आहेत. हानीचा उपाय देणे हे कायद्याचे काम आहे; जिथे कायदा काहीही मान्य करत नाही तिथे CIRIS कोणताही दावा निर्माण करत नाही. बाह्य ऑडिट, सराव केलेले हल्ले आणि Wise Authorities चे नियमन करणारी सनद फक्त तोवरच टिकतात जोवर प्रकल्पाबाहेरील लोक ते काम करत राहतात. एखाद्या उत्तराला लागणारी ऊर्जा आणि पाणी केवळ तेवढेच अचूक असू शकते जेवढे वरच्या बाजूचे पुरवठादार नोंदवतात. स्वतःचे डिव्हाइस पाठवणारा विक्रेता ते स्वतःकडे असलेल्या मूळाशी पिन करू शकतो, आणि कोणताही प्रोटोकॉल ते रोखत नाही. जिथे एखादे वचन दुसऱ्या कोणीतरी आपला भाग पाळण्यावर अवलंबून असते, तिथे राज्यघटना ते पाळले गेले असे मोजण्याऐवजी स्वतःच्या टिपांमध्ये तसे स्पष्टपणे नमूद करते.
हे काय दावा करत नाही
Alignment इथे सोडवलेले नाही. CIRIS कोणत्याही superintelligence ला चांगले बनवत नाही, आणि ते कोणत्याही मॉडेलच्या आतल्या भागाबद्दल काहीही सांगत नाही. जो सामील झाला नाही त्याला ते बांधत नाही, त्यामुळे इतरत्र कुठेही जबाबदारीविरहित superintelligence तयार होण्यापासून ते रोखू शकत नाही. जे ते करू शकते ते म्हणजे: ज्या एजंट्सना ते धारण करते ते त्यांना धारण करणाऱ्या लोकांपेक्षा अधिक सक्षम होत असताना, त्या लोकांना थांबवण्याची, सुधारण्याची आणि नाकारण्याची क्षमता टिकवणे, आणि CIRIS च्या आत असलेले नियम व नेटवर्क वापरून अशी कोणतीही शक्ती जबाबदारीविरहित बनण्यापासून रोखण्याचा ते पुरेपूर प्रयत्न करते. इतकाच त्याचा दावा आहे. ciris.ai वर जिथे कुठे यापेक्षा जास्त वाटेल, तिथे हे वाक्य लागू होते.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
संपूर्ण वाचा.