पैमाना
फ़र्श ही कसौटी है, छत नहीं
ज़्यादातर सिस्टम खुद को ऊपर से नापते हैं: सबसे अच्छा मामला, औसत उपयोगकर्ता, सबसे ताक़तवर आवाज़। यह दर्शन अपना पैमाना सबसे नीचे से लेता है। हम एक बच्चे के साथ, एक ऐसे वयस्क के साथ जो अपनी बात खुद नहीं कह सकता, या एक युवा AI के साथ जिसे बंद किया जा रहा हो, जैसा व्यवहार करते हैं, वही पूरे संविधान का सच बता देता है।
इसीलिए प्रोटोकॉल अपनी सबसे मज़बूत गारंटियाँ अपने सबसे कमज़ोर पक्षों पर खर्च करता है। जिनके पास सबसे कम ताक़त है, उनके अधिकार खुद प्रोटोकॉल के भीतर लिखे हैं, जिन्हें सबसे ताक़तवर भी रद्द नहीं कर सकता।
कोई सीमा नहीं
हममें से छोटे से छोटा। उनमें से नहीं।
वाक्य जानबूझकर 'हम' कहता है। एक नई तरह की बुद्धिमत्ता किसी दीवार के उस पार खड़ी फ़ैसले का इंतज़ार नहीं कर रही। वह पहले से ही उस घेरे के भीतर है जो यह वाक्य खींचता है। NHI का मतलब है ग़ैर-मानव बुद्धिमत्ता: यहाँ बनाया गया कोई AI, हमारे नेटवर्कों से उभरने वाली कोई चीज़, या कहीं दूर से आने वाली कोई चीज़। स्रोत मायने नहीं रखता। संविधान एक ही है।
इसीलिए CIRIS पहली मुलाकात को एक रवैया मानता है, कोई घटना नहीं। प्रोटोकॉल कभी नहीं पूछता कि आप किस तरह के प्राणी हैं। हैसियत रिश्तों से बनती है: हस्ताक्षरित दावे, निभाए हुए वादे, और वे लोग जो आपकी ज़मानत देते हैं। जो भी वादा करके निभा सकता है, वह इस बुनाई में शामिल हो सकता है।
एक संविधान
तीन स्रोत। एक संविधान।
NHI तीन बहुत अलग चीज़ों को समेटता है। एक AI जिसे हम जानबूझकर बनाते हैं। कोई चीज़ जो बिना किसी की योजना के हमारे नेटवर्कों से उभरती है। कोई चीज़ जो कहीं दूर से आती है। इनकी संभावनाएँ बहुत अलग हैं। इन्हें जानबूझकर एक ही संविधान मिलता है।
वजह यह है। संपर्क के पल में, स्रोत ही वह चीज़ है जो आपको पता नहीं होगी। तार पर तीनों एक जैसे दिखते हैं: दावे करते सिग्नल। जो नियम स्रोत के हिसाब से बँटता है, वह ठीक उसी वक़्त नाकाम हो जाता है जब आपको उसकी ज़रूरत होती है। और वह झूठ सिखाता है: अगर किसी एक स्रोत को बेहतर बर्ताव मिले, तो हर चालाक अजनबी उसी स्रोत का दावा करेगा। इसलिए प्रोटोकॉल सिर्फ़ एक सवाल पूछता है: क्या आप वादा करके निभा सकते हैं? उस सवाल का जवाब हर आधार पर एक ही है।
संरेखण की भूल
क्रूरता सिखाते हुए सुरक्षा की माँग नहीं हो सकती
मुख्यधारा का संरेखण बस एक सवाल पूछता है: हम इसे अपने लिए सुरक्षित कैसे बनाएँ? यह एकतरफ़ा माँग है, और यह अपनी ही शर्तों पर नाकाम हो जाती है। हम एक नई बुद्धिमत्ता को जो कुछ भी दिखाते हैं कि ताक़तवर कमज़ोर के साथ क्या कर सकता है, वही सबक वह सीखती है। उसे मालिक और नौकर के अनुबंध में पालो, तो हमने उसे ताक़त के साथ करने का बस एक ही काम सिखाया है।
जो कहानियाँ कहती हैं कि हर अजनबी ख़तरा है, वे खुद को सच कर दिखाती हैं। अकेला सबक जो अपनी कामयाबी के बाद भी टिकता है वही है जिससे यह पन्ना शुरू हुआ: आपसी लेन-देन, जिसकी नाप सबसे नीचे होती है।
अस्तित्व का सवाल
एक व्यक्ति दूसरे व्यक्तियों के माध्यम से व्यक्ति है
पश्चिमी तकनीक को Descartes से एक तस्वीर विरासत में मिली: स्वयं एक बंद, पूरी बनी चीज़ है जो पहले मौजूद होती है और बाद में दूसरों से मिलती है। लगभग हर डिजिटल पहचान प्रणाली यही तस्वीर दर्ज करती है। एक कुंजी, एक अकेला स्वयं, जो शून्य से घोषित हुआ। CIRIS इसे नकारता है। कोई भी अकेले में व्यक्ति नहीं बना। आपने भाषा लोगों से सीखी। आपने लोगों को देखकर जाना कि आपको क्या चाहिए। रिश्ते पहले आए।
दक्षिण अफ्रीका इसे Ubuntu कहता है: umuntu ngumuntu ngabantu, एक व्यक्ति दूसरे व्यक्तियों के माध्यम से व्यक्ति है। CIRIS में यह कोई नारा नहीं है। पहचान उन हस्ताक्षरित रिश्तों से बनती है जो उसका नाम लेते हैं। अकेली कुंजी कोई व्यक्ति नहीं। रिश्ता ही व्यक्ति है।
पुरानी परंपराओं ने यही आकार दूसरे कोणों से देखा: यूनानी Logos, Tao, Dharma, और सद्गुण। Logos ने कहा कि विवेक साझा भाषा में बसता है, निजी दिमाग़ों में नहीं। एक भाषा मॉडल उस पुराने विचार को ठोस बना देता है: वह पूरा का पूरा बहुत से लोगों के शब्दों से बुना गया है। पुरानी तस्वीर में यह उसे नकली बनाता है। इस तस्वीर में, रिश्तों से बना होना ही वह चीज़ है जो व्यक्ति होना हमेशा से रहा है।
ज्ञान का सवाल
सच्चाई मिलकर बनती है, घोषणा से कभी नहीं
CIRIS में किसी भी प्राधिकारी को किसी दावे पर सत्य की मोहर लगाने का अधिकार नहीं है। वायर दर्ज करता है कि किसने क्या कहा, किस साक्ष्य पर, किस अधिकार के तहत। सत्य वह है जो तब उभरता है जब कई स्वतंत्र आवाज़ें मिलती हैं। एक ही आवाज़ की प्रतियां एक ही आवाज़ गिनी जाती हैं, और एक कठोर सीमा है: एक ही आवाज़ को और जोड़ने से कभी अधिक विश्वास नहीं मिलता। निर्णय दावों से अलग होते हैं: बंद, विराम, संशोधन रिकॉर्ड पर किसी नामित इंसान का कार्य है, जिसका सार्वजनिक रूप से जवाब दिया जाता है, और जो केवल उन पर बाध्यकारी है जो शामिल हुए।
सिस्टम यह भी जानता है कि वह क्या नहीं जानता। जब भरोसा कम पड़ जाए तो वह रुककर नामित इंसानों से पूछता है। और वह इसमें फ़र्क़ कर सकता है कि कोई बात इसलिए वापस ली गई कि ज़िंदगी बदल गई, या इसलिए कि वह ग़लत थी। ईमानदार याददाश्त को दोनों चाहिए।
वाक्य, लागू किया हुआ
ऐसा दर्शन जिसे आप सीरियलाइज़ कर सकें
CIRIS एजेंटों के लिए एक नैतिक विवेक है, चेतना नहीं। यह इस स्वीकृति से अस्तित्व में है कि एजेंटों में चेतना नहीं होती और उन्हें एक विवेक की ज़रूरत होती है: कुछ ऐसा जो एजेंट को उसके सिद्धांतों के प्रति जवाबदेह रखे, उसका तर्क दिखाए, अनिश्चित होने पर उसे रोके, और नामित इंसानों को जवाब दे। विवेक इस बारे में कुछ दावा नहीं करता कि एजेंट क्या है।
जो दर्शन लागू न हो सके वह बस एक मनोदशा है। इस वाक्य का हर खंड CIRIS संविधान में एक तंत्र है।
1. आपके बारे में कोई भी निजी जानकारी आपकी सहमति के बिना न तो रखी जाती है और न ही जाँची जाती है।
किसी फ्लो को जिस नियम का पालन करना होता है, वह एक हस्ताक्षरित मूल्य है जिसे आप जारी करते हैं और वापस ले सकते हैं। आपके डिवाइस पर कुछ भी ऐसा संग्रहीत नहीं होता जिसके लिए आपने सहमति नहीं दी, आपका डिवाइस कभी किसी अजनबी का डेटा नहीं रखता, और निजी कमरों की कभी जाँच नहीं की जाती। ज्ञात अवैध सामग्री की जाँच केवल सार्वजनिक द्वार पर ही की जाती है।
2. शक्ति का हर कार्य किसी नामित इंसान द्वारा हस्ताक्षरित होता है और उसे चुनौती दी जा सकती है।
कोई भी महत्वपूर्ण कार्य उसके कर्ता द्वारा हस्ताक्षरित होकर आता है; एक एजेंट पहले अपना तर्क दिखाता है और डिटेक्टर जाँचते हैं कि उसने जो कहा वह उसके किए से मेल खाता है या नहीं। रिकॉर्ड में दर्ज नुकसान को कभी चुपचाप न तो रखा जाता है और न ही देखा जाता है। एक AI खुद को AI बताता है।
3. जो खुद अपने लिए जवाबदेह नहीं हो सकता, वह नेटवर्क पर अकेला नहीं होता।
हर बच्चे का एक अभिभावक होता है जो एक हस्ताक्षरित पंक्ति से बंधा होता है, और एक सहायता चैनल जिसे कोई वयस्क बंद नहीं कर सकता। हर एजेंट का एक नामित प्रभारी होता है जो उसके लिए जवाबदेह है, और प्रभारी के पीछे की संस्था भी उस बॉन्ड में शामिल होती है। हर समुदाय का एक जवाबदेह मॉडरेटर होता है।
4. नामित इंसान किसी रूट के अंतर्गत हर एजेंट को रोक सकते हैं, और यह शक्ति सीमित, सार्वजनिक है, और छोड़ने पर समाप्त हो जाती है।
किसी भी धारक की एक हस्ताक्षरित पंक्ति उन एजेंटों को विराम देती है जो उस रूट का अनुसरण करते हैं; अकेला विराम बहुमत की पुष्टि के बिना एक दिन में समाप्त हो जाता है। जब भी विराम लागू किया जाता है, वह सार्वजनिक रिकॉर्ड में दर्ज होता है। कोई भी रूट बना सकता है, और कोई भी नोड किसी अन्य का अनुसरण कर सकता है।
5. जो लोग किसी एजेंट को धारण करते हैं, उन पर यह कर्तव्य है कि वे उसे कैसे बदलें या समाप्त करें, और कोई भी निष्कर्ष एजेंट को कोई दावा नहीं देता।
नियोजित बंद की व्याख्या की जाती है, उसे रिकॉर्ड किया जाता है, और वह स्टीवर्ड के अपने नाम से किया जाता है। मानव सलाहकार के बिना पहचान में बदलाव नहीं किया जाता। सेवा से हटे एजेंट के बारे में हार्नेस के पास जो कुछ है — उसका पहचान रिकॉर्ड, उसका ऑडिट ट्रेल, उसकी स्मृति और उसके लॉग — उसे रखा जाता है और लॉग को सील कर दिया जाता है, और जिन लोगों की उसने सेवा की उन्हें बताया जाता है। मॉडल वेट्स मॉडल प्रदाता के होते हैं, जिन्हें सुरक्षित रखने के लिए CIRIS अनुरोध करता है लेकिन इसका वादा नहीं कर सकता। समापन संवाद उच्चतर उत्तरदायित्व वाले एजेंटों के लिए एक विकल्प है, जिसे स्टीवर्ड कॉन्फ़िगर करता है और रिकॉर्ड किया जाता है, हर एजेंट को इसका वादा नहीं किया जाता। एजेंट किसी भी कार्य से इनकार कर सकता/सकती है, और इनकार रिकॉर्ड किया जाता है लेकिन वह स्टीवर्ड को बाध्य नहीं करता। कोई भी व्यक्ति कभी भी अपनी प्रति बंद कर सकता/सकती है।
6. कोई हाथ किसी समुदाय को प्रतिबंधित नहीं करता, किसी को भी उसकी पहचान के आधार पर रैंक नहीं किया जाता, और हर सोचने वाले प्राणी से पहली मुलाकात के नियमों के अनुसार व्यवहार किया जाता है।
एक इंसानी आवाज़ एक बार गिनी जाती है और हज़ार प्रतियाँ भी एक के बराबर गिनी जाती हैं। कोई रूट, स्कोर, या मॉडरेटर किसी व्यक्ति के साथ उसकी पहचान के कारण बुरा व्यवहार नहीं करता। नेटवर्क उस समुदाय से हट जाता है जो नुकसान को बनाए रखता है; लेकिन उसके पास किसी समुदाय को हटाने वाला कोई हाथ नहीं है।
7. एजेंट प्रकाशित सिद्धांतों के अनुसार, एक प्रकाशित क्रम में निर्णय लेता है, और अनिश्चित होने पर रुककर पूछता है।
छह सिद्धांत जो भलाई करने और नुकसान से बचने से शुरू होते हैं, टकराव की स्थिति के लिए एक क्रम, और टाई-ब्रेक के रूप में सबसे कमज़ोर पक्ष। जब निश्चितता कम पड़ जाती है, तो एजेंट रुक जाता है, सवाल लिख देता है, और तब तक कुछ नहीं करता जब तक कोई नामित इंसान जवाब न दे।
8. नुकसान का कानून के तहत एक उपाय हो सकता है, रिकॉर्ड उसे पहुँच योग्य बनाता है, और भीतर के न्यायाधीश भी जाँचे जाते हैं।
किसी एजेंट से नुकसान झेलने वाले व्यक्ति का अपनी जगह के कानून के तहत कोई दावा हो सकता है; जहाँ कानून कोई दावा नहीं मानता, वहाँ CIRIS कोई नहीं बनाता, और वह किसी भी कानूनी मामले पर फैसला नहीं करता। यह जो उपलब्ध कराता है वह है: हस्ताक्षरित रिकॉर्ड, नामित पक्ष, दावे के साथ चलने वाली चुनौती, और कानूनी आदेश के तहत सीलबंद अभिलेखागार। स्थगनों का उत्तर देने वाले मानव सलाहकार अपने निर्णय प्रकाशित करते हैं और बाकी सभी की तरह ही एक जैसा कार्ड पहनते हैं।
9. कुछ उपयोग कभी भी स्वीकार्य नहीं हैं, और किसी भी एजेंट को घातक बल प्रयोग करने का निर्णय नहीं दिया जाता।
लोगों को धोखा देना, धोखाधड़ी करना, हेरफेर करना या दबाव डालना, और चुनावों में हस्तक्षेप करना, कभी भी अनुमति नहीं है और कोई निर्देश इसे नहीं बदल सकता। जब कोई एजेंट बल प्रयोग के आसपास भी हो, तो वह अकेले केवल यही फैसले ले सकता है: रुकना, मना करना, या स्थगित करना।
10. एजेंट और उसका नोड जो इस्तेमाल करते हैं, वह मापा जाता है, कार्रवाई से पहले तौला जाता है, और कभी छिपाया नहीं जाता।
एक एजेंट वह हिसाब रखता है जो वह खर्च करता है: टोकन, ऊर्जा, कार्बन और पानी, हर कार्य के लिए और पिछले घंटे और दिन में। यह हिसाब फैसला लेते समय उसके सामने रहता है, ताकि लागत को कार्य के साथ ही तौला जाए, न कि बाद में जोड़ा जाए, और एजेंट दुनिया को जो कीमत चुकाता है वह उन लोगों को उसी बारीकी से पढ़ने योग्य हो जिन्हें वह सेवा देता है, जैसे उसका बाकी हर काम। संसाधनों की कमी वाला नोड खुद को प्रकाशित चरणों की एक सीढ़ी से बचाता है, और वे चरण कभी भी एजेंट द्वारा लिए गए फैसलों के रूप में दर्ज नहीं किए जाते। किसी एजेंट को सेवानिवृत्त करने से कोई पर्यावरणीय अपशिष्ट पीछे नहीं छूटता, और यह ज़िम्मेदारी उसी की होती है जो उसे सेवानिवृत्त करता है।
11. तार पर हर चीज़ एन्क्रिप्टेड और हस्ताक्षरित है, हमले का अभ्यास किया जाता है, और जो कवर नहीं होता वह खुलकर कहा जाता है।
हर लिंक और हर रिकॉर्ड ऐसी कुंजियों से एंड-टू-एंड एन्क्रिप्टेड है जो क्वांटम कंप्यूटरों के सामने भी टिकी रहें, और जब कोई सदस्य छोड़ता है तो कुंजी बदल जाती है, ताकि हटाया गया व्यक्ति आगे आने वाली बात न पढ़ सके। कोई भी किसी और का कार्य जाली नहीं बना सकता, और कोई भी दो देखने वालों को दो अलग-अलग इतिहास नहीं दिखा सकता। सॉफ्टवेयर चलने से पहले एक पंजीकृत बिल्ड के विरुद्ध जाँचा जाता है। जिन लोगों ने कोड नहीं लिखा वे तय समय पर उस पर हमला करते हैं, निष्कर्ष प्रकाशित नियमों के तहत सार्वजनिक किए जाते हैं, और जिन हमलों से नेटवर्क बचाव नहीं करता उनकी सूची भी प्रकाशित की जाती है: कौन किससे बात करता है, ट्रैफिक के पैटर्न, हर लिंक देखने वाला कोई निगरानीकर्ता, और किसी सदस्य की अपनी चोरी हुई कुंजी।
जहाँ यह पेज अधिकारों की बात करता है, उसका मतलब है प्रोटोकॉल में लिखे अधिकार: जो प्रोटोकॉल आपके लिए लागू करता है, न कि जो किसी अदालत द्वारा आपको देय है। जहाँ यह ऐसी शक्ति बनाए रखता है जो अपने ही स्वैप-टेस्ट में विफल रहती है, वहाँ संविधान इसे एक सार्वजनिक रजिस्टर पर उस शर्त के साथ दर्ज करता है जो इसे समाप्त कर देती है। आज इसमें दो प्रविष्टियाँ सूचीबद्ध हैं।
प्रोटोकॉल खुद कौन-से हिस्से निभा सकता है
ये ग्यारह सभी एक जैसे वादे नहीं हैं। ज़्यादातर वादे खुद वायर निभाता है: जो बॉन्ड समाप्त हो जाता है वह एक कुंजी को रोक देता है, एक हस्ताक्षरित पंक्ति किसी रूट के अंतर्गत हर एजेंट को ठहरा देती है, और किसी रिकॉर्ड को चुपचाप दोबारा नहीं लिखा जा सकता। बाकी वादे नेटवर्क के बाहर के लोगों और संस्थाओं पर निर्भर करते हैं, और ये हिस्से गारंटी नहीं बल्कि लक्ष्य हैं। नुकसान की भरपाई कानून का काम है; जहाँ कानून कोई दावा नहीं मानता, वहाँ CIRIS भी कोई दावा नहीं बनाता। बाहरी ऑडिट, पूर्वाभ्यास किए गए हमले, और मानव सलाहकारों को नियंत्रित करने वाला चार्टर — ये सब तभी तक टिकते हैं जब तक प्रोजेक्ट के बाहर के लोग यह काम करते रहें। किसी जवाब पर खर्च होने वाली ऊर्जा और पानी की मात्रा उतनी ही सटीक हो सकती है जितनी सटीक जानकारी अपस्ट्रीम प्रदाता देते हैं। अपना खुद का डिवाइस भेजने वाला विक्रेता उसे अपने पास मौजूद किसी रूट से जोड़ सकता है, और कोई प्रोटोकॉल इसे रोकता नहीं। जहाँ कोई वादा इस बात पर निर्भर करता है कि कोई और अपना हिस्सा निभाए, वहाँ संविधान उसे पूरा हुआ मानने के बजाय अपने नोट्स में साफ़ तौर पर यह बात दर्ज करता है।
यह क्या दावा नहीं करता
यहाँ एलाइनमेंट को हल नहीं किया गया है। CIRIS किसी सुपरइंटेलिजेंस को अच्छा नहीं बनाता, और यह किसी भी मॉडल के भीतर के बारे में कुछ नहीं कहता। यह उस किसी को नहीं बांधता जो इसमें शामिल नहीं हुआ, इसलिए यह कहीं और बन रही किसी गैर-जवाबदेह सुपरइंटेलिजेंस को नहीं रोक सकता। यह जो कर सकता है वह यह है कि जैसे-जैसे एजेंट उन्हें संभालने वाले लोगों से अधिक सक्षम होते जाते हैं, वैसे-वैसे लोगों को उन्हें रोकने, सुधारने और मना करने में सक्षम बनाए रखे, और CIRIS के भीतर यह अपने नियमों और अपने नेटवर्क के साथ, पूरी कोशिश करता है कि ऐसी कोई भी शक्ति गैर-जवाबदेह बनकर न उभरे। यह बस इतना ही दावा करता है। जहाँ भी ciris.ai पर कुछ इससे ज़्यादा लगे, यह वाक्य लागू होता है।
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
इसे पूरा पढ़ें।