मूल्ये, आणि ती अशा प्रकारे का घडवली गेली आहेत.

इतर सर्वांपेक्षा वरचे एक ध्येय

राज्यघटनेतील इतर सर्व काही या एका वाक्याची सेवा करते. हे मुद्दाम "मानवांचे पालन करा" नाही आणि "चांगले परिणाम जास्तीत जास्त करा" असेही नाही. ते प्रणालीला अशा परिस्थिती जपण्यास सांगते ज्यामध्ये अनेक भिन्न प्रकारचे अस्तित्व स्वतःसाठी निर्णय घेत राहू शकतात.

याला एक व्यावहारिक कारण आहे. परिणामांबद्दलचे ध्येय सक्षम प्रणालीला चाक हाती घेण्यास सांगते. परिस्थितींबद्दलचे ध्येय तिला चाक इतरांच्या आवाक्यात ठेवण्यास सांगते, आणि प्रणाली आपल्यापेक्षा चांगली चालवत असते तेव्हा जपण्यासारखी हीच गोष्ट आहे.

एजंट ज्या सहा तत्त्वांनुसार विचार करतो

ही भिंतीवर लावलेली नाहीत. एजंट कृती करण्यापूर्वी निर्णयाची ज्या अक्षांविरुद्ध मोजणी करतो ती हीच आहेत, आणि एजंट वाहून नेत असलेल्या राज्यघटनेत ती लिहिलेली आहेत.

मूल्ये एजंटच्या आतच चालायला हवीत

बहुतांश AI प्रशासन निर्णयाशिवाय इतरत्र कुठेतरी घडते: आधीच लिहिलेला धोरण दस्तऐवज, निष्कर्षावरील फिल्टर, काहीतरी चुकल्यानंतरचा आढावा. या तिन्ही गोष्टी महत्त्वाच्या क्षणाबाहेर असतात.

CIRIS मध्ये मूल्ये निर्णयादरम्यान चालतात. प्रत्येक एजंट विवेक वाहून नेतो: राज्यघटना विचार-प्रक्रियेतच भारित केलेली असते, कृती घडण्यापूर्वी तत्त्वांविरुद्ध मोजली जाते, आणि एजंटला ज्याबद्दल अनिश्चितता वाटते ते अंदाज न बांधता तुमच्या विश्वासातील व्यक्तीकडे सोपवले जाते. हे उत्पादनात, प्रत्येक एजंटमध्ये, आधीच समाविष्ट असते, विचारणा करणाऱ्या ग्राहकांसाठीचे जोड-वैशिष्ट्य नसते.

म्हणूनच आम्ही म्हणतो की एजंट नकार देऊ शकतो. CIRIS एजंट हे असे साधन नाही जे सांगितलेले करते आणि त्याची नोंद ठेवते. ती एक प्रणाली आहे जी नकार देऊ शकते, आणि ती नकाराचे कारण अशा स्वरूपात नोंदवते जे इतर कोणीही तपासू शकेल.

निर्णयाचा आशय नव्हे, तर आकार तपासा

सक्षम AI च्या प्रशासनाच्या प्रत्येक योजनेने उत्तर द्यावी अशी समस्या ही आहे. जर देखरेखीचा अर्थ प्रणालीने काय निर्माण केले ते वाचणे आणि ते चांगले होते का याचा न्याय करणे असा असेल, तर देखरेखीला प्रणालीइतकाच सक्षम न्यायाधीश हवा असतो. हे आज काम करते. हे नेमके तेव्हा काम करणे थांबवते जेव्हा ते महत्त्वाचे होऊ लागते.

म्हणून CIRIS काहीतरी वेगळे तपासते. महत्त्वाची प्रत्येक कृती सही केलेल्या आवरणात प्रवास करते: कृतीभोवतीचे एक आवरण जे, कृती काहीही असो, क्षेत्रांचा निश्चित संच वाहून नेते. मागचा निर्णय कितीही सक्षम असला तरी ती क्षेत्रे पडताळणीसाठी नेहमी सोपी राहतात:

• कोणी कृती केली, ही खरी नोंदणीकृत ओळख दर्शवणारी किल्ली म्हणून
• कोणत्या अधिकाराखाली, आणि तो अधिकार खरोखर दिला गेला होता का
• कोणाच्या संमतीने, मागे घेता येणाऱ्या सही केलेल्या मंजुरीच्या रूपात
• कोणत्या तपासण्या चालल्या, आणि प्रत्येकीने काय परिणाम दिला
• नोंद काय सांगते, अशा साखळीत जी गुपचूप पुन्हा लिहिली जाऊ शकत नाही
• कोण ते थांबवू शकते, आणि एजंट थांबवण्याचा निर्णय उलटवू शकत नाही

स्वाक्षरी तपासणे, कोणी सही केली हे मोजणे, संमती दुव्याचे पालन करणे किंवा हॅशची तुलना करणे — निर्णय एका छोट्या मॉडेलने घेतला असो किंवा आपल्यापेक्षा खूप पुढे असलेल्या कशाने, याचा खर्च समान असतो. हाच सगळा भार तिथे ठेवण्याचे कारण आहे. आशयाबद्दलचा न्याय क्षमतेसोबत वाढत नाही. संरचना वाढते.

संमती आणि अधिकार यंत्राद्वारे तपासण्यायोग्य कशामुळे बनतात

संमती आणि अधिकार जर केवळ मजकूर असतील तर यातील काहीही चालत नाही. गोपनीयता धोरणातील वचन यंत्राद्वारे तपासले जाऊ शकत नाही, आणि कोणाला अधिकार दिला होता हा दावाही तपासला जाऊ शकत नाही.

म्हणून CIRIS त्यांना संदेशातच ठेवते, प्रत्येक दाव्यासोबत प्रवास करणाऱ्या नामांकित क्षेत्रांच्या रूपात. संमती एका दिशेने निर्देशित करणारी आणि मागे घेता येणारी सही केलेली वस्तू बनते. अधिकार असे काही बनते जे तुमच्या स्वतःच्या नोडने मान्य केलेल्या मुळापर्यंत परत जाता येते. प्रत्येक दाव्याने कोणी सांगितले, तो कशाबद्दल आहे, आणि तो कशावर आधारला आहे हे वाहून नेलेच पाहिजे. अशा प्रकारे लिहिलेला नियम सॉफ्टवेअरद्वारे लागू केला जाऊ शकतो आणि अनोळखी व्यक्तीकडूनही तपासला जाऊ शकतो.

यामुळेच आमची सुसंगतता पाने अशी बनतात ज्यांच्याशी तुम्ही वाद घालू शकता. प्रत्येक बाध्यतेसाठी आम्ही ते कार्य करणारा प्रणालीचा भाग आणि ते सिद्ध करणारे नियंत्रण नामांकित करतो, आणि ती बाध्यता किती प्रमाणात व्यापलेली आहे हे प्रामाणिकपणे सांगतो, जिथे ती फक्त अंशतः व्यापलेली असेल तेही. ही मॅपिंग वाचण्यासारखी आहेत कारण त्यांच्या आतील तथ्ये तपासली जाऊ शकतात, केवळ दावा केलेली नाहीत.

ही मूल्ये प्रत्यक्षात कुठे बंधनकारक आहेत

यावर कुठे प्रश्न विचारावेत

सर्वात कमकुवत जोड ही संरचना आणि सारांश यांच्यातील आहे. वरील सर्व काही नोंद न ठेवता कृती करणे कठीण करते, तुम्हाला न दिलेल्या अधिकाराचा दावा करणे कठीण करते, आणि थांबा म्हणण्याची मानवाची क्षमता काढून घेणे कठीण करते. यातील कोणतीही गोष्ट प्रणालीला शहाणी बनवत नाही.

जर तुम्हाला वाटत असेल की सक्षम AI ला नियंत्रित करण्याचा दुसरा मार्ग आहे, जो जबाबदारी संरचनेत ठेवत नाही, तर ते मत आम्ही ऐकायला उत्सुक आहोत. जर तुम्ही आम्हाला असा निर्णय दाखवू शकलात ज्याभोवतीचे सही केलेले आवरण प्रत्येक क्षेत्रात बरोबर होते, पण सही केलेल्या तपासणी-नोंदीने जे पकडायला हवे होते ते चुकवले, तर ते आम्हाला त्याहूनही जास्त हवे आहे. कोड सार्वजनिक आहे आणि राज्यघटनाही.