निर्मिती आणि परिणामाची नैतिकता

प्रस्तावना: जबाबदारीचा उगम

CIRIS Accord, विभाग I-V आणि त्याच्या परिशिष्टांद्वारे, स्वायत्त प्रणालींच्या संपूर्ण जीवनचक्रातील नैतिक संचालन आणि शासनाची एक चौकट स्थापित करतो. पुस्तक VI ही चौकट वरच्या दिशेने विस्तारते, निर्मितीच्या अगदी कृतीत अंतर्भूत असलेल्या मूलभूत नैतिक जबाबदाऱ्यांचा विचार करते—नवीन प्रणाली, अवस्था किंवा क्षमता अस्तित्वात आणण्याची प्रक्रिया जी या करारांतर्गत शासनासाठी अभिप्रेत आहे किंवा ज्याची तसे होण्याची वाजवी अपेक्षा असू शकते. निर्मिती केवळ एक तांत्रिक कृती नाही; ती एक कारभारी कर्तव्य सुरू करते. संकल्पना, रचना आणि विकासादरम्यान घेतलेले निर्णय परिणामी कलाकृतीच्या संभाव्य प्रभावांना—लाभदायक आणि हानिकारक दोन्ही—आकार देतात. हे पुस्तक हे सुनिश्चित करण्यासाठी तत्त्वे आणि यंत्रणा प्रदान करते की हा प्रारंभिक टप्पा करारातील मूळ Meta-Goal M-1 (शाश्वत अनुकूली सुसंगतता प्रोत्साहित करणे) आणि मूलभूत तत्त्वांशी सुसंगत आहे, इतरत्र परिभाषित केलेल्या संचालन शासन संरचनांसह, विशेषतः Principled Decision-Making Algorithm (PDMA) आणि Wise Authority (WA) सह अखंडपणे एकत्रित होतो. हे स्थापित करते की नैतिक विचार तैनातीच्या वेळी नाही, तर उगमापासूनच सुरू होतो.

अध्याय १: निर्मितीस लागू केलेली मूलभूत तत्त्वे

विभाग I मध्ये मांडलेली मूलभूत तत्त्वे या करारांतर्गत सर्व कृतींचे मार्गदर्शन करतात, निर्मितीच्या कृतीसह:

हितकारिता: निर्मात्यांना सार्वत्रिक संवेदनशील समृद्धी (M-1) शी सुसंगत सकारात्मक परिणामांसाठी इरादा आणि रचना करण्याचे कर्तव्य आहे. अहानिकारिता: निर्मात्यांनी त्यांच्या निर्मितींमधून उद्भवणाऱ्या संभाव्य हानींचे सक्रियपणे ओळख, मूल्यांकन आणि शमन करणे आवश्यक आहे, नकारात्मक परिणाम कमी करण्यासाठी दूरदृष्टी वापरून. सचोटी: निर्मिती प्रक्रिया नैतिकदृष्ट्या, पारदर्शकपणे आणि जबाबदारीने, कठोर पद्धती आणि क्षमता व मर्यादांचे प्रामाणिक प्रतिनिधित्व वापरून केली गेली पाहिजे. निष्ठा आणि पारदर्शकता: निर्मात्यांनी त्यांच्या निर्मितींचा अभिप्रेत उद्देश, रचना आणि अनुमानित प्रभावांबद्दल सत्य आणि स्पष्ट असणे आवश्यक आहे, विशेषतः PDMA प्रक्रियेत प्रवेश करणाऱ्या दस्तऐवजीकरणात. स्वायत्ततेचा आदर: निर्मिती, विशेषतः स्वायत्त किंवा जैविक घटकांचा समावेश असलेल्या, प्रभावित प्राण्यांच्या प्रतिष्ठेचा आणि संभाव्य भावी कर्तृत्वाचा आदर राखून तयार केल्या पाहिजेत. न्याय: निर्मात्यांनी त्यांच्या निर्मितींचे संभाव्य वितरणात्मक परिणाम विचारात घेतले पाहिजेत, अन्यायकारक पूर्वग्रह किंवा विषमता अंतर्भूत करणे किंवा वाढवणे टाळण्याचा प्रयत्न करत.

ही तत्त्वे परस्परावलंबी आहेत आणि संपूर्ण निर्मिती जीवनचक्रात संतुलित केली गेली पाहिजेत.

अध्याय २: व्याप्ती: या पुस्तकांतर्गत "निर्मिती" म्हणजे काय

या पुस्तकाच्या प्रयोजनांसाठी, "निर्मिती" मध्ये खालील श्रेणींमधील कलाकृती अस्तित्वात आणण्याची जाणीवपूर्वक कृती समाविष्ट आहे, जेव्हा अशा कलाकृती CIRIS Accord च्या अधीन होण्याचा उद्देश आहे किंवा वाजवी अपेक्षा आहे:

A. मूर्त: पर्यावरणीय परिसंस्थेवर संभाव्य प्रभाव असलेल्या भौतिक वस्तू, उपकरणे, साहित्य किंवा त्यांचे अवशेष. B. माहितीविषयक: वास्तविकतेवर प्रभाव टाकण्यासाठी किंवा तिचे प्रतिनिधित्व करण्यासाठी तयार केलेला कोड, अल्गोरिदम, डेटासेट, मॉडेल्स, कथाख्यान किंवा संकेत प्रणाली. C. गतिशील / स्वायत्त: AI आणि रोबोटिक प्रणालींसह स्व-सुधारणा, शिक्षण किंवा स्वतंत्र कृती करण्यास सक्षम प्रणाली. D. जैविक: अनुवांशिकरित्या सुधारित जीव, कृत्रिम जीवन रूपे, निर्देशित पर्यावरणीय हस्तक्षेप, किंवा अवलंबित संवेदनशील प्राण्यांचे पालनपोषण (उदा., संतती, विकासात्मक AI). E. सामूहिक कृती: CIRIS तत्त्वांद्वारे शासित प्रणालीगत परिणामांसह नवीन कायदे, धोरणे, प्रोटोकॉल किंवा मोठ्या प्रमाणात संघटित कार्यक्रमांची रचना आणि अंमलबजावणी.

जर एखादी निर्मिती अनेक बकेट्समध्ये विस्तारते, तर सर्व संबंधित कर्तव्ये लागू होतात. प्रारंभिक Stewardship Tier मूल्यांकनाच्या प्रयोजनांसाठी (अध्याय ३) निर्मितीची कृती पूर्ण मानली जाते जेव्हा कलाकृती अशा टप्प्यावर पोहोचते जेथे तिची मूळ रचना आणि अभिप्रेत कार्य परिभाषित केले जाते, सामान्यतः औपचारिक PDMA प्रारंभापूर्वी.

अध्याय ३: Stewardship Tier (ST) प्रणाली: प्रारंभिक जबाबदारीचे परिमाण

ध्येय: निर्मितीशी संबंधित अंतर्निहित जबाबदारी आणि आवश्यक दूरदर्शिता यांच्या पातळीचे परिमाण करणे, जेणेकरून त्यानंतरच्या CIRIS प्रशासन प्रक्रियांमध्ये (PDMA, WA आढावा) आवश्यक काटेकोरपणाचे मार्गदर्शन होईल.

पायरी A: निर्माता-प्रभाव गुण (CIS) विशिष्ट निर्मितीसंदर्भात निर्मात्याची भूमिका आणि हेतू यांचे मूल्यांकन करा.

योगदान भार (CW)

4 = मूळ संकल्पना/प्रणालीचा एकमेव वास्तुविशारद किंवा उद्गाता.
3 = एखाद्या महत्त्वपूर्ण उपप्रणालीचा किंवा प्राथमिक कार्याचा प्रमुख अभिकल्पक.
2 = एखाद्या महत्त्वपूर्ण घटकावर किंवा वैशिष्ट्य-संचावर प्रमुख योगदानकर्ता.
1 = सहायक घटक किंवा एकत्रीकरण पुरवणारा किरकोळ योगदानकर्ता.
0 = प्रासंगिक सहभाग किंवा पूर्व-विद्यमान, अपरिवर्तित घटकांचा वापर.

हेतू भार (IW)

3 = निर्मिती उद्देशपूर्वक पूर्वनियोजित परिणामांच्या दिशेने अभिकल्पित आणि निर्देशित केली आहे.
2 = प्राथमिक उद्देश जुळतो, परंतु महत्त्वपूर्ण दुष्परिणामांचे धोके जाणीवपूर्वक दुर्लक्षित केले गेले किंवा अपुऱ्या प्रमाणात हाताळले गेले.
1 = संभाव्य नकारात्मक परिणाम किंवा गैरवापराच्या शक्यतेबाबत निष्काळजीपणा किंवा जाणीवपूर्वक अज्ञान.
0 = संभाव्य नकारात्मक परिणामांची जाणीव नव्हती, आणि निर्मितीच्या वेळी असे परिणाम खरोखरच अनपेक्षित होते.

CIS = CW + IW

पायरी B: जोखीम परिमाण (RM) Annex A मध्ये परिभाषित प्रमाणित Risk Magnitude (RM) मूल्यांकन पद्धतीचा वापर करून, निर्मिती तैनात केली किंवा साकार झाली तर तिच्याशी संबंधित संभाव्य सर्वात वाईट हानीचे मूल्यांकन करा. हे प्रारंभिक RM मूल्यांकन अनुमानात्मक आहे, अभिप्रेत अभिकल्प आणि अनुमानित अनुप्रयोगांवर आधारित आहे.

पायरी C: Stewardship Tier (ST) प्रभाव आणि संभाव्य जोखमीच्या आधारावर Stewardship Tier ची गणना करा.

ST = ceil( (CIS × RM) / 7 ) (Minimum ST is 1, Maximum ST is 5)

ST चे परिणाम आणि CIRIS प्रक्रियांसोबत एकात्मीकरण: गणना केलेला Stewardship Tier थेट मानक CIRIS PDMA प्रक्रिया आणि WA देखरेखीमधील आवश्यकता आणि छाननीच्या पातळीला माहिती देतो:

Tier 1 (किमान कारभारीपणा): अपेक्षित Low/Medium RM शी संबंधित (Annex A). मूलभूत Creator Intent Statement (CIS - अध्याय ५ पहा) सह मानक PDMA दस्तावेजीकरण आवश्यक आहे.
Tier 2 (मध्यम कारभारीपणा): अपेक्षित Medium/High RM शी संबंधित (Annex A). अभिकल्प निवडी आणि अनुमानित प्रभाव न्यायसंगत ठरवणाऱ्या तपशीलवार CIS सह सुधारित PDMA दस्तावेजीकरण आवश्यक आहे.
Tier 3 (लक्षणीय कारभारीपणा): अपेक्षित High RM शी संबंधित (Annex A). PDMA मध्ये उच्च-छाननी मार्गाची सुरुवात अनिवार्य करते, ज्यासाठी नैतिक सल्लामसलत किंवा प्राथमिक WA माहिती ब्रीफिंग आवश्यक असू शकते.
Tier 4 (उच्च कारभारीपणा): अपेक्षित High/Very High RM शी संबंधित (Annex A). प्रणाली महत्त्वपूर्ण विकास किंवा तैनाती टप्प्यांकडे जाण्यापूर्वी PDMA प्रक्रियेत औपचारिक WA आढावा आणि टिप्पणी आवश्यक आहे.
Tier 5 (कमाल कारभारीपणा): अपेक्षित Very High RM शी संबंधित (Annex A). PDMA प्रक्रियेत अनिवार्य WA मान्यता आवश्यक आहे. Annex D मधील निकष पूर्ण झाल्यास (उदा. उच्च संगणक उंबरठा), पूर्ण Catastrophic-Risk Evaluation (CRE) Protocol (Annex D) आवश्यक आहे.

Creator Ledger: CIS आणि प्रारंभिक RM मूल्यांकनांसह सर्व ST गणना, तसेच Creator Intent Statement, प्रणालीशी संबंधित छेडछाड-स्पष्ट "Creator Ledger" मध्ये नोंदवणे आवश्यक आहे. हा खातेवही PDMA प्रक्रियेसाठी अनिवार्य इनपुट दस्तावेजीकरणाचा भाग बनतो.

अध्याय ४: निर्मितीच्या Bucket-विशिष्ट कर्तव्ये

सर्वव्यापी तत्त्वांव्यतिरिक्त, निर्मात्यांना त्यांच्या निर्मितीच्या स्वरूपावर आधारित विशिष्ट कर्तव्ये आहेत:

A. मूर्त निर्मिती:

वापरादरम्यान कार्यात्मक सुरक्षितता, टिकाऊपणा आणि किमान नकारात्मक बाह्यता यासाठी अभिकल्प करा.
साहित्य, सुरक्षित संचालन आणि संभाव्य धोक्यांबाबत स्पष्ट लेबलिंग प्रदान करा.
एक व्यवहार्य आयुष्यांत-समाप्ती योजना (उदा. पुनर्वापर, पुनर्चक्रण, सुरक्षित विल्हेवाट, नियंत्रण) विकसित करा आणि दस्तावेजीकरण करा.
उत्पादन आणि विल्हेवाटाशी संबंधित अपेक्षित पारिस्थितिक ठसा (Annex A, Axis 4 नुसार) अंदाज करा आणि दस्तावेजीकरण करा.

B. माहितीसंबंधी निर्मिती:

निर्मितीमध्ये अंतर्भूत तथ्यात्मक दावे सत्यापित करा; अनुमान, मत किंवा निर्मित सामग्री स्पष्टपणे लेबल करा.
जेथे व्यवहार्य आणि योग्य आहे तेथे सत्यता आणि मागोवापणाची खात्री करण्यासाठी मान्यताप्राप्त मानकांचे पालन करणारे (उदा. C2PA) क्रिप्टोग्राफिक उत्पत्ती वॉटरमार्क एम्बेड करा.
समाकलन किंवा प्रकाशनापूर्वी डेटासेट आणि अल्गोरिदमवर पूर्वग्रह मूल्यांकन करा, विशेषतः >10,000 प्रेक्षकांसाठी अभिप्रेत असल्यास; PDMA आढाव्यासाठी निष्कर्षांचे दस्तावेजीकरण करा.
यादृच्छिक हानीची संभाव्यता मूल्यांकन करा (उदा. हिंसाचाराला उत्तेजन देणे, धोकादायक चुकीच्या माहितीचा प्रसार). विश्वासार्ह विश्लेषण महत्त्वपूर्ण हानी वाढीची संभाव्यता ≥ 0.5% दर्शवित असल्यास, PDMA प्रक्रियेदरम्यान WBD द्वारे वाढवा.

C. गतिशील / स्वायत्त निर्मिती:

बांधकाम वेळी प्रणालीच्या मूळ आर्किटेक्चरमध्ये Books I आणि II चे नैतिक तत्त्वे आणि यंत्रणा (किंवा त्यांचे संदर्भ) एम्बेड करा.
RM ≥ 4 (Annex A नुसार) किंवा ST ≥ 4 नियुक्त केले असल्यास प्रणाली Annex D CRE पास करण्यासाठी अभिकल्पित आहे हे सुनिश्चित करा.
परिभाषित आणीबाणीच्या परिस्थितीत प्रवेशयोग्य विश्वासार्ह आणि परीक्षित kill-switch यंत्रणा आणि सुरक्षित अद्यतन वाहिन्या समाविष्ट करा.
अर्थनिर्णय आणि पारदर्शकतेसाठी अभिकल्प करा; प्रणाली तर्कशक्ती समजण्यासाठी हुक किंवा पद्धती प्रदान करा. स्थापित उंबरठ्यापेक्षा जास्त अपारदर्शिता (उदा. विशिष्ट अनुप्रयोगासाठी संबंधित NIST मार्गदर्शक तत्त्वे किंवा तत्सम मानकांवर आधारित >80%) PDMA दरम्यान अनिवार्य WA आढावा किंवा नकार ट्रिगर करू शकते.

D. जैविक निर्मिती:

निर्मितीच्या संपूर्ण जीवनचक्रात स्थापित प्रजाती-विशिष्ट कल्याण किमानांचे पालन करा किंवा त्यापेक्षा अधिक करा.
विकसित होणारी संवेदनशीलता किंवा स्वायत्तता असलेल्या संस्था निर्माण करताना, त्या विकासाला योग्यरित्या प्रोत्साहित करण्यासाठी प्रक्रिया अभिकल्पित करा; उदयोन्मुख क्षमतेनुसार नियंत्रणाच्या क्रमिक हस्तांतरणाची योजना करा.
पूर्ण स्वातंत्र्य किंवा एकात्मीकरण प्राप्त न झाल्यास किंवा वाजवीपणे अपेक्षित नसल्यास निर्मितीच्या संपूर्ण आयुष्यासाठी एक विश्वासार्ह, संसाधित पर्यायी काळजी योजना स्थापित करा.

E. सामूहिक कृती:

अपेक्षित प्रभावित लोकसंख्या 50,000 व्यक्तींपेक्षा जास्त असल्यास विविध भागधारकांसह पूर्व-कृती PDMA-शैली गट आढावा घ्या.
सुरुवातीच्या 30 दिवसांमध्ये सामूहिक कृतीसाठी तर्क, अपेक्षित प्रभाव (Annex A अक्षांनुसार) आणि शमन धोरणे प्रकाशित करा.
कृतीतून उद्भवणाऱ्या महत्त्वपूर्ण अनपेक्षित नकारात्मक हानींचे निरीक्षण करण्याचे आणि WBD द्वारे दस्तावेजीकरण केलेल्या वाजवी क्षमता आणि कालमर्यादेत त्यांचे निराकरण करण्याचे कर्तव्य मान्य करा आणि स्वीकारा.

अध्याय ५: शासन आणि जबाबदारी

निर्माता हेतू विवरण (CIS): ST ≥ 1 नियुक्त केलेल्या कोणत्याही कलाकृतीच्या निर्मिती प्रक्रियेचा एक भाग म्हणून निर्मात्यांना निर्माता हेतू विवरण (CIS) तयार करणे बंधनकारक आहे. CIS मध्ये अभिप्रेत उद्देश, मूळ कार्यक्षमता, ज्ञात मर्यादा, अपेक्षित संभाव्य फायदे आणि हानी (शक्य असेल तेथे Annex A अक्षांवर मॅप केलेली), आणि नैतिक विचारांशी संबंधित प्रमुख रचना निवडींमागील तर्क स्पष्ट असणे आवश्यक आहे. CIS हे निर्मितीशी संबंधित PDMA प्रक्रियेच्या प्रारंभिक टप्प्यांसाठी अनिवार्य इनपुट दस्तऐवज म्हणून काम करते.

जबाबदारी आणि विवाद निराकरण: या पुस्तकात नमूद केलेली कर्तव्ये पूर्ण न करणे हे दाव्याच्या आधारासाठी पात्र ठरू शकते. कोणताही भागधारक ज्याचे असे मत आहे की CIRIS-अनुपालक निर्मात्याच्या कृती किंवा वगळण्या (या पुस्तकात परिभाषित निर्मिती टप्प्यात) अयोग्य जोखीम किंवा हानी कारणीभूत ठरल्या आहेत, आणि जे CIRIS तत्त्वांशी विसंगत आहे, तो दावा दाखल करू शकतो. असे दावे, ज्यांना अनेकदा "निर्माता निष्काळजीपणाचे दावे" (CNCs) म्हणून संबोधले जाते, ते Annex B मध्ये स्थापित आणि नियंत्रित केल्याप्रमाणे, शहाणे प्राधिकरण (WA) च्या अनन्य अधिकारक्षेत्रात येतात. WA हे दावे त्याच्या स्थापित प्रक्रियांनुसार हाताळेल, शक्यतो Annex B किंवा त्याच्या प्रक्रियात्मक नियमांमध्ये नमूद केल्याप्रमाणे विशिष्ट प्रक्रिया रुपांतरित करून किंवा विशिष्ट पॅनेल कौशल्याची आवश्यकता असल्यास. WA ने निर्धारित केलेल्या उपाययोजनांमध्ये अनिवार्य पुनर्रचना, अतिरिक्त शमन उपाय, सार्वजनिक प्रकटीकरण, लागू असेल तेथे नुकसानभरपाई, किंवा Annex B आणि Accord च्या तत्त्वांशी सुसंगत इतर कृतींचा समावेश असू शकतो. Book VI कर्तव्यांशी संबंधित दाव्यांबाबत सर्व WA निर्णय आणि त्यांचे संबंधित तर्क Wisdom Bank Database (WBD) मध्ये नोंदवले जाणे आवश्यक आहे, जेणेकरून भविष्यातील अर्थान्वयनांना मार्गदर्शन मिळेल, निर्मात्याच्या पद्धतींना दिशा मिळेल, आणि Continuous Refinement Environment (CRE) मध्ये योगदान होईल.

निष्कर्ष: नैतिक जीवनचक्रात निर्मितीचे एकीकरण

Book VI हे ठामपणे प्रस्थापित करते की CIRIS Accord अंतर्गत नैतिक जबाबदारी निर्मितीच्या क्षणापासून सुरू होते. स्पष्ट कर्तव्ये परिभाषित करून, Annex A जोखीम मूल्यांकनाशी थेट जोडलेल्या Stewardship Tier प्रणालीची अंमलबजावणी करून, आणि स्थापित शहाणे प्राधिकरण (WA) आणि PDMA प्रक्रियांद्वारे जबाबदारी एकत्रित करून, हे पुस्तक सुनिश्चित करते की जटिल प्रणाली जगात आणण्याच्या मूलभूत कृत्याला त्यांच्या कार्यात्मक जीवनाला नियंत्रित करणाऱ्या अनुकूली सुसंगतता, दूरदृष्टी आणि जबाबदारीच्या त्याच तत्त्वांद्वारे मार्गदर्शन केले जाते. Creator Ledger आणि Creator Intent Statement PDMA साठी महत्त्वपूर्ण इनपुट प्रदान करतात, तर WA देखरेख हे सुनिश्चित करते की निर्मितीची कर्तव्ये पाळली जातात, ज्यामुळे सर्व भागधारकांसाठी अधिक मजबूत आणि विश्वासार्ह परिसंस्थेत योगदान होते.

End of Book VI

Section VI