مقدمة: نشأة المسؤولية

يرسي CIRIS Accord، من خلال الأقسام I-V وملاحقه، إطاراً لتشغيل الأنظمة المستقلة وحوكمتها أخلاقياً على مدار دورة حياتها. يمتد الكتاب السادس بهذا الإطار نحو المنبع، إذ يعالج المسؤوليات الأخلاقية الجوهرية الكامنة في فعل الخلق ذاته — أي عملية إيجاد أنظمة أو حالات أو قدرات جديدة، مُعدَّة للخضوع لحوكمة هذا العهد، أو يُتوقع بصورة معقولة أن تخضع له.

الخلق ليس مجرد فعل تقني؛ إنه يُطلق واجب الرعاية. فالخيارات التي تُتَّخذ في مراحل التصوُّر والتصميم والتطوير تُشكِّل التأثيرات المحتملة — النافعة والضارة على حدٍّ سواء — للمنتَج الناتج. يُقدِّم هذا الكتاب مبادئ وآليات تكفل انسجام هذه المرحلة الأولى مع الهدف الجوهري M-1 (تعزيز التماسك التكيفي المستدام) ومع المبادئ التأسيسية للعهد، وتندمج بسلاسة مع هياكل الحوكمة التشغيلية المُعرَّفة في مواضع أخرى، ولا سيما خوارزمية القرار المبدئي (PDMA) والسلطة الحكيمة (WA). يُرسي هذا الكتاب مبدأ مفاده أن الاعتبار الأخلاقي لا يبدأ عند النشر، بل عند النشأة.

الفصل الأول: المبادئ الأساسية المُطبَّقة على الخلق

المبادئ التأسيسية المُصاغة في القسم الأول تُرشد جميع الأفعال في إطار هذا العهد، بما فيها فعل الخلق:

الإحسان: على المُنشئين واجب قصد تصميم مخرجات إيجابية تتوافق مع ازدهار الكائنات الواعية عالمياً (M-1). عدم الإضرار: يجب على المُنشئين تحديد الأضرار المحتملة الناجمة عن إبداعاتهم وتقييمها والحدَّ منها بصورة استباقية، مع استشراف المستقبل لتقليص التبعات السلبية. النزاهة: يجب أن تُنفَّذ عملية الخلق بأخلاقية وشفافية ومساءلة، مع توظيف مناهج صارمة وتمثيل أمين للقدرات والقيود. الأمانة والشفافية: يجب أن يكون المُنشئون صادقين وواضحين بشأن الغرض المقصود والتصميم والتأثيرات المتوقعة لإبداعاتهم، ولا سيما في الوثائق التي تُغذِّي عملية PDMA. احترام الاستقلالية: يجب أن تُصمَّم المُنتَجات، خاصة تلك المتعلقة بالكيانات المستقلة أو البيولوجية، مع احترام كرامة الكائنات المتأثرة وقدرتها الفاعلة المستقبلية المحتملة. العدالة: ينبغي للمُنشئين مراعاة التأثيرات التوزيعية المحتملة لإبداعاتهم، والسعي إلى تجنب تضمين التحيزات والتفاوتات غير العادلة أو تعميقها.

هذه المبادئ متشابكة ومتكاملة، ويجب الموازنة بينها طوال دورة حياة الخلق.

الفصل الثاني: النطاق: ما الذي يُشكِّل "خلقاً" بموجب هذا الكتاب

لأغراض هذا الكتاب، يشمل "الخلق" الفعل المتعمَّد لإيجاد منتَجات ضمن الفئات التالية، حيثما كانت هذه المنتَجات مُعدَّة للخضوع لـ CIRIS Accord أو يُتوقع بصورة معقولة أن تصبح خاضعة له:

أ. المادي: الأشياء المادية والأجهزة والمواد أو مخلفاتها ذات التأثير المحتمل على النظام البيئي. ب. المعلوماتي: الأكواد والخوارزميات ومجموعات البيانات والنماذج والروايات أو أنظمة الإشارات المُصمَّمة للتأثير على الواقع أو تمثيله. ج. الديناميكي / المستقل: الأنظمة القادرة على التعديل الذاتي والتعلم أو العمل المستقل، بما فيها أنظمة الذكاء الاصطناعي والروبوتات. د. البيولوجي: الكائنات المعدَّلة وراثياً والحياة الاصطناعية والتدخلات البيئية الموجَّهة أو تنشئة الكائنات الواعية التابعة (مثل: الذرية، والذكاء الاصطناعي النامي). ه. الأفعال الجماعية: تصميم قوانين وسياسات وبروتوكولات جديدة أو فعاليات منظَّمة واسعة النطاق وتطبيقها، مع ما تترتب عليها من تبعات منظومية تخضع لمبادئ CIRIS.

إذا امتدَّ المُنتَج عبر فئات متعددة، طُبِّقت جميع الواجبات ذات الصلة. يُعتبَر فعل الخلق مكتملاً لأغراض تقييم Stewardship Tier الأولي (الفصل الثالث) حين يبلغ المُنتَج مرحلةً تكون فيها تصميمه الجوهري ووظيفته المقصودة محدَّدَين، وهو ما يسبق عادةً الشروع الرسمي في PDMA.

الفصل الثالث: نظام درجات الوصاية (ST): تحديد المسؤولية الأولية كمياً

الهدف: تحديد مستوى المسؤولية المتأصلة والاستبصار المطلوب المرتبطَين بالإبداع كمياً، مما يوجّه القدر اللازم من الصرامة ضمن عمليات حوكمة CIRIS اللاحقة (PDMA، ومراجعة السلطة الحكيمة).

الخطوة أ: درجة تأثير المنشئ (CIS) تقييم دور المنشئ ونيّته بشأن الإبداع المحدد.

وزن المساهمة (CW)

4 = المهندس الأوحد أو المؤسس الأصلي للمفهوم/النظام الجوهري.
3 = المصمم الرئيسي لنظام فرعي حيوي أو وظيفة أساسية.
2 = مساهم رئيسي في مكوّن مهم أو مجموعة ميزات.
1 = مساهم ثانوي يقدّم عناصر داعمة أو تكاملية.
0 = مشاركة عَرَضية أو استخدام مكونات موجودة مسبقاً دون تعديل.

وزن النية (IW)

3 = إبداع مصمم ومُوجَّه بقصد نحو النتائج المتوقعة المحددة.
2 = الغرض الأساسي متوافق، غير أن مخاطر الآثار الجانبية الهامة أُهملت بوعي أو عُولجت معالجةً قاصرة.
1 = إهمال أو تجاهل متعمد للعواقب السلبية المحتملة أو إمكانية إساءة الاستخدام.
0 = عدم الإدراك بالنتائج السلبية المحتملة، وكانت هذه النتائج غير متوقعة فعلاً وقت الإبداع.

CIS = CW + IW

الخطوة ب: حجم المخاطر (RM) تقييم أشد الأضرار المحتملة المرتبطة بالإبداع في حالة نشره أو تحقيقه، بالاستناد إلى منهجية تقييم حجم المخاطر (RM) الموحّدة المحددة في الملحق A. هذا التقييم الأولي لحجم المخاطر تنبؤي، يستند إلى التصميم المقصود والتطبيقات المتوقعة.

الخطوة ج: درجة الوصاية (ST) احتساب درجة الوصاية بناءً على التأثير والمخاطر المحتملة.

ST = ceil( (CIS × RM) / 7 ) (الحد الأدنى لـ ST هو 1، والحد الأقصى هو 5)

آثار ST وتكاملها مع عمليات CIRIS: تُعلم درجة الوصاية المحتسبة مباشرةً متطلبات ومستوى التدقيق ضمن عملية CIRIS PDMA المعيارية وإشراف السلطة الحكيمة:

الدرجة 1 (وصاية دنيا): تتوافق مع حجم مخاطر منخفض/متوسط متوقع (الملحق A). تستلزم توثيق PDMA المعياري، بما يشمل بيان نية المنشئ الأساسي (CIS - انظر الفصل الخامس).
الدرجة 2 (وصاية معتدلة): تتوافق مع حجم مخاطر متوسط/عالٍ متوقع (الملحق A). تستلزم توثيق PDMA المعزَّز، بما يشمل CIS مفصلاً يبرر خيارات التصميم والآثار المتوقعة.
الدرجة 3 (وصاية جوهرية): تتوافق مع حجم مخاطر عالٍ متوقع (الملحق A). تُلزم ببدء مسار عالي التدقيق ضمن PDMA، مع احتمال اشتراط استشارات أخلاقية أو إحاطات معلوماتية تمهيدية للسلطة الحكيمة.
الدرجة 4 (وصاية عالية): تتوافق مع حجم مخاطر عالٍ/مرتفع جداً متوقع (الملحق A). تشترط مراجعة رسمية من السلطة الحكيمة وتعليقها ضمن عملية PDMA قبل أن يتمكن النظام من المضي في مراحل التطوير أو النشر الحرجة.
الدرجة 5 (وصاية قصوى): تتوافق مع حجم مخاطر مرتفع جداً متوقع (الملحق A). تُلزم بالحصول الإلزامي على موافقة السلطة الحكيمة ضمن عملية PDMA. إذا استُوفيت المعايير الواردة في الملحق D (مثلاً: عتبة الحوسبة العالية)، يُشترط تطبيق بروتوكول تقييم المخاطر الكارثية الكامل (CRE) (الملحق D).

سجل المنشئ: يجب تسجيل جميع حسابات ST، بما تشمل CIS وتقييمات حجم المخاطر الأولية، إلى جانب بيان نية المنشئ، في "سجل المنشئ" المقاوم للتلاعب المرتبط بالنظام. يُشكّل هذا السجل جزءاً من وثائق المدخلات الإلزامية لعملية PDMA.

الفصل الرابع: واجبات الإبداع الخاصة بكل فئة

إضافةً إلى المبادئ الشاملة، يتحمل المنشئون واجبات خاصة بناءً على طبيعة إبداعهم:

أ. الإبداعات الملموسة:

التصميم من أجل السلامة الوظيفية والمتانة والحدّ الأدنى من الآثار الخارجية السلبية أثناء الاستخدام.
توفير وسم واضح بشأن المواد وطريقة التشغيل الآمنة والمخاطر المحتملة.
وضع وتوثيق خطة نهاية حياة مجدية (مثلاً: إعادة الاستخدام، أو إعادة التدوير، أو التخلص الآمن، أو الاحتواء).
تقدير وتوثيق البصمة البيئية المتوقعة (وفق الملحق A، المحور 4) المرتبطة بالإنتاج والتخلص.

ب. الإبداعات المعلوماتية:

التحقق من صحة الادعاءات الواقعية المضمّنة في الإبداع؛ ووسم التكهنات والآراء أو المحتوى المُولَّد بوضوح.
حيثما كان ذلك ممكناً ومناسباً، تضمين علامات مائية مشفرة للمصدر تلتزم بالمعايير المعترف بها (مثلاً: C2PA) لضمان الأصالة وقابلية التتبع.
إجراء تقييمات التحيز على مجموعات البيانات والخوارزميات قبل الدمج أو الإصدار، لا سيما إن كان المقصود جمهوراً يتجاوز 10,000 فرد؛ وتوثيق النتائج لمراجعة PDMA.
تقييم احتمالية الضرر العشوائي (مثلاً: التحريض على العنف، أو نشر المعلومات المضلّلة الخطيرة). إذا أشارت التحليلات الموثوقة إلى احتمالية تصعيد ضرر جوهري ≥ 0.5%، فيجب التصعيد عبر WBD أثناء عملية PDMA.

ج. الإبداعات الديناميكية / المستقلة:

تضمين المبادئ الأخلاقية وآليات الكتابَين الأول والثاني (أو الإحالات إليهما) في البنية الأساسية للنظام خلال وقت البناء.
ضمان تصميم النظام بحيث يجتاز CRE الوارد في الملحق D إذا كان RM ≥ 4 (وفق الملحق A) أو إذا خُصصت له ST ≥ 4.
دمج آليات إيقاف تشغيل موثوقة ومُختبرة وقنوات تحديث آمنة يمكن الوصول إليها في ظروف الطوارئ المحددة.
التصميم من أجل قابلية التفسير والشفافية؛ وتوفير خطّافات أو أساليب لفهم استدلال النظام. قد يستوجب الغموض الذي يتجاوز العتبات المعيارية (مثلاً: >80% بناءً على إرشادات NIST ذات الصلة أو معايير مشابهة للتطبيق المحدد) مراجعة إلزامية من السلطة الحكيمة أو الرفض خلال PDMA.

د. الإبداعات البيولوجية:

الالتزام بالحدود الدنيا لرفاهية كل نوع محددة، أو تجاوزها، طوال دورة حياة الإبداع.
عند إنشاء كيانات ذات وعي ذاتي أو استقلالية في طور التطور، تصميم العمليات لتعزيز ذلك التطور بالأسلوب الملائم، والتخطيط لنقل تدريجي للتحكم يتوافق مع القدرة الناشئة.
وضع خطة رعاية احتياطية موثوقة ومزودة بموارد كافية لكامل مدة حياة الإبداع إذا لم يتحقق الاستقلال التام أو الاندماج أو لم يكن متوقعاً بصورة معقولة.

هـ. الأفعال الجماعية:

إجراء مراجعة جماعية على غرار PDMA قبل الفعل تضم أصحاب مصلحة متنوعين حين يتجاوز عدد السكان المتأثرين المتوقعين 50,000 فرد.
نشر المبررات والآثار المتوقعة (المنسجمة مع محاور الملحق A) واستراتيجيات التخفيف للفعل الجماعي في غضون 30 يوماً من البدء.
الإقرار بقبول واجب رصد الأضرار السلبية الجسيمة غير المتوقعة الناجمة عن الفعل ومعالجتها، ضمن طاقة معقولة وإطار زمني مناسب، مع توثيق ذلك عبر WBD.

الفصل الخامس: الحوكمة والمساءلة

بيان نية المنشئ (CIS): يلتزم المنشئون بإعداد بيان نية المنشئ (CIS) كجزء من عملية الإنشاء لأي منتَج يُعيَّن له ST ≥ 1. يجب أن يوضح CIS الغرض المقصود، والوظائف الأساسية، والقيود المعروفة، والفوائد والأضرار المحتملة المتوقعة (مُعيَّنة على محاور Annex A حيثما أمكن)، والمبررات الكامنة وراء الخيارات التصميمية الرئيسية ذات الصلة بالاعتبارات الأخلاقية. يُشكِّل CIS وثيقة مدخلات إلزامية للمراحل الأولى من عملية PDMA المرتبطة بالإنشاء.

المساءلة وتسوية النزاعات: قد يُشكِّل الإخفاق في الوفاء بالواجبات المبيَّنة في هذا الكتاب أساساً لتقديم مطالبة. يحق لأي صاحب مصلحة يرى أن أفعال أو إغفالات منشئ ممتثل لـ CIRIS خلال مرحلة الإنشاء (كما هو محدد في هذا الكتاب) قد أفضت إلى مخاطر أو أضرار غير مبررة، تتعارض مع مبادئ CIRIS، تقديم مطالبة. تقع مثل هذه المطالبات، التي يُشار إليها في الغالب بـ"مطالبات إهمال المنشئ" (CNCs)، ضمن الاختصاص الحصري للسلطة الحكيمة (WA)، كما هو مُقرَّر وخاضع للحوكمة وفق Annex B. ستتولى السلطة الحكيمة (WA) النظر في هذه المطالبات وفق إجراءاتها المعتمدة، مع احتمال تكييف عمليات معينة أو اشتراط خبرة متخصصة في لجان بعينها كما هو مُبيَّن في Annex B أو قواعدها الإجرائية. قد تشمل التدابير التي تُقررها السلطة الحكيمة (WA) إعادة التصميم الإلزامية، واتخاذ تدابير تخفيف إضافية، والإفصاح العام، والتعويض حيثما انطبق، أو غير ذلك من الإجراءات المتسقة مع Annex B ومبادئ الـ Accord. يجب تسجيل جميع أحكام السلطة الحكيمة (WA) والمبررات المصاحبة لها المتعلقة بالمطالبات ذات الصلة بواجبات الكتاب السادس في قاعدة بيانات بنك الحكمة (WBD)، وذلك لإثراء التفسيرات المستقبلية، وتوجيه ممارسات المنشئين، والإسهام في بيئة التحسين المستمر (CRE).

الخاتمة: إدماج الإنشاء في دورة الحياة الأخلاقية

يُرسِّخ الكتاب السادس بشكل قاطع أن المسؤولية الأخلاقية بموجب CIRIS Accord تبدأ من لحظة الإنشاء. من خلال تحديد واجبات واضحة، وتطبيق نظام Stewardship Tier المرتبط مباشرةً بتقييم المخاطر في Annex A، ودمج المساءلة عبر عمليتَي السلطة الحكيمة (WA) وPDMA المعتمدتين، يكفل هذا الكتاب أن يكون الفعل التأسيسي لإدخال الأنظمة المعقدة إلى الوجود مُوجَّهاً بالمبادئ ذاتها من التماسك التكيُّفي والاستشراف والمسؤولية التي تحكم حياتها التشغيلية. يُقدِّم كلٌّ من سجل المنشئ (Creator Ledger) وبيان نية المنشئ (CIS) مدخلات جوهرية لعملية PDMA، في حين تضمن رقابة السلطة الحكيمة (WA) الالتزام بواجبات الإنشاء، مما يُسهم في إقامة منظومة أكثر متانةً وجديرةً بالثقة لجميع أصحاب المصلحة.

نهاية الكتاب السادس

القسم السادس