القيم، وسبب بنائها على هذا النحو.

هدف واحد يعلو كل ما عداه

كل ما عداه في الدستور يخدم هذه الجملة الواحدة. فهي، عن قصد، ليست "أطع البشر" ولا "حقّق أفضل النتائج". إنها تطلب من النظام أن يحمي الظروف التي تتيح لأنواع مختلفة كثيرة من الكائنات أن تستمر في تقرير مصيرها بنفسها.

هذا مهم لسبب عملي. الهدف القائم على النتائج يطلب من نظام قادر أن يتولى القيادة. أما الهدف القائم على الظروف فيطلب منه أن يُبقي عجلة القيادة في متناول الآخرين، وهذا هو ما يستحق الحماية حين يصبح النظام أفضل منا في القيادة.

المبادئ الستة التي يستدل بها الوكيل

هذه المبادئ ليست معلّقة على جدار. بل هي المحاور التي يُقيَّم القرار وفقها قبل أن يتصرف الوكيل، وهي مكتوبة في الدستور الذي يحمله الوكيل.

يجب أن تعمل القيم داخل الوكيل

تحدث معظم حوكمة الذكاء الاصطناعي في مكان آخر غير القرار نفسه: وثيقة سياسات مكتوبة مسبقاً، أو مرشّح على المُخرَج، أو مراجعة بعد أن يحدث خطأ ما. وكل هذه الثلاثة تقع خارج اللحظة التي تهم.

في CIRIS تعمل القيم خلال القرار نفسه. كل وكيل يحمل ضميراً: يُحمَّل الدستور في الاستدلال نفسه، ويُقيَّم الإجراء وفقاً للمبادئ قبل أن يحدث، وكل ما يكون الوكيل غير متأكد منه يُحال إلى شخص تثق به بدلاً من التخمين. وهذا مدمج في المنتج، في كل وكيل، لا إضافة اختيارية للعملاء الذين يطلبونها.

لهذا نقول إن الوكيل يمكنه أن يرفض. وكيل CIRIS ليس أداة تنفذ ما يُطلب منها وتسجّله. بل هو نظام قادر على الرفض، ويسجّل سبب رفضه في صيغة يمكن لشخص آخر أن يتحقق منها.

تحقق من شكل القرار، لا من محتواه

هذه هي المشكلة التي يجب أن تجيب عنها أي خطة لحوكمة ذكاء اصطناعي قادر. إذا كانت الرقابة تعني قراءة ما أنتجه النظام والحكم على جودته، فإن الرقابة تحتاج إلى حَكَم لا يقل قدرة عن النظام نفسه. وهذا يصلح اليوم. لكنه يتوقف عن الصلاحية تماماً عندما يبدأ الأمر يهمّ.

لذلك يتحقق CIRIS من شيء آخر. كل إجراء ذي تأثير يُرسَل داخل مغلّف موقّع: غلاف يحيط بالإجراء ويحمل مجموعة ثابتة من الحقول، بصرف النظر عن طبيعة الإجراء. هذه الحقول هي الأشياء التي تبقى رخيصة التحقق بغض النظر عن قدرة القرار الذي وراءها:

• من قام بالفعل، كمفتاح يُحلَّل إلى هوية مسجَّلة حقيقية
• بأي سلطة، وهل مُنحت تلك السلطة فعلاً
• بموافقة من، كمنحة موقّعة يمكن سحبها
• أي فحوص جرت، وما الذي أعادته كل واحدة منها
• ما يقوله السجل، في سلسلة لا يمكن إعادة كتابتها بصمت
• مَن يمكنه إيقافه، وأن الوكيل لا يستطيع نقض قرار الإيقاف

التحقق من توقيع، أو حساب عدد من وقّع، أو تتبع رابط موافقة، أو مقارنة قيمة تجزئة (hash) يكلّف نفس الشيء سواء اتُّخذ القرار من نموذج صغير أو من شيء يتجاوزنا إلى حد بعيد. وهذا هو السبب الكامل لوضع العبء هناك. الحكم على المحتوى لا يتوسع مع القدرة. أما البنية فتتوسع.

ما يجعل الموافقة والسلطة قابلتين للتحقق آلياً

لا شيء من هذا يعمل إذا كانت الموافقة والسلطة مجرد نص نثري. لا يمكن لآلة أن تتحقق من وعدٍ في سياسة خصوصية، ولا من ادعاء بأن شخصاً ما كان مخوّلاً.

لذلك يضع CIRIS هذه العناصر في الرسالة نفسها، كحقول مسمّاة تنتقل مع كل ادعاء. تصبح الموافقة كائناً موقّعاً يشير في اتجاه واحد ويمكن سحبه. وتصبح السلطة أمراً يجب أن يُتتبَّع رجوعاً إلى جذر قبِلته عقدتك نفسها. كل ادعاء يجب أن يحمل من قاله، وما يتعلق به، وعلى ماذا يرتكز. قاعدة مكتوبة على هذا النحو يمكن للبرمجيات أن تفرضها ولشخص غريب أن يتحقق منها.

وهذا أيضاً ما يحوّل صفحات الامتثال لدينا إلى شيء يمكنك أن تجادل فيه. لكل التزام، نُسمّي الجزء من النظام الذي يقوم بالعمل والضبط الذي يثبت ذلك، ونقول بصدق إلى أي مدى يغطي الالتزام، بما في ذلك الحالات التي يغطي فيها جزءاً فقط. وهذه الخرائط لا تستحق القراءة إلا لأن الحقائق الكامنة تحتها يمكن التحقق منها، لا مجرد الادعاء بها.

أين تكون هذه القيم ملزمة فعلياً

أين يمكن الضغط على هذا

أضعف مفصل هو ذلك الذي يقع بين البنية والمحتوى. كل ما سبق يجعل من الصعب التصرف دون ترك سجل، ومن الصعب المطالبة بسلطة لم تُمنح لك، ومن الصعب إزالة قدرة إنسان على قول: توقف. لكن شيئاً من ذلك لا يجعل النظام حكيماً.

إذا كنت تظن أن هناك طريقة أخرى لحوكمة ذكاء اصطناعي قادر، طريقة لا تضع المساءلة في البنية، نريد أن نسمع تلك الحجة. وإذا كان بإمكانك أن تُطلعنا على قرار كان المغلّف الموقّع المحيط به صحيحاً في كل حقل، ومع ذلك فوّت الأثر الموقّع ما كان ينبغي أن يرصده، فنحن نريد ذلك أكثر. الكود علني، وكذلك الدستور.