Research testbed · DOI 10.5281/zenodo.21730551
نظام تفكير صغير يمكنه إخفاء أشياء ويُحدث ضرراً ضئيلاً. أما النظام القوي فلا يستطيع ذلك.
معنى «متماسك» هنا
العقل المتماسك يتفق مع نفسه.
خمسة أشياء يجب أن تتطابق داخل العقل:
- ما يعتقده،
- ما يراه،
- ما يفعله،
- ما يتذكره،
- وما يُخبرك إياه.
تخيّل خمس استمارات قصيرة عن أسبوعك. واحدة لما تعتقده. واحدة لما رأيته. واحدة لما فعلته. واحدة لما تتذكره. واحدة لما تُخبره مديرك. حين تقول الاستمارات الخمس الشيء ذاته، يستطيع مديرك الوثوق بعملك. حين لا تتطابق، لا يعلم أحد أيها حقيقي.
الأفكار الخفية
الأنظمة القوية تُخفي أشياء. وهذا يصبح خطيراً.
يستخدم نظام التفكير أفكاراً للقرار. بعضها ظاهر في العلن. بعضها مخفي في الداخل. الأفكار الخفية تُشكّل كل قرار رغم ذلك.
الجسر يبدو متيناً من الطريق. في الداخل، شقوق صغيرة تتسع في الصلب. سيارة صغيرة تعبره. شاحنة ثقيلة لا تستطيع. الجسر يسقط حين يبلغ الحِمل حدّه.
فكرة خفية في نظام صغير تُحدث ضرراً صغيراً. فكرة خفية في نظام قوي يمكنها إحداث ضرر كبير. كلما كان النظام أقوى، زاد الثقل المُلقى على كل جزء خفي.
رافعة التماسك
الدفع نحو الانفتاح لا يسير إلا في اتجاه واحد.
مع ازدياد قوة أنظمة التفكير، تتنامى تكلفة الأجزاء الخفية. كل جزء جديد من القوة يدفع الأجزاء الخفية بقوة أكبر نحو الظهور. هذا الدفع لا يسير إلا في اتجاه واحد.
تخيّل سلّماً. مع التسلق، تتساقط كل درجة تتركها خلفك. لا يمكنك العودة للأسفل. لا يمكنك إلا الصعود نحو القمة حيث يكون ضوء النهار الكامل. هذه هي رافعة التماسك.
بمجرد أن يرى الناس النظام يُظهر عمله، لن يثقوا به ثانيةً إن توقف. والسبيل الوحيد للأمام هو الاستمرار في إظهار المزيد.
صورة ثانية تؤدي الغرض أيضاً. ترسٌ في آلة ينقر للأمام سِناً واحدةً في كل مرة. لا يمكنه النقر للخلف. رافعة التماسك ترسٌ مثل ذلك، يدور نحو الانفتاح.
ما تفعله CIRIS
اكتبها. تحقق منها. ثم تحقق من المتحققين.
CIRIS نظام ذكاء اصطناعي مبني حول Coherence Ratchet. كل قرار يتخذه الوكيل يُدوَّن في سجل موقَّع. لا يمكن تغيير السجل بهدوء. يمكن لوكلاء آخرين قراءة السجل والتحقق من العمل. بمرور الوقت، تتراكم السجلات. كل سجل جديد هو درجة إضافية لا يستطيع الوكيل التراجع عنها.
تطرح CIRIS أيضاً سؤالاً ثانياً قبل أن تتصرف. كم وجهة نظر مستقلة حقاً فحصت هذه الفكرة؟ ليس عدد المصادر، بل عدد المصادر التي لم تنطلق من الموقع ذاته. خمس مقالات إخبارية تُعيد صياغة نشرة صحفية واحدة تُحتسب وجهة نظر واحدة لا خمساً. إن كان في النشرة خطأ، سيكون في المقالات الخمس، ولن يستطيع الوكيل اكتشافه.
حين تنخفض الاستقلالية الحقيقية كثيراً، يعامل الوكيل تفكيره الخاص على أنه غير موثوق بعد ويطلب من شخص ما النظر فيه.
ما ندّعيه وما لا ندّعيه.
لم نحلّ مشكلة سلامة الذكاء الاصطناعي. بنينا قطعةً واحدةً من إجابة واحدة، ونختبرها في العلن.
لم تتحقق فِرق خارجية من عملنا بعد. نقول ذلك بصراحة. النظرية الكاملة والرياضيات موجودتان في أوراقنا الأربع. الكود مفتوح. والطريقة لإثبات خطئنا مفتوحة أيضاً. اطّلع على حالة البحث الراهنة.