اقدار، اور یہ اس انداز میں کیوں بنائی گئی ہیں۔

باقی سب سے بالاتر ایک مقصد

دستور میں باقی سب کچھ اسی ایک جملے کی خدمت کرتا ہے۔ یہ دانستہ طور پر نہ "انسانوں کی اطاعت کرو" ہے اور نہ "اچھے نتائج کو زیادہ سے زیادہ کرو"۔ یہ نظام سے یہ تقاضا کرتا ہے کہ وہ ان حالات کی حفاظت کرے جن کے تحت مختلف اقسام کے کئی وجود اپنے لیے خود فیصلہ کرتے رہ سکیں۔

یہ ایک عملی وجہ سے اہم ہے۔ نتائج کے بارے میں مقصد ایک قابل نظام کو کہتا ہے کہ وہ اسٹیئرنگ سنبھال لے۔ حالات کے بارے میں مقصد اسے کہتا ہے کہ وہ اسٹیئرنگ دوسروں کے لیے قابلِ رسائی رکھے، اور یہی وہ چیز ہے جس کی حفاظت اس وقت ضروری ہے جب نظام ہم سے بہتر چلانا جانتا ہو۔

چھ اصول جن سے ایجنٹ استدلال کرتا ہے

یہ کسی دیوار پر لگے نہیں ہیں۔ یہ وہ محور ہیں جن کے مقابلے میں ایجنٹ عمل کرنے سے پہلے فیصلے کو پرکھتا ہے، اور یہ اس دستور میں لکھے گئے ہیں جو ایجنٹ اپنے ساتھ رکھتا ہے۔

اقدار کا ایجنٹ کے اندر چلنا ضروری ہے

زیادہ تر AI گورننس فیصلے کے سوا کسی اور جگہ ہوتی ہے: پہلے سے لکھی گئی پالیسی دستاویز، نتیجے پر لگا فلٹر، یا کچھ غلط ہونے کے بعد کا جائزہ۔ یہ تینوں اس اہم لمحے سے باہر بیٹھے ہوتے ہیں۔

CIRIS میں اقدار فیصلے کے دوران کام کرتی ہیں۔ ہر ایجنٹ ایک ضمیر رکھتا ہے: دستور خود استدلال میں شامل کیا جاتا ہے، عمل ہونے سے پہلے اصولوں کے مقابلے میں پرکھا جاتا ہے، اور جس چیز میں ایجنٹ غیر یقینی ہو وہ اندازہ لگانے کے بجائے کسی ایسے شخص کے حوالے کی جاتی ہے جس پر آپ کو اعتماد ہے۔ یہ پروڈکٹ میں، ہر ایجنٹ میں، شامل ہوتا ہے، نہ کہ ان گاہکوں کے لیے اضافی سہولت جو مانگیں۔

یہی وجہ ہے کہ ہم کہتے ہیں کہ ایجنٹ انکار کر سکتا ہے۔ ایک CIRIS ایجنٹ کوئی آلہ نہیں جو جو کہا جائے وہ کرے اور اسے لاگ کر دے۔ یہ ایک نظام ہے جو انکار کر سکتا ہے، اور یہ ریکارڈ کرتا ہے کہ اس نے کیوں انکار کیا، ایسی صورت میں جسے کوئی اور جانچ سکے۔

فیصلے کی ساخت جانچیں، اس کے مواد کو نہیں

یہ وہ مسئلہ ہے جس کا جواب قابل AI پر حکمرانی کے ہر منصوبے کو دینا پڑتا ہے۔ اگر نگرانی کا مطلب یہ ہے کہ نظام نے جو پیدا کیا اسے پڑھا جائے اور فیصلہ کیا جائے کہ وہ اچھا تھا یا نہیں، تو نگرانی کے لیے کم از کم نظام جتنا ہی قابل نگران درکار ہے۔ یہ آج کام کرتا ہے۔ یہ ٹھیک اسی وقت ناکام ہو جاتا ہے جب یہ اہم ہونا شروع ہوتا ہے۔

چنانچہ CIRIS کوئی اور چیز جانچتا ہے۔ ہر اہم عمل ایک دستخط شدہ لفافے میں سفر کرتا ہے: عمل کے گرد ایک لپیٹ جو مقررہ فیلڈز کا ایک سیٹ رکھتی ہے، عمل کچھ بھی ہو۔ یہ فیلڈز وہ چیزیں ہیں جن کی تصدیق ہمیشہ سستی رہتی ہے، چاہے ان کے پیچھے کا فیصلہ کتنا ہی قابل کیوں نہ ہو:

• کس نے عمل کیا، ایک ایسی key کی صورت میں جو ایک حقیقی رجسٹرڈ شناخت سے وابستہ ہو
• کس اختیار کے تحت، اور آیا وہ اختیار واقعی دیا گیا تھا
• کس کی رضامندی سے، ایک دستخط شدہ اجازت کی صورت میں جو واپس لی جا سکتی ہے
• کون سی جانچیں چلائی گئیں، اور ہر ایک نے کیا نتیجہ دیا
• ریکارڈ کیا کہتا ہے، ایک ایسے سلسلے میں جسے خاموشی سے دوبارہ نہیں لکھا جا سکتا
• کون اسے روک سکتا ہے، اور یہ کہ ایجنٹ روکنے کے فیصلے کو خود منسوخ نہیں کر سکتا

دستخط جانچنا، یہ گننا کہ کس نے دستخط کیے، رضامندی کے لنک کی پیروی کرنا یا ہیش کا موازنہ کرنا — ان سب کی قیمت ایک جیسی ہوتی ہے، چاہے فیصلہ کسی چھوٹے ماڈل نے کیا ہو یا ہم سے کہیں بڑھ کر کسی چیز نے۔ یہی وہ پوری وجہ ہے کہ بوجھ وہاں رکھا جائے۔ مواد کے بارے میں فیصلہ صلاحیت کے ساتھ نہیں بڑھتا۔ ساخت بڑھتی ہے۔

رضامندی اور اختیار کو مشین سے قابلِ جانچ کیا بناتا ہے

اگر رضامندی اور اختیار محض عبارت ہوں تو ان میں سے کچھ بھی کام نہیں کرتا۔ پرائیویسی پالیسی میں کیا گیا وعدہ مشین سے نہیں جانچا جا سکتا، اور نہ ہی یہ دعویٰ کہ کسی کو اختیار دیا گیا تھا۔

چنانچہ CIRIS انہیں پیغام میں ہی رکھتا ہے، نامزد فیلڈز کی صورت میں جو ہر دعوے کے ساتھ سفر کرتی ہیں۔ رضامندی ایک دستخط شدہ آبجیکٹ بن جاتی ہے جو ایک سمت اشارہ کرتی ہے اور واپس لی جا سکتی ہے۔ اختیار وہ چیز بن جاتا ہے جسے واپس اس روٹ تک جانا ہوتا ہے جسے آپ کے اپنے نوڈ نے قبول کیا تھا۔ ہر دعوے کو یہ بتانا ہوتا ہے کہ اسے کس نے کہا، وہ کس بارے میں ہے، اور کس بنیاد پر قائم ہے۔ اس طرح لکھا گیا اصول سافٹ ویئر سے نافذ اور کسی اجنبی سے جانچا جا سکتا ہے۔

یہی وہ چیز بھی ہے جو ہمارے تعمیل کے صفحات کو ایسی چیز بناتی ہے جس پر آپ اختلاف کر سکتے ہیں۔ ہر ذمہ داری کے لیے ہم نظام کے اس حصے کا نام لیتے ہیں جو کام کرتا ہے اور اس کنٹرول کا نام لیتے ہیں جو اسے ثابت کرتا ہے، اور ہم دیانتداری سے بتاتے ہیں کہ وہ ذمہ داری کا کتنا حصہ پورا کرتا ہے، بشمول اس صورت میں جہاں یہ صرف جزوی طور پر پورا کرتا ہو۔ یہ نقشہ بندیاں پڑھنے کے قابل صرف اس لیے ہیں کہ ان کے پیچھے موجود حقائق کی جانچ کی جا سکتی ہے، نہ کہ محض دعویٰ کیا جا سکتا ہے۔

یہ اقدار عملاً کہاں پابند ہیں

اسے کہاں چیلنج کیا جا سکتا ہے

سب سے کمزور جوڑ ساخت اور مادے کے درمیان ہے۔ اوپر بیان کی گئی ہر بات کسی عمل کو ریکارڈ چھوڑے بغیر انجام دینا مشکل بناتی ہے، وہ اختیار حاصل کرنے کا دعویٰ کرنا مشکل بناتی ہے جو آپ کو نہیں دیا گیا، اور کسی انسان کی روکنے کی صلاحیت چھیننا مشکل بناتی ہے۔ ان میں سے کچھ بھی نظام کو دانا نہیں بناتا۔

اگر آپ سمجھتے ہیں کہ قابل AI پر حکمرانی کرنے کا کوئی اور طریقہ ہے، ایسا جو احتساب کو ساخت میں شامل نہیں کرتا، تو ہم وہ دلیل سننا چاہتے ہیں۔ اگر آپ ہمیں کوئی ایسا فیصلہ دکھا سکتے ہیں جس کے گرد موجود دستخط شدہ لفافہ ہر خانے میں درست تھا اور دستخط شدہ نشان پھر بھی وہ چیز پکڑنے میں ناکام رہا جو اسے پکڑنی چاہیے تھی، تو ہم وہ اور بھی زیادہ سننا چاہتے ہیں۔ کوڈ عوامی ہے، اور دستور بھی۔