آج پروڈکشن میں سب سے محفوظ اور اخلاقی AI
جوابدہی کے بغیر AI دینے سے زیادہ لیتی ہے۔
اگر آپ جوابدہی کی جانچ نہیں کر سکتے تو یہ صرف مارکیٹنگ ہے۔ جانیے کیا دیکھنا ہے، اور موجودہ طریقے کیسے موازنہ کرتے ہیں۔
اگر آپ جوابدہی کی جانچ نہیں کر سکتے تو یہ صرف مارکیٹنگ ہے۔ جانیے کیا دیکھنا ہے، اور موجودہ طریقے کیسے موازنہ کرتے ہیں۔
ضمیر ضروری ہے۔ لیکن کافی نہیں۔
کچھ AI کے کوئی اصول نہیں۔ کچھ اصول مانتی ہے مگر نہیں جانتی کہ اس کے ذرائع صرف ایک دوسرے کو دہرا رہے ہیں۔ صرف ایک قسم یہ جانچتی ہے کہ اس کی معلومات واقعی مختلف جگہوں سے آ رہی ہے۔
کوئی شائع شدہ اصول نہیں۔ کوئی آڈٹ کا ریکارڈ نہیں۔ بند سورس۔ آپ چیک نہیں کر سکتے کہ اس نے کیا کیا یا کیوں۔
زیادہ تر صارف AI اسسٹنٹ (ChatGPT, Gemini) عوامی جوابدہی کے لحاظ سے یہاں ہیں۔ اندرونی طور پر اچھے طریقے ہو سکتے ہیں؛ آپ انھیں تصدیق نہیں کر سکتے۔
بیرونی ضابطے کی ضرورت ہے۔ خود کو کنٹرول نہیں کر سکتی۔
اخلاقی اصول مانتی ہے۔ مگر نہیں جانتی جب اس کے تمام ذرائع صرف ایک دوسرے کو نقل کر رہے ہوں، اس لیے یہ پورے یقین کے ساتھ غلط ہو سکتی ہے۔
نگرانی میں محفوظ۔ خود ایکو چیمبر نہیں پہچان سکتی۔
اخلاقی اصول مانتی ہے اور یہ بھی جانچتی ہے کہ معلومات واقعی مختلف جگہوں سے آ رہی ہے۔ جب اتفاق مشکوک لگے تو عمل کرنے سے پہلے نشان لگاتی ہے۔
یہی CIRIS بناتی ہے۔
AI ہر اصول مان سکتی ہے، ہر آڈٹ پاس کر سکتی ہے، اور پھر بھی ناکام ہو سکتی ہے اگر اس کی تمام معلومات ایک ہی جگہ سے آئیں۔ یہی اندھا دھبہ ہے جسے ٹھیک کرنے کے لیے CIRIS بنائی گئی۔
یہ وہ چیزیں ہیں جو AI کو قابل آڈٹ اور جوابدہ بناتی ہیں۔ پہلی چھ صحیح کام کرنے کے بارے میں ہیں۔ ساتویں ان حالات کو پکڑنے کے بارے میں ہے جہاں 'صحیح کام کرنا' غلط معلومات پر مبنی ہو۔
ایجنٹ کو ایک عوامی اخلاقی فریم ورک ماننا چاہیے۔ چھپے ہوئے اصول نہیں: ایک دستاویز جو کوئی بھی پڑھ سکے اور اسے جوابدہ ٹھہرا سکے۔
ایجنٹ کا ہر عمل ضمیر کی جانچ سے گزرتا ہے اس سے پہلے کہ وہ اسے کرے۔ بعد میں نہیں۔ پہلے۔
جب غیر یقینی ہو یا ممکنہ نقصان کا سامنا ہو، ایجنٹ اندازہ لگانے کی بجائے انسان سے پوچھتا ہے۔ کام کے طریقے میں شامل، اختیاری نہیں۔
ہر فیصلہ ریکارڈ کیا اور دستخط کیا جاتا ہے تاکہ آپ بالکل تصدیق کر سکیں کہ کیا ہوا اور کیوں۔ ہر عمل کی رسید۔
رضامندی دونوں طرف سے ہوتی ہے۔ آپ ایجنٹ کو نہ کہہ سکتے ہیں۔ ایجنٹ آپ کو نہ کہہ سکتا ہے۔ کسی کو بھی سمجھوتہ کرنے پر مجبور نہیں کیا جاتا۔
آپ وہ چیز آڈٹ نہیں کر سکتے جو آپ دیکھ نہیں سکتے۔ CIRIS مکمل طور پر AGPL-3.0 کے تحت اوپن سورس ہے۔ کوئی بھی کوڈ پڑھ، تصدیق اور بہتر کر سکتا ہے۔
وہ چیز جو اکیلے اصول نہیں پکڑ سکتے۔
عمل کرنے سے پہلے، ایجنٹ پوچھتا ہے: "کیا میرے ذرائع واقعی ایک دوسرے سے اختلاف کرتے ہیں، یا یہ سب ایک ہی جگہ سے معلومات لے رہے ہیں؟" دس ذرائع جو سب ایک ہی اصل سے نقل کریں دراصل صرف ایک ذریعہ ہیں۔ جب اتفاق بہت یکساں لگے تو ایجنٹ اسے کسی انسان کے جائزے کے لیے نشان زد کرتا ہے۔
بہت زیادہ شور
ذرائع اتنے ایک دوسرے سے متضاد ہیں کہ کوئی مفید نتیجہ نہیں نکالا جا سکتا۔
صحت مند
ذرائع واقعی مختلف ہیں۔ حقیقی اتفاق کے معنی ہیں۔
ایکو چیمبر
اتفاق لگتا ہے، مگر ذرائع بس ایک دوسرے کو دہرا رہے ہیں۔
یہی CIRIS کو دوسرے AI جوابدہی فریم ورکس سے مختلف بناتا ہے۔
حساب چاہتے ہیں؟ پوری تھیسس پڑھیں ←فروری 2026 تک عوامی طور پر دستیاب دستاویزات پر مبنی۔ اگر ہم نے کچھ چھوڑا یا غلط لکھا تو ہمیں بتائیں۔
| منصوبہ | ہر فیصلہ جانچتا ہے | شائع شدہ اصول | ضمیر شامل ہے | اس نے کیا کیا اس کا ثبوت | اوپن سورس | ایکو چیمبر کی شناخت |
|---|---|---|---|---|---|---|
| CIRIS | ہاں | ہاں | ہاں | ہاں | AGPL-3.0 | ہاں |
| Constitutional AI | صرف ٹریننگ میں | ضمنی | نہیں | نہیں | نہیں | نہیں |
| LlamaFirewall / NeMo Guardrails | ہاں | نہیں | نہیں | لاگنگ | ہاں | نہیں |
| HatCat | ہاں | جزوی | رہنمائی | جزوی | CC0 | نہیں |
| اخلاقی بورڈز / گورننس فریم ورکس | نہیں | ہاں | نہیں | دستی | مختلف | نہیں |
آؤٹ پٹ فلٹر اور گورننس فریم ورکس اہم مگر مختلف مسائل حل کرتے ہیں۔ فلٹر نقصاندہ آؤٹ پٹ روکتے ہیں۔ ضمیر اقدار کے بارے میں سوچتا ہے۔ CIRIS کا مقصد دونوں کرنا ہے، اور ان اندھے دھبوں کو پکڑنا ہے جنہیں کوئی بھی اکیلے حل نہیں کرتا۔
خطرناک آؤٹ پٹ روکتے ہیں: پرامپٹ انجیکشن، نقصاندہ مواد، مخالفانہ حملے۔ جیسے ایک فلٹر جو باہر جاتے وقت بری چیزیں پکڑ لے۔
یہ سوچتا ہے کہ آیا کوئی عمل صحیح ہے، نہ صرف یہ کہ محفوظ ہے۔ جیسے ایک جج جو فیصلہ کرنے سے پہلے صورتحال کا جائزہ لے۔
جانچتا ہے کہ اتفاق حقیقی ہے یا صرف تکرار۔ جیسے ایک حقیقت جانچنے والا جو پوچھے کہ "کیا آپ سب نے ایک ہی مضمون پڑھا؟"
بہت سے چھوٹے ایجنٹ، ہر ایک شائع شدہ اصولوں سے بندھا، ہر ایک قابل آڈٹ، ہر ایک انسانی اتھارٹی کو حوالے کرتا ہوا۔ کوئی ایک کمپنی یا ادارہ پورے ڈھانچے کو کنٹرول نہیں کرتا۔ ایجنٹ جتنے آزاد ہوں، اتنا ہی مشکل ہو کہ کسی ایک ناکامی کا اثر پوری جگہ پھیلے۔
یہ فعال تحقیق ہے۔ ہم اس بارے میں شفاف ہیں کہ کیا قائم ہے اور کیا ابھی جانچا جا رہا ہے۔
اچھی طرح قائم
ابھی جانچا جا رہا ہے
اس صفحے پر ہر دعوے کے پیچھے ایسا کوڈ ہے جو آپ پڑھ سکتے ہیں، ایسے ٹریس ہیں جو آپ تصدیق کر سکتے ہیں، اور ایسی تحقیق ہے جو آپ چیک کر سکتے ہیں۔ یہی اس کا مقصد ہے۔