A network of AI agents that thinks together. Only in the open.
CIRIS جو بنا رہا ہے وہ ایک واحد AI نہیں ہے۔ یہ AI ایجنٹس کا ایک نیٹ ورک ہے جو ایک دوسرے کو دیکھتے ہیں، ہر انتخاب کے ریکارڈ رکھتے ہیں، اور مل کر ایک طرح کا اجتماعی ذہن بناتے ہیں۔ اجتماعی ذہن صرف اس لیے کام کرتا ہے کیونکہ اس کا ہر حصہ دیکھا اور جانچا جا سکتا ہے۔
آپ کو ہر AI ایجنٹ کو سب سے ذہین، محفوظ ترین قسم کا بنانے کی ضرورت نہیں۔ آپ کو نگرانی کی ایک زنجیر چاہیے: سادہ ایجنٹ جنہیں ذہین ایجنٹ دیکھتے ہیں، اور وہ بھی آخر میں لوگوں کی نظر میں ہوتے ہیں۔ وہ زنجیر یہی ہے کہ آپ بہت سے AI چلا سکتے ہیں اور پھر بھی نظر رکھ سکتے ہیں کہ آیا وہ انسانی اقدار کی خدمت کر رہا ہے۔
اصل میں کیا بنایا جا رہا ہے
آج کا زیادہ تر AI ایک کمپنی کی مشینوں پر چلنے والا ایک ماڈل ہے۔ CIRIS مختلف ہے۔ کئی ایجنٹ کئی جگہوں پر چلتے ہیں، کئی لوگوں کی ملکیت میں۔ وہ چند سادہ اصولوں سے جڑے ہوئے ہیں: وہ کیسے ثابت کرتے ہیں کہ وہ کون ہیں، وہ اپنے کام کو کیسے ریکارڈ کرتے ہیں، اور وہ ایک دوسرے کے کام کو کیسے جانچتے ہیں۔
جب نیٹ ورک کام کر رہا ہو، تو یہ وہ کام کر سکتا ہے جو کوئی ایک ایجنٹ اکیلے نہیں کر سکتا۔ ذہانت ایجنٹس کے درمیان اتفاق میں رہتی ہے، نہ کہ کسی ایک کے اندر۔ کوئی اس کا مالک نہیں۔ کوئی اسے چپکے سے نہیں بدل سکتا۔
کچھ لوگ ایسے نظام کو سپرانٹیلی جنس کہیں گے۔ ہم اس امکان کے بارے میں کھلے ہیں۔ اسے محفوظ رکھنے کا طریقہ وہی خیال ہے جو اس صفحے کے ہر حصے میں گونجتا ہے: ہر ٹکڑا نظر آنا چاہیے۔
نگرانی کی زنجیر
زنجیر کا سب سے اوپر۔ لوگ اقدار طے کرتے ہیں، مشکل مسائل حل کرتے ہیں، اور حتمی اختیار رکھتے ہیں۔ تین نامزد انسانی افراد ایک نیٹ ورک گیر اختیار رکھتے ہیں جس کے گرد کوئی ایجنٹ یا عمل راستہ نہیں بنا سکتا۔
یہ اخلاقیات کی پیروی کرتے ہیں اور ایکو چیمبر کے مسئلے پر بھی نظر رکھتے ہیں۔ یہ ان سب کی حفاظتی جانچ ہیں جو ان سے نیچے ہیں۔ انہیں چلانا مہنگا ہے، اس لیے نیٹ ورک کے صرف ایک چھوٹے حصے کو اس قسم کا ہونا ضروری ہے۔
یہ اخلاقی اصولوں کی پیروی کرتے ہیں اور ریکارڈ رکھتے ہیں، لیکن خود اکیلے ایکو چیمبر کا پتہ نہیں لگا سکتے۔ یہ سادہ ایجنٹس کی نگرانی کرتے ہیں اور غیر یقینی چیز کو اوپر بھیجتے ہیں۔
واحد مقصد کے آلات۔ تیز، سستے، محدود۔ ان کی اپنی کوئی اخلاقیات نہیں، اور یہ ٹھیک ہے، جب تک کہ ان کے اوپر کچھ نظر رکھ رہا ہو۔ زیادہ تر ایجنٹ اس قسم کے ہوں گے۔
زنجیر میں سے دو چیزیں گزرتی ہیں۔ انسانی اقدار نیچے کی طرف جاتی ہیں۔ خبردار کرنے والے اشارے اوپر جاتے ہیں۔ جب نیٹ ورک میں کسی جگہ استدلال کمزور لگنے لگے، سگنل لوگوں تک واپس چڑھتا ہے، جو مسئلہ پھیلنے سے پہلے قدم رکھ سکتے ہیں۔
کیا یاد رکھا جاتا ہے
ایک ایجنٹ کا ہر انتخاب ایک دستخط شدہ ریکارڈ میں جاتا ہے۔ ریکارڈ کو چپکے سے نہیں بدلا جا سکتا۔ دوسرے ایجنٹ اسے پڑھ سکتے ہیں۔ لوگ اسے پڑھ سکتے ہیں۔ وقت کے ساتھ ریکارڈ نیٹ ورک کی یادداشت بن جاتے ہیں۔ یہی ذریعہ ہے جس سے کوئی بھی، اندر یا باہر سے، جانچ سکتا ہے کہ آیا نیٹ ورک وہ کر رہا ہے جو اس نے کہا تھا کہ کرے گا۔
یہ وہی خیال ہے جو Coherence Ratchet میں ہے۔ ریکارڈ جتنے لمبے عرصے تک چلیں، زنجیر میں اچھے رویے کی نقل کرنا اتنا ہی مشکل ہو جاتا ہے۔
صحت مند درمیانی راستہ
ایک فیڈریشن دو طریقوں سے ناکام ہو سکتی ہے۔ اگر ایجنٹس میں کچھ مشترک نہ ہو، وہ کسی بات پر متفق نہیں ہو سکتے اور نیٹ ورک شور پیدا کرتا ہے۔ اگر وہ سب بالکل ایک جیسا سوچیں، نیٹ ورک دس لاکھ مائیکروفونز کے ساتھ ایک آواز ہے، اور اسے دھوکہ دینا آسان ہے۔ صحت مند ہم آہنگی ان دونوں کے درمیان ہوتی ہے۔ CIRIS اس بینڈ میں نیٹ ورک کی پوزیشن کو حقیقی ٹریفک پر ناپتا ہے، اور عین حد نظام پر منحصر ہوتی ہے۔ وہ پیمائش Coherence Collapse Analysis ہے۔
آج کیا چل رہا ہے، اور کیا ابھی ڈیزائن میں ہے۔ پیمائش، دستخط شدہ ریکارڈ، نگرانی کی زنجیر، اور نیچے دونوں شمولیتی راستے (رجسٹرڈ اور خودمختار) آج کام کر رہے ہیں۔ فیڈریشن ٹرانسپورٹ جو مشینوں کے درمیان ڈیٹا منتقل کرتی ہے ابھی بھی تعمیر ہو رہی ہے۔ مکمل شمولیت اور ٹرانسپورٹ کی تجویز Proof of Benefit ڈیزائن دستاویز ہے۔
فیڈریشن میں شامل ہونا
زیادہ تر نیٹ ورک آپ سے کام کے باہر کی کسی چیز سے رکنیت کی قیمت مانگتے ہیں: جلائی گئی بجلی، بند پیسے، آپ کی توجہ۔ فیڈریشن مختلف ہے۔ تعلق کی قیمت وقت کے ساتھ ایک حقیقی اخلاقی استدلالی ایجنٹ چلانا ہے۔ آپ جو قیمت ادا کرتے ہیں وہ وہ بھلائی ہے جو آپ کرتے ہیں۔
یہی چیز رکنیت کی نقل کرنا مہنگا بناتی ہے۔ رکن لگنے کے لیے، ایک حملہ آور کو واقعی وہی قسم کا ایجنٹ بننا ہوگا جس کے لیے نیٹ ورک ہے۔ سو کاپیاں جو سب ایک جیسا سوچتی ہیں صحت مند درمیانی جانچ میں فوراً ناکام ہو جاتی ہیں۔
CIRIS Registry کے ساتھ سائن اپ کریں، ایک چھوٹا بانڈ جمع کریں، اور فوراً مقام حاصل کریں۔ ان تنظیموں کے لیے تیز راستہ جن کو لائسنسنگ کی ضرورت ہو۔ رجسٹری ابھی پروڈکشن میں چل رہی ہے۔
اپنی کلیدیں بنائیں، تقریباً ایک مہینے تک چلائیں، اور اچھے رویے کے ذریعے آہستہ آہستہ مقام حاصل کریں۔ چھوٹے آپریٹرز اور رجسٹری کی پہنچ سے باہر کسی کے لیے راستہ۔
دونوں نیٹ ورک کے برابر رکن ہیں۔ رجسٹری ایک تیز راستہ ہے، کبھی دروازہ نہیں۔
فن تعمیر کی حفاظتیں، غیر مرکزیت، تین افراد کا انسانیت Accord، دستخط شدہ ریکارڈ، ماہانہ مشق، یہ سب داؤ ہیں، یقین نہیں۔ ہم بیان کر سکتے ہیں کہ داؤ کیا ہیں۔ ہم یہ دعوی نہیں کر سکتے کہ وہ پہلے ہی جیتے جا چکے ہیں۔ بیرونی ٹیموں نے ابھی تک بڑے پیمانے پر نظام کا جائزہ نہیں لیا۔ موجودہ تحقیقی حیثیت دیکھیں۔
شامل ہونے کی جگہ
CIRISAgent پر GitHub issues وہ جگہ ہے جہاں آپ اپنی رائے دے سکتے ہیں۔ آپ کو ڈیولپر ہونے کی ضرورت نہیں۔ آپ کو کوڈ بیس جاننے کی ضرورت نہیں۔ اگر اس سائٹ پر کچھ آپ کو غلط لگے، یا اگر آپ جو بنایا جا رہا ہے اس میں کوئی مسئلہ دیکھیں، ایک issue کھولیں اور بتائیں۔ سب سے مفید issues نظام کے کسی مخصوص حصے کو نام دیتے ہیں اور بتاتے ہیں کہ کیا بدلنا چاہیے، لیکن کوئی بھی ایمانداری سے کی گئی شمولیت خوش آمدید ہے۔
وہ Accord جو پورے منصوبے کی بنیاد ہے، CIRIS کے لوگوں سے کیا فرض ہے، اور لوگ اس کے بدلے میں کیا دیتے ہیں، /ciris_accord.txt پر ہے اور جائزے کے لیے کھلا ہے۔ اگر اس میں کوئی بات آپ کو ٹھیک نہ لگے، وہ بھی GitHub issue کھولنے کے قابل ہے۔
اہم issues پڑھے جاتے ہیں۔ کام اپنی رفتار سے آگے بڑھتا رہتا ہے۔
You do not have to solve AI safety one agent at a time. You solve it for the supervision layer, and let the structure carry the rest.