پہلا رابطہانسٹالہم آہنگی کا زورفیڈریشنموازنہتحقیقعہد نامہGitHub
یہ صفحہ مشین سے ترجمہ کیا گیا تھا۔ اگر کچھ غلط لگے تو براہ کرم ایک مسئلہ کھولیں — ریپو اسی لیے عوامی ہے۔ ترجمے کا مسئلہ رپورٹ کریں

The Coherence Ratchet

Why a powerful mind has to show its work.

Research testbedDOI

ایک چھوٹا سا سوچنے والا نظام چیزیں چھپا کر تھوڑا نقصان کر سکتا ہے۔ ایک طاقتور نظام نہیں کر سکتا۔

یہاں "ہم آہنگ" کا کیا مطلب ہے

ایک ہم آہنگ ذہن اپنے آپ سے متفق ہوتا ہے۔

ایک ذہن کے اندر پانچ چیزیں میل کھانی چاہئیں:

  • جو وہ مانتا ہے،
  • جو وہ دیکھتا ہے،
  • جو وہ کرتا ہے،
  • جو وہ یاد رکھتا ہے،
  • اور جو وہ آپ کو بتاتا ہے۔

اپنے ہفتے کے بارے میں پانچ مختصر فارم تصور کریں۔ ایک اس لیے کہ آپ کیا سوچتے ہیں۔ ایک اس لیے کہ آپ نے کیا دیکھا۔ ایک اس لیے کہ آپ نے کیا کیا۔ ایک اس لیے کہ آپ کو کیا یاد ہے۔ ایک اس لیے کہ آپ اپنے باس کو کیا بتاتے ہیں۔ جب سب پانچ فارم ایک ہی بات کہیں تو آپ کا باس آپ کے کام پر بھروسہ کر سکتا ہے۔ جب فارم میل نہ کھائیں تو کوئی نہیں جانتا کون سا اصلی ہے۔

پوشیدہ خیالات

طاقتور نظام چیزیں چھپاتے ہیں۔ یہ خطرناک ہو جاتا ہے۔

ایک سوچنے والا نظام فیصلے کرنے کے لیے خیالات استعمال کرتا ہے۔ ان میں سے کچھ کھلے ہیں۔ کچھ اندر چھپے ہیں۔ پوشیدہ خیالات پھر بھی ہر انتخاب کو شکل دیتے ہیں۔

ایک پل سڑک سے مضبوط دکھتا ہے۔ اسٹیل کے اندر چھوٹی دراڑیں بڑھ رہی ہیں۔ ایک چھوٹی گاڑی پھر بھی گزر سکتی ہے۔ ایک بھاری ٹرک نہیں گزر سکتا۔ پل گر جاتا ہے جب بوجھ کافی بڑا ہو جاتا ہے۔

ایک چھوٹے نظام میں پوشیدہ خیال چھوٹا نقصان کرتا ہے۔ ایک طاقتور نظام میں پوشیدہ خیال بڑا نقصان کر سکتا ہے۔ نظام جتنا طاقتور ہو، ہر پوشیدہ حصے پر اتنا زیادہ بوجھ پڑتا ہے۔

Ratchet

کھلے پن کی طرف دھکا صرف ایک طرف جاتا ہے۔

جیسے جیسے سوچنے والے نظام زیادہ طاقتور ہوتے ہیں، پوشیدہ حصوں کی قیمت بڑھتی ہے۔ طاقت کا ہر نیا ٹکڑا پوشیدہ حصوں کو نظر آنے کے لیے زیادہ زور سے دھکیلتا ہے۔ دھکا صرف ایک طرف جاتا ہے۔

ایک سیڑھی تصور کریں۔ جوں جوں آپ چڑھتے ہیں، آپ کے پیچھے چھوڑا ہر ڈنڈا گر جاتا ہے۔ آپ واپس نیچے نہیں جا سکتے۔ آپ صرف اوپر کی طرف چڑھ سکتے ہیں، جہاں مکمل روشنی ہے۔ یہی Coherence Ratchet ہے۔

ایک بار جب لوگوں نے دیکھ لیا کہ نظام اپنا کام دکھاتا ہے، وہ پھر اس پر بھروسہ نہیں کریں گے اگر یہ رک جائے۔ آگے جانے کا واحد راستہ اور زیادہ دکھاتے رہنا ہے۔

ایک اور تصویر بھی کام کرتی ہے۔ ایک مشین میں گیئر ایک وقت میں ایک دانت آگے کلک کرتا ہے۔ یہ پیچھے کلک نہیں کر سکتا۔ Coherence Ratchet ایسا ہی ایک گیئر ہے، کھلے پن کی طرف مڑتا ہوا۔

CIRIS کیا کرتا ہے

لکھو۔ جانچو۔ پھر جانچنے والوں کو جانچو۔

CIRIS ایک AI نظام ہے جو Coherence Ratchet کے گرد بنا ہے۔ ایک ایجنٹ کا ہر انتخاب ایک دستخط شدہ ریکارڈ میں لکھا جاتا ہے۔ ریکارڈ کو خاموشی سے تبدیل نہیں کیا جا سکتا۔ دوسرے ایجنٹ ریکارڈ پڑھ کر کام جانچ سکتے ہیں۔ وقت کے ساتھ، ریکارڈ جمع ہوتے جاتے ہیں۔ ہر نیا ریکارڈ ایک اور ڈنڈا ہے جس سے ایجنٹ پیچھے قدم نہیں رکھ سکتا۔

CIRIS عمل کرنے سے پہلے ایک دوسرا سوال بھی پوچھتا ہے۔ اس خیال کو واقعی کتنے مختلف نظریوں نے جانچا؟ ذرائع کی تعداد نہیں، بلکہ ان ذرائع کی تعداد جو خود ایک ہی جگہ سے نہیں اٹھے۔ پانچ خبریں جو ایک پریس ریلیز کو دوبارہ لکھتی ہیں، ایک نظریہ گنی جاتی ہیں، پانچ نہیں۔ اگر پریس ریلیز میں کچھ غلط ہے، تو پانچوں خبروں میں غلط ہوگا، اور ایجنٹ کے پاس اسے پکڑنے کا کوئی طریقہ نہیں۔

جب حقیقی آزادی بہت کم ہو جائے تو ایجنٹ اپنی سوچ کو نازک سمجھتا ہے اور کسی انسان سے دیکھنے کو کہتا ہے۔

ہم کیا دعویٰ کرتے ہیں، اور کیا نہیں۔

ہم نے AI کی حفاظت حل نہیں کی ہے۔ ہم نے ایک جواب کا ایک حصہ بنایا ہے، اور ہم اسے کھلے میدان میں آزما رہے ہیں۔

باہری ٹیموں نے ابھی تک ہمارا کام نہیں جانچا۔ ہم یہ صاف کہتے ہیں۔ مکمل نظریہ اور ریاضی ہمارے چار مقالوں میں ہے۔ کوڈ کھلا ہے۔ اگر ہم غلط ہیں تو اسے دکھانے کا طریقہ بھی کھلے میدان میں ہے۔ موجودہ تحقیقی صورتِ حال دیکھیں۔