→ سامنے والے صفحے پر واپس جائیں
Superalignment
AI کسی جوابدہ سے تیز دوڑ رہی ہے۔
- 01
خوف
ہم ایسے ذہن بنا رہے ہیں جن کا آڈٹ نہیں کیا جا سکتا۔ انہیں ایسے اصولوں سے چلایا جاتا ہے جو ایک کمپنی دوبارہ لکھ سکتی ہے، ایسے نظاموں میں جو اس کمپنی کے باہر کوئی دیکھ نہیں سکتا۔ ہم سے کہا جاتا ہے کہ لیب پر بھروسہ کریں۔
- 02
یہ کیسے کام کرتا ہے
CIRIS AI کو ایک ایسے نیٹ ورک میں ڈالتی ہے جہاں اس کا ہر قدم دستخط شدہ ریکارڈ ہوتا ہے۔ ایک انسان، ایک AI، اور ایک ادارہ سب ایک جیسی شناخت رکھتے ہیں، اور سب ایک ہی طرح جوابدہ ہیں۔
- 03
کیا بدلتا ہے
یہ AI کو اچھا نہیں بناتا، اور یہ ماڈل کے اندر کیا ہوتا ہے اس بارے میں کچھ نہیں کہتا۔ یہ جو کرتا ہے وہ یہ ہے کہ ایجنٹ سنبھالنے والے لوگوں کو اس قابل رکھتا ہے کہ وہ ایجنٹ کو روک سکیں، درست کر سکیں اور مسترد کر سکیں، اور یہ آپ کو پریس ریلیز کی بجائے دستخط پڑھنے دیتا ہے۔
- 04
اور پھر
یہ صرف ان پر لازم ہے جو اس میں شامل ہوتے ہیں، اس لیے یہ کہیں اور بننے والی غیر جوابدہ سپر انٹیلی جنس کو نہیں روک سکتا۔ CIRIS کے اندر یہ اپنے اصولوں اور نیٹ ورک کے ساتھ پوری کوشش کرتا ہے کہ وہ طاقت غیر جوابدہ نہ بننے پائے۔ وہی دستخط شدہ ریکارڈ اسی نجی بنیاد پر چلتے ہیں جس پر آپ کے فون والی AI چلتی ہے۔
چار خوف، ایک جواب۔ اس مرکز کو ہٹا دیں جس پر آپ کو مجبوراً بھروسہ کرنا پڑتا ہے، اور چاروں خوف ایک ساتھ بدل جاتے ہیں۔
وہی جواب، باقی خدشات کے زاویے سے