আজকের উৎপাদন পরিবেশে সবচেয়ে নিরাপদ ও নৈতিক AI
জবাবদিহিতা না থাকলে AI সাধারণত দেওয়ার চেয়ে বেশি নিয়ে নেয়।
জবাবদিহিতা যাচাই করা না গেলে সেটা শুধু বিপণনের কথা। কী দেখতে হবে এবং বিদ্যমান পদ্ধতিগুলো কীভাবে তুলনা করা যায় তা এখানে দেওয়া আছে।
জবাবদিহিতা যাচাই করা না গেলে সেটা শুধু বিপণনের কথা। কী দেখতে হবে এবং বিদ্যমান পদ্ধতিগুলো কীভাবে তুলনা করা যায় তা এখানে দেওয়া আছে।
বিবেক জরুরি। তবে এটুকুই যথেষ্ট নয়।
কিছু AI-এর কোনো নিয়মই নেই। কেউ নিয়ম মানে কিন্তু নিজের তথ্যের উৎস পরস্পরের প্রতিধ্বনি করছে কিনা বুঝতে পারে না। কেবল একটি ধরন যাচাই করে যে তার তথ্য সত্যিই আলাদা আলাদা জায়গা থেকে আসছে কিনা।
কোনো প্রকাশিত নীতি নেই। নিরীক্ষার রেকর্ড নেই। বন্ধ সোর্স। এটি কী করেছে বা কেন করেছে তা যাচাই করার উপায় নেই।
বেশিরভাগ ভোক্তা AI সহায়তাকারী (ChatGPT, Gemini) প্রকাশ্য জবাবদিহিতার দিক থেকে এই শ্রেণিতে পড়ে। ভেতরে ভালো অনুশীলন থাকতে পারে, তবে তা যাচাই করা সম্ভব নয়।
বাহ্যিক নিয়ন্ত্রণ প্রয়োজন। নিজেকে নিজে শাসন করতে পারে না।
নৈতিক নিয়ম মানে। কিন্তু সব উৎস যখন একে অপরকে নকল করছে তখন বুঝতে পারে না, তাই আত্মবিশ্বাসের সাথে ভুল করতে পারে।
নজরদারির সাথে নিরাপদ। নিজে থেকে প্রতিধ্বনি কক্ষ ধরতে পারে না।
নৈতিক নিয়ম মানে এবং তার তথ্য সত্যিই আলাদা আলাদা জায়গা থেকে আসছে কিনা তাও যাচাই করে। মিল দেখতে সন্দেহজনক লাগলে, কাজ করার আগেই তা চিহ্নিত করে।
এটাই CIRIS তৈরি করে।
একটি AI প্রতিটি নিয়ম মানতে পারে, প্রতিটি নিরীক্ষায় উত্তীর্ণ হতে পারে, তবুও ব্যর্থ হতে পারে যদি তার সব তথ্য একই জায়গা থেকে আসে। সেই অন্ধ জায়গাটি ঠিক করার জন্যই CIRIS তৈরি করা হয়েছে।
এগুলো হলো সেই বিষয় যা AI-কে নিরীক্ষাযোগ্য ও জবাবদিহিতামূলক করে তোলে। প্রথম ছয়টি সঠিক কাজ করার বিষয়ে। সপ্তমটি সেই পরিস্থিতি ধরার বিষয়ে যেখানে 'সঠিক কাজ' ভুল তথ্যের উপর ভিত্তি করে করা হচ্ছে।
এজেন্টকে অবশ্যই একটি প্রকাশ্য নৈতিক কাঠামো মেনে চলতে হবে। লুকানো নিয়ম নয়: এমন একটি নথি যা যেকেউ পড়তে পারে এবং এটির জবাবদিহিতা দাবি করতে পারে।
এজেন্ট কোনো কাজ করার আগে প্রতিটি পদক্ষেপ বিবেক পরীক্ষার মধ্য দিয়ে যায়। পরে নয়। আগে।
অনিশ্চিত বা সম্ভাব্য ক্ষতির মুখে পড়লে এজেন্ট অনুমান না করে একজন মানুষকে জিজ্ঞেস করে। কর্মপ্রবাহের মধ্যে তৈরি, ঐচ্ছিক নয়।
প্রতিটি সিদ্ধান্ত রেকর্ড করা ও স্বাক্ষরিত হয় যাতে ঠিক কী হয়েছে এবং কেন হয়েছে তা যাচাই করা যায়। প্রতিটি কাজের একটি রসিদ।
সম্মতি উভয় দিকে যায়। আপনি এজেন্টকে না বলতে পারবেন। এজেন্ট আপনাকে না বলতে পারবে। কোনো পক্ষকেই বাধ্য করা হয় না।
যা দেখা যায় না তা নিরীক্ষা করা যায় না। CIRIS AGPL-3.0 লাইসেন্সের অধীনে সম্পূর্ণ ওপেন সোর্স। যেকেউ কোড পড়তে, যাচাই করতে এবং উন্নত করতে পারে।
যা শুধু নিয়ম দিয়ে ধরা যায় না।
কাজ করার আগে এজেন্ট জিজ্ঞেস করে: "আমার উৎসগুলো কি সত্যিই একে অপরের সাথে দ্বিমত পোষণ করে, নাকি সবাই একই জায়গা থেকে তথ্য নিচ্ছে?" দশটি উৎস যদি সবাই একই মূল উৎস থেকে নকল করে, সেগুলো আসলে একটাই উৎস। মিল যখন অতিরিক্ত একরকম মনে হয়, এজেন্ট একজন মানুষকে পর্যালোচনার জন্য চিহ্নিত করে।
অতিরিক্ত বিশৃঙ্খল
উৎসগুলো এতটাই পরস্পরবিরোধী যে কোনো কার্যকর সিদ্ধান্তে আসা যায় না।
সুস্থ
উৎসগুলো সত্যিকারের ভিন্নমতের। প্রকৃত মিল অর্থবহ।
প্রতিধ্বনি কক্ষ
মিলের মতো দেখায়, কিন্তু উৎসগুলো একে অপরকেই পুনরাবৃত্তি করছে।
এটাই CIRIS-কে অন্য AI জবাবদিহিতা কাঠামো থেকে আলাদা করে।
গণিত জানতে চান? পূর্ণ থিসিস পড়ুন →ফেব্রুয়ারি ২০২৬ পর্যন্ত প্রকাশ্যে পাওয়া তথ্যের ভিত্তিতে। কিছু বাদ গেলে বা ভুল হলে আমাদের জানান।
| প্রকল্প | প্রতিটি সিদ্ধান্ত পরীক্ষা করে | প্রকাশিত নিয়ম | অন্তর্নির্মিত বিবেক | কী করেছে তার প্রমাণ | ওপেন সোর্স | প্রতিধ্বনি কক্ষ শনাক্তকরণ |
|---|---|---|---|---|---|---|
| CIRIS | হ্যাঁ | হ্যাঁ | হ্যাঁ | হ্যাঁ | AGPL-3.0 | হ্যাঁ |
| Constitutional AI | শুধু প্রশিক্ষণকালে | অনুমানমূলক | না | না | না | না |
| LlamaFirewall / NeMo Guardrails | হ্যাঁ | না | না | লগিং | হ্যাঁ | না |
| HatCat | হ্যাঁ | আংশিক | স্টিয়ারিং | আংশিক | CC0 | না |
| Ethics Boards / Governance Frameworks | না | হ্যাঁ | না | ম্যানুয়াল | ভিন্ন ভিন্ন | না |
আউটপুট ফিল্টার ও শাসন কাঠামো গুরুত্বপূর্ণ কিন্তু আলাদা সমস্যা সমাধান করে। ফিল্টার ক্ষতিকর আউটপুট আটকায়। বিবেক মূল্যবোধ নিয়ে যুক্তি করে। CIRIS উভয়ই করার এবং কেউই যে অন্ধ জায়গাগুলো একা ধরতে পারে না সেগুলো ধরার লক্ষ্য রাখে।
বিপজ্জনক আউটপুট ব্লক করে: প্রম্পট ইনজেকশন, ক্ষতিকর বিষয়বস্তু, বিরুদ্ধমুখী আক্রমণ। যেন বাইরে যাওয়ার পথে খারাপ জিনিস ধরার একটি ফিল্টার।
একটি কাজ নিরাপদ কিনা তা নয়, বরং এটি সঠিক কিনা তা নিয়ে যুক্তি করে। যেন একজন বিচারক সিদ্ধান্ত নেওয়ার আগে পরিস্থিতি বিচার করছেন।
মিল প্রকৃত না শুধু পুনরাবৃত্তি তা যাচাই করে। যেন একজন ফ্যাক্ট-চেকার জিজ্ঞেস করছেন 'তোমরা সবাই কি একই নিবন্ধ পড়েছ?'
অনেক ছোট এজেন্ট, প্রত্যেকে প্রকাশিত নীতির সাথে আবদ্ধ, প্রত্যেকে নিরীক্ষাযোগ্য, প্রত্যেকে মানব কর্তৃপক্ষের কাছে ন্যস্ত। কোনো একক কোম্পানি বা সত্তা পুরো স্তূপ নিয়ন্ত্রণ করে না। এজেন্টগুলো যত স্বাধীন, যেকোনো একটি ব্যর্থতা ছড়িয়ে পড়া তত কঠিন।
এটি সক্রিয় গবেষণা। কী প্রতিষ্ঠিত এবং কী এখনো পরীক্ষা করা হচ্ছে সে বিষয়ে আমরা স্বচ্ছ।
সুপ্রতিষ্ঠিত
এখনো পরীক্ষা হচ্ছে
এই পাতার প্রতিটি দাবি পড়তে পারার মতো কোড, যাচাই করার মতো ট্রেস এবং পরীক্ষা করার মতো গবেষণার উপর ভিত্তি করে তৈরি। এটাই মূল বিষয়।