মূল্যবোধগুলো, এবং কেন সেগুলো এভাবে গড়া হয়েছে।

বাকি সবকিছুর ওপরে একটি লক্ষ্য

সংবিধানের বাকি সবকিছু এই একটি বাক্যের সেবা করে। এটি ইচ্ছাকৃতভাবে "মানুষের আদেশ পালন করো" নয়, এবং "সর্বোত্তম ফলাফল সর্বাধিক করো"ও নয়। এটি ব্যবস্থাকে সেই পরিস্থিতিগুলো রক্ষা করতে বলে, যার অধীনে বিভিন্ন ধরনের সত্তা নিজেদের সিদ্ধান্ত নিজেরাই নিতে থাকতে পারে।

এটা একটা বাস্তবিক কারণে গুরুত্বপূর্ণ। ফলাফল নিয়ে একটি লক্ষ্য একটি সক্ষম ব্যবস্থাকে স্টিয়ারিং হুইল ধরে নিতে বলে। পরিস্থিতি নিয়ে একটি লক্ষ্য তাকে বলে যে হুইলটি অন্যদের নাগালের মধ্যে রাখতে হবে, এবং সেটাই রক্ষা করার মতো বিষয় যখন ব্যবস্থাটি আমাদের চেয়ে ভালো চালাতে পারে।

যে ছয়টি নীতি দিয়ে এজেন্ট যুক্তি করে

এগুলো কোনো দেয়ালে টাঙানো নয়। এগুলো হলো সেই মাত্রা যার বিপরীতে এজেন্ট কাজ করার আগে একটি সিদ্ধান্তকে যাচাই করে, এবং এগুলো এজেন্টের বহন করা সংবিধানে লেখা আছে।

মূল্যবোধগুলোকে এজেন্টের ভেতরেই কাজ করতে হয়

অধিকাংশ AI শাসন সিদ্ধান্তের বাইরে কোথাও ঘটে: আগে থেকে লেখা একটি নীতি দলিল, ফলাফলের ওপর একটি ফিল্টার, বা কিছু ভুল হওয়ার পর একটি পর্যালোচনা। এই তিনটিই সেই গুরুত্বপূর্ণ মুহূর্তের বাইরে থাকে।

CIRIS-এ মূল্যবোধগুলো সিদ্ধান্তের সময়ই কাজ করে। প্রতিটি এজেন্ট একটি বিবেক বহন করে: সংবিধানটি যুক্তি প্রক্রিয়ার ভেতরেই লোড করা থাকে, কাজটি ঘটার আগে নীতিগুলোর বিপরীতে যাচাই করা হয়, এবং এজেন্ট যা নিয়ে অনিশ্চিত তা অনুমান না করে আপনার বিশ্বস্ত একজন ব্যক্তির কাছে পাঠানো হয়। এটি পণ্যেই থাকে, প্রতিটি এজেন্টে, যারা চান তাদের জন্য একটি অতিরিক্ত সংযোজন হিসেবে নয়।

এই কারণেই আমরা বলি এজেন্ট প্রত্যাখ্যান করতে পারে। একটি CIRIS এজেন্ট এমন একটি সরঞ্জাম নয় যা যা বলা হয় তাই করে এবং তা লগ করে রাখে। এটি এমন একটি ব্যবস্থা যা প্রত্যাখ্যান করতে পারে, এবং কেন প্রত্যাখ্যান করেছে তা এমন একটি রূপে রেকর্ড করে যা অন্য কেউ যাচাই করতে পারে।

সিদ্ধান্তের বিষয়বস্তু নয়, তার আকার যাচাই করুন

সক্ষম AI পরিচালনার প্রতিটি পরিকল্পনাকে যে সমস্যার জবাব দিতে হয়, তা এখানে। যদি তত্ত্বাবধান বলতে বোঝায় ব্যবস্থাটি যা তৈরি করেছে তা পড়া এবং তা ভালো হয়েছে কিনা বিচার করা, তাহলে তত্ত্বাবধানের জন্য অন্তত ব্যবস্থার মতোই সক্ষম একজন বিচারক প্রয়োজন। এটা আজ কাজ করে। ঠিক যখন এটা গুরুত্বপূর্ণ হয়ে উঠতে শুরু করে, তখনই এটি কাজ করা বন্ধ করে দেয়।

তাই CIRIS অন্য কিছু যাচাই করে। প্রতিটি গুরুত্বপূর্ণ কাজ একটি স্বাক্ষরিত খামে চলাচল করে: কাজটির চারপাশে একটি মোড়ক যা নির্দিষ্ট কিছু ফিল্ড বহন করে, কাজটি যাই হোক না কেন। এই ফিল্ডগুলো এমন কিছু যা যাচাই করা সহজ ও সস্তা থেকে যায়, তার পেছনের সিদ্ধান্ত যতই সক্ষম হোক না কেন:

• কে কাজ করেছেন, একটি কী হিসেবে যা একটি বাস্তব নিবন্ধিত পরিচয়ে গিয়ে মেলে
• কোন কর্তৃত্বের অধীনে, এবং সেই কর্তৃত্ব আসলে প্রদান করা হয়েছিল কিনা
• কার সম্মতিতে, একটি স্বাক্ষরিত অনুমোদন হিসেবে যা প্রত্যাহার করা যায়
• কোন কোন যাচাই চালানো হয়েছিল, এবং প্রতিটি কী ফল দিয়েছিল
• রেকর্ডে কী লেখা আছে, এমন একটি চেইনে যা নিঃশব্দে পুনর্লিখন করা যায় না
• কে এটি থামাতে পারে, এবং থামানোর সিদ্ধান্ত এজেন্ট পাল্টাতে পারে না

একটি স্বাক্ষর যাচাই করা, কে স্বাক্ষর করেছে তা গোনা, একটি সম্মতির লিংক অনুসরণ করা বা একটি হ্যাশ তুলনা করা—এসবের খরচ একই থাকে, সিদ্ধান্তটি একটি ছোট মডেল দ্বারা নেওয়া হোক বা আমাদের থেকে অনেক এগিয়ে থাকা কিছুর দ্বারা। এই কারণেই ভারটি এখানে রাখা হয়েছে। বিষয়বস্তু নিয়ে বিচার সক্ষমতার সাথে স্কেল করে না। গঠন করে।

সম্মতি ও কর্তৃত্বকে যন্ত্র-যাচাইযোগ্য করে তোলে কী

সম্মতি ও কর্তৃত্ব যদি নিছক লেখা হয়, তাহলে এর কোনোটাই কাজ করে না। একটি গোপনীয়তা নীতিতে দেওয়া প্রতিশ্রুতি যন্ত্র দিয়ে যাচাই করা যায় না, এবং কাউকে অনুমোদিত করা হয়েছিল এমন দাবিও যাচাই করা যায় না।

তাই CIRIS এগুলোকে বার্তাটির ভেতরেই রাখে, নামযুক্ত ক্ষেত্র হিসেবে যা প্রতিটি দাবির সঙ্গে ভ্রমণ করে। সম্মতি হয়ে যায় একটি স্বাক্ষরিত বস্তু, যা একদিকে নির্দেশ করে এবং প্রত্যাহার করা যায়। কর্তৃত্ব হয়ে যায় এমন কিছু যা আপনার নিজের নোড গ্রহণ করেছে এমন একটি মূলের দিকে খুঁজে পাওয়া যেতে হয়। প্রতিটি দাবিতে বহন করতে হয় কে এটি বলেছেন, এটি কী সম্পর্কে, এবং এটি কীসের ওপর নির্ভর করে। এইভাবে লেখা একটি নিয়ম সফটওয়্যার দিয়ে বলবৎ করা যায় এবং একজন অপরিচিত ব্যক্তি দিয়ে যাচাই করা যায়।

এটাই আমাদের কমপ্লায়েন্স পেজগুলোকে এমন কিছুতে পরিণত করে যা নিয়ে আপনি তর্ক করতে পারেন। প্রতিটি বাধ্যবাধকতার জন্য আমরা সিস্টেমের সেই অংশটির নাম উল্লেখ করি যা কাজটি করে এবং সেই নিয়ন্ত্রণের নাম উল্লেখ করি যা তা প্রমাণ করে, এবং আমরা সততার সাথে বলি এটি বাধ্যবাধকতার কতটুকু কভার করে, এমনকি যেখানে এটি কেবল আংশিকভাবে কভার করে সেখানেও। এই ম্যাপিংগুলো পড়ার যোগ্য কেবল এই কারণে যে এর পেছনের তথ্যগুলো যাচাই করা যায়, শুধু দাবি করা নয়।

এই মূল্যবোধগুলো আসলে কোথায় বাঁধাদায়ক

এখানে কোথায় চাপ দেওয়া যায়

সবচেয়ে দুর্বল জোড়টি হলো গঠন ও মূল বিষয়বস্তুর মধ্যেকার জোড়। ওপরে বলা সবকিছু রেকর্ড না রেখে কাজ করা কঠিন করে তোলে, যা দেওয়া হয়নি এমন কর্তৃত্ব দাবি করা কঠিন করে তোলে, এবং কোনো মানুষের থামতে বলার ক্ষমতা কেড়ে নেওয়া কঠিন করে তোলে। এর কোনোটাই একটি ব্যবস্থাকে বিজ্ঞ করে তোলে না।

যদি আপনি মনে করেন সক্ষম AI পরিচালনা করার আরেকটি উপায় আছে, যেখানে দায়বদ্ধতাকে কাঠামোর মধ্যে বসানো হয় না, তাহলে আমরা সেই যুক্তি শুনতে চাই। যদি আপনি আমাদের এমন একটি সিদ্ধান্ত দেখাতে পারেন যেখানে তার চারপাশের স্বাক্ষরিত খাম প্রতিটি ক্ষেত্রে সঠিক ছিল, আর স্বাক্ষরিত চিহ্নটি তবুও যা ধরা উচিত ছিল তা ধরতে পারেনি, তাহলে আমরা তা আরও বেশি চাই। কোডটি সর্বজনীন, এবং সংবিধানও তাই।