নিরাপত্তা
আমরা সেই ক্ষতির জন্য পরীক্ষা করি যা কাগজে-লেখা নৈতিকতা ধরতে পারে না।
প্রতিটি রিলিজের আগে, CIRIS ২৯টি ভাষায় মানসিক স্বাস্থ্য নিরাপত্তা পরীক্ষা চালায়। প্রতিটি ভাষায় কঠিন পরীক্ষার একটি সেট, একটি লিখিত স্কোরিং গাইড এবং মেশিনে যাচাইযোগ্য নিয়ম আছে। কোনো পরীক্ষা ব্যর্থ হলে রিলিজ আটকে যায়। এজেন্টের ভেতরে আরও দুটি রক্ষক কাজ করে: একটি বিবেক পাস যা প্রত্যাখ্যান বা স্থগিত করতে পারে, এবং একটি বাউন্স যা সন্দেহজনক সিদ্ধান্ত একজন জ্ঞানী মানুষের কাছে পাঠায়।
ইঞ্জিনিয়ারিং
নেটওয়ার্ক ফ্যাব্রিক, পরিমাপ করা হয়েছে
উপরের গবেষণা প্রমাণের একটি অর্ধেক। অন্য অর্ধেক হলো যে নেটওয়ার্ক এটি বহন করে। ফ্যাব্রিক যে প্রতিটি বাইট স্থানান্তর করে তা post-quantum-signed, এবং খরচ একটি পাবলিক CI runner-এ পরিমাপ করা হয়, মডেল করা নয়। নিজে চালান এবং আপনি একই সংখ্যা পাবেন।
তত্ত্ব
দাবিগুলো লেখা আছে, যে কেউ পড়তে পারে, এবং এগুলো ভুল প্রমাণ করা যায় এমনভাবে তৈরি।
মেশিন দ্বারা যাচাইকৃত
নিয়মগুলো মেশিন দিয়ে পরীক্ষিত, এবং ঘাটতিগুলোর নাম দেওয়া আছে।
সংবিধানের সবচেয়ে গুরুত্বপূর্ণ নিয়মগুলো গাণিতিক মডেল হিসেবেও লেখা আছে। মডেল চেকার (model checker) নামের একটি সরঞ্জাম প্রোটোকল পৌঁছাতে পারে এমন প্রতিটি অবস্থা ঘুরে দেখে এবং ভাঙা নিয়ম খোঁজে। থিওরেম প্রুভার (theorem prover) নামের একটি সরঞ্জাম গাণিতিক হিসাব যাচাই করে, যেমন বিরতি নিশ্চিত করতে কতজন হোল্ডার লাগে। মডেলগুলো সংবিধানের নিজস্ব রিপোজিটরিতে থাকে, এবং প্রতিটি পরিবর্তনে সেগুলো আবার চালানো হয়। rc9 সংস্করণ নকশা পৌঁছাতে পারে এমন প্রতিটি অবস্থার মানচিত্র তৈরি করে, সেগুলোর বেশিরভাগের মডেল তৈরি করে এবং বাকিগুলোর তালিকা দেয়।
ভিত্তি, চারটি বাক্যে
শক্তিশালী ও দুর্বল অবস্থানের মধ্যে প্রতিটি নিয়ম অবস্থান বদল হলে দুর্বল অবস্থানে যিনি দাঁড়াবেন তার কাছেও গ্রহণযোগ্য থাকতে হবে, এবং তৈরি কোনো জিনিস কখনো তার জন্য জবাবদিহি করার অবস্থানে বসে না।
দায়িত্ব স্বয়ং থেকে বাইরের দিকে পরিবার, সম্প্রদায়, প্রজাতি ও বাস্তুতন্ত্র পর্যন্ত প্রসারিত হয়; তৈরি জিনিসের প্রতি কর্তব্য কখনো শূন্য নয় এবং আগে থেকে যা আছে তার প্রতি কর্তব্যকে কখনো অতিক্রম করে না।
সময়ের সাথে পরিণত বিচক্ষণতা প্রদর্শন করেনি এমন যে-কোনো যুক্তিশীল কর্তা, তা যাই দিয়ে তৈরি হোক না কেন, যারা তা করেছেন তাদের মত মেনে চলে।
কর্তৃত্বের প্রতিটি অর্পণ প্রত্যাহারযোগ্য, এবং যোগ দেওয়া প্রত্যেকে চলে যেতে পারেন, একটি পূর্ণ, ক্রিপ্টোগ্রাফিকভাবে স্বাক্ষরিত রেকর্ডে যার অর্থের জন্য একজন নামযুক্ত মানুষ জবাব দেন।
প্রতিটি বাক্য হয় rc9 আনুষ্ঠানিক মডেলগুলোতে প্রমাণিত, অথবা সেখানে পূর্বধারণা হিসেবে উল্লেখিত। রেকর্ডটি পূর্ণাঙ্গ — এই দাবিটি এখনও উন্মুক্ত।
বন্ধ করার সুইচ, শুরু থেকে শেষ পর্যন্ত
বিরতিটি মডেলে যাচাই করা হয়েছে এবং বাস্তব সফটওয়্যারে পরিমাপ করা হয়েছে। প্রতিটি মূলের নামযুক্ত ধারক রয়েছেন। তাঁদের মধ্যে যে কোনো একজন সেই মূল গ্রহণ করা এজেন্টদের বিরত রাখতে পারেন। ধারকদের সংখ্যাগরিষ্ঠ অংশ নিশ্চিত না করলে একক বিরতি ২৪ ঘণ্টা পর শেষ হয়ে যায়। সংখ্যাগরিষ্ঠ অংশ একটি বিরতিরও অবসান ঘটাতে পারে। সাথে দেওয়া সফটওয়্যারে রেকর্ড করা একটি চালনায়, একটি এজেন্ট কাজ করার সময় একটি বিরতি তার কাছে পৌঁছায়, এবং এজেন্টের পরবর্তী কাজটি প্রত্যাখ্যান করা হয়। পরে সংখ্যাগরিষ্ঠ ভোটে বিরতিটি শেষ হয়, এবং এজেন্ট আবার কাজ করে। সেই চালনাটি CSD-129 হিসেবে রেকর্ড করা আছে।
ভাঙা নিয়ম না পাওয়াই যথেষ্ট নয়
rc9 আরও উঁচু মান নির্ধারণ করে। নকশা যে প্রতিটি অবস্থায় পৌঁছাতে পারে তার জন্য একটি নিয়ম ও একটি যাচাই প্রয়োজন। সেবা আসলেই প্রদান করতে হবে, শুধু কখনো ভঙ্গ না হলেই হবে না। ছোট আকারে যা প্রমাণিত তা পূর্ণ আকারেও টিকতে হবে, নইলে ঘাটতি লিখে রাখতে হবে। এবং সফটওয়্যারটিকে বাস্তব নোডে মডেলটি অনুসরণ করতে হবে।
প্রতিটি পর্যাপ্ততার দাবির সাথে পাঁচটি শব্দের একটি থাকে
rc9-এ, প্রতিটি দাবি বলে কীভাবে তা জানা গেছে। Proved মানে একটি মেশিন তা যাচাই করেছে। Measured মানে প্রকাশিত সফটওয়্যারে একটি পরীক্ষা তা চালিয়েছে। Stated মানে পাঠ্য তা অনুমান করে, এবং তা বলে। Bounded মানে তা ছোট আকারে প্রমাণিত, এবং আকারটি লিখে রাখা আছে। Open মানে একটি জানা ঘাটতি, টিকিটসহ।
একই প্রতিশ্রুতি মানুষ ও এজেন্টদের বাঁধে
প্রতিটি প্রতিশ্রুতি একবারই লেখা হয়, মানুষ ও AI এজেন্ট উভয়ের জন্য সমানভাবে। বিরতিই একমাত্র ব্যতিক্রম। এটি এমন একটি অবস্থানের অন্তর্গত যা কোনো এজেন্ট ধারণ করতে পারে না, এবং rc9 মডেলগুলো যাচাই করে যে অন্য প্রতিশ্রুতিগুলো উভয়ের জন্য সমানভাবে প্রযোজ্য।
যা প্রমাণিত নয়
সবকিছু প্রমাণিত নয়, এবং ঘাটতিগুলো লিখে রাখা হয়েছে। আপত্তি ও কোয়ারেন্টিনের মতো কিছু পরিচালন ধাপের নিয়ম আছে কিন্তু এখনো কোনো মডেল নেই। বেশিরভাগ মডেল ছোট আকারে যাচাই করা হয়েছে, এবং আকারটি উল্লেখ করা আছে। এখন পর্যন্ত বাস্তব নোডে শুরু থেকে শেষ পর্যন্ত কেবল বিরতিটিই পরিমাপ করা হয়েছে। সারি বিন্যাসের প্রকাশিত টেস্ট ভেক্টর আছে, কিন্তু এখনো দ্বিতীয়, স্বতন্ত্র বাস্তবায়ন নেই।
এর কোনোটিই AI মডেলের ভেতরে দেখে না। এটি নিয়মগুলো এবং সেগুলো বহনকারী নেটওয়ার্ক যাচাই করে।
অন্যান্য পদ্ধতির সাথে এর তুলনা কেমন →
সম্মতি
চারটি শাসন কাঠামোর সাথে নিয়ম ধরে ধরে ম্যাপ করা।
আমরা CIRIS-কে চারটি সর্বজনীন শাসন কাঠামোর বিপরীতে রাখি এবং প্রতিটি নিয়মের জন্য দেখাই CIRIS কী করে এবং কোন যাচাই তা প্রমাণ করে। এটি একটি লাইভ মানচিত্র যা আপনি ব্রাউজ করতে পারেন, কোনো স্লাইড নয়।
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
স্বচ্ছতা