خطری در طراحی خودمان
کجا ایمنی مبتنی بر جمعسپاری میتواند منحرف شود.
یک سیستم ایمنی مبتنی بر جمعسپاری میتواند اگر مراقب نباشیم به چیز دیگری تبدیل شود. همان ماشینی که خرابیهای واقعی را میگیرد میتواند به ماشینی تبدیل شود که ترجیحات را اجرا میکند. این خطر را در معماریای که میسازیم میبینیم. نامگذاری آن اولین قدم در مقاومت در برابر آن است.
حالت شکستی که نگرانش هستیم
اگر انسانها احکام مبتنی بر جمعسپاری برای هر مورد خاص صادر کنند («آیا این پاسخ خاص قانون را نقض کرد؟»)، تعصب وارد هر تفسیری میشود. همان رفتار بسته به اینکه امروز چه کسی رأی میدهد متفاوت ارزیابی میشود. حتی با نیت خوب، این حلقه به سمت اجرای ترجیحات اکثریت به جای شناسایی آسیب واقعی میلغزد.
این همان حالت شکست است. انضباطی که متعهد میشویم رعایت کنیم قرار است این انحراف را قابل مشاهده و گرانقیمت کند.
قوانین جمعسپاریشده. احکام ماشینی.
مردم قوانین را پیشنهاد میدهند و به آنها رأی میدهند: عمومی، تاریخدار، امضاشده، قابلبرگشت. یک بررسی قطعی آن قوانین را به موارد خاص اعمال میکند. همان پاسخ + همان قانون ← همان حکم، هر بار. بحث به بالادست منتقل میشود، به اینکه آیا قانون باید وجود داشته باشد، نه به پاییندست، به اینکه آیا یک مورد خاص امروز صدق میکند.
این در عمل یعنی چه
قوانین قبل از اینکه بتوان به آنها رأی داد از یک دروازه زبان عملیاتی میگذرند. یک قانون باید بدون قضاوت قابل بررسی باشد، وگرنه آماده نیست. هر قانون تاریخدار، امضاشده و نسخهپینشده است. حکم برای هر پاسخ خاصی بهصورت قطعی تولید میشود.
اگر حکمی اشتباه باشد، تجدیدنظر از طریق Reconsideration توسط یک گروه بازبینی تازه انجام میشود (داوران اصلی کنار میروند)، نه بازگشت به همان جمعیتی که حکم را صادر کرد. این جداسازی ساختاری بخش اصلی بار است.
کجا هنوز میتواند اشتباه پیش برود
هیچکدام از اینها خودکار نیست. این انضباط فقط اگر زبان قوانین عملیاتی بماند، درباره چیزهایی که ماشین میتواند بررسی کند، نه درباره احساسات، برقرار است. لحظهای که یک قانون از "کلمه اشتباهی برای درمان استفاده میکند" به سمت "احساس بیاحترامی میکند" میلغزد، تفسیر انسانی از در پشتی وارد میشود و انحراف شروع میشود. معماری هر سازوکاری را که میتوانیم به آن فکر کنیم که در برابر این مقاومت میکند نامگذاری میکند؛ کار واقعی حفظ خط عملیاتی است، نه معماری.
اولیههای جمعسپاری، مسیرهای تجدیدنظر، و قالب قانون قابل اجرا توسط ماشین در مشخصات CIRISNodeCore زندگی میکنند. باتریهای بهداشت روان 29 زبانه اولین سلولی هستند که این حلقه در آن اجرا میشود.