این صفحه توسط ماشین ترجمه شده است. اگر چیزی نادرست به نظر می‌رسد، لطفاً یک مشکل گزارش دهید — مخزن به دلیلی عمومی است. گزارش مشکل ترجمه

بازگشت به لابی

Coherence Collapse Analysis

چک‌های اضافه از کی کمک نمی‌کنند؟

انباشتن چک‌ها برای کشف یک دروغ فقط وقتی کار می‌کند که چک‌ها واقعاً مستقل باشند. اگر پنهانی از هم کپی کنند، افزودن بیشتر فایدی ندارد. Coherence Collapse Analysis تکه ساده ریاضی‌ای است که این تفاوت را اندازه می‌گیرد. نسخه کامل، با همه اثبات‌ها، در مقاله است.

صفحه ریاضی

توسط نرم‌افزار اثبات بررسی شده

پنج چک که همه از هم کپی می‌کنند در واقع یک چک هستند.

فرض کنید پنج نفر یک پاسخ را چک می‌کنند و همه پنج نفر موافقت می‌کنند. این ایمن به نظر می‌رسد. اما اگر همه پنج نفر آن را از یک منبع یاد گرفته باشند، توافقشان پنج نظر نیست. یک نظر است که پنج بار تکرار شده. تعداد چک‌ها پنج به نظر می‌رسد. تعداد واقعی یک است.

این برای هوش مصنوعی اهمیت دارد. یک سیستم هوش مصنوعی می‌تواند چک‌های زیادی روی استدلال خودش اجرا کند و هنوز فریب بخورد، اگر آن چک‌ها همان نقطه کور را داشته باشند. Coherence Collapse Analysis روشی است که CIRIS با آن بین چک‌های واقعی و بازتاب‌ها تفاوت قائل می‌شود.

شمارش چک‌هایی که واقعاً دارید.

یک فرمول کوتاه در قلب آن وجود دارد. از آمار پیمایش می‌آید، جایی که اثر طرح Kish نامیده می‌شود. CIRIS اولین بار بود که از آن برای همسویی هوش مصنوعی استفاده کرد.

real checks = checks / (1 + copying × (checks − 1))

«Checks» تعداد چک‌هایی است که اجرا کردید. «Copying» چقدر آن‌ها با هم همپوشانی دارند، از ۰ (همه مستقل) تا ۱ (همه یکسان). نتیجه تعداد چک‌هایی است که واقعاً دارید.

بدون کپی: ده چک به‌عنوان ده شمرده می‌شوند. هر چک جایگاه خود را کسب می‌کند.

کپی کامل: ده چک به‌عنوان یک شمرده می‌شوند. مهم نیست چند تا اضافه کنید.

نه خیلی یکسان، نه خیلی پراکنده.

همان شکلی که در همه جا CIRIS می‌بیند اینجا هم ظاهر می‌شود. اگر چک‌ها خیلی از هم کپی کنند، سیستم خیلی سخت است: یک صدا که تکرار می‌شود، آسان برای فریب. اگر هیچ وجه مشترکی نداشته باشند، خیلی پراکنده است: نمی‌توانند روی هیچ چیزی توافق کنند. چک سالم در ناحیه بین قرار دارد، همان کریدوری که بقیه CIRIS پیرامونش ساخته شده.

لبه‌های دقیق این ناحیه به سیستم اندازه‌گیری‌شونده بستگی دارند. هیچ عدد جادویی واحدی وجود ندارد که همه جا کار کند، و پژوهش در این مورد صادق است. ایده کریدور، به‌طور کامل، در صفحه دیدگاه است.

این اندازه‌گیری شد، نه فقط استدلال.

CIRIS تعداد چک واقعی را روی ترافیک زنده عامل خودش، در هزاران تصمیم ثبت‌شده، اندازه گرفت. در ترافیک سالم در محدوده حدود هفت تا نه چک واقعاً مستقل اجرا شده است. این اندازه‌گیری، و نحوه انجامش، مطالعه Constrained Reasoning Chains است. می‌توانید اعداد زنده را در صفحه پژوهش دنبال کنید.

این ریاضیات چه کاری نمی‌تواند بکند.

مقاله یک محدودیت سخت برای خودش اثبات می‌کند. برخی آسیب‌ها از یک بخش نادرست نمی‌آیند. از بخش‌های درستی می‌آیند که با هم به نتیجه بدی می‌رسند، و تقریباً چهل درصد این نوع آسیب توسط هیچ بررسی‌کننده‌ای، هر چقدر هم خوب، قابل کشف نیست. CIRIS این را صریح می‌گوید به‌جای وانمود کردن که ریاضیات همه چیز را می‌گیرد.

آنچه ریاضیات می‌گوید درباره هزینه در طول زمان است: انجام استدلال واقعی و صادقانه برای هفته‌ها یکنواخت‌تر و ارزان‌تر از حفظ سازگاری یک دروغ در هزاران تصمیم ثبت‌شده است. زمین را به‌سمت صداقت متمایل می‌کند. وعده گرفتن هر دروغ منفردی را نمی‌دهد.

ریاضیات یک بخش از یک کل بزرگ‌تر است.

این صفحه اندازه‌گیری است. Coherence Ratchet نحوه به‌کارگیری اندازه‌گیری است. فدراسیون چیزی است که آن را به چیزی تبدیل می‌کند که سیستم‌های متعدد به اشتراک می‌گذارند. و اثبات‌های کامل، نوشته‌شده طوری که یک کامپیوتر می‌تواند آن‌ها را خط به خط بررسی کند، در مقاله و مخزن RATCHET هستند.

CIRISsafe by structure · open by principle · kind by design