Superalignment
هوش مصنوعی از همه کسانی که مسئولش هستند جلو زده.
- 01
ترس
ما در حال ساختن ذهنهایی هستیم که نمیتوانیم حسابرسی کنیم. آنها توسط قوانینی اداره میشوند که یک شرکت میتواند بازنویسی کند، درون سیستمهایی که هیچ کس خارج از آن شرکت نمیتواند ببیند. از ما خواسته میشود به آزمایشگاه اعتماد کنیم.
- 02
چگونه کار میکند
CIRIS هوش مصنوعی را درون شبکهای قرار میدهد که هر کاری انجام میدهد یک سابقه امضا شده است. یک انسان، یک هوش مصنوعی و یک سازمان همه یک نوع هویت دارند و همه به یک شکل پاسخگو هستند.
- 03
چه چیزی تغییر میکند
صادق نگه داشتن هوش مصنوعی دیگر سیاستی نیست که یک شرکت امیدوار است پابرجا بماند. چیزی میشود که شبکه اجرا میکند. به بیانیه مطبوعاتی اعتماد نمیکنی. امضاها را میخوانی.
- 04
و بعد
شبکهای که میتواند یک هوش مصنوعی فوقانسانی را پاسخگو نگه دارد، به شکل خودش، اینترنتی بدون مرکز است. همان سوابق امضا شده به هرکسی اجازه میدهند بررسی کنند چه چیزی درست است، و روی همان بستر خصوصی که هوش مصنوعی گوشی تو است اجرا میشوند.
چهار ترس، یک پایه. مرکزی که مجبوری به آن اعتماد کنی را حذف کن، و هر چهار مشکل با هم تغییر میکنند.
همان پایه، دیده شده از درهای دیگر