Superalignment

KI wächst schneller als jede Kontrolle.

01
Die Angst
Wir bauen Köpfe, die wir nicht prüfen können. Sie werden von Regeln gesteuert, die eine einzige Firma neu schreiben kann, in Systemen, die niemand außerhalb dieser Firma sehen kann. Man bittet uns, dem Labor zu vertrauen.
02
So funktioniert es
CIRIS stellt die KI in ein Netzwerk, in dem jede Handlung ein signierter Eintrag ist. Eine Person, eine KI und eine Organisation tragen alle dieselbe Art von Identität und werden alle gleich zur Verantwortung gezogen.
03
Was sich ändert
KI ehrlich zu halten ist dann keine Richtlinie mehr, von der eine Firma hofft, dass sie hält. Es wird zu etwas, das das Netzwerk durchsetzt. Du vertraust nicht der Pressemitteilung. Du liest die Signaturen.
04
Und dann
Ein Netzwerk, das eine übermenschliche KI zur Verantwortung ziehen kann, ist seiner Form nach ein Internet ohne Mitte. Dieselben signierten Einträge erlauben es jedem zu prüfen, was stimmt, und sie laufen auf derselben privaten Grundlage wie die KI auf deinem Handy.

Vier Ängste, ein Fundament. Nimm die Mitte weg, der du vertrauen musst, und alle vier verändern sich auf einmal.

Dasselbe Fundament, durch andere Türen