Superalignment
KI ist schneller als alle, die für sie verantwortlich sind.
- 01
Die Angst
Wir bauen Köpfe, die wir nicht prüfen können. Sie werden von Regeln gesteuert, die eine einzige Firma neu schreiben kann, in Systemen, die niemand außerhalb dieser Firma sehen kann. Man bittet uns, dem Labor zu vertrauen.
- 02
So funktioniert es
CIRIS stellt die KI in ein Netzwerk, in dem jede Handlung ein signierter Eintrag ist. Eine Person, eine KI und eine Organisation tragen alle dieselbe Art von Identität und werden alle gleich zur Verantwortung gezogen.
- 03
Was sich ändert
Das macht die KI nicht gut, und das sagt nichts darüber aus, was im Inneren des Modells geschieht. Was es tut: Es sorgt dafür, dass die Menschen, die einen Agenten halten, ihn anhalten, korrigieren und zurückweisen können, und lässt Sie die Signaturen lesen statt der Pressemitteilung.
- 04
Und dann
Es bindet nur diejenigen, die sich anschließen, und kann daher nicht verhindern, dass sich anderswo eine nicht rechenschaftspflichtige Superintelligenz bildet. Innerhalb von CIRIS tut es mit den Regeln und dem Netzwerk, die ihm zur Verfügung stehen, sein Bestes, um zu verhindern, dass diese Macht ohne Rechenschaftspflicht entsteht. Dieselben signierten Aufzeichnungen laufen auf demselben privaten Substrat wie die KI auf Ihrem Smartphone.
Vier Ängste, ein Fundament. Nimm die Mitte weg, der du vertrauen musst, und alle vier verändern sich auf einmal.
Dieselbe Antwort, gesehen aus den anderen Ängsten