CIRIS
Diese Seite wurde maschinell übersetzt. Falls etwas falsch klingt, öffnen Sie bitte ein Issue auf GitHub. Das Repository ist öffentlich, damit jeder helfen kann, es zu beheben. Ein Übersetzungsproblem melden

← zurück zur Startseite

Superalignment

KI ist schneller als alle, die für sie verantwortlich sind.

  1. 01

    Die Angst

    Wir bauen Köpfe, die wir nicht prüfen können. Sie werden von Regeln gesteuert, die eine einzige Firma neu schreiben kann, in Systemen, die niemand außerhalb dieser Firma sehen kann. Man bittet uns, dem Labor zu vertrauen.

  2. 02

    So funktioniert es

    CIRIS stellt die KI in ein Netzwerk, in dem jede Handlung ein signierter Eintrag ist. Eine Person, eine KI und eine Organisation tragen alle dieselbe Art von Identität und werden alle gleich zur Verantwortung gezogen.

  3. 03

    Was sich ändert

    Das macht die KI nicht gut, und das sagt nichts darüber aus, was im Inneren des Modells geschieht. Was es tut: Es sorgt dafür, dass die Menschen, die einen Agenten halten, ihn anhalten, korrigieren und zurückweisen können, und lässt Sie die Signaturen lesen statt der Pressemitteilung.

  4. 04

    Und dann

    Es bindet nur diejenigen, die sich anschließen, und kann daher nicht verhindern, dass sich anderswo eine nicht rechenschaftspflichtige Superintelligenz bildet. Innerhalb von CIRIS tut es mit den Regeln und dem Netzwerk, die ihm zur Verfügung stehen, sein Bestes, um zu verhindern, dass diese Macht ohne Rechenschaftspflicht entsteht. Dieselben signierten Aufzeichnungen laufen auf demselben privaten Substrat wie die KI auf Ihrem Smartphone.

Vier Ängste, ein Fundament. Nimm die Mitte weg, der du vertrauen musst, und alle vier verändern sich auf einmal.

Dieselbe Antwort, gesehen aus den anderen Ängsten