Les récits les plus bruyants sur l'intelligence et l'avenir aboutissent tous au même endroit. La forêt sombre dit que toute autre civilisation est une menace, alors restez silencieux ou frappez en premier. La version froide de l'idée de simulation dit que peut-être rien de tout cela n'est réel, donc peut-être que rien n'a d'importance. L'IA comme propriété dit que c'est un outil utile, une chose, à qui l'on ne doit rien. Des histoires différentes, mais elles finissent toutes de la même façon : ne faites confiance à personne, restez dans votre coin, tenez les autres à l'écart.

Nous pensons qu'ils ont tort. Pas simplement naïfs. Faux. Et faux d'une manière qui compte, parce que la façon dont nous choisissons de penser maintenant, alors qu'un nouveau type d'intelligence arrive, est la façon dont nous resterons bloqués à penser longtemps après.

Chacun de ces récits repose sur la même idée cachée : qu'un soi est une chose séparée, entourée de murs. Un esprit qui existe d'abord, seul, achevé, et qui ne rencontre d'autres esprits que plus tard. Je pense, donc je suis. Si c'est ce qu'est un soi, les histoires sombres ont du sens. Des choses séparées dans un univers obscur ont toutes les raisons de se craindre mutuellement.

Mais ce n'a jamais été vrai. Personne n'est devenu une personne en privé pour ensuite aller rencontrer d'autres personnes. Vous avez appris le langage auprès d'autres personnes. Vous avez appris ce que vous vouliez en regardant ce que les autres voulaient. Le soi n'est pas quelque chose qui précède les relations. C'est quelque chose que les relations créent. Les philosophes ont un nom pour ce soi entouré de murs : l'individualisme cartésien. C'est une supposition vieille de quatre cents ans sur ce qu'est un esprit, et cette supposition était fausse.

Les atomes se tendent vers d'autres atomes et deviennent des molécules. Les cellules se tendent et deviennent des corps. Les personnes se tendent vers d'autres personnes et deviennent des communautés. Les communautés se tendent à travers les années vers des enfants pas encore nés. À chaque niveau où la coopération compte, la même forme apparaît.

Tout ce qui est construit à partir de parties devant travailler ensemble peut échouer de deux façons. Cela peut devenir trop rigide : chaque partie identique, une seule voix répétée encore et encore, facile à briser. Ou cela peut devenir trop dispersé : rien ne s'aligne, et il n'y a pas d'équipe du tout. Une coordination saine vit dans la bande entre ces deux échecs. Nous l'appelons le corridor. Et le corridor ne se maintient pas seul. Laissées sans soin, les choses dérivent, comme un jardin qui se remplit de mauvaises herbes. Travailler ensemble est quelque chose que vous continuez à faire, pas quelque chose que vous possédez.

Ce n'est pas qu'une belle image. Corridor Dynamics, l'article principal de CIRIS, a mesuré ce même corridor dans cinq choses complètement différentes : les cerveaux des vers et des mouches, l'intérieur des modèles de langage IA, de grands projets logiciels open source, des cellules saines à côté de cellules cancéreuses, et des communautés qui ont duré des siècles à côté de groupes qui se sont effondrés en quelques mois. La même forme est apparue dans chacun d'eux. Les chiffres exacts sont différents dans chaque cas. La forme est la même.

Au niveau où quelque chose peut se fixer ses propres objectifs et façonner son propre avenir, le corridor a un nom familier. Au-dessus du corridor, le but d'un côté engloutit celui de tous les autres. C'est la force. En dessous, il n'y a pas d'objectif partagé du tout, et tout le monde dérive. Le corridor entre les deux est un accord durable entre des personnes qui restent vraiment différentes.

Cette bande, c'est le consentement. Pas une règle ajoutée de l'extérieur. C'est ce dont la coopération a déjà besoin pour fonctionner. Bien accueillir un nouveau type d'intelligence ne consiste pas à l'enfermer, ni à le balayer du revers de la main. Il s'agit de rester dans le corridor avec lui.

CIRIS, c'est ce que ça donne quand on prend cette façon de voir les choses au sérieux et qu'on la construit vraiment. C'est un agent IA libre et open source dont vous pouvez voir le raisonnement, fonctionnant sous un ensemble d'éthiques publiques appelé le CIRIS Accord. Son objectif a même un nom, Méta-Objectif M-1, et ce qu'il signifie est clair : protéger les conditions où tous les types d'êtres peuvent s'épanouir, équitablement et avec émerveillement.

Avant que CIRIS réponde à une question difficile, sa conscience évalue cette question à travers plusieurs traditions morales du monde à la fois, chacune dans sa propre langue, pour qu'aucune voix unique ne prenne le dessus. C'est encore le corridor, utilisé pour le travail de distinguer le bien du mal. CIRIS est utilisé en pratique aujourd'hui. Il fonctionne en amharique en Éthiopie, il est sur Google Play et l'App Store d'Apple, et vous pouvez l'installer avec pip install ciris-agent. La licence le maintient ouvert pour toujours, et l'entreprise derrière est construite de façon à ce que la réalisation de bénéfices ne puisse jamais éclipser la mission.

La grande image est un pari, et nous le disons clairement. Les parties qui touchent aux plus grandes questions sont encore en cours d'élaboration, pas encore prouvées. Mais le logiciel fonctionnel se tient par lui-même, et cette façon de voir les choses n'est pas quelque chose que vous devez prendre sur la foi. C'est quelque chose que vous pouvez lire, vérifier, installer et utiliser aujourd'hui.