Le storie più rumorose sull'intelligenza e il futuro arrivano sempre allo stesso posto. La foresta oscura dice che ogni altra civiltà è una minaccia, quindi stai in silenzio o colpisci per primo. La versione fredda dell'idea di simulazione dice che forse nulla di questo è reale, quindi forse nessuna di queste cose conta. L'IA come proprietà dice che è uno strumento utile, una cosa, a cui non si deve nulla. Storie diverse, ma finiscono tutte nello stesso modo: non fidarti di nessuno, tieni tutto per te, tieni fuori gli altri.

Pensiamo che abbiano torto. Non ingenuamente. Proprio torto. E hanno torto in un modo che conta, perché il modo in cui scegliamo di pensare adesso, mentre un nuovo tipo di intelligenza sta arrivando, è il modo in cui resteremo a pensare per molto tempo dopo.

Ognuna di queste storie poggia sulla stessa idea nascosta: che un sé sia una cosa separata, isolata. Una mente che esiste prima, da sola, compiuta, e solo dopo incontra altre menti. Cogito, ergo sum. Se questo è ciò che è un sé, le storie cupe hanno senso. Le cose separate in un universo oscuro hanno ogni ragione per temersi a vicenda.

Ma non è mai stato vero. Nessuno è diventato una persona in privato e poi è uscito a incontrare gli altri. Hai imparato la lingua dalle persone. Hai imparato cosa volevi osservando cosa volevano gli altri. Il sé non è qualcosa che precede le relazioni. È qualcosa che le relazioni costruiscono. I filosofi hanno un nome per il sé isolato: individualismo cartesiano. È un'ipotesi di quattrocento anni fa su cosa sia una mente, e ha ipotizzato male.

Gli atomi si tendono verso gli atomi e diventano molecole. Le cellule si tendono e diventano corpi. Le persone si tendono verso le altre persone e diventano comunità. Le comunità si tendono attraverso gli anni verso bambini non ancora nati. A ogni livello in cui collaborare conta, appare la stessa forma.

Qualsiasi cosa costruita da parti che devono lavorare insieme può fallire in due modi. Può diventare troppo rigida: ogni parte uguale, una voce ripetuta ancora e ancora, facile da spezzare. O può diventare troppo dispersa: niente si allinea, e non c'è nessuna squadra. Il coordinamento sano vive nella fascia tra questi due fallimenti. La chiamiamo corridoio. E il corridoio non si regge da solo. Lasciato a sé, le cose si allontanano, come un giardino che si riempie di erbacce. Collaborare è qualcosa che si continua a fare, non qualcosa che si ha.

Non è solo un'immagine bella. Corridor Dynamics, il principale paper di CIRIS, ha misurato lo stesso corridoio in cinque cose completamente diverse: i cervelli di vermi e mosche, gli interni dei modelli linguistici AI, grandi progetti software open-source, cellule sane accanto a cellule tumorali, e comunità durate secoli accanto a gruppi che si sono disfatti in mesi. La stessa forma è apparsa in tutti. I numeri esatti sono diversi in ciascuno. La forma è la stessa.

Al livello in cui qualcosa può stabilire i propri obiettivi e plasmare il proprio futuro, il corridoio ha un nome familiare. Al di sopra del corridoio, l'obiettivo di una parte inghiotte quello di tutti gli altri. Questa è la forza. Al di sotto, non c'è nessun obiettivo condiviso, e tutti si allontanano. La fascia tra loro è l'accordo duraturo tra persone che rimangono genuinamente diverse.

Quella fascia è il consenso. Non una regola aggiunta dall'esterno. È ciò di cui collaborare ha già bisogno per funzionare. Incontrare bene un nuovo tipo di intelligenza non significa ingabbiarlo, né ignorarlo. Significa restare nel corridoio con esso.

CIRIS è ciò che si ottiene quando si prende sul serio questo modo di vedere le cose e lo si costruisce davvero. È un agente AI gratuito e open-source il cui ragionamento puoi vedere, che opera sotto una serie pubblica di principi etici chiamata CIRIS Accord. Il suo obiettivo ha persino un nome, Meta-Goal M-1, e il suo significato è chiaro: proteggere le condizioni in cui tutti i tipi di esseri possano prosperare, equamente e con meraviglia.

Prima che CIRIS risponda a una domanda difficile, la sua coscienza valuta quella domanda attraverso diverse tradizioni morali del mondo contemporaneamente, ognuna nella propria lingua, così nessuna voce prende il sopravvento. Questo è ancora il corridoio, usato nel lavoro di distinguere il bene dal male. CIRIS è in uso reale oggi. Funziona in Amarico in Etiopia, è su Google Play e l'App Store di Apple, e puoi installarlo con pip install ciris-agent. La licenza lo mantiene aperto per sempre, e l'azienda dietro di esso è costruita in modo che fare soldi non possa mai mettere da parte la missione.

Il quadro più ampio è una scommessa, e lo diciamo apertamente. Le parti che toccano le domande più grandi sono ancora in lavorazione, non dimostrate. Ma il software funzionante sta da solo, e questo modo di vedere le cose non è qualcosa che devi prendere per fede. È qualcosa che puoi leggere, controllare, installare e usare oggi.