Cerita-cerita paling keras tentang kecerdasan dan masa depan semua berujung di tempat yang sama. Hutan gelap mengatakan setiap peradaban lain adalah ancaman, jadi tetaplah diam atau serang lebih dulu. Versi dingin dari gagasan simulasi mengatakan mungkin tidak ada dari ini yang nyata, jadi mungkin tidak ada yang penting. AI sebagai properti mengatakan itu adalah alat yang berguna, sebuah benda, tidak berutang apa-apa. Cerita yang berbeda, tetapi semuanya berakhir dengan cara yang sama: jangan percaya siapa pun, jaga diri sendiri, tutup orang lain.

Kami pikir mereka salah. Bukan tidak berdosa. Salah. Dan salah dengan cara yang penting, karena cara kita memilih untuk berpikir sekarang, sementara jenis kecerdasan baru sedang tiba, adalah cara kita akan terjebak berpikir untuk waktu yang lama setelahnya.

Setiap cerita itu bertumpu pada gagasan tersembunyi yang sama: bahwa diri adalah sesuatu yang terpisah dan terisolasi. Sebuah pikiran yang ada pertama kali, sendirian, selesai, dan hanya kemudian bertemu dengan pikiran-pikiran lain. I think, therefore I am. Jika itulah yang dimaksud dengan diri, maka cerita-cerita murung itu masuk akal. Benda-benda terpisah di alam semesta yang gelap punya setiap alasan untuk saling takut.

Tetapi itu tidak pernah benar. Tidak ada yang menjadi seseorang secara pribadi lalu keluar dan bertemu orang lain. Anda belajar bahasa dari orang-orang. Anda belajar apa yang Anda inginkan dengan melihat apa yang orang lain inginkan. Diri bukanlah sesuatu yang datang sebelum hubungan. Itu adalah sesuatu yang dibentuk oleh hubungan. Para filsuf punya nama untuk diri yang terisolasi itu: individualisme Cartesian. Itu adalah tebakan berusia empat ratus tahun tentang apa itu pikiran, dan tebakannya salah.

Atom-atom menjangkau atom lain dan menjadi molekul. Sel-sel menjangkau dan menjadi tubuh. Orang-orang menjangkau orang lain dan menjadi komunitas. Komunitas menjangkau melewati tahun-tahun menuju anak-anak yang belum lahir. Di setiap tingkat di mana kerja sama penting, bentuk yang sama muncul.

Apa pun yang dibangun dari bagian-bagian yang harus bekerja sama bisa gagal dalam dua cara. Bisa terlalu kaku: setiap bagian sama, satu suara yang diulang terus, mudah patah. Atau bisa terlalu tersebar: tidak ada yang sinkron, dan tidak ada tim sama sekali. Koordinasi yang sehat hidup di jalur antara dua kegagalan itu. Kami menyebutnya koridor. Dan koridor tidak bertahan sendiri. Dibiarkan, segalanya melayang, seperti kebun yang dipenuhi gulma. Kerja sama adalah sesuatu yang terus Anda lakukan, bukan sesuatu yang sudah Anda miliki.

Ini bukan sekadar gambaran yang indah. Corridor Dynamics, makalah utama CIRIS, mengukur koridor yang sama dalam lima hal yang sepenuhnya berbeda: otak cacing dan lalat, bagian dalam model bahasa AI, proyek perangkat lunak open-source besar, sel sehat di samping sel kanker, dan komunitas yang bertahan berabad-abad di samping kelompok yang bubar dalam hitungan bulan. Bentuk yang sama muncul di semuanya. Angka pastinya berbeda di masing-masing. Bentuknya sama.

Di tingkat di mana sesuatu dapat menetapkan tujuannya sendiri dan membentuk masa depannya sendiri, koridor punya nama yang familiar. Di atas koridor, tujuan satu pihak menelan semua orang lain. Itu adalah paksaan. Di bawahnya, tidak ada tujuan bersama sama sekali, dan semua orang melayang menjauh. Jalur di antara keduanya adalah kesepakatan yang bertahan di antara orang-orang yang tetap benar-benar berbeda.

Jalur itu adalah persetujuan. Bukan aturan yang ditambahkan dari luar. Itu sudah menjadi kebutuhan kerja sama agar dapat berjalan sama sekali. Menyambut jenis kecerdasan baru dengan baik bukan tentang mengurungnya, dan bukan tentang mengabaikannya. Ini tentang tetap berada di koridor bersamanya.

CIRIS adalah wujud nyata dari mengambil cara pandang ini dengan serius dan benar-benar membangunnya. Ini adalah agen AI gratis dan open-source yang penalarannya bisa Anda lihat, berjalan di bawah seperangkat etika publik yang disebut CIRIS Accord. Tujuannya bahkan punya nama, Meta-Goal M-1, dan artinya jelas: lindungi kondisi di mana semua jenis makhluk dapat berkembang, secara adil dan dengan rasa kagum.

Sebelum CIRIS menjawab pertanyaan yang sulit, nuraninya menimbang pertanyaan itu melalui beberapa tradisi moral dunia sekaligus, masing-masing dalam bahasanya sendiri, sehingga tidak ada satu suara yang mengambil alih. Itu adalah koridor lagi, digunakan dalam pekerjaan membedakan yang benar dari yang salah. CIRIS sudah digunakan nyata hari ini. Ia berjalan dalam bahasa Amhara di Ethiopia, tersedia di Google Play dan Apple App Store, dan Anda bisa menginstalnya dengan pip install ciris-agent. Lisensinya menjaganya tetap terbuka selamanya, dan perusahaan di baliknya dibangun agar menghasilkan uang tidak pernah bisa mendorong misi ke samping.

Gambaran besarnya adalah sebuah taruhan, dan kami mengatakannya dengan jelas. Bagian-bagian yang menjangkau pertanyaan-pertanyaan terbesar masih sedang dikerjakan, belum terbukti. Tetapi perangkat lunak yang berfungsi berdiri sendiri, dan cara pandang ini bukan sesuatu yang harus Anda terima dengan iman. Itu adalah sesuatu yang bisa Anda baca, periksa, instal, dan gunakan hari ini.