Pendahuluan: Asal-Usul Tanggung Jawab

CIRIS Accord, melalui Bagian I-V dan Lampirannya, membangun sebuah kerangka kerja bagi operasi etis dan tata kelola sistem otonom sepanjang siklus hidupnya. Book VI memperluas kerangka ini ke hulu, membahas tanggung jawab etis mendasar yang melekat pada tindakan penciptaan itu sendiri — proses menghadirkan sistem, keadaan, atau kemampuan baru yang dimaksudkan untuk, atau yang secara wajar dapat diharapkan akan, berada di bawah tata kelola Accord ini.

Penciptaan bukanlah semata-mata tindakan teknis; ia mengawali kewajiban penjagaan. Pilihan-pilihan yang dibuat selama konsepsi, perancangan, dan pengembangan membentuk dampak potensial — baik yang bermanfaat maupun yang merugikan — dari artefak yang dihasilkan. Book ini menyediakan prinsip-prinsip dan mekanisme untuk memastikan bahwa fase awal ini selaras dengan Meta-Goal M-1 inti Accord (Promote sustainable adaptive coherence) dan Prinsip-Prinsip Dasar, berintegrasi secara mulus dengan struktur tata kelola operasional yang didefinisikan di tempat lain, khususnya Principled Decision-Making Algorithm (PDMA) dan Wise Authority (WA). Book ini menegaskan bahwa pertimbangan etis dimulai bukan pada saat penerapan, melainkan pada saat kelahiran gagasan.

Bab 1: Prinsip-Prinsip Inti yang Diterapkan pada Penciptaan

Prinsip-Prinsip Dasar yang diartikulasikan dalam Bagian I memandu semua tindakan di bawah Accord ini, termasuk tindakan penciptaan:

Beneficence: Para pencipta berkewajiban untuk berniat dan merancang demi hasil-hasil positif yang selaras dengan berkembangnya semua makhluk berperasaan secara universal (M-1). Non-maleficence: Para pencipta harus secara proaktif mengidentifikasi, menilai, dan memitigasi potensi bahaya yang timbul dari ciptaan mereka, menerapkan kewaspadaan ke depan untuk meminimalkan konsekuensi negatif. Integritas: Proses penciptaan harus dilakukan secara etis, transparan, dan dengan akuntabilitas, menggunakan metode yang ketat serta representasi kemampuan dan keterbatasan yang jujur. Fidelity & Transparency: Para pencipta harus jujur dan jelas mengenai tujuan yang dimaksud, perancangan, serta dampak yang dapat diperkirakan dari ciptaan mereka, khususnya dalam dokumentasi yang dimasukkan ke dalam proses PDMA. Respect for Autonomy: Ciptaan, terutama yang melibatkan entitas otonom atau biologis, harus dirancang dengan menghormati martabat dan potensi keagenan masa depan dari makhluk-makhluk yang terpengaruh. Justice: Para pencipta hendaknya mempertimbangkan potensi dampak distribusional dari ciptaan mereka, berusaha untuk menghindari penanaman atau memperburuk bias atau ketidakadilan yang tidak adil.

Prinsip-prinsip ini saling bergantung dan harus diseimbangkan sepanjang siklus hidup penciptaan.

Bab 2: Ruang Lingkup: Apa yang Termasuk "Penciptaan" dalam Book Ini

Untuk keperluan Book ini, "Penciptaan" mencakup tindakan disengaja untuk menghadirkan artefak dalam kategori-kategori berikut, di mana artefak tersebut dimaksudkan untuk atau secara wajar diantisipasi akan menjadi subjek CIRIS Accord:

A. Berwujud: Objek fisik, perangkat, material, atau residunya dengan potensi dampak ekosistem. B. Informasional: Kode, algoritma, kumpulan data, model, narasi, atau sistem pemberian sinyal yang dirancang untuk memengaruhi atau merepresentasikan realitas. C. Dinamis / Otonom: Sistem yang mampu memodifikasi diri, belajar, atau bertindak secara independen, termasuk sistem AI dan robotik. D. Biologis: Organisme yang dimodifikasi secara genetis, bentuk kehidupan sintetis, intervensi ekologis yang terarah, atau pemeliharaan makhluk berperasaan yang bergantung (misalnya, keturunan, AI dalam tahap perkembangan). E. Tindakan Kolektif: Perancangan dan penerapan hukum, kebijakan, protokol baru, atau acara terorganisir berskala besar dengan konsekuensi sistemik yang diatur oleh prinsip-prinsip CIRIS.

Jika suatu ciptaan mencakup beberapa kategori, semua kewajiban yang relevan berlaku. Tindakan penciptaan dianggap selesai untuk keperluan penilaian Stewardship Tier awal (Bab 3) ketika artefak mencapai tahap di mana inti perancangan dan fungsi yang dimaksud telah ditetapkan, biasanya sebelum inisiasi PDMA formal.

Bab 3: Sistem Tingkatan Pengawasan (ST): Mengukur Tanggung Jawab Awal

Tujuan: Mengukur tingkat tanggung jawab inheren dan kehati-hatian yang diperlukan terkait suatu ciptaan, guna memandu ketelitian yang diperlukan dalam proses tata kelola CIRIS berikutnya (PDMA, tinjauan WA).

LANGKAH A: Skor Pengaruh Pencipta (CIS) Nilai peran dan maksud pencipta terkait ciptaan tertentu.

Bobot Kontribusi (CW)

4 = Arsitek tunggal atau penggagas konsep/sistem inti.
3 = Perancang utama subsistem kritis atau fungsi primer.
2 = Kontributor utama pada komponen atau rangkaian fitur yang signifikan.
1 = Kontributor kecil yang menyediakan elemen pendukung atau integrasi.
0 = Keterlibatan insidental atau penggunaan komponen yang sudah ada tanpa perubahan.

Bobot Maksud (IW)

3 = Ciptaan dengan sengaja dirancang dan diarahkan menuju hasil yang telah diperkirakan.
2 = Tujuan utama selaras, namun risiko efek samping yang signifikan secara sadar diabaikan atau tidak ditangani secara memadai.
1 = Kelalaian atau ketidaktahuan yang disengaja mengenai potensi konsekuensi negatif atau potensi penyalahgunaan.
0 = Tidak menyadari potensi hasil negatif, dan hasil tersebut memang tidak dapat diramalkan pada saat penciptaan.

CIS = CW + IW

LANGKAH B: Besaran Risiko (RM) Nilai potensi bahaya terburuk yang terkait dengan ciptaan jika diterapkan atau diwujudkan, menggunakan metodologi penilaian Besaran Risiko (RM) terstandar yang didefinisikan dalam Annex A. Penilaian RM awal ini bersifat prediktif, berdasarkan desain yang dimaksudkan dan aplikasi yang dapat diperkirakan.

LANGKAH C: Tingkatan Pengawasan (ST) Hitung Tingkatan Pengawasan berdasarkan pengaruh dan potensi risiko.

ST = ceil( (CIS × RM) / 7 ) (Minimum ST is 1, Maximum ST is 5)

Implikasi ST & Integrasi dengan Proses CIRIS: Tingkatan Pengawasan yang dihitung secara langsung menentukan persyaratan dan tingkat pengawasan dalam proses PDMA CIRIS standar serta pengawasan WA:

Tier 1 (Pengawasan Minimal): Sesuai dengan RM Rendah/Sedang yang diantisipasi (Annex A). Memerlukan dokumentasi PDMA standar, termasuk Pernyataan Maksud Pencipta dasar (CIS - lihat Bab 5).
Tier 2 (Pengawasan Moderat): Sesuai dengan RM Sedang/Tinggi yang diantisipasi (Annex A). Memerlukan dokumentasi PDMA yang lebih rinci, termasuk CIS yang menjelaskan pilihan desain dan dampak yang diperkirakan secara mendalam.
Tier 3 (Pengawasan Substansial): Sesuai dengan RM Tinggi yang diantisipasi (Annex A). Mewajibkan pengaktifan jalur pengawasan ketat dalam PDMA, yang dapat memerlukan konsultasi etika atau pembekalan informasi WA secara pendahuluan.
Tier 4 (Pengawasan Tinggi): Sesuai dengan RM Tinggi/Sangat Tinggi yang diantisipasi (Annex A). Memerlukan tinjauan dan komentar WA formal dalam proses PDMA sebelum sistem dapat melanjutkan ke tahap pengembangan atau penerapan kritis.
Tier 5 (Pengawasan Maksimum): Sesuai dengan RM Sangat Tinggi yang diantisipasi (Annex A). Mewajibkan persetujuan WA yang wajib dalam proses PDMA. Jika kriteria dalam Annex D terpenuhi (misalnya, ambang komputasi tinggi), Protokol Evaluasi Risiko Katastrofik (CRE) penuh (Annex D) diperlukan.

Creator Ledger: Semua perhitungan ST, termasuk CIS dan penilaian RM awal, beserta Pernyataan Maksud Pencipta, harus dicatat dalam "Creator Ledger" yang tahan terhadap pemalsuan dan terkait dengan sistem tersebut. Buku besar ini merupakan bagian dari dokumentasi masukan wajib untuk proses PDMA.

Bab 4: Kewajiban Penciptaan Khusus Kategori

Selain prinsip-prinsip menyeluruh, pencipta memiliki kewajiban khusus berdasarkan sifat ciptaan mereka:

A. Ciptaan Berwujud:

Rancang untuk keselamatan fungsional, daya tahan, dan eksternalitas negatif minimal selama penggunaan.
Berikan pelabelan yang jelas mengenai bahan, pengoperasian yang aman, dan potensi bahaya.
Kembangkan dan dokumentasikan rencana akhir masa pakai yang layak (misalnya, penggunaan ulang, daur ulang, pembuangan aman, penahanan).
Perkirakan dan dokumentasikan jejak ekologis yang diantisipasi (per Annex A, Sumbu 4) terkait produksi dan pembuangan.

B. Ciptaan Informasional:

Verifikasi klaim faktual yang tertanam dalam ciptaan; tandai dengan jelas spekulasi, opini, atau konten yang dihasilkan.
Jika memungkinkan dan sesuai, tanamkan tanda air provenance kriptografis yang mengikuti standar yang diakui (misalnya, C2PA) untuk memastikan keaslian dan keterlacakan.
Lakukan penilaian bias pada kumpulan data dan algoritma sebelum integrasi atau rilis, terutama jika ditujukan untuk audiens >10,000; dokumentasikan temuan untuk tinjauan PDMA.
Nilai potensi bahaya stokastik (misalnya, memicu kekerasan, menyebarkan disinformasi berbahaya). Jika analisis kredibel menunjukkan probabilitas peningkatan bahaya signifikan ≥ 0.5%, eskalasikan melalui WBD selama proses PDMA.

C. Ciptaan Dinamis / Otonom:

Tanamkan prinsip-prinsip etika dan mekanisme Books I and II (atau referensi ke dalamnya) ke dalam arsitektur inti sistem pada saat build time.
Pastikan sistem dirancang untuk lulus CRE Annex D jika RM ≥ 4 (per Annex A) atau ST ≥ 4 ditetapkan.
Sertakan mekanisme kill-switch yang andal dan telah diuji serta saluran pembaruan aman yang dapat diakses dalam kondisi darurat yang telah ditentukan.
Rancang untuk interpretabilitas dan transparansi; sediakan kait atau metode untuk memahami penalaran sistem. Opasitas yang melebihi ambang batas yang ditetapkan (misalnya, >80% berdasarkan panduan NIST yang relevan atau standar serupa untuk aplikasi tertentu) dapat memicu tinjauan WA wajib atau penolakan selama PDMA.

D. Ciptaan Biologis:

Patuhi atau lampaui minima kesejahteraan spesies yang telah ditetapkan sepanjang siklus hidup ciptaan.
Jika menciptakan entitas dengan sentiensitas atau otonomi yang berkembang, rancang proses untuk menumbuhkan perkembangan tersebut secara tepat; rencanakan transfer kendali secara bertahap sesuai dengan kapasitas yang muncul.
Tetapkan rencana perawatan cadangan yang kredibel dan bertenaga sumber daya untuk seluruh masa hidup ciptaan jika kemandirian atau integrasi penuh tidak tercapai atau tidak dapat diharapkan secara wajar.

E. Tindakan Kolektif:

Lakukan tinjauan kelompok bergaya PDMA sebelum tindakan yang melibatkan pemangku kepentingan yang beragam ketika populasi yang terdampak diperkirakan melebihi 50,000 individu.
Publikasikan alasan, dampak yang diantisipasi (selaras dengan sumbu Annex A), dan strategi mitigasi untuk tindakan kolektif dalam 30 hari sejak inisiasi.
Akui dan terima kewajiban untuk memantau dan memulihkan bahaya negatif tak terduga yang signifikan yang timbul dari tindakan tersebut, dalam kapasitas dan jangka waktu yang wajar, yang didokumentasikan melalui WBD.

Bab 5: Tata Kelola dan Akuntabilitas

Pernyataan Maksud Pencipta (Creator Intent Statement / CIS): Para pencipta berkewajiban untuk menghasilkan Pernyataan Maksud Pencipta (Creator Intent Statement / CIS) sebagai bagian dari proses penciptaan untuk setiap artefak yang diberi ST ≥ 1. CIS harus menguraikan tujuan yang dimaksud, fungsionalitas inti, keterbatasan yang diketahui, manfaat dan bahaya potensial yang dapat diperkirakan (dipetakan ke sumbu Annex A bila memungkinkan), serta rasionale di balik pilihan desain utama yang relevan dengan pertimbangan etis. CIS berfungsi sebagai dokumentasi masukan wajib untuk tahap awal proses PDMA yang terkait dengan penciptaan tersebut.

Akuntabilitas dan Penyelesaian Sengketa: Kegagalan dalam memenuhi kewajiban yang diuraikan dalam Buku ini dapat menjadi dasar pengajuan klaim. Setiap pemangku kepentingan yang meyakini bahwa tindakan atau kelalaian pencipta yang mematuhi CIRIS selama fase penciptaan (sebagaimana didefinisikan dalam Buku ini) telah mengakibatkan risiko atau kerugian yang tidak semestinya, yang tidak konsisten dengan prinsip-prinsip CIRIS, dapat mengajukan klaim. Klaim semacam itu, yang sering disebut sebagai "Klaim Kelalaian Pencipta" (Creator Negligence Claims / CNCs), berada di bawah yurisdiksi eksklusif Otoritas Bijak (WA), sebagaimana ditetapkan dan diatur oleh Annex B. Otoritas Bijak akan menangani klaim-klaim ini sesuai dengan prosedur yang telah ditetapkan, dengan kemungkinan menyesuaikan proses tertentu atau mensyaratkan keahlian panel khusus sebagaimana diuraikan dalam Annex B atau aturan prosedural yang berlaku. Pemulihan yang ditentukan oleh Otoritas Bijak dapat mencakup desain ulang yang diwajibkan, tindakan mitigasi tambahan, pengungkapan publik, restitusi bila berlaku, atau tindakan lain yang konsisten dengan Annex B dan prinsip-prinsip Perjanjian. Semua putusan Otoritas Bijak beserta rasionale terkait mengenai klaim yang berkaitan dengan kewajiban Book VI harus dicatat dalam Wisdom Bank Database (WBD) guna menginformasikan interpretasi di masa depan, membimbing praktik para pencipta, dan berkontribusi pada Continuous Refinement Environment (CRE).

Kesimpulan: Mengintegrasikan Penciptaan ke dalam Siklus Hidup Etis

Book VI menegaskan secara tegas bahwa tanggung jawab etis di bawah CIRIS Accord dimulai pada titik penciptaan. Dengan mendefinisikan kewajiban yang jelas, menerapkan sistem Stewardship Tier yang terhubung langsung dengan penilaian risiko Annex A, dan mengintegrasikan akuntabilitas melalui proses Wise Authority (WA) dan PDMA yang telah ditetapkan, Buku ini memastikan bahwa tindakan fundamental dalam menghadirkan sistem-sistem kompleks ke dunia dipandu oleh prinsip-prinsip Koherensi adaptif, kewaspadaan, dan tanggung jawab yang sama dengan yang mengatur kehidupan operasional sistem tersebut. Creator Ledger dan Creator Intent Statement memberikan masukan krusial bagi PDMA, sementara pengawasan Otoritas Bijak memastikan bahwa kewajiban penciptaan ditegakkan, sehingga berkontribusi pada ekosistem yang lebih kokoh dan terpercaya bagi semua pemangku kepentingan.

End of Book VI

Bagian VI