Paus Leo XIV meminta negara-negara mengambil langkah melarang senjata otonom mematikan. Keputusan menyangkut nyawa harus tetap diawasi manusia.
KOSONGSATU.ID — Paus Leo XIV mendesak negara-negara yang akan bertemu di Jenewa pada November 2026 mengambil langkah konkret menuju pelarangan senjata otonom mematikan.
Seruan itu disampaikan dalam pertemuan mengenai kecerdasan buatan di Vatikan, Jumat, 30 Oktober. Paus menegaskan keputusan penggunaan kekuatan harus tetap berada dalam pengawasan manusia.
“Masa depan kecerdasan buatan tidak ditentukan sebelumnya. Sebagai teknologi yang dikembangkan manusia, masa depannya bergantung pada pilihan yang kita buat,” ujarnya.
Dalam pidatonya, Paus menyatakan manusia bertanggung jawab mengarahkan, mengubah, dan bila diperlukan menolak penerapan AI.
“Jadi, pertanyaan yang menentukan bukan sekadar ‘Apa yang bisa dilakukan AI?’ melainkan ‘Untuk tujuan apa AI seharusnya digunakan?’” katanya.
Mesin Bukan Pribadi
Paus mengingatkan bahwa mesin merupakan alat, bukan pribadi. Ia merujuk ensiklik Magnifica Humanitas yang diterbitkan pada Mei 2026.
“Kecerdasan buatan tidak mengalami pengalaman, tidak memiliki tubuh, tidak merasakan kegembiraan atau rasa sakit, dan tidak mengetahui arti cinta atau tanggung jawab,” katanya.
Menurut Paus, pemberian kedudukan seperti pribadi kepada AI berisiko mengaburkan tanggung jawab manusia ketika teknologi menimbulkan kerugian.
Ia menyoroti keputusan yang menempatkan seseorang dalam daftar target serangan atau basis data pengawasan perbatasan.
Paus memperingatkan risiko manusia direduksi menjadi sekadar data. Ia meminta keputusan mengenai nyawa, kebebasan, dan penggunaan kekuatan tetap diawasi secara efektif.
Seruan itu menekankan kendali manusia atas keputusan berisiko tinggi. Pidatonya tidak menyatakan larangan menyeluruh atas semua penggunaan AI dalam urusan militer.
Dalam ensikliknya, Paus juga menekankan bahwa rantai tanggung jawab harus dapat diidentifikasi dan diperiksa.
Dorong Pengawasan Internasional
Paus meminta teknologi cerdas diarahkan untuk kepentingan bersama. Manfaat inovasi, menurutnya, perlu menjangkau masyarakat luas, terutama kelompok yang paling membutuhkan.
Ia menekankan perlunya lembaga yang dapat menjalankan prinsip etika melalui standar bersama, pengawasan independen, dan mekanisme pertanggungjawaban yang jelas.
“Apa yang saat ini kita butuhkan adalah lembaga-lembaga yang mampu menerapkan prinsip-prinsip ini, khususnya lembaga internasional yang efektif,” katanya.
“Sehingga keputusan mengenai pengembangan dan penggunaan AI dapat diperiksa, ditentang jika diperlukan, serta disertai dengan pemulihan yang sesuai atas segala kerugian yang ditimbulkan,” ujarnya.
Pernyataan tersebut merupakan dorongan memperkuat tata kelola internasional. Paus tidak merinci rancangan badan baru, kewenangan, ataupun jadwal pembentukannya.
Ia menempatkan perlindungan manusia sebagai ukuran pengembangan AI, termasuk kemampuan mengendalikan konsekuensi teknologi dan menyediakan pemulihan bagi pihak yang dirugikan. ***
Tinggalkan Balasan