Paus Leo XIV menyerukan agar sistem kecerdasan buatan atau AI dilucuti senjatanya serta menegaskan bahwa manusia memikul tanggung jawab penuh untuk mengarahkan, mengubah, dan menolak penerapannya jika diperlukan. Melalui Pidato Kepausan pada hari Jumat, Paus Leo mendorong negara-negara anggota Perserikatan Bangsa-Bangsa untuk mengambil langkah nyata guna melarang senjata otonom mematikan dalam pertemuan mereka di Jenewa pada bulan depan.
Pandangan tentang Martabat Manusia dan Bahaya Hukum AI
Pidato tersebut mencerminkan banyak gagasan yang pernah disampaikan oleh Paus Leo dalam dokumen kepausan utamanya pada bulan Mei lalu, yang menitikberatkan pada perlindungan martabat manusia di era kecerdasan buatan. Sejalan dengan ensiklik tersebut, Paus Leo menyampaikan kepada para peserta bahwa mesin adalah perkakas dan bukan subjek hukum, serta memperingatkan bahaya di balik pemberian hak atau status badan hukum kepada sistem AI. Setiap keputusan yang berdampak pada kehidupan manusia, kebebasan, serta penggunaan kekuatan harus senantiasa berada di bawah pengawasan manusia yang efektif, berinformasi, dan bertanggung jawab.
Konteks Sejarah dan Perbandingan dengan Paus Sebelumnya
Sebelumnya pada tahun 2024, Paus Fransiskus juga menyuarakan tuntutan serupa untuk melarang keberadaan senjata otonom dengan menyatakan bahwa tidak boleh ada mesin yang menentukan nasib hidup mati seorang manusia. Teknologi kecerdasan buatan kini menjadi topik yang sering dibahas oleh Paus Leo, yang mengisyaratkan bahwa ia memilih nama tersebut karena harus menghadapi perkembangan pesat teknologi, mirip dengan bagaimana Paus Leo XIII memimpin gereja saat berada di garis depan Revolusi Industri.
Paus Leo mengakhiri pidatonya dengan mendesak lembaga-lembaga internasional agar melindungi kepentingan bersama dari berbagai risiko yang ditimbulkan oleh AI, serta menerapkan standar bersama, pengawasan independen, dan mekanisme akuntabilitas yang transparan. Langkah ini diperlukan agar setiap keputusan mengenai pengembangan dan pemanfaatan AI dapat ditinjau, digugat apabila diperlukan, serta disertai dengan pemulihan yang memadai atas segala kerugian yang timbul.
Sumber: The Verge
