Aulanews.id – Saat berbicara kepada para menteri dan duta besar, António Guterres memperingatkan bahwa perkembangan pesat AI melampaui kemampuan manusia untuk mengaturnya, sehingga menimbulkan pertanyaan penting tentang akuntabilitas, kesetaraan, keselamatan, dan pengawasan manusia dalam pengambilan keputusan.
“Setiap keterlambatan dalam membangun pagar pembatas internasional akan meningkatkan risiko bagi kita semua,” kata Tuan Guterres.
“Tidak ada negara yang boleh merancang, mengembangkan, menyebarkan atau menggunakan aplikasi militer AI dalam konflik bersenjata yang melanggar hukum kemanusiaan dan hak asasi manusia internasional. Hal ini termasuk mengandalkan AI untuk memilih atau melibatkan target secara mandiri.”
Ia juga menggarisbawahi bahwa persaingan geopolitik dalam memperebutkan teknologi baru tidak boleh mengganggu stabilitas perdamaian dan keamanan internasional.
Pedang bermata duaDalam pidatonya, Guterres menyoroti sifat bermata dua dari AI, dengan menyebutkan potensinya dalam memprediksi perpindahan yang disebabkan oleh perubahan iklim atau mendeteksi ranjau darat. Namun, integrasinya ke dalam sistem militer dan penyalahgunaannya dalam keamanan digital menimbulkan risiko besar.
“Konflik baru-baru ini telah menjadi ajang pengujian penerapan AI di bidang militer,katanya, mengutip penggunaan AI dalam pengawasan otonom, kebijakan prediktif, dan bahkan pelaporan keputusan hidup dan mati.
Yang paling mengkhawatirkan, ia menggarisbawahi, adalah potensi integrasi AI dengan senjata nuklir dan munculnya sistem AI kuantum yang dapat mengganggu stabilitas keamanan global.
“Nasib umat manusia tidak boleh diserahkan pada ‘kotak hitam’ suatu algoritma,katanya, menekankan pentingnya kontrol manusia atas keputusan yang melibatkan penggunaan kekuatan.
Erosi kepercayaanPeran AI dalam bidang informasi juga merupakan hal yang perlu mendapat perhatian, kata Guterres, seraya menunjuk pada bagaimana deepfake dan disinformasi yang dihasilkan oleh AI dapat memanipulasi opini publik, memicu krisis, dan mengikis kepercayaan masyarakat.
Ia juga menyoroti risiko lingkungan dari AI, menyoroti sifat pusat data yang intensif sumber daya dan persaingan geopolitik dalam memperebutkan mineral penting yang diperlukan untuk teknologi AI.
“Tantangan global yang belum pernah terjadi sebelumnya memerlukan kerja sama global yang belum pernah terjadi sebelumnya,katanya, menyerukan upaya kolaboratif untuk memastikan AI bermanfaat bagi semua orang dan tidak memperburuk kesenjangan.
