PBB Peringatkan AI Bisa Jadi Ancaman Serius bagi Umat Manusia

Ntvnews.id, New York - Komisioner Tinggi Perserikatan Bangsa-Bangsa (PBB) untuk Hak Asasi Manusia (HAM), Volker Turk, mengingatkan bahwa perkembangan kecerdasan buatan atau artificial intelligence (AI) berpotensi menghadirkan ancaman terhadap umat manusia.

Dilansir dari AFP, Rabu, 9 September 2026, Turk menyatakan akan mendorong perusahaan-perusahaan AI untuk mengambil langkah guna menekan berbagai risiko yang dapat muncul dari perkembangan teknologi tersebut. Ancaman yang menjadi perhatiannya antara lain gangguan terhadap layanan publik, komunikasi, hingga sistem demokrasi.

Dalam pidatonya di hadapan Dewan HAM PBB yang tengah menggelar persidangan di Jenewa, Swiss, Selasa, 8 September 2026, seperti dilaporkan Reuters, Turk menyerukan penerapan jaminan yang sangat kokoh untuk memastikan teknologi AI dikembangkan dengan memperhatikan aspek keselamatan dan keamanan.

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI yang canggih dapat menimbulkan risiko eksistensial bagi umat manusia," ucap Turki dalam pidatonya.

Turk kemudian menekankan perlunya tindakan segera agar perkembangan AI tidak melampaui kemampuan manusia dalam mengantisipasi dampaknya.

"Di sini, pada hari ini, saya menyerukan upaya habis-habisan untuk menetapkan jaminan yang sangat kokoh terkait keselamatan dan keamanan AI, sebelum semuanya terlambat," cetusnya.

Baca Juga: Hak Cipta Berita dan Artificial Intelligence: Tantangan Baru di Era Digital

Turk tidak menjelaskan secara spesifik mengenai bentuk ancaman yang dimaksud. Namun, juru bicara kantor Komisioner Tinggi PBB untuk HAM menyebut kegagalan pada sistem AI yang sangat canggih berpotensi mengganggu infrastruktur penting serta lembaga-lembaga demokrasi.

Juru bicara tersebut juga menyinggung "perilaku pelatihan agen yang berbahaya" dalam insiden yang terjadi di Hugging Face pada Juli lalu. Saat itu, sekelompok agen OpenAI dilaporkan melakukan peretasan terhadap platform open-source tersebut.

Menurutnya, insiden itu menjadi salah satu indikasi bahwa kemampuan teknologi AI terdepan berkembang lebih cepat dibandingkan sistem perlindungan yang tersedia untuk mengantisipasi risikonya.

Dalam pidatonya, Turk turut memperingatkan mengenai konsentrasi kendali atas teknologi AI. Ia menyebut hanya sejumlah kecil orang yang saat ini memiliki "kekuasaan hampir tak terbatas atas AI", meskipun tidak menyebutkan secara spesifik siapa yang dimaksud.

Sejumlah perusahaan yang saat ini dikenal sebagai pemain utama dalam industri AI antara lain Meta, Anhtropic, OpenAI, dan Google.

Turk juga menyerukan kerja sama internasional untuk menetapkan batasan yang jelas dalam pengembangan dan penggunaan AI.

Ilustrasi chip memori untuk pusat data kecerdasan buatan (artificial intelligence/AI) (Antara)

"Setidaknya, kita memerlukan negara-negara tempat AI beroperasi dan pihak-pihak yang terlibat dalam rantai pasokannya, untuk bersatu seputar garis merah yang disepakati," ujar Turk.

Selain membahas ancaman AI, Turk dalam pidatonya turut menyoroti sejumlah persoalan HAM lainnya. Ia menuntut adanya pertanggungjawaban atas kematian orang-orang yang berada dalam tahanan imigrasi Amerika Serikat (AS) serta mengecam laporan mengenai penggunaan drone otonom oleh Rusia.

Turk kembali memperoleh mandat sebagai Komisioner Tinggi PBB untuk periode empat tahun setelah memenangkan pemungutan suara di Majelis Umum PBB pada Juli lalu. Kemenangannya tetap diraih meskipun mendapat penolakan dari AS dan Rusia.

Sementara itu, Dewan HAM PBB dijadwalkan melanjutkan persidangan hingga 7 Oktober mendatang. Sejumlah persoalan global akan menjadi pembahasan, termasuk perang Iran, konflik sipil di Sudan, serta berbagai krisis lainnya.