Konten AI Bisa Menanamkan Ingatan Palsu, Peneliti Ungkap Risikonya

Ntvnews.id, Jakarta - Konten buatan kecerdasan buatan (AI) tak hanya berpotensi menyebarkan informasi keliru, tetapi juga mengubah ingatan manusia.

Penelitian menunjukkan, foto dan ringkasan yang dimodifikasi AI dapat membuat seseorang mengingat peristiwa secara salah, bahkan merasa yakin bahwa ingatannya benar.

Dilansir dari Gizmodo, Senin (19/10/2026), Pattie Maes, ilmuwan dari Massachusetts Institute of Technology (MIT), membahas temuan penelitian timnya kepada The Washington Post.

Dalam eksperimen tersebut, peserta diminta melihat serangkaian foto. Setelah jeda, sebagian peserta diperlihatkan foto asli, sedangkan peserta lainnya melihat foto yang telah diubah menggunakan AI.

Hasilnya, peserta yang melihat gambar hasil modifikasi AI lebih rentan salah mengingat gambar asli. Mereka juga cenderung lebih percaya diri terhadap ingatan yang keliru tersebut.

AI Membuat Informasi Palsu Makin Meyakinkan

Ingatan manusia pada dasarnya mudah berubah dan rentan terhadap sugesti. Sejumlah eksperimen psikologi telah lama menunjukkan bahwa informasi yang salah dapat memengaruhi cara seseorang mengingat suatu kejadian.

Bahkan, dampaknya bisa bertahan setelah informasi tersebut dikoreksi dan memengaruhi pengambilan keputusan, termasuk dalam ranah politik.

Kehadiran AI generatif membuat persoalan ini semakin rumit. Konten buatan AI kini semakin realistis dan mudah ditemukan di internet, sehingga membuka peluang lebih besar bagi penyebaran penipuan dan disinformasi.

Sejumlah penelitian lain juga menemukan bahwa konten buatan AI dapat memicu ingatan palsu.

Sebuah studi yang dilakukan tahun lalu, misalnya, menunjukkan bahwa deepfake dan teks hasil AI dapat membuat peserta percaya pada skandal politik fiktif. Paparan tersebut bahkan dilaporkan memengaruhi niat mereka untuk memilih.

Risiko ini tidak hanya muncul ketika AI sengaja digunakan untuk menyesatkan. AI generatif juga dapat menghasilkan informasi yang salah atau mengada-ada, fenomena yang dikenal sebagai halusinasi AI.

Pengawasan Manusia Belum Tentu Cukup

Seiring meningkatnya penggunaan AI di lembaga pemerintah, perbankan, militer, rumah sakit, dan berbagai sektor lainnya, pengawasan manusia menjadi salah satu langkah penting untuk mengurangi risiko kesalahan.

Pendekatan yang dikenal sebagai human-in-the-loop menempatkan manusia, terutama tenaga ahli, untuk memeriksa keluaran AI sebelum digunakan sebagai dasar tindakan.

Dengan cara ini, kesalahan sistem diharapkan dapat diketahui lebih awal sebelum menimbulkan dampak nyata.

Namun, tantangannya tidak sederhana. Penelitian menunjukkan bahwa manusia pun tidak selalu mampu mengenali informasi keliru yang dihasilkan AI.

Ingatan yang mudah terpengaruh dan kecenderungan mempercayai teknologi dapat membuat seseorang tetap menerima informasi salah, bahkan ketika informasi tersebut bertentangan dengan pengetahuan atau keahliannya sendiri.

Sejumlah peneliti kini berupaya mengembangkan metode pelatihan dan intervensi agar masyarakat lebih mampu mengenali konten manipulatif, termasuk deepfake.

Meski demikian, belum ada solusi yang sepenuhnya efektif untuk mengatasi persoalan tersebut. Di sisi lain, industri teknologi terus mengembangkan sistem AI agen yang dirancang untuk menjalankan tugas secara semakin mandiri dengan campur tangan manusia yang lebih sedikit.

Kondisi ini menimbulkan pertanyaan tentang bagaimana kesalahan AI dapat dicegah ketika pengawasan manusia justru dikurangi.

Kesalahan AI Bisa Berdampak Nyata

Risiko ketergantungan berlebihan pada AI juga menjadi perhatian dalam pengambilan keputusan berisiko tinggi, termasuk operasi militer.

Dalam laporan Bloomberg yang disebut terbit bulan lalu, investigasi internal Departemen Pertahanan Amerika Serikat (AS) menyimpulkan bahwa serangan militer AS terhadap sebuah sekolah dasar di Iran pada awal 2026 turut dipengaruhi oleh ketergantungan berlebihan pada sistem AI yang dikembangkan Palantir.

Sistem tersebut dilaporkan merekomendasikan sekolah itu sebagai target pada hari pertama serangan karena menggunakan data yang sudah usang. Serangan tersebut menewaskan lebih dari 150 orang, termasuk sedikitnya 123 anak-anak.

Kasus itu memperlihatkan bahwa kesalahan informasi bukan sekadar persoalan teknis. Ketika keluaran AI dipercaya tanpa pemeriksaan memadai, dampaknya dapat meluas hingga memengaruhi keputusan yang menyangkut keselamatan manusia.

Temuan tentang ingatan palsu pun menjadi pengingat bahwa risiko AI tidak berhenti pada informasi yang salah di layar. Konten yang dihasilkan teknologi ini berpotensi mengubah apa yang diyakini seseorang sebagai kenyataan.

Karena itu, kemampuan memeriksa sumber, mempertanyakan informasi, dan mempertahankan pengawasan manusia tetap menjadi bagian penting dalam penggunaan AI.