Banjir video dan gambar yang dihasilkan oleh kecerdasan buatan (AI) telah membanjiri platform media sosial selama eskalasi konflik yang melibatkan Iran baru-baru ini, sehingga menciptakan kebingungan dan ketidakpercayaan yang meluas. Film palsu ini, yang menggambarkan ledakan yang tidak ada, kota yang tidak ada yang diserang, dan pergerakan pasukan yang dibuat-buat, telah dilihat jutaan kali di X (sebelumnya Twitter), TikTok, dan Facebook.
The New York Times mengidentifikasi lebih dari 110 konten unik yang dihasilkan AI dalam dua minggu terakhir saja. Materi yang dibuat berkisar dari adegan dramatis warga Israel yang berlindung dari serangan udara yang tidak ada di Tel Aviv hingga pementasan berkabung di Iran, dan bahkan serangan fiksi terhadap kapal angkatan laut AS.
Mengapa hal ini penting: Kemajuan pesat alat AI kini memungkinkan hampir semua orang membuat simulasi perang yang meyakinkan dengan sedikit usaha dan biaya, sehingga semakin sulit membedakan antara kenyataan dan disinformasi. Ini bukan hanya tentang insiden-insiden yang terisolasi; ini adalah kerentanan sistemik yang melemahkan kepercayaan terhadap informasi dan berpotensi meningkatkan konflik. Perang di Ukraina menunjukkan betapa cepatnya AI dapat digunakan untuk menyebarkan propaganda, namun konflik saat ini menunjukkan penyebaran konten palsu yang jauh lebih cepat, sebagian disebabkan oleh berbagai pihak yang aktif.
Disinformasi yang Dipersenjatai
Penyebaran produk palsu yang dihasilkan oleh AI bukanlah suatu kebetulan. Para ahli di Cyabra, sebuah perusahaan intelijen media sosial, menemukan bahwa sebagian besar video AI tentang perang secara aktif mempromosikan narasi pro-Iran. Tujuannya: untuk membesar-besarkan dampak konflik yang dirasakan Amerika Serikat dan sekutunya.
Salah satu video palsu yang beredar luas menggambarkan serangan rudal di Tel Aviv, lengkap dengan bendera Israel yang sengaja disertakan untuk membuktikan pemalsuan tersebut. Alat AI sering kali menyisipkan simbol-simbol tersebut ketika diminta untuk membuat rekaman perang yang tampak realistis. Video tersebut dibagikan ke berbagai platform dan diambil oleh outlet berita pinggiran, menunjukkan betapa mudahnya berita palsu ini mendapatkan daya tarik.
Pemerintah Iran tampaknya sengaja memanfaatkan alat-alat ini untuk membentuk opini publik. Dengan secara keliru menggambarkan kemampuan militer yang unggul dan kehancuran yang meluas, Teheran bertujuan untuk melemahkan dukungan bagi kelanjutan aksi militer.
Garis Kabur Antara Asli dan Palsu
Rekaman asli konflik memang ada, sering kali direkam oleh orang-orang yang berada di sekitar melalui ponsel. Namun, bahkan video nyata terkadang disempurnakan dengan alat AI untuk membuat ledakan tampak lebih besar atau lebih dramatis, sehingga semakin mengaburkan batas antara keaslian dan manipulasi.
AS Insiden Abraham Lincoln menjadi contoh kekacauan ini. Setelah Angkatan Laut Garda Revolusi Islam Iran mengklaim berhasil melakukan serangan terhadap kapal induk tersebut, banjir gambar palsu yang dibuat oleh AI yang menggambarkan kapal tersebut terbakar membanjiri media sosial. Meskipun AS mengklaim bahwa serangan itu gagal, gambar-gambar palsu tersebut memicu perayaan di Iran dan memperkuat narasi palsu.
Kegagalan Regulasi Platform
Perusahaan media sosial telah berjuang untuk membendung penyebaran konten perang yang dihasilkan oleh AI. Meskipun beberapa platform, seperti X, telah mengumumkan langkah-langkah terbatas – seperti menangguhkan monetisasi untuk penggambaran konflik bersenjata yang tidak diberi label oleh AI – penegakan hukum masih lemah. Banyak akun yang menyebarkan disinformasi tidak dimotivasi oleh keuntungan, melainkan upaya yang disengaja untuk mempersenjatai narasi tersebut.
Seperti yang dicatat oleh Valerie Wirtschafter, peneliti di Brookings Institution, “Ini adalah sebuah front alami yang coba dan dieksploitasi oleh Iran, dan sepertinya inilah salah satu alasan mengapa hal ini begitu banyak. Ini sebenarnya adalah alat perang.”
Intinya: Disinformasi yang dihasilkan oleh AI kini menjadi bagian integral dari peperangan modern, yang mampu memanipulasi persepsi publik dan berpotensi meningkatkan konflik. Situasi saat ini di Iran menunjukkan betapa mudahnya alat-alat ini digunakan sebagai senjata, dan kurangnya regulasi yang efektif menunjukkan bahwa masalah ini akan semakin buruk.
