Choose your language to read side by side with English.

Slopaganda wars: how (and why) the US and Iran are flooding the zone with viral AI-generated noise
, ,

Perang slopaganda: bagaimana (dan mengapa) AS dan Iran membanjiri zona dengan kebisingan AI-buatan viral

Slopaganda wars: how (and why) the US and Iran are flooding the zone with viral AI-generated noise

Mark Alfano, Associate Professor of Philosophy, Macquarie University Michał Klincewicz, Assistant Professor, Department of Computational Cognitive Science, Tilburg University
Show
Hide
EN – ID
ID – EN

Even obviously fake propaganda videos can influence viewers – and erode their trust in all kinds of information.

Video propaganda yang jelas-jelas palsu pun dapat memengaruhi penonton – dan mengikis kepercayaan mereka terhadap segala jenis informasi.

In early March, a week after the first US-Israeli strikes on Iran, the White House posted a video of real American attacks mixed with clips from popular movies, television series, video games and anime.

Pada awal Maret, seminggu setelah serangan pertama AS-Israel ke Iran, Gedung Putih memposting video serangan Amerika yang nyata dicampur dengan klip dari film populer, serial televisi, video game, dan anime.

Iran and its sympathisers responded to the strikes by flooding social media with outdated war footage allegedly from the current conflict alongside AI-generated content depicting attacks on Tel Aviv and US bases in the Persian Gulf.

Iran dan simpatisannya menanggapi serangan tersebut dengan membanjiri media sosial dengan rekaman perang usang yang diduga berasal dari konflik saat ini, bersama dengan konten yang dihasilkan AI yang menggambarkan serangan terhadap Tel Aviv dan pangkalan AS di Teluk Persia.

More recently, viral video clips reportedly created by a team of Iranians depict Donald Trump, Jeffrey Epstein, Satan, Benjamin Netanyahu, Pete Hegseth, Ayatollah Khamenei, and others as Lego figurines.

Baru-baru ini, klip video viral yang dilaporkan dibuat oleh tim Iran menggambarkan Donald Trump, Jeffrey Epstein, Setan, Benjamin Netanyahu, Pete Hegseth, Ayatollah Khamenei, dan lainnya sebagai figurin Lego.

Welcome to the brave new world of slopaganda.

Selamat datang di dunia baru yang berani dari slopaganda.

The rise of slopaganda

Kebangkitan slopaganda

Late last year, in a paper published in Filisofiska Notiser, we coined the portmanteau “slopaganda” to refer to AI-generated slop that serves propagandistic purposes.

Akhir tahun lalu, dalam sebuah makalah yang diterbitkan di Filisofiska Notiser, kami menciptakan portmanteau “slopaganda” untuk merujuk pada sampah (slop) buatan AI yang berfungsi untuk tujuan propaganda.

By propaganda we mean communication intended to manipulate beliefs, emotions, attention, memory and other cognitive and affective processes to achieve political ends. Add generative artificial intelligence and the result is slopaganda.

Dengan propaganda kami maksud komunikasi yang bertujuan untuk memanipulasi keyakinan, emosi, perhatian, memori, dan proses kognitif serta afektif lainnya untuk mencapai tujuan politik. Tambahkan kecerdasan buatan generatif dan hasilnya adalah slopaganda.

The slopaganda situation has since become far worse than we expected.

Situasi slopaganda sejak saat itu menjadi jauh lebih buruk dari yang kami perkirakan.

In October 2025, US President Donald Trump posted an AI-generated video depicting himself piloting a fighter jet while wearing a crown and dumping faeces on American protesters. More recently, he posted an AI-generated video envisaging his presidential library as an enormous gaudy skyscraper, complete with a golden elevator.

Pada Oktober 2025, Presiden AS Donald Trump memposting video buatan AI yang menggambarkan dirinya menerbangkan jet tempur sambil mengenakan mahkota dan membuang kotoran pada para pengunjuk rasa Amerika. Baru-baru ini, ia memposting video buatan AI yang membayangkan perpustakaan kepresidenannya sebagai gedung pencakar langit yang besar dan mencolok, lengkap dengan lift emas.

Lego-themed Iran-created slopaganda is just the latest example. The material isn’t just videos. It can also be images, text, or whatever else AI can generate.

Slopaganda buatan Iran bertema Lego hanyalah contoh terbaru. Materinya bukan hanya video. Itu juga bisa berupa gambar, teks, atau apa pun yang dapat dihasilkan oleh AI.

How slopaganda slips through our defences

Bagaimana slopaganda menyelinap melalui pertahanan kita

What is the point of all this slopaganda? We have several answers so far.

Apa gunanya semua slopaganda ini? Kami sudah memiliki beberapa jawaban sejauh ini.

First, through repeated exposure in both legacy and social media, slopaganda can penetrate our usual mental defences. It works when it is attention-grabbing, emotionally arresting – typically in a negative way – and delivered to a distracted audience, such as people scrolling social media or switching between browser tabs.

Pertama, melalui paparan berulang baik di media lama maupun media sosial, slopaganda dapat menembus pertahanan mental kita yang biasa. Ini berhasil ketika menarik perhatian, menggugah emosi – biasanya dengan cara negatif – dan disampaikan kepada audiens yang teralihkan, seperti orang yang menggulir media sosial atau beralih antar tab peramban.

Second, it is a very effective way of diluting the epistemic environment – the world of what we think we know – with falsehoods and half-truths. As philosophers have argued, ChatGPT and other generative AI tools can be machines for bullshit, in the sense of content that is indifferent to truth.

Kedua, ini adalah cara yang sangat efektif untuk mengencerkan lingkungan epistemik – dunia apa yang kita pikir kita ketahui – dengan kebohongan dan setengah kebenaran. Seperti yang diperdebatkan para filsuf, ChatGPT dan alat AI generatif lainnya dapat menjadi mesin untuk omong kosong, dalam artian konten yang tidak peduli pada kebenaran.

Slopaganda can be understood as a special kind of AI bullshit, but its unique features become clearer when we look at its use in campaigns such as the Iranian Lego videos.

Slopaganda dapat dipahami sebagai jenis omong kosong AI khusus, tetapi fitur uniknya menjadi lebih jelas ketika kita melihat penggunaannya dalam kampanye seperti video Lego Iran.

This is not just bullshit. No one is misled into thinking Trump can pilot an F-16 and drop faeces out of it. No one (we hope) believes plastic Trump Lego figurines are in cahoots with a plastic Satan figurine.

Ini bukan sekadar omong kosong. Tidak ada yang tertipu berpikir bahwa Trump dapat menerbangkan F-16 dan menjatuhkan kotoran darinya. Tidak ada yang (kami harap) percaya bahwa figurin Lego Trump plastik bersekongkol dengan figurin Satan plastik.

Rather than aiming for accuracy, the slopaganda is expressive and emblematic of feelings and emotions, and meant to create an association. The intended linkages are something like Satan is associated with Trump while the United States is associated with evil, and so on.

Alih-alih bertujuan untuk akurasi, slopaganda bersifat ekspresif dan simbolis dari perasaan dan emosi, dan dimaksudkan untuk menciptakan asosiasi. Kaitan yang dimaksud adalah sesuatu seperti Satan dikaitkan dengan Trump sementara Amerika Serikat dikaitkan dengan kejahatan, dan seterusnya.

What slopaganda means for shared truth

Apa arti slopaganda bagi kebenaran bersama

A third point is that some slopaganda is indeed misleading. This may be by design, or because a joke or trolling escapes its intended context and is misunderstood as serious – a phenomenon scholars call “context collapse”. Misleading slopaganda, including deepfakes, can be generated quickly during conflicts, crises and emergencies, when people want information but authoritative sources are scarce.

Poin ketiga adalah bahwa beberapa slopaganda memang menyesatkan. Ini mungkin karena desain, atau karena lelucon atau trolling lepas dari konteks yang dimaksudkan dan disalahartikan sebagai hal serius – sebuah fenomena yang disebut akademisi sebagai “keruntuhan konteks” (context collapse). Slopaganda yang menyesatkan, termasuk deepfake, dapat dihasilkan dengan cepat selama konflik, krisis, dan keadaan darurat, ketika orang menginginkan informasi tetapi sumber otoritatif langka.

Once misleading information or a particular association enters someone’s mind, it can be hard to shake. Because slopaganda can reach huge audiences, even a small misleading effect in the general population may have significant consequences. State actors, corporations, and private individuals can potentially influence group beliefs and decisions, including election results, protest movements, or general sentiment about an unpopular war.

Setelah informasi yang menyesatkan atau asosiasi tertentu masuk ke benak seseorang, sulit untuk dihilangkan. Karena slopaganda dapat menjangkau audiens yang sangat besar, bahkan efek menyesatkan yang kecil pada populasi umum dapat memiliki konsekuensi signifikan. Aktor negara, perusahaan, dan individu swasta berpotensi memengaruhi keyakinan dan keputusan kelompok, termasuk hasil pemilihan, gerakan protes, atau sentimen umum tentang perang yang tidak populer.

Fourth, the prevalence of slopaganda may make us doubt everything else. People will no doubt become better at spotting this kind of material, but they will also become more likely to misidentify authentic content as slop. As a result, public trust in genuinely trustworthy individuals and institutions may also fall.

Keempat, meluasnya slopaganda dapat membuat kita meragukan segala hal lainnya. Orang-orang tidak diragukan akan menjadi lebih baik dalam mendeteksi jenis materi ini, tetapi mereka juga akan lebih mungkin salah mengidentifikasi konten otentik sebagai slop. Akibatnya, kepercayaan publik terhadap individu dan institusi yang benar-benar tepercaya juga dapat menurun.

When this occurs, the overall effect is likely to be a general lowering of public trust in genuinely trustworthy individuals and institutions, leading to a kind of nihilistic doubt in really knowing anything.

Ketika ini terjadi, efek keseluruhannya kemungkinan adalah penurunan umum kepercayaan publik terhadap individu dan institusi yang benar-benar tepercaya, yang mengarah pada semacam keraguan nihilistik dalam mengetahui apa pun.

When it’s hard or impossible to identify trustworthy sources, you can choose to believe whatever you find comforting, invigorating or infuriating. In increasingly polarised societies struggling with interlocking economic, political, military and environmental crises, the breakdown of shared sources of truth will only make things worse.

Ketika sulit atau mustahil untuk mengidentifikasi sumber yang tepercaya, Anda dapat memilih untuk mempercayai apa pun yang Anda anggap menenangkan, menyegarkan, atau membuat marah. Dalam masyarakat yang semakin terpolarisasi dan berjuang dengan krisis ekonomi, politik, militer, dan lingkungan yang saling terkait, keruntuhan sumber kebenaran bersama hanya akan memperburuk keadaan.

3 ways to stave off slopagandapocalypse

3 cara untuk mencegah apokaliptik slopaganda

What can be done about the slopaganda shitstorm? In our paper, we discuss interventions at three different levels.

Apa yang dapat dilakukan tentang badai slopaganda? Dalam makalah kami, kami membahas intervensi pada tiga tingkat yang berbeda.

First, individuals can become more digitally literate, for instance by looking for telltale signs of AI in text, images and video. They can also learn to check sources rather than merely glancing at headlines and other content, as well as to block sources that routinely spread slopaganda, rather than attempting to evaluate each piece of content in a vacuum. This will help them avoid falling for slopaganda while still trusting authentic sources of news and other information.

Pertama, individu dapat menjadi lebih melek digital, misalnya dengan mencari tanda-tanda AI yang jelas dalam teks, gambar, dan video. Mereka juga dapat belajar memeriksa sumber daripada hanya melirik judul dan konten lainnya, serta memblokir sumber yang rutin menyebarkan slopaganda, daripada mencoba mengevaluasi setiap konten secara terpisah. Ini akan membantu mereka menghindari tertipu oleh slopaganda sambil tetap mempercayai sumber berita dan informasi lain yang otentik.

Second, industry and regulators can implement technological fixes to watermark AI-generated content. Some content may even need to be removed from platforms where people see news and other important information.

Kedua, industri dan regulator dapat menerapkan perbaikan teknologi untuk memberi tanda air pada konten yang dihasilkan AI. Beberapa konten bahkan mungkin perlu dihapus dari platform tempat orang melihat berita dan informasi penting lainnya.

Third, large tech companies such as OpenAI, Google and X can be held accountable for what they have made. This could be done through taxation and other interventions to fund both regulatory efforts and education in digital literacy.

Ketiga, perusahaan teknologi besar seperti OpenAI, Google, dan X dapat dimintai pertanggungjawaban atas apa yang telah mereka buat. Ini dapat dilakukan melalui perpajakan dan intervensi lain untuk mendanai upaya regulasi dan pendidikan literasi digital.

Slopaganda is probably here to stay. But with sufficient foresight and courage, we may still be able to adapt to it – and even control it.

Slopaganda mungkin akan bertahan. Tetapi dengan pandangan jauh ke depan dan keberanian yang cukup, kita mungkin masih dapat beradaptasi dengannya – dan bahkan mengendalikannya.

Mark Alfano receives funding from the Australian Research Council.

Mark Alfano menerima pendanaan dari Australian Research Council.

Michał Klincewicz does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.

Michał Klincewicz tidak bekerja untuk, berkonsultasi, memiliki saham di, atau menerima pendanaan dari perusahaan atau organisasi apa pun yang akan mendapat manfaat dari artikel ini, dan tidak mengungkapkan afiliasi relevan selain jabatan akademiknya.

Read more