Choose your language to read side by side with English.

Three ways to avoid being fooled by AI slop
, ,

Tiga cara menghindari tertipu oleh sampah AI

Three ways to avoid being fooled by AI slop

Silvia Montaña-Niño, Lecturer, Centre for Advancing Journalism, The University of Melbourne T.J. Thomson, Associate Professor of Visual Communication & Digital Media, RMIT University
Show
Hide
EN – ID
ID – EN

Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?

Memeriksa fakta bisa memakan waktu berjam-jam atau berhari-hari, sementara konten palsu bisa dibuat dalam hitungan detik. Jadi, apa yang harus kita lakukan?

Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.

Masyarakat global membuat miliaran gambar dan mengunggah ratusan ribu jam video di internet setiap hari.

The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.

Masalahnya, sebagian dari konten ini menyesatkan atau benar-benar salah. Dan ketika itu dalam bentuk visual, itu bisa sangat meyakinkan.

Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .

Ambil contoh Met Gala yang terjadi awal bulan ini di New York. Sementara para fotografer mengambil foto Rhianna, Beyoncé, dan Nicole Kidman saat mereka memamerkan penampilan mereka, yang lain melihat “foto” selebriti, seperti Rosalía, Lady Gaga, dan Jacob Elordi, yang sebenarnya berada di tempat lain (gambar di karosel Instagram di bawah ini dibuat oleh AI) .

While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.

Meskipun jenis sampah AI ini mungkin tampak tidak berbahaya dan dapat diverifikasi dengan mudah, “pemalsuan media” lainnya menjadi jauh lebih bermasalah dan menuntut teknik verifikasi yang lebih kuat.

Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.

Teknik verifikasi tradisional kurang memadai karena AI menjadi semakin meyakinkan dan batas antara otentik dan sintetis menjadi kabur. Ini benar di semua konten, mulai dari gambar diam hingga yang bergerak dan deepfake audio.

The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.

Volume konten dan kecepatan perjalanannya tidak membantu. Juga tidak membantu bahwa pemeriksaan fakta bisa memakan waktu berjam-jam atau berhari-hari sementara palsu dapat dibuat dalam hitungan detik.

First, equip yourself

Pertama, perlengkapi diri Anda

Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.

Panduan tentang mendeteksi konten buatan AI menyarankan berbagai strategi dan mengakui bahwa tidak ada solusi sempurna. Namun, ada hal-hal bermanfaat yang dapat Anda lakukan.

Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.

Kenali contoh-contoh palsu dan pelajari bagaimana konten tersebut diperiksa kebenarannya. Ini membantu Anda memahami apa yang mungkin dan belajar bagaimana pemeriksa fakta memilah yang nyata dari yang palsu.

Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?

Lihat secara mendalam. Perbesar (zoom in) . Jeda konten atau tonton bingkai demi bingkai. Periksa detail kecil. Cari ketidaksesuaian, tekstur yang datar padahal seharusnya tidak, atau pola yang terlalu sempurna atau aneh. Apakah lokasi yang ditampilkan cocok dengan tempat adegan itu seharusnya berada? Apakah bayangan jatuh secara alami dan apakah garis mengikuti aturan perspektif?

Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?

Lihat secara luas. Apakah Anda familiar dengan sumbernya? Apa lagi yang dipublikasikannya dan sudah berapa lama sumber itu ada? Apa kata sumber tepercaya lainnya? Bagaimana penggambaran ini dibandingkan dengan yang lain yang tersedia? Atau jika tidak ada yang tersedia, haruskah itu membuat Anda ragu?

Then, apply your learnings

Kemudian, terapkan pembelajaran Anda

Let’s take an example and work through it together.

Mari kita ambil contoh dan membahasnya bersama-sama.

This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.

Reel Facebook ini, yang diunggah oleh akun bernama “Real Talk Hub”, diduga menunjukkan migran yang dihentikan dan dikembalikan oleh polisi Australia di bandara.

Before getting too granular, let’s take stock of the opening image.

Sebelum terlalu mendetail, mari kita perhatikan gambar pembuka.

Figure

The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.

Video ini menggunakan skala untuk menunjukkan apa yang tampak seperti aliran penumpang yang panjang. Beberapa bergerak menuju dan beberapa menjauhi pesawat. Sulit untuk mengidentifikasi detail spesifik dalam video. Blok teks yang ditumpangkan menutupi hampir seluruh garis cakrawala. Kedalaman bidang yang dangkal membuat aspek-aspek di kejauhan buram dan sulit dibedakan.

Figure

Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.

Banyak penumpang berkulit gelap dan secara visual dikodekan sebagai “lainnya”. Mereka berinteraksi dengan petugas polisi berkulit terang yang mencatat di papan klip.

The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.

Video vertikal ini dibingkai dengan hati-hati agar tidak mengungkapkan pengenal seperti nama maskapai yang tampaknya dimulai dengan huruf “P”. Hal ini menyulitkan pencarian nama maskapai dan apakah sumber kredibel mendukung cerita yang disampaikan.

Figure

Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.

Meskipun orang dan adegan terlihat realistis pada pandangan pertama, integritas video ini terurai ketika kita memperlambat dan melihat lebih dekat. Orang-orang dalam antrean penumpang berubah dan bertransformasi.

The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.

Petugas tersebut mampu melepaskan kertas dari papan klip sendirian dan tampak meninggalkan garis-garis putih secara misterius. Rompi polisi terlihat berbeda dari gambar yang dapat Anda temukan dalam foto media terverifikasi dari Kepolisian Federal Australia.

Taken together, all these clues suggest the video is AI-generated.

Secara keseluruhan, semua petunjuk ini menunjukkan bahwa video tersebut dibuat oleh AI.

Figure
The paper on the clipboard moves in an unrealistic way, and the police vest is not accurate. Real Talk Hub/Facebook
Kertas di papan klip bergerak dengan cara yang tidak realistis, dan rompi polisi tidak akurat. Real Talk Hub/Facebook

Think like a fact-checker

Berpikir seperti pemeriksa fakta

Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.

Banyak video yang dihasilkan AI dapat menipu Anda dan menciptakan narasi yang sangat menarik. Oleh karena itu, pemeriksa fakta telah mengembangkan metodologi triangulasi yang memeriksa elemen di luar apa yang Anda lihat dalam video.

One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.

Salah satu cara untuk melakukan ini adalah dengan memeriksa faktor kontekstual secara sistematis – hal-hal lain yang mengelilingi konten. Penelitian tim kami menemukan bahwa pemeriksa fakta profesional biasanya memperhatikan jenis akun media sosial atau situs web yang menyebarkan media yang mencurigakan.

For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.

Untuk verifikasi AAP ini pada video tentang pelarangan anjing di pantai, sangat penting untuk memeriksa aktivitas dan pola unggahan pengguna.

In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.

Selain anomali visual, pemeriksa fakta juga menemukan tanda air tak terlihat yang membantu mereka menentukan bahwa konten tersebut dihasilkan oleh AI.

Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.

Hal lain yang perlu diperiksa adalah sudah berapa lama akun media sosial tersebut beroperasi, seberapa sering akun media sosial tersebut mengunggah, dan apakah akun tersebut transparan tentang penggunaan AI-nya.

These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.

Namun, ini bukanlah indikator keaslian yang anti-gagal. Contoh migran di atas berasal dari akun yang berusia sekitar lima tahun. Ini juga berasal dari akun “terverifikasi”, yang mungkin membuatnya terasa lebih kredibel. Tetapi Facebook dan X kini memungkinkan pengguna membayar untuk verifikasi ini.

Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.

Secara keseluruhan, ketika menyangkut gambar atau video yang mencurigakan, jangan hanya melihat secara mendalam. Lihat juga secara luas.

AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.

Konten yang dihasilkan AI semakin dapat menipu mata kita, jadi Anda juga harus melihat melampaui apa yang ada di dalam video. Mengambil pendekatan metode campuran yang mempertimbangkan petunjuk visual dan kontekstual dapat membantu. Dengan melatih kemampuan Anda untuk berpikir seperti pemeriksa fakta, Anda dapat tetap lebih aman secara daring.

Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.

Silvia Montaña-Niño juga adalah penyelidik rekan dari ARC Centre of Excellence for Automated Decision-Making & Society dan Fact Check Research Team di pusat ini.

T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.

T.J. Thomson menerima pendanaan dari Australian Research Council. Dia adalah afiliasi dengan ARC Centre of Excellence for Automated Decision Making & Society.

Read more