Tres maneras de evitar ser engañado por el contenido basura de IA
Three ways to avoid being fooled by AI slop
Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?
Verificar hechos puede llevar horas o días, mientras que los falsos se pueden crear en segundos. Entonces, ¿qué hacemos?
Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.
La sociedad global crea miles de millones de imágenes y sube cientos de miles de horas de video a internet cada día.
The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.
El problema es que parte de este contenido es engañoso o directamente falso. Y cuando está en forma visual, puede ser particularmente convincente.
Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .
Tomemos la Met Gala que tuvo lugar a principios de este mes en Nueva York. Mientras que los fotógrafos tomaron fotos de Rihanna, Beyoncé y Nicole Kidman mientras posaban, otros vieron «fotos» de celebridades, como Rosalía, Lady Gaga y Jacob Elordi, que en realidad estaban en otro lugar (las imágenes en el carrusel de Instagram a continuación son generadas por IA) .
While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.
Si bien este tipo de contenido generado por IA puede parecer inofensivo y puede verificarse fácilmente, otras «falsificaciones mediáticas» se están volviendo mucho más problemáticas y exigen técnicas de verificación más sólidas.
Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.
Las técnicas de verificación tradicionales están quedando obsoletas a medida que la IA se vuelve cada vez más convincente y la línea entre lo auténtico y lo sintético se difumina. Esto es cierto en todo tipo de contenido, desde imágenes fijas hasta videos y deepfakes de audio.
The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.
El volumen de contenido y la velocidad a la que viaja no ayudan. Tampoco ayuda el hecho de que la verificación de datos puede llevar horas o días, mientras que las falsificaciones pueden crearse en segundos.
First, equip yourself
Primero, prepárate
Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.
Las guías sobre la detección de contenido generado por IA sugieren múltiples estrategias y reconocen que no hay soluciones perfectas. Pero hay cosas útiles que puedes hacer.
Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.
Familiarízate con ejemplos de contenido falso y estudia cómo fueron verificados. Esto te ayuda a entender lo que es posible y a aprender cómo los verificadores de hechos distinguen lo real de lo falso.
Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?
Mira profundamente. Haz zoom. Pausa el contenido o míralo cuadro por cuadro. Inspecciona los pequeños detalles. Busca inconsistencias, texturas que son planas cuando no deberían serlo, o patrones que son demasiado perfectos o que están inexplicablemente mal. ¿Coincida la ubicación mostrada con donde se supone que está la escena? ¿Caen las sombras de forma natural y siguen las líneas las reglas de la perspectiva?
Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?
Mira ampliamente. ¿Estás familiarizado con la fuente? ¿Qué más publica y desde hace cuánto tiempo existe? ¿Qué dicen otras fuentes confiables? ¿Cómo se compara esta representación con otras disponibles? ¿O si no hay otras disponibles, debería eso hacerte dudar?
Then, apply your learnings
Luego, aplica lo aprendido.
Let’s take an example and work through it together.
Tomemos un ejemplo y analicémoslo juntos.
This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.
Este reel de Facebook, publicado por una cuenta llamada “Real Talk Hub”, pretende mostrar a migrantes siendo detenidos y devueltos por la policía australiana en un aeropuerto.
Before getting too granular, let’s take stock of the opening image.
Antes de entrar en detalles, revisemos la imagen inicial.
The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.
El video utiliza la escala para mostrar lo que parece ser un largo flujo de pasajeros. Algunos se mueven hacia y otros se alejan de un avión. Es difícil identificar detalles específicos en el video. Los bloques de texto superpuestos cubren casi toda la línea del horizonte. La poca profundidad de campo hace que los aspectos en la distancia estén borrosos y sean difíciles de discernir.
Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.
Muchos de los pasajeros tienen piel más oscura y están codificados visualmente como “otros”. Interactúan con un oficial de policía de piel clara que toma notas en un portapapeles.
The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.
El video vertical está enmarcado cuidadosamente para no revelar identificadores como el nombre de la aerolínea que parece comenzar con la letra “P”. Esto dificulta buscar el nombre de la aerolínea y si fuentes creíbles corroboran la historia contada.
Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.
Aunque las personas y las escenas parecen realistas a primera vista, la integridad del video se desmorona cuando ralentizamos y miramos más de cerca. Las personas en la fila de pasajeros se transforman y mutan.
The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.
El oficial es capaz de quitar el papel del portapapeles por sí solo y parece dejar inexplicablemente tiras blancas. Los chalecos policiales se ven diferentes a las imágenes que se pueden encontrar en fotos verificadas de la Policía Federal Australiana.
Taken together, all these clues suggest the video is AI-generated.
En conjunto, todas estas pistas sugieren que el video fue generado por IA.
Think like a fact-checker
Piensa como un verificador de hechos
Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.
Muchos videos generados por IA pueden engañarte y crear una narrativa muy convincente. Por eso, los verificadores de hechos han desarrollado metodologías trianguladas que examinan elementos más allá de lo que solo ves en el video.
One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.
Una forma de hacer esto es verificar sistemáticamente los factores contextuales: las otras cosas que rodean el contenido. La investigación de nuestro equipo ha descubierto que los verificadores de hechos profesionales suelen prestar atención al tipo de cuentas de redes sociales o sitios web que distribuyen medios sospechosos.
For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.
Para esta verificación de AAP sobre un video acerca de la prohibición de perros en la playa, fue crucial inspeccionar la actividad y los patrones de publicación del usuario.
In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.
Además de las anomalías visuales, los verificadores de hechos también encontraron una marca de agua invisible que les ayudó a determinar que el contenido fue generado por IA.
Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.
Otras cosas a verificar son cuánto tiempo ha estado activa una cuenta de redes sociales, con qué frecuencia publica la cuenta, y si la cuenta es transparente sobre su uso de IA.
These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.
Sin embargo, estos no son indicadores infalibles de autenticidad. El ejemplo del migrante anterior proviene de una cuenta que tiene unos cinco años. También proviene de una cuenta «verificada», lo que podría hacer que parezca más creíble. Pero tanto Facebook como X ahora permiten a los usuarios pagar por esta verificación.
Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.
En general, cuando se trata de imágenes o videos sospechosos, no solo mires profundamente. Mira también ampliamente.
AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.
El contenido generado por IA puede engañar cada vez más a nuestros ojos, por lo que también tienes que mirar más allá de lo que hay en el video. Adoptar un enfoque de métodos mixtos que considere pistas visuales y contextuales puede ayudar. Al entrenar tu capacidad para pensar como un verificador de hechos, puedes estar más seguro en línea.
Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.
Silvia Montaña-Niño es también investigadora asociada del Centro de Excelencia ARC para la Toma de Decisiones Automatizada y la Sociedad y del Equipo de Investigación de Verificación de Hechos en este centro.
T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.
T.J. Thomson recibe financiación del Consejo Australiano de Investigación. Es afiliado del Centro de Excelencia ARC para la Toma de Decisiones Automatizada y la Sociedad.
Read more
-
A la sombra de la guerra con Irán, la renovada campaña de Israel en Líbano corre el riesgo de repetir lecciones fallidas – y ocupaciones – del pasado
In Iran war’s shadow, Israel’s renewed Lebanon campaign risks repeating failed lessons – and occupations – of the past
-
¿Por qué los Estados Unidos están tan obsesionados con controlar Cuba?
Why is the US so obsessed with controlling Cuba?