Trois façons d’éviter d’être dupé par le contenu médiocre de l’IA
Three ways to avoid being fooled by AI slop
Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?
La vérification des faits peut prendre des heures, voire des jours, tandis que les fausses informations peuvent être créées en quelques secondes. Alors, que faisons-nous ?
Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.
La société mondiale crée des milliards d’images et télécharge des centaines de milliers d’heures de vidéos sur Internet chaque jour.
The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.
Le problème est que certaines de ces données sont trompeuses ou carrément fausses. Et lorsqu’elles sont sous forme visuelle, elles peuvent être particulièrement convaincantes.
Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .
Prenons l’exemple du Met Gala qui a eu lieu plus tôt ce mois-ci à New York. Alors que des photographes prenaient des photos de Rihanna, Beyoncé et Nicole Kidman lorsqu’elles défilaient, d’autres ont vu des « photos » de célébrités, telles que Rosalía, Lady Gaga et Jacob Elordi, qui étaient en réalité ailleurs (les images dans le carrousel Instagram ci-dessous sont générées par IA) .
While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.
Bien que ce type de contenu IA puisse sembler inoffensif et être facilement vérifié, d’autres « fausses informations médiatiques » deviennent beaucoup plus problématiques et exigent des techniques de vérification plus robustes.
Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.
Les techniques de vérification traditionnelles ne suffisent plus à mesure que l’IA devient de plus en plus convaincante et que la frontière entre l’authentique et le synthétique s’estompe. Ceci est vrai pour tout type de contenu, des images fixes aux images en mouvement et aux deepfakes audio.
The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.
Le volume de contenu et la vitesse à laquelle il circule ne font pas de faveur. Il n’aide pas non plus le fait que la vérification des faits peut prendre des heures ou des jours, tandis que les fausses informations peuvent être créées en quelques secondes.
First, equip yourself
D’abord, équipez-vous
Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.
Les guides sur la détection de contenu généré par IA suggèrent plusieurs stratégies et reconnaissent qu’il n’y a pas de solutions parfaites. Mais il y a des choses utiles que vous pouvez faire.
Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.
Familiarisez-vous avec des exemples de fausses informations et étudiez comment elles ont été vérifiées. Cela vous aide à comprendre ce qui est possible et à apprendre comment les vérificateurs distinguent le vrai du faux.
Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?
Regardez en profondeur. Zoomez. Mettez le contenu en pause ou regardez-le image par image. Inspectez les petits détails. Méfiez-vous des incohérences, des textures qui sont plates alors qu’elles ne devraient pas l’être, ou des motifs trop parfaits ou inexplicablement décalés. L’emplacement montré correspond-il à l’endroit où la scène est censée se dérouler? Les ombres tombent-elles naturellement et les lignes suivent-elles les règles de la perspective?
Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?
Regardez largement. Êtes-vous familier avec la source? Qu’autre publie-t-elle et depuis combien de temps existe-t-elle? Que disent d’autres sources fiables? Comment cette représentation se compare-t-elle aux autres disponibles? Ou s’il n’y en a pas d’autres disponibles, cela devrait-il vous faire réfléchir?
Then, apply your learnings
Ensuite, appliquez ce que vous avez appris.
Let’s take an example and work through it together.
Prenons un exemple et analysons-le ensemble.
This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.
Ce Reel Facebook, publié par un compte appelé « Real Talk Hub », prétend montrer des migrants arrêtés et renvoyés par la police australienne dans un aéroport.
Before getting too granular, let’s take stock of the opening image.
Avant d’aller trop dans les détails, examinons l’image d’ouverture.
The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.
La vidéo utilise l’échelle pour montrer ce qui semble être un long flux de passagers. Certains se dirigent vers un avion et d’autres s’en éloignent. Il est difficile d’identifier des détails précis dans la vidéo. Les blocs de texte superposés masquent presque toute la ligne d’horizon. Une faible profondeur de champ rend les aspects au loin flous et difficiles à discerner.
Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.
De nombreux passagers ont la peau plus foncée et sont visuellement codés comme « autres ». Ils interagissent avec un policier à la peau claire qui prend des notes sur un presse-papiers.
The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.
La vidéo verticale est cadrée avec soin pour ne pas révéler d’identifiants comme le nom de la compagnie aérienne qui semble commencer par la lettre « P ». Cela rend difficile la recherche du nom de la compagnie aérienne et la vérification si des sources crédibles corroborent l’histoire racontée.
Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.
Même si les personnes et les scènes semblent réalistes au premier coup d’œil, l’intégrité de la vidéo se délite lorsque nous ralentissons et regardons de plus près. Les personnes dans la file de passagers se transforment et se modifient.
The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.
L’agent est capable de retirer seul le papier du presse-papiers, et il semble en laisser inexplicablement des bandes blanches derrière. Les gilets de police diffèrent des images que l’on peut trouver dans des photos de médias vérifiés de la Police fédérale australienne.
Taken together, all these clues suggest the video is AI-generated.
Ensemble, tous ces indices suggèrent que la vidéo est générée par IA.
Think like a fact-checker
Penser comme un vérificateur de faits
Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.
De nombreuses vidéos générées par IA peuvent vous tromper et créer un récit très convaincant. Ainsi, les vérificateurs de faits ont développé des méthodologies triangulées qui examinent des éléments au-delà de ce que vous voyez dans la vidéo.
One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.
Une façon de faire est de vérifier systématiquement les facteurs contextuels – les autres éléments entourant le contenu. Les recherches de notre équipe ont révélé que les vérificateurs de faits professionnels prêtent généralement attention au type de comptes de médias sociaux ou de sites web qui diffusent des médias suspects.
For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.
Pour cette vérification AAP sur une vidéo interdisant les chiens sur la plage, il était crucial d’inspecter l’activité et les schémas de publication de l’utilisateur.
In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.
En plus des anomalies visuelles, les vérificateurs de faits ont également trouvé un filigrane invisible qui les a aidés à déterminer que le contenu était généré par IA.
Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.
D’autres choses à vérifier sont depuis combien de temps un compte de médias sociaux est actif, la fréquence de publication du compte, et si le compte est transparent quant à son utilisation de l’IA.
These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.
Ce ne sont cependant pas des indicateurs infaillibles d’authenticité. L’exemple des migrants ci-dessus provient d’un compte qui a environ cinq ans. Il provient également d’un compte « vérifié », ce qui pourrait le rendre plus crédible. Mais Facebook et X permettent désormais aux utilisateurs de payer pour cette vérification.
Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.
Dans l’ensemble, lorsqu’il s’agit d’images ou de vidéos suspectes, ne regardez pas seulement en profondeur. Regardez aussi largement.
AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.
Le contenu généré par IA peut de plus en plus tromper nos yeux, vous devez donc également regarder au-delà de ce qui est dans la vidéo. Adopter une approche par méthodes mixtes qui prend en compte les indices visuels et contextuels peut aider. En entraînant votre capacité à penser comme un vérificateur de faits, vous pouvez rester plus en sécurité en ligne.
Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.
Silvia Montaña-Niño est également investigatrice associée du ARC Centre of Excellence for Automated Decision-Making & Society et de l’équipe de recherche sur la vérification des faits de ce centre.
T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.
T.J. Thomson reçoit un financement du Australian Research Council. Il est affilié au ARC Centre of Excellence for Automated Decision Making & Society.
Read more
-
Ce que cela aurait été d’expérimenter l’armageddon de l’astéroïde qui a tué les dinosaures : un compte rendu étape par étape
What it would have been like to experience the dinosaur-killing asteroid armageddon: a blow-by-blow account
-
La coopération des États du Golfe a longtemps été façonnée par la menace iranienne – mais les signes d’unité masquent des divisions.
Gulf state cooperation has long been shaped by the threat of Iran − but shows of unity belie division