Três maneiras de não ser enganado pelo lixo de IA
Three ways to avoid being fooled by AI slop
Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?
Verificar fatos pode levar horas ou dias, enquanto falsificações podem ser criadas em segundos. Então, o que fazemos?
Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.
A sociedade global cria bilhões de imagens e carrega centenas de milhares de horas de vídeo na internet todos os dias.
The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.
O problema é que parte desse conteúdo é enganoso ou simplesmente falso. E quando está em formato visual, pode ser particularmente convincente.
Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .
Pegue o Met Gala que aconteceu no início deste mês em Nova York. Enquanto fotógrafos tiravam fotos de Rihanna, Beyoncé e Nicole Kidman enquanto exibiam seus trajes, outros viram “fotos” de celebridades, como Rosalía, Lady Gaga e Jacob Elordi, que estavam em outro lugar (as imagens no carrossel do Instagram abaixo são geradas por IA) .
While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.
Embora esse tipo de conteúdo de IA possa parecer inofensivo e ser facilmente verificado, outras “falsificações de mídia” estão se tornando muito mais problemáticas e exigem técnicas mais robustas de verificação.
Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.
As técnicas tradicionais de verificação estão falhando à medida que a IA se torna cada vez mais convincente e a linha entre o autêntico e o sintético se apaga. Isso é verdade em todo o conteúdo, desde imagens estáticas até vídeos e deepfakes de áudio.
The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.
O volume de conteúdo e a velocidade com que ele viaja não ajudam. Também não ajuda o fato de que a checagem de fatos pode levar horas ou dias, enquanto as falsificações podem ser criadas em segundos.
First, equip yourself
Primeiro, equipar-se
Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.
Guias sobre detecção de conteúdo gerado por IA sugerem múltiplas estratégias e reconhecem que não há soluções perfeitas. Mas há coisas úteis que você pode fazer.
Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.
Familiarize-se com exemplos de falsificações e estude como elas foram checadas. Isso ajuda você a entender o que é possível e a aprender como os verificadores de fatos separam o real do falso.
Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?
Olhe profundamente. Dê zoom. Pause o conteúdo ou assista quadro a quadro. Inspecione os pequenos detalhes. Procure por inconsistências, texturas que estão planas quando não deveriam estar, ou padrões que são muito perfeitos ou que estão inexplicavelmente errados. O local mostrado corresponde ao local onde a cena supostamente está? As sombras caem naturalmente e as linhas seguem as regras da perspectiva?
Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?
Olhe amplamente. Você está familiarizado com a fonte? O que mais ela publica e há quanto tempo ela existe? O que outras fontes confiáveis dizem? Como esta representação se compara a outras disponíveis? Ou se não houver outras disponíveis, isso deveria fazê-lo parar e pensar?
Then, apply your learnings
Então, aplique o que aprendeu
Let’s take an example and work through it together.
Vamos pegar um exemplo e analisar juntos.
This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.
Este reel do Facebook, postado por uma conta chamada “Real Talk Hub”, alega mostrar migrantes sendo detidos e devolvidos pela polícia australiana em um aeroporto.
Before getting too granular, let’s take stock of the opening image.
Antes de entrar em detalhes, vamos analisar a imagem inicial.
The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.
O vídeo usa a escala para mostrar o que parece ser um longo fluxo de passageiros. Alguns estão se movendo em direção e outros se afastando de um avião. É difícil identificar detalhes no vídeo. Os blocos de texto sobrepostos cobrem quase toda a linha do horizonte. A profundidade de campo rasa torna os aspectos à distância embaçados e difíceis de discernir.
Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.
Muitos dos passageiros têm pele mais escura e são codificados visualmente como “outros”. Eles interagem com um policial de pele clara que anota em um prancheta.
The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.
O vídeo vertical é enquadrado cuidadosamente para não revelar identificadores como o nome da companhia aérea que parece começar com a letra “P”. Isso torna difícil pesquisar o nome da companhia aérea e se fontes credíveis corroboram a história contada.
Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.
Embora as pessoas e as cenas pareçam realistas à primeira vista, a integridade do vídeo se desfaz quando desaceleramos e olhamos mais de perto. As pessoas na fila de passageiros se transformam e se modificam.
The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.
O policial é capaz de remover o papel do prancheta sozinho, e ele parece deixar inexplicavelmente tiras brancas para trás. Os coletes policiais parecem diferentes das imagens que você pode encontrar em fotos de mídia verificada da Polícia Federal Australiana.
Taken together, all these clues suggest the video is AI-generated.
Juntos, todos esses indícios sugerem que o vídeo foi gerado por IA.
Think like a fact-checker
Pense como um verificador de fatos
Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.
Muitos vídeos gerados por IA podem enganar você e criar uma narrativa muito convincente. Assim, os verificadores de fatos desenvolveram metodologias trianguladas que examinam elementos além do que você vê no vídeo.
One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.
Uma maneira de fazer isso é verificar sistematicamente os fatores contextuais – as outras coisas que cercam o conteúdo. A pesquisa da nossa equipe descobriu que os verificadores de fatos profissionais geralmente prestam atenção ao tipo de contas de mídia social ou sites que distribuem mídia suspeita.
For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.
Para esta verificação da AAP sobre um vídeo sobre a proibição de cães na praia, foi crucial inspecionar a atividade e os padrões de postagem do usuário.
In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.
Além das anomalias visuais, os verificadores de fatos também encontraram uma marca d’água invisível que os ajudou a determinar que o conteúdo foi gerado por IA.
Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.
Outras coisas a verificar são há quanto tempo uma conta de mídia social está operando, com que frequência a conta posta e se a conta é transparente sobre seu uso de IA.
These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.
No entanto, estes não são indicadores infalíveis de autenticidade. O exemplo do migrante acima vem de uma conta que tem cerca de cinco anos. Também vem de uma conta “verificada”, o que pode fazê-la parecer mais credível. Mas tanto o Facebook quanto o X agora permitem que os usuários paguem por essa verificação.
Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.
No geral, quando se trata de imagens ou vídeos suspeitos, não olhe apenas profundamente. Olhe também amplamente.
AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.
O conteúdo gerado por IA pode enganar cada vez mais nossos olhos, então você também precisa olhar além do que está no vídeo. Adotar uma abordagem de métodos mistos que considere pistas visuais e contextuais pode ajudar. Ao treinar sua capacidade de pensar como um verificador de fatos, você pode se manter mais seguro online.
Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.
Silvia Montaña-Niño é também pesquisadora associada do ARC Centre of Excellence for Automated Decision-Making & Society e da Equipe de Pesquisa de Verificação de Fatos neste centro.
T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.
T.J. Thomson recebe financiamento do Australian Research Council. Ele é afiliado do ARC Centre of Excellence for Automated Decision Making & Society.
Read more
-
Dentro dos complexos de golpes do Sudeste Asiático: Uma trabalhadora traficada fala de fraude, coerção e tortura
Inside Southeast Asia’s scam compounds: A trafficked worker tells of fraud, coercion and torture
-
Ao mediar as negociações de paz entre EUA e Irã, o Paquistão está exibindo seus músculos geopolíticos
In mediating the US-Iran peace talks, Pakistan is flexing its geopolitical muscles