Ba cách tránh bị lừa bởi nội dung AI rác
Three ways to avoid being fooled by AI slop
Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?
Kiểm chứng sự thật có thể mất hàng giờ hoặc hàng ngày, trong khi các nội dung giả mạo có thể được tạo ra chỉ trong vài giây. Vậy, chúng ta phải làm gì?
Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.
Xã hội toàn cầu tạo ra hàng tỷ hình ảnh và tải lên hàng trăm nghìn giờ video trên internet mỗi ngày.
The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.
Vấn đề là, một số nội dung này gây hiểu lầm hoặc hoàn toàn sai sự thật. Và khi nó ở dạng hình ảnh, nó có thể đặc biệt thuyết phục.
Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .
Hãy xem Met Gala diễn ra vào đầu tháng này ở New York. Trong khi các nhiếp ảnh gia chụp ảnh Rhianna, Beyoncé và Nicole Kidman khi họ xuất hiện, những người khác lại thấy những “bức ảnh” của những người nổi tiếng như Rosalía, Lady Gaga và Jacob Elordi, những người thực tế lại ở nơi khác (các hình ảnh trong băng chuyền Instagram bên dưới là do AI tạo) .
While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.
Trong khi loại nội dung AI này có vẻ vô hại và dễ xác minh, thì các hình thức “giả mạo truyền thông” khác đang trở nên vấn đề hơn nhiều và đòi hỏi các kỹ thuật xác minh mạnh mẽ hơn.
Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.
Các kỹ thuật xác minh truyền thống đang trở nên thiếu sót khi AI ngày càng thuyết phục và ranh giới giữa nội dung xác thực và nội dung tổng hợp bị xóa nhòa. Điều này đúng với mọi loại nội dung, từ ảnh tĩnh đến ảnh chuyển động và deepfake âm thanh.
The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.
Khối lượng nội dung và tốc độ lan truyền của nó cũng không giúp ích gì. Việc kiểm chứng sự thật có thể mất hàng giờ hoặc hàng ngày, trong khi các nội dung giả mạo có thể được tạo ra chỉ trong vài giây, cũng là một vấn đề lớn.
First, equip yourself
Trước hết, trang bị cho bản thân
Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.
Các hướng dẫn về phát hiện nội dung do AI tạo ra đề xuất nhiều chiến lược và thừa nhận rằng không có giải pháp hoàn hảo. Nhưng có những điều hữu ích bạn có thể làm.
Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.
Hãy làm quen với các ví dụ về nội dung giả và nghiên cứu cách chúng được kiểm chứng sự thật. Điều này giúp bạn hiểu những gì là khả thi và học cách các kiểm chứng viên phân biệt thật giả.
Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?
Nhìn sâu. Phóng to. Tạm dừng nội dung hoặc xem từng khung hình. Kiểm tra các chi tiết nhỏ. Chú ý đến những điểm không nhất quán, các kết cấu bị phẳng khi chúng không nên như vậy, hoặc các mẫu hình quá hoàn hảo hoặc lệch một cách khó hiểu. Địa điểm được hiển thị có khớp với nơi cảnh được cho là diễn ra không? Bóng đổ có tự nhiên không và các đường nét có tuân theo quy tắc phối cảnh không?
Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?
Nhìn rộng. Bạn có quen thuộc với nguồn này không? Nó còn công bố những gì và đã tồn tại bao lâu rồi? Các nguồn đáng tin cậy khác nói gì? Mô tả này so sánh với những mô tả khác có sẵn như thế nào? Hoặc nếu không có nguồn nào khác, điều đó có khiến bạn phải cân nhắc không?
Then, apply your learnings
Sau đó, áp dụng những gì bạn đã học được.
Let’s take an example and work through it together.
Chúng ta hãy xem một ví dụ và cùng nhau phân tích nó.
This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.
Video ngắn trên Facebook này, được đăng bởi tài khoản “Real Talk Hub”, tuyên bố cho thấy người di cư bị cảnh sát Úc chặn lại và đưa trở về tại sân bay.
Before getting too granular, let’s take stock of the opening image.
Trước khi đi vào chi tiết, chúng ta hãy xem xét hình ảnh mở đầu.
The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.
Video sử dụng tỷ lệ để cho thấy một dòng người hành khách dài. Một số người di chuyển về phía máy bay và một số người di chuyển ra xa máy bay. Rất khó để xác định các chi tiết cụ thể trong video. Các khối văn bản chồng lên gần như che khuất toàn bộ đường chân trời. Độ sâu trường ảnh nông làm cho các chi tiết ở xa bị mờ và khó nhận biết.
Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.
Nhiều hành khách có làn da sẫm màu và được mã hóa bằng thị giác là “người khác”. Họ tương tác với một sĩ quan cảnh sát da sáng màu, người đang ghi chép vào một bảng kẹp.
The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.
Video dọc được đóng khung cẩn thận để không tiết lộ các định danh như tên hãng hàng không dường như bắt đầu bằng chữ “P”. Điều này khiến việc tìm kiếm tên hãng hàng không và xác minh liệu các nguồn đáng tin cậy có xác nhận câu chuyện được kể hay không trở nên khó khăn.
Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.
Mặc dù con người và các cảnh vật trông có vẻ thực tế thoạt nhìn, tính toàn vẹn của video bị lộ khi chúng ta chậm lại và nhìn kỹ hơn. Những người trong hàng hành khách biến đổi và thay hình.
The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.
Viên cảnh sát có thể tự mình gỡ tờ giấy khỏi bảng kẹp và nó dường như để lại những dải trắng một cách khó hiểu. Áo giáp cảnh sát trông khác so với hình ảnh bạn có thể tìm thấy trong các bức ảnh truyền thông đã được xác minh của Cảnh sát Liên bang Úc.
Taken together, all these clues suggest the video is AI-generated.
Tổng hợp lại, tất cả những manh mối này cho thấy video được tạo bằng AI.
Think like a fact-checker
Tư duy như một kiểm chứng sự thật
Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.
Nhiều video do AI tạo ra có thể đánh lừa bạn và tạo ra một câu chuyện rất thuyết phục. Vì vậy, các kiểm chứng sự thật đã phát triển các phương pháp luận đa chiều để kiểm tra các yếu tố vượt ra ngoài những gì bạn thấy trong video.
One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.
Một cách để làm điều này là kiểm tra có hệ thống các yếu tố ngữ cảnh – những thứ khác xung quanh nội dung. Nghiên cứu của nhóm chúng tôi cho thấy các kiểm chứng sự thật chuyên nghiệp thường chú ý đến loại tài khoản mạng xã hội hoặc trang web nào đang phân phối các phương tiện đáng ngờ.
For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.
Đối với việc xác minh AAP này về video cấm chó trên bãi biển, việc kiểm tra hoạt động và mô hình đăng bài của người dùng là rất quan trọng.
In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.
Ngoài các bất thường về mặt hình ảnh, các kiểm chứng sự thật còn phát hiện ra một hình mờ vô hình giúp họ xác định nội dung đó được tạo bằng AI.
Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.
Những điều khác cần kiểm tra là tài khoản mạng xã hội đã hoạt động bao lâu, tài khoản đó đăng bài thường xuyên như thế nào, và liệu tài khoản đó có minh bạch về việc sử dụng AI hay không.
These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.
Tuy nhiên, đây không phải là những chỉ số tuyệt đối về tính xác thực. Ví dụ về người di cư ở trên đến từ một tài khoản khoảng năm tuổi. Nó cũng đến từ một tài khoản “đã xác minh,” điều này có thể khiến nó có vẻ đáng tin hơn. Nhưng cả Facebook và X hiện đều cho phép người dùng trả tiền để xác minh điều này.
Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.
Nhìn chung, khi đối mặt với hình ảnh hoặc video đáng ngờ, đừng chỉ nhìn sâu. Hãy nhìn rộng.
AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.
Nội dung do AI tạo ra ngày càng có thể đánh lừa mắt chúng ta, vì vậy bạn cũng phải nhìn xa hơn những gì có trong video. Áp dụng phương pháp hỗn hợp xem xét các manh mối trực quan và ngữ cảnh có thể giúp ích. Bằng cách rèn luyện khả năng tư duy như một kiểm chứng sự thật, bạn có thể an toàn hơn khi trực tuyến.
Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.
Silvia Montaña-Niño cũng là điều tra viên liên kết của Trung tâm Xuất sắc về Ra quyết định Tự động & Xã hội ARC và Nhóm Nghiên cứu Kiểm chứng Sự thật tại trung tâm này.
T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.
T.J. Thomson nhận tài trợ từ Hội đồng Nghiên cứu Úc. Ông là thành viên liên kết của Trung tâm Xuất sắc về Ra quyết định Tự động & Xã hội ARC.
Read more
-
Phim tài liệu mới theo dấu sự nghiệp của Kylie Minogue, từ những lời chỉ trích khắc nghiệt ban đầu đến đỉnh cao ngôi sao nhạc pop
New documentary traces Kylie Minogue’s career, from harsh early critics to pop stardom
-
Các công cụ mới của Meta cho phép phụ huynh giám sát tài khoản mạng xã hội của con cái tốt hơn. Liệu chúng có hiệu quả không?
Meta’s new tools allow parents to better supervise their kids’ social media accounts. Will they work?