AI की घटिया सामग्री से धोखा होने से बचने के तीन तरीके
Three ways to avoid being fooled by AI slop
Fact-checking can take hours or days while fakes can be created in seconds. So, what do we do?
तथ्य-जाँच में घंटों या दिन लग सकते हैं, जबकि नकली सामग्री सेकंडों में बनाई जा सकती है। तो, हम क्या करें?
Global society makes billions of images and uploads hundreds of thousands of hours of video on the internet every day.
वैश्विक समाज हर दिन इंटरनेट पर अरबों तस्वीरें बनाता है और लाखों घंटों के वीडियो अपलोड करता है।
The problem is, some of this content is misleading or downright wrong. And when it’s in visual form, it can be particularly convincing.
समस्या यह है कि इस सामग्री का कुछ हिस्सा भ्रामक या पूरी तरह से गलत होता है। और जब यह दृश्य रूप में होता है, तो यह विशेष रूप से विश्वसनीय हो सकता है।
Take the Met Gala that happened earlier this month in New York. While photographers snapped photos of Rhianna, Beyoncé and Nicole Kidman as they strutted their stuff, others saw “photos” of celebrities, such as Rosalía, Lady Gaga and Jacob Elordi, who were actually elsewhere (the images in the below Instagram carousel are AI generated) .
इस महीने की शुरुआत में न्यूयॉर्क में हुए मेट गाला का उदाहरण लें। जहाँ फोटोग्राफरों ने किया रियांना, बीयॉन्स और निकोल किडमैन की तस्वीरें लीं जब वे अपना प्रदर्शन कर रही थीं, वहीं दूसरों ने रोसालिया, लेडी गागा और जैकब एलॉर्डी जैसे मशहूर हस्तियों की “तस्वीरें” देखीं, जो वास्तव में कहीं और थे (नीचे दिए गए इंस्टाग्राम कैरोसेल में छवियां एआई द्वारा उत्पन्न की गई हैं) ।
While this type of AI slop might seem harmless and can be easily verified, other “media fakery” is becoming far more problematic and demands more robust techniques to verify.
हालाँकि इस प्रकार का एआई कचरा (slop) हानिरहित लग सकता है और आसानी से सत्यापित किया जा सकता है, लेकिन अन्य “मीडिया फ़ेकरी” कहीं अधिक समस्याग्रस्त होती जा रही है और सत्यापन के लिए अधिक मजबूत तकनीकों की मांग करती है।
Traditional verification techniques are falling short as AI becomes increasingly convincing and the line between authentic and synthetic blurs. This is true across all content, from still images to moving ones and audio deepfakes.
पारंपरिक सत्यापन तकनीकें कम पड़ रही हैं क्योंकि एआई लगातार अधिक विश्वसनीय होता जा रहा है और प्रामाणिक तथा सिंथेटिक के बीच की रेखा धुंधली होती जा रही है। यह सभी प्रकार की सामग्री पर सच है, स्थिर छवियों से लेकर चलती छवियों और ऑडियो डीपफेक तक।
The volume of content and the speed at which it travels doesn’t help. It also doesn’t help that fact-checking can take hours or days while fakes can be created in seconds.
सामग्री की मात्रा और जिस गति से यह यात्रा करता है, वह मदद नहीं करता। यह भी मदद नहीं करता कि तथ्य-जाँच में घंटों या दिन लग सकते हैं, जबकि नकली सामग्री सेकंडों में बनाई जा सकती है।
First, equip yourself
सबसे पहले, खुद को तैयार करें
Guides on detecting AI-generated content suggest multiple strategies and acknowledge there are no perfect solutions. But there are helpful things you can do.
एआई-जनरेटेड सामग्री का पता लगाने पर गाइड कई रणनीतियों का सुझाव देते हैं और स्वीकार करते हैं कि कोई भी पूर्ण समाधान नहीं है। लेकिन कुछ सहायक चीजें हैं जो आप कर सकते हैं।
Familiarise yourself with examples of fakes and study how they were fact-checked. This helps you understand what is possible and learn how fact-checkers sort real from fake.
नकली उदाहरणों से खुद को परिचित करें और अध्ययन करें कि उनकी तथ्य-जाँच कैसे की गई थी। इससे आपको यह समझने में मदद मिलती है कि क्या संभव है और यह सीखने में मदद मिलती है कि तथ्य-जाँचकर्ता असली को नकली से कैसे अलग करते हैं।
Look deeply. Zoom in. Pause the content or watch it frame-by-frame. Inspect the small details. Look out for inconsistencies, textures that are flat when they shouldn’t be, or patterns that are too perfect or are inexplicably off. Does the location shown match with where the scene is purported to be? Do shadows fall naturally and do lines follow the rules of perspective?
गहराई से देखें। ज़ूम करें। सामग्री को रोक दें या इसे फ्रेम-दर-फ्रेम देखें। छोटे विवरणों का निरीक्षण करें। विसंगतियों, उन बनावटों पर नज़र रखें जो जहाँ नहीं होनी चाहिए वहाँ सपाट हैं, या पैटर्न जो बहुत अधिक पूर्ण हैं या जो अस्पष्ट रूप से गलत हैं। क्या दिखाया गया स्थान उस जगह से मेल खाता है जहाँ दृश्य होने का दावा किया जाता है? क्या छाया स्वाभाविक रूप से गिरती है और क्या रेखाएँ परिप्रेक्ष्य के नियमों का पालन करती हैं?
Look widely. Are you familiar with the source? What else does it publish and how long has it been around? What do other trusted sources say? How does this depiction compare to others that are available? Or if there aren’t others available, should that give you pause?
चौड़ाई से देखें। क्या आप स्रोत से परिचित हैं? यह और क्या प्रकाशित करता है और यह कब से मौजूद है? अन्य विश्वसनीय स्रोत क्या कहते हैं? यह चित्रण अन्य उपलब्ध चित्रणों से कैसे तुलना करता है? या यदि अन्य उपलब्ध नहीं हैं, तो क्या आपको रुकना चाहिए?
Then, apply your learnings
फिर, अपने सीखे हुए ज्ञान का उपयोग करें।
Let’s take an example and work through it together.
आइए एक उदाहरण लेते हैं और इसे एक साथ समझते हैं।
This Facebook reel, posted by an account called “Real Talk Hub”, purports to show migrants being stopped and returned by Australian police at an airport.
यह फेसबुक रील, जो “रियल टॉक हब” नामक अकाउंट द्वारा पोस्ट की गई है, कथित तौर पर एक हवाई अड्डे पर ऑस्ट्रेलियाई पुलिस द्वारा प्रवासियों को रोका और वापस भेजे जाने को दिखाती है।
Before getting too granular, let’s take stock of the opening image.
बहुत अधिक बारीकी में जाने से पहले, आइए शुरुआती छवि का जायजा लेते हैं।
The video uses scale to show what appears to be a long stream of passengers. Some are moving toward and some are moving away from a plane. It is difficult to identify specifics in the video. The superimposed text blocks almost all of the horizon line. Shallow depth of field makes aspects in the distance blurry and hard to discern.
वीडियो पैमाने का उपयोग करके यात्रियों की एक लंबी कतार जैसा कुछ दिखाता है। कुछ एक विमान की ओर जा रहे हैं और कुछ उससे दूर जा रहे हैं। वीडियो में विशिष्ट विवरणों की पहचान करना मुश्किल है। ओवरले किए गए टेक्स्ट ब्लॉक लगभग पूरी क्षितिज रेखा को कवर करते हैं। उथली गहराई का क्षेत्र (shallow depth of field) दूरी में पहलुओं को धुंधला और पहचानना कठिन बना देता है।
Many of the passengers have darker skin and are visually coded as “other”. They interact with a light-skinned police officer who takes notes on a clipboard.
कई यात्रियों की त्वचा का रंग गहरा है और उन्हें दृश्य रूप से “अन्य” के रूप में कोडित किया गया है। वे एक गोरी त्वचा वाले पुलिस अधिकारी के साथ बातचीत करते हैं जो एक क्लिपबोर्ड पर नोट्स लेता है।
The vertical video is framed carefully to not reveal identifiers like the name of the airline that seems to start with the letter “P”. This makes it difficult to search the airline’s name and whether credible sources corroborate the story that’s told.
ऊर्ध्वाधर वीडियो को सावधानीपूर्वक फ्रेम किया गया है ताकि एयरलाइन के नाम जैसे पहचानकर्ताओं का खुलासा न हो जो “P” अक्षर से शुरू होता प्रतीत होता है। यह एयरलाइन का नाम खोजना और यह पता लगाना मुश्किल बनाता है कि क्या विश्वसनीय स्रोत बताई गई कहानी की पुष्टि करते हैं।
Even though the people and scenes look realistic at first glance, the video’s integrity unravels when we slow down and look closer. People in the passenger line morph and transform.
भले ही लोग और दृश्य पहली नज़र में यथार्थवादी दिखते हैं, लेकिन जब हम धीमा होते हैं और करीब से देखते हैं तो वीडियो की सत्यता टूट जाती है। यात्री लाइन में लोग बदल जाते हैं और रूपांतरित होते हैं।
The officer is able to single-handedly remove the paper from the clipboard and it appears to inexplicably leave white strips behind. The police vests look different to images you can find in verified media photos of the Australian Federal Police.
अधिकारी अकेले ही क्लिपबोर्ड से कागज़ हटा पाता है और ऐसा प्रतीत होता है कि यह रहस्यमय तरीके से पीछे सफेद पट्टियाँ छोड़ जाता है। पुलिस वेस्ट ऑस्ट्रेलियाई संघीय पुलिस की सत्यापित मीडिया तस्वीरों में पाए जाने वाले चित्रों से अलग दिखते हैं।
Taken together, all these clues suggest the video is AI-generated.
एक साथ, ये सभी सुराग बताते हैं कि वीडियो एआई-जनरेटेड है।
Think like a fact-checker
एक तथ्य-जांचकर्ता की तरह सोचें
Many AI-generated videos can trick you and create a very compelling narrative. So, fact-checkers have developed triangulated methodologies that examine elements beyond just what you see in the video.
कई एआई-जनरेटेड वीडियो आपको धोखा दे सकते हैं और एक बहुत ही सम्मोहक कहानी बना सकते हैं। इसलिए, तथ्य-जांचकर्ताओं ने त्रिकोणीय कार्यप्रणाली विकसित की है जो केवल वीडियो में दिखाई देने वाली चीज़ों से परे तत्वों की जांच करती है।
One way to do this is to systematically check contextual factors – the other things surrounding the content. Our team’s research has found professional fact-checkers usually pay attention to the type of social media accounts or websites distributing suspicious media.
ऐसा करने का एक तरीका है कि आप व्यवस्थित रूप से प्रासंगिक कारकों की जांच करें – यानी सामग्री के आसपास की अन्य चीज़ें। हमारी टीम के शोध में पाया गया है कि पेशेवर तथ्य-जांचकर्ता आमतौर पर संदिग्ध मीडिया वितरित करने वाले सोशल मीडिया खातों या वेबसाइटों के प्रकार पर ध्यान देते हैं।
For this AAP verification on a video about banning dogs on the beach, it was crucial to inspect the user’s activity and posting patterns.
समुद्र तट पर कुत्तों पर प्रतिबंध लगाने के बारे में एक वीडियो पर इस एएपी सत्यापन के लिए, उपयोगकर्ता की गतिविधि और पोस्टिंग पैटर्न का निरीक्षण करना महत्वपूर्ण था।
In addition to visual anomalies, the fact-checkers also found an invisible watermark that helped them determine the content was AI-generated.
दृश्य विसंगतियों के अलावा, तथ्य-जांचकर्ताओं ने एक अदृश्य वॉटरमार्क भी पाया जिसने उन्हें यह निर्धारित करने में मदद की कि सामग्री एआई-जनरेटेड थी।
Other things to check are how long a social media account has been operating, how often the social media account posts, and whether the account is transparent about its use of AI.
जांच करने के लिए अन्य चीज़ें यह हैं कि एक सोशल मीडिया खाता कब से संचालित हो रहा है, सोशल मीडिया खाता कितनी बार पोस्ट करता है, और क्या खाता एआई के उपयोग के बारे में पारदर्शी है।
These aren’t fool-proof indicators of authenticity, though. The migrant example above comes from an account that is about five years old. It also comes from a “verified” account, which might make it feel more credible. But both Facebook and X now let users pay for this verification.
हालांकि, ये प्रामाणिकता के अचूक संकेतक नहीं हैं। ऊपर दिया गया प्रवासी उदाहरण लगभग पाँच साल पुराने खाते से आता है। यह एक “सत्यापित” खाते से भी आता है, जो इसे अधिक विश्वसनीय महसूस करा सकता है। लेकिन फेसबुक और एक्स दोनों अब उपयोगकर्ताओं को इस सत्यापन के लिए भुगतान करने देते हैं।
Overall, when it comes to suspect images or video, don’t just look deeply. Also look widely.
कुल मिलाकर, जब संदिग्ध छवियों या वीडियो की बात आती है, तो केवल गहराई से न देखें। व्यापक रूप से भी देखें।
AI-generated content can increasingly fool our eyes, so you also have to look beyond what’s in the video. Taking a mixed-methods approach that considers visual and contextual clues can help. By training your ability to think like a fact-checker, you can stay safer online.
एआई-जनरेटेड सामग्री हमारी आँखों को तेजी से धोखा दे सकती है, इसलिए आपको वीडियो में जो है, उससे परे भी देखना होगा। एक मिश्रित-तरीके का दृष्टिकोण अपनाना जो दृश्य और प्रासंगिक संकेतों पर विचार करता है, मदद कर सकता है। तथ्य-जांचकर्ता की तरह सोचने की अपनी क्षमता को प्रशिक्षित करके, आप ऑनलाइन अधिक सुरक्षित रह सकते हैं।
Silvia Montaña-Niño is also associate investigator of the ARC Centre of Excellence for Automated Decision-Making & Society and the Fact Check Research Team at this centre.
सिल्विया मोंटाना-नीनो एआरसी सेंटर ऑफ एक्सीलेंस फॉर ऑटोमेटेड डिसीजन-मेकिंग एंड सोसाइटी और इस केंद्र में फैक्ट चेक रिसर्च टीम की सहयोगी जांचकर्ता भी हैं।
T.J. Thomson receives funding from the Australian Research Council. He is an affiliate with the ARC Centre of Excellence for Automated Decision Making & Society.
टी.जे. थॉमसन को ऑस्ट्रेलियाई रिसर्च काउंसिल से फंडिंग मिलती है। वह एआरसी सेंटर ऑफ एक्सीलेंस फॉर ऑटोमेटेड डिसीजन मेकिंग एंड सोसाइटी के साथ संबद्ध हैं।
Read more
-
एआई बॉट: धार्मिक नेता चेतावनी देते हैं कि जब मशीनें भगवान के नाम पर बोलेंगी तो ‘भयभीत करने वाले परिणाम’ होंगे
AI godbots: religious leaders warn of ‘alarming consequences’ when machines speak in the name of God
-
गाजा: छह महीने के युद्धविराम ने क्षेत्र को मलबे में छोड़ दिया है और इसके लोगों के भविष्य के लिए कोई स्पष्ट दृष्टिकोण नहीं छोड़ा है
Gaza: six months of ceasefire have left the territory in rubble and little vision for the future of its people