‘Không ai quan tâm’: Nghiên cứu mới cho thấy deepfake đang gây tổn hại cho những người bình thường, chứ không chỉ người nổi tiếng
‘Nobody cared’: new research shows deepfakes are hurting regular people, not just celebrities

Vào năm 2017, một người dùng Reddit có biệt danh là “deepfakes” đã chia sẻ các video khiêu dâm do AI tạo ra mà không có sự đồng thuận của người nổi tiếng, bằng cách “ghép” khuôn mặt của họ vào cơ thể của các diễn viên phim khiêu dâm.
Gần mười năm sau, các công cụ AI có thể tạo ra các hình ảnh “deepfake” mang tính tình dục có độ chân thực cao chỉ trong vài giây, đôi khi chỉ bằng một bức ảnh duy nhất. Thường thì những người nổi tiếng là mục tiêu bị nhắm đến.
Nghiên cứu mới được công bố của chúng tôi – liên quan đến hơn 7.000 người từ Úc, Vương quốc Anh và Hoa Kỳ – cho thấy hành vi lạm dụng dựa trên hình ảnh do AI tạo ra đang ngày càng trở nên phổ biến. Giờ đây, nó ảnh hưởng đến cả những người bình thường lẫn những người nổi tiếng.
How are deepfakes made ?
Deepfake được tạo ra như thế nào?
AI-generated
Lạm dụng tình dục dựa trên hình ảnh do AI tạo ra là việc tạo ra, phân phối hoặc đe dọa phân phối các hình ảnh thân mật tổng hợp mô tả người thật mà không có sự đồng thuận của họ. Điều này còn được gọi là “deepfake khiêu dâm phi đồng thuận”.
Với rất ít kỹ năng kỹ thuật cần thiết, hầu hết mọi người đều có thể tạo ra những hình ảnh này và hầu hết mọi người đều có thể trở thành mục tiêu.
Các công cụ này bao gồm các ứng dụng “lột đồ” (nudify) kỹ thuật số để xóa quần áo khỏi các bức ảnh, cũng như các trình tạo AI để tạo ra hình ảnh mới hoặc thao túng các hình ảnh hiện có từ các câu lệnh văn bản hoặc hình ảnh tham khảo.
Các công cụ này dễ tiếp cận, dễ tìm và đôi khi miễn phí, làm mở rộng nhóm nạn nhân và thủ phạm tiềm năng, bao gồm cả giới trẻ.
Theo Ủy viên An toàn Điện tử Úc, số lượng báo cáo từ trẻ em liên quan đến hình ảnh thân mật bị chỉnh sửa kỹ thuật số, bao gồm cả deepfake, đã tăng hơn gấp đôi trong 18 tháng tính đến tháng 6 năm 2025 so với tổng số báo cáo nhận được trong bảy năm trước đó cộng lại.
Bốn trong số năm báo cáo đó liên quan đến các trẻ em gái.
What our research found
Nghiên cứu của chúng tôi đã phát hiện ra điều gì?
Nhóm của chúng tôi đã khảo sát 7.230 người trưởng thành ở Úc, Anh và Mỹ vào tháng 7 năm 2024. Chúng tôi phát hiện ra rằng 7% báo cáo là nạn nhân của deepfake khiêu dâm phi đồng thuận, với tỷ lệ cao hơn ở các nhóm:
người dưới 35 tuổi
LGBTQIA+
người thuộc cộng đồng LGBTQIA+
người da đen, người bản địa và người da màu khác
người khuyết tật
nam giới.
Tỷ lệ phổ biến thực tế có thể cao hơn vì nhiều nạn nhân sống sót có thể không bao giờ phát hiện ra rằng hình ảnh của họ đã bị tạo ra hoặc chia sẻ, trong khi thủ phạm có thể ngần ngại tiết lộ hành vi của mình, ngay cả trong một cuộc khảo sát ẩn danh.
Chúng tôi cũng phát hiện ra 3,2% thừa nhận đã tạo, chia sẻ hoặc đe dọa chia sẻ hình ảnh thân mật do AI tạo ra của người khác mà không có sự đồng thuận của họ.
Thủ phạm đã mô tả nhiều động cơ khác nhau, không phải tất cả đều liên quan đến trả thù hoặc ý định rõ ràng gây ra tác hại. Một số người “nghĩ rằng điều đó rất buồn cười”, trong khi những người khác muốn “thử nghiệm công nghệ” hoặc “khoe khoang” với bạn bè và những người cùng trang lứa trên mạng.
Những phát hiện này cho thấy deepfake có thể xảy ra trong các nền văn hóa đồng trang lứa, nơi nội dung mang tính tình dục được sử dụng để giải trí, gắn kết xã hội hoặc chế nhạo, cũng như làm nhục và quấy rối.
What are the impacts ?
Các tác động là gì?
Hầu hết các nạn nhân sống sót trong nghiên cứu của chúng tôi cho biết họ cảm thấy tức giận, bị xúc phạm, xấu hổ, bẽ mặt, sợ hãi, bất lực và đau khổ.
Mặc dù nam giới có nhiều khả năng báo cáo về việc bị victimise (trở thành nạn nhân) hơn, phụ nữ lại có xu hướng báo cáo về một phạm vi tác hại rộng hơn cũng như các tác động tiêu cực về mặt cảm xúc và xã hội. Nam giới có nhiều khả năng thấy trải nghiệm này buồn cười hơn, mặc dù đây chỉ là một thiểu số.
Những tác hại không nhất thiết phụ thuộc vào việc hình ảnh trông có vẻ chân thực đến mức nào. Nạn nhân sống sót có thể trải qua sự đau khổ đáng kể do mất quyền kiểm soát đối với cách họ được thể hiện về mặt tình dục. Họ cũng có thể cảm thấy sợ hãi rằng những người khác sẽ tin rằng những hình ảnh đó là thật, cùng với khả năng bị sỉ nhục hoặc lạm dụng nhiều hơn nữa.
Trong nghiên cứu của chúng tôi, một người tham gia cho biết họ cảm thấy sợ hãi rằng thủ phạm sẽ “tiếp tục tải lên” các hình ảnh và hành vi lạm dụng có thể leo thang thành bạo lực ngoài đời thực. Những người khác lo lắng rằng tài liệu mang tính tình dục gắn liền với tên tuổi của họ có thể bị phát hiện bởi các nhà tuyển dụng tiềm năng hoặc những người khác.
Một khi hình ảnh được lan truyền, các nạn nhân phải đối mặt với một chu kỳ “đập chuột chầu” kiệt sức là xác định vị trí và báo cáo hình ảnh, để rồi các bản sao lại xuất hiện ở nơi khác.
Một số nạn nhân sống sót cũng mô tả việc không được tin tưởng hoặc trải nghiệm của họ bị xem nhẹ, kể cả bởi các nhà chức trách, bạn bè và các thành viên trong gia đình vì những hình ảnh đó được coi là “không có thật”.
Như một phụ nữ trẻ ở Anh đã nói: “không ai quan tâm, tin tưởng hay lắng nghe tôi”.
Một người trẻ phi nhị nguyên giới, cũng ở Anh, cho biết:
There was kind of a level of scepticism from the people I told ;because it wasn’ta ‘real image ’they couldn’treally see why I was so upset and thought it was less compromising because it wasn’tactually me in the picture .
Có một mức độ hoài nghi nhất định từ những người mà tôi kể; bởi vì đó không phải là một ‘bức ảnh thật’, họ thực sự không thể hiểu tại sao tôi lại buồn như vậy và nghĩ rằng nó ít tổn hại hơn vì đó không thực sự là tôi trong bức ảnh.
Prevention and accountability
Phòng ngừa và trách nhiệm giải trình
Thủ phạm phải chịu trách nhiệm trước pháp luật. Tuy nhiên, việc phòng ngừa không thể chỉ giao phó cho các cá nhân.
Các công ty công nghệ phải làm cho sản phẩm và dịch vụ của họ an toàn hơn và có khả năng chống lạm dụng tốt hơn. Điều này có nghĩa là xây dựng các biện pháp bảo vệ vào các công cụ AI để ngăn chặn việc tạo ra các hình ảnh mang tính lạm dụng, làm cho nội dung có hại khó tìm kiếm hoặc phát tán hơn, đồng thời đảm bảo các quy trình báo cáo dễ tiếp cận và gỡ bỏ nhanh chóng.
Gánh nặng không nên đổ lên vai các nạn nhân trong việc liên tục tìm kiếm và báo cáo tài liệu đó.
Australia’s
Nghĩa vụ chăm sóc kỹ thuật số được đề xuất của Úc, được trình lên quốc hội vào tháng trước, là một bước tiến quan trọng.
Điều này sẽ yêu cầu các dịch vụ trực tuyến, bao gồm cả các dịch vụ tạo hình ảnh bằng AI, thực hiện các bước hợp lý để giữ an toàn cho người dùng. Nó cũng sẽ trao cho ủy viên An toàn Điện tử các quyền hạn mới để nhắm mục tiêu vào các ứng dụng và trang web lột đồ.
Đi xa hơn nữa, Úc có thể cân nhắc noi gương Vương quốc Anh trong việc hình sự hóa việc phát triển và cung cấp các công cụ lột đồ.
Cũng cần phải có các tội danh hình sự đối với việc chia sẻ và tạo ra hình ảnh thân mật do AI tạo ra mà không có sự đồng thuận ở tất cả các tiểu bang và vùng lãnh thổ.
Chúng tôi cũng cần giáo dục về các mối quan hệ dựa trên sự đồng thuận và sự tôn trọng, qua đó thách thức quan điểm cho rằng việc tạo ra các hình ảnh tình dục của người khác là trò đùa vô hại, đồng thời nỗ lực giải quyết các chuẩn mực giới tính đang bình thường hóa hành vi này.
Các can thiệp giáo dục cũng cần tập trung vào việc thúc đẩy kết nối xã hội và xây dựng các mối quan hệ lành mạnh.
Nếu bài viết này đã gợi lên những vấn đề đối với bạn, hãy gọi cho 1800RESPECT theo số 1800 737 732 hoặc truy cập trang web của Ủy viên An toàn Điện tử để có các tài nguyên an toàn trực tuyến hữu ích. Bạn cũng có thể liên hệ với bộ phận hỗ trợ khủng hoảng Lifeline theo số 13 11 14 hoặc nhắn tin 0477 13 11 14, Dịch vụ gọi lại tự sát (Suicide Call Back Services) theo số 1300 659 467, hoặc Kids Helpline theo số 1800 55 1800 (dành cho thanh thiếu niên từ 5-25 tuổi) . Nếu bạn hoặc ai đó bạn biết đang gặp nguy hiểm tức thời, hãy gọi cảnh sát theo số 000.
Nicola Henry
Nicola Henry nhận tài trợ từ Google và Bộ Dịch vụ Xã hội Chính phủ Úc. Cô cũng là thành viên của Nhóm Cố vấn Chuyên gia của Ủy viên An toàn Điện tử Úc.
Gemma Stevens
Gemma Stevens không làm việc cho, tư vấn, sở hữu cổ phần hoặc nhận tài trợ từ bất kỳ công ty hoặc tổ chức nào có thể được hưởng lợi từ bài viết này, và không tiết lộ bất kỳ mối liên hệ nào có liên quan ngoài chức vụ học thuật của cô ấy.
có thể bạn cũng quan tâm
-

Số thứ 1.000 của Spider-Man: sức hút bền bỉ của Hoàng tử Hamlet đầy dằn vặt trong thế giới siêu anh hùng
Spider-Man’s 1,000th issue: the enduring appeal of the tortured Hamlet of superheroes
-

Quảng cáo Giáng sinh của John Lewis khắc họa nhu cầu sâu sắc dành cho những người bà
The John Lewis Christmas ad captures the deep need for grandmothers