| Các ngôi sao, người có ảnh hưởng trở thành nạn nhân của các clip deepfake khiêu dâm. Ảnh: Facebook. |
Trong một quảng cáo trên Facebook, người phụ nữ có khuôn mặt giống hệt diễn viên Emma Watson cười bẽn lẽn, cúi người trước ống kính và có những hành vi mang tính gợi dục.
Tuy vậy, người phụ nữ này không phải là Watson, ngôi sao nổi tiếng từ loạt phim Harry Potter. Quảng cáo là một phần trong chiến dịch truyền thông lớn của một ứng dụng deepfake, cho phép người dùng hoán đổi bất kỳ khuôn mặt nào vào mọi clip họ chọn, theo NBC News.
Deepfake là nội dung trong đó khuôn mặt hoặc âm thanh bị xử lý, tráo đổi. Thông thường, những người tạo deepfake ghép mặt các ngôi sao vào nhiều dạng clip khác nhau. Công nghệ này còn được sử dụng để tạo nội dung khiêu dâm không có sự đồng thuận với khuôn mặt của các ngôi sao, những người có ảnh hưởng hoặc bất kỳ người nào, kể cả trẻ em.
127 quảng cáo với gương mặt của Emma Watson
Trong ngày 5-6/3, ứng dụng tạo video “DeepFake FaceSwap” đã tung ra hơn 230 quảng cáo trên các nền tảng của Meta, bao gồm Facebook, Instagram và Messenger.
Một số quảng cáo hiển thị phần đầu của clip khiêu dâm với âm thanh lấy từ các nền tảng như Pornhub. Vài giây sau, khuôn mặt của những người phụ nữ được hoán đổi với gương mặt của các diễn viên nổi tiếng như Emma Watson và Scarlett Johansson.
Khi Lauren Barton, sinh viên báo chí ở Tennessee, nhìn thấy đoạn quảng cáo trên, cô đã rất sốc đến mức ghi lại màn hình và đăng lên Twitter, nơi clip nhận được hơn 10 triệu lượt xem.
"Điều này có thể được sử dụng với học sinh trung học ở các trường công lập bị bắt nạt. Nó có thể hủy hoại cuộc sống của ai đó. Họ có thể gặp rắc rối trong công việc. Điều này quá dễ thực hiện và miễn phí. Tất cả những gì tôi phải làm là tải lên một bức ảnh khuôn mặt của mình và có quyền truy cập vào 50 mẫu miễn phí", Barton nói.
| Các quảng cáo deepfake sử dụng hình ảnh người nổi tiếng tràn lan trên mạng. Ảnh: Instagram. |
Trong số các quảng cáo trên Meta, 127 quảng cáo có hình ảnh của Watson. 74 video khác có khuôn mặt của diễn viên Scarlett Johansson.
"Hoán đổi khuôn mặt với bất kỳ ai. Hãy tận hưởng công nghệ hoán đổi khuôn mặt AI" là chú thích trên 80 quảng cáo.
Hôm 7/3, sau khi NBC News yêu cầu Meta bình luận về vấn đề này, tất cả quảng cáo của ứng dụng đã bị xóa khỏi nền tảng.
Mặc dù không có hành vi tình dục nào được hiển thị trong các clip, tính chất khêu gợi của chúng minh họa cách ứng dụng có thể được sử dụng để tạo nội dung tình dục giả mạo.
Ứng dụng cho phép người dùng tải video lên để thao tác và cũng bao gồm hàng chục mẫu có sẵn, nhiều mẫu trong số đó dường như được lấy từ TikTok và các nền tảng mạng xã hội tương tự.
,,Telegram群聊机器人（www.tel8.vip）是一个Telegram群组分享平台。Telegram群聊机器人导出包括Telegram群聊机器人、telegram群组索引、Telegram群组导航、新加坡telegram群组、telegram中文群组、telegram群组（其他）、Telegram 美国 群组、telegram群组爬虫、电报群 科学上网、小飞机 怎么 加 群、tg群等内容。Telegram群聊机器人为广大电报用户提供各种电报群组/电报频道/电报机器人导航服务。
Các danh mục có sẵn bao gồm “Thời trang”, “Cô dâu”, “Dành cho nam giới”, “Dành cho phụ nữ” và “TikTok”.
Danh mục có nhiều tùy chọn nhất được gọi là “Hot”, bao gồm các clip về những người đàn ông, phụ nữ ăn mặc hở hang nhảy múa và tạo dáng. Sau khi chọn một mẫu video hoặc tải lên mẫu của riêng mình, người dùng có thể nhập một ảnh chân dung của bất kỳ ai và nhận phiên bản clip đã hoán đổi khuôn mặt sau vài giây.
Điều khoản dịch vụ của ứng dụng có giá 8 USD/tuần nói rằng nó không cho phép người dùng mạo danh người khác hoặc tải lên nội dung khiêu dâm.
Nhà phát triển ứng dụng được liệt kê trên App Store có tên là Ufoto Limited, thuộc sở hữu của công ty Wondershare.
96% deepfake là nội dung khiêu dâm
Meta đã cấm hầu hết nội dung deepfake vào năm 2020 và cũng cấm nội dung người lớn trong quảng cáo, bao gồm ảnh khỏa thân, mô tả người ở tư thế khiêu dâm hoặc khêu gợi và các hoạt động khiêu khích tình dục.
Người phát ngôn của Meta cho biết: “Chính sách của chúng tôi nghiêm cấm nội dung người lớn bất kể nội dung đó có được tạo bởi AI hay không. Chúng tôi đã hạn chế trang này quảng cáo trên nền tảng của mình”.
Những quảng cáo tương tự cũng được tìm thấy trên các ứng dụng chỉnh sửa ảnh và trò chơi miễn phí được tải xuống từ App Store của Apple, nơi ứng dụng này xuất hiện lần đầu tiên vào năm 2022 miễn phí cho trẻ em từ 9 tuổi trở lên.
Một đại diện của Apple cho biết công ty không có quy định cụ thể về deepfake, nhưng họ cấm các ứng dụng chứa nội dung khiêu dâm và phỉ báng. Apple cho biết đã xóa ứng dụng này khỏi App Store sau khi được NBC News liên hệ.
Ứng dụng này trước đây cũng có sẵn để tải xuống miễn phí trên Google Play, nơi nó được xếp hạng "dành cho tuổi teen" trong "chủ đề gợi ý". Google cho biết hôm 8/3 rằng đã xóa ứng dụng này khỏi Google Play.
| Hầu hết clip deepfake đều chứa nội dung khiêu dâm. Ảnh: BBC. |
Báo cáo năm 2019 từ DeepTrace, công ty có trụ sở tại Amsterdam giám sát phương tiện truyền thông tổng hợp trực tuyến, đã phát hiện ra rằng 96% tài liệu deepfake trực tuyến có tính chất khiêu dâm.
Hồi tháng 1, các nữ streamer Twitch đã lên tiếng sau khi một nam streamer nổi tiếng xin lỗi vì đã xem nội dung khiêu dâm deepfake của đồng nghiệp.
Nghiên cứu phát trực tiếp do nhà phân tích độc lập Genevieve Oh thực hiện đã phát hiện ra rằng trang web hàng đầu về tiêu thụ nội dung khiêu dâm deepfake đã bùng nổ về lưu lượng truy cập sau lời xin lỗi của streamer trên Twitch.
Nghiên cứu của Oh cũng cho thấy số lượng video khiêu dâm deepfake đã tăng gần gấp đôi mỗi năm kể từ năm 2018.
Tại Mỹ, mặc dù việc chia sẻ ảnh và clip khiêu dâm là bất hợp pháp ở hầu hết tiểu bang, các quy định xử lý chỉ có hiệu lực ở California, Georgia, New York và Virginia.
转载声明：本站发布文章及版权归原作者所有，转载本站文章请注明文章来源！
网友评论