Một bài phân tích đã rõ ràng cho thấy hầu hết các video deepfake được tìm thấy trực tuyến đều là nội dung khiêu dâm.
Có một tăng 550% trong số lượng video deepfake được tìm thấy trực tuyến trong năm nay so với năm 2019, theo bài phân tích, trong đó phần lớn chúng là các video deepfake khiêu dâm.
Sự phát triển của các công nghệ mới như trí tuệ nhân tạo tạo ra nhiều nội dung deepfake hơn, là những nội dung sửa đổi hoặc tạo ra kỹ thuật số cho thấy một người hoặc tình huống thật, bằng cách sử dụng video, hình ảnh hoặc âm thanh.
Những nạn nhân của deepfake khiêu dâm đã mô tả cách việc họ được miêu tả trong những tình huống tưởng tượng này có thể phá hủy cuộc sống, một người gọi đó là "một mệnh án cả đời".
Nội dung deepfake được tạo ra thông qua các thuật toán học máy có thể tạo ra nội dung vô cùng thực tế. Người xấu có thể sử dụng điều này để nhắm mục tiêu vào các nạn nhân, tống tiền người khác hoặc sử dụng như một hình thức gian lận tội phạm hoặc chính trị.
Một báo cáo toàn diện về deepfake năm 2023 đã cho biết deepfake khiêu dâm chiếm 98% số video deepfake được tìm thấy trực tuyến, trong khi 99% nạn nhân bị nhắm đến bởi deepfake khiêu dâm là phụ nữ.
Các nhà phân tích đối với một trang web nhằm bảo vệ người dân khỏi gian lận danh tính trực tuyến - được gọi là homesecurityheroes.com - đã nghiên cứu 95.820 video deepfake, 85 kênh trực tuyến chuyên biệt và hơn 100 trang web liên quan đến mạng lưới deepfake, tạo ra báo cáo Trạng thái Deepfakes năm 2023 của họ.
Một trong những kết quả chính của báo cáo là hiện nay chỉ cần khoảng 25 phút và không tốn chi phí nào để tạo ra một video khiêu dâm deepfake dài một phút cho bất kỳ ai bằng cách sử dụng một hình ảnh gương mặt rõ nét của nạn nhân.
Phần lớn video deepfake khiêu dâm được phân tích bởi trang web là của phụ nữ Hàn Quốc. Quốc tịch có số lượng nạn nhân của deepfake khiêu dâm nhiều nhất sau Hàn Quốc là Hoa Kỳ, Nhật Bản và Vương quốc Anh.
Vị thảm họa về khiêu dâm deepfake ở Hàn Quốc
Hàn Quốc là quốc gia có số nạn nhân deepfake khiêu dâm nhiều nhất, điều này được các nhà phân tích báo cáo cho rằng là do ngày càng phổ biến của K-pop trên toàn thế giới. Ba trong số bốn thành viên của Blackpink, được coi là nhóm nhạc nữ lớn nhất của Hàn Quốc, nằm trong top 10 người bị nhắm mục tiêu nhiều nhất."Idols K-pop nổi tiếng với sự nhận biết rộng rãi và người hâm mộ, cả trong và ngoài Hàn Quốc," giải thích Chris Nguyen, trưởng nhóm phân tích nghiên cứu của báo cáo. "Hồ sơ công khai và lượng người hâm mộ đông đảo của họ có nghĩa là việc tạo ra và phân phối các nội dung deepfake khiêu dâm liên quan đến họ có khả năng tiếp cận đến một số lượng khán giả lớn hơn.
Ngoài sự nhìn thấy cao của họ, cũng có yêu cầu "rất cao" cho nội dung có sự tham gia của idols K-pop, Nguyen nói. "Một số người khai thác nhu cầu này bằng cách tạo ra nội dung không phù hợp, đặc biệt trên các trang web người lớn chuyên dụng, nhằm thu hút sự chú ý và tạo ra nhiều lưu lượng truy cập hơn."
Ông cũng chỉ ra cách quy định nghiêm ngặt của Hàn Quốc về khiêu dâm có thể đóng vai trò trong việc thúc đẩy việc tạo ra và phân phối nội dung như vậy.
"Điều này có thể liên quan đến 'hiệu ứng Streisand', một kết quả không cố ý của việc che giấu, xóa hoặc kiểm duyệt thông tin. Trong những trường hợp như vậy, kết quả là điều đó thực sự tăng cường nhận thức và sự quan tâm đến thông tin đó.
Deepfakes lan tràn trên internet
Khi xem số lượng trang web khiêu dâm deepfake phổ biến, các nhà phân tích phát hiện rằng có bảy trong số mười của các trang web khiêu dâm được truy cập nhiều nhất chứa nội dung deepfake.Trên mười trang web khiêu dâm deepfake, đã có hơn 303 triệu lượt xem video, cho thấy sự phổ biến và sự ưa chuộng của nội dung như vậy.
Họ kêu gọi các cuộc đối thoại về thái độ đối với nội dung như vậy, và cần tập trung vào các yếu tố đạo đức trong việc tạo ra nội dung này.
Các nhà nghiên cứu cho rằng sự bùng phát đột ngột của nội dung deepfake có hai nguyên nhân. Đầu tiên, sự xuất hiện của một loại khung phương pháp học máy được sử dụng cho trí tuệ nhân tạo sinh ra, được gọi là mạng đối đầu tạo sinh (GAN), đã cung cấp phương tiện kỹ thuật để tạo ra nội dung deepfake.
Thứ hai, việc truy cập dễ dàng vào các công cụ được xây dựng dựa trên GAN có nghĩa là hầu như bất kỳ ai cũng có thể nhanh chóng và rẻ tiền tạo ra nội dung deepfake.
"Những nền tảng này cung cấp một loạt tính năng, từ việc đổi khuôn mặt đơn giản đến việc chỉnh sửa video phức tạp hơn", báo cáo cho biết. Tác giả cũng thêm rằng sự tăng trưởng của cộng đồng trực tuyến dành riêng cho việc tạo ra deepfake đã "tạo điều kiện cho sự cộng tác, chia sẻ kiến thức và phát triển các dự án mã nguồn mở".
