Một gia đình ở Arizona đã trải qua giây phút hoảng sợ và bị đe dọa cách đây vài tháng khi một cuộc gọi giả mạo về bọn bắt cóc và yêu cầu tiền chuộc được tạo ra bằng trí thông minh nhân tạo. Khi những thư từ báo cáo về cuộc gọi lừa đảo giống như tiếng của người thân ngày càng gia tăng, nhiều người sợ rằng AI có thể được sử dụng như một vũ khí để đe dọa mọi người với công nghệ dễ dàng truy cập và chỉ cần một khoản phí nhỏ, vài phút và một kết nối Internet ổn định.
Vào một ngày tháng Một, Jennifer DeStefano nhận được một cuộc gọi ẩn danh trong khi cô con gái 15 tuổi của cô đang đi thi đua trượt tuyết xa. DeStefano nghe thấy giọng nói của con gái mình trả lời điện thoại, hoảng loạn và la hét, ngay sau đó là giọng nói của một người đàn ông đe dọa đưa thuốc mê và bắt cóc con gái DeStefano trừ khi ông ta được gửi 1 triệu đô la, CNN cho biết.
Vài phút sau, DeStefano liên lạc được với con gái mình, người này vẫn bình thường và khá bối rối về điều gì đã xảy ra, bởi vì cô ấy không bị bắt cóc và không có liên quan đến cuộc gọi chuộc tiền. Các nhân viên cứu hộ đã giúp gia đình xác định cuộc gọi là một trò đùa giả mạo sử dụng trí thông minh nhân tạo.
“Rõ ràng là âm thanh của giọng nói cô ấy,” DeStefano nói với CNN, “cách ngữ điệu, tất cả mọi thứ.”
Mặc dù dữ liệu về tần suất cuộc gọi lừa đảo được cung cấp bởi trí thông minh nhân tạo còn hạn chế, những câu chuyện về các vụ việc tương tự tiếp tục xuất hiện trên TikTok và các nền tảng xã hội khác trong năm nay, khiến người ta lo sợ và đối mặt với nguy cơ tiềm tàng của AI gây hại.
Sao chép giọng nói bằng trí thông minh nhân tạo Cuộc gọi lừa đảo bằng trí thông minh nhân tạo được thiết lập thông qua việc sao chép giọng nói. Một khi tin tặc tìm thấy một đoạn âm thanh của giọng nói của ai đó trên mạng, họ có thể dễ dàng tải lên một chương trình trực tuyến để nhân bản giọng nói đó. Các ứng dụng này đã xuất hiện vài năm trước, nhưng dưới sự bùng nổ của trí thông minh nhân tạo, các ứng dụng đã được cải tiến, trở nên dễ dàng truy cập hơn và có giá rẻ.
Murf, Resemble và Speechify là một vài công ty phổ biến cho các dịch vụ này. Hầu hết các nhà cung cấp đều cung cấp thời gian dùng thử miễn phí, và giá đăng ký hàng tháng dao động từ dưới 15 đô la cho các gói cơ bản đến hơn 100 đô la cho các tùy chọn cao cấp.
Ủy ban Thương mại Liên bang khuyến cáo, nếu bạn nhận một cuộc gọi khiến bạn lo lắng từ thành viên trong gia đình của mình, hãy gọi lại người đã gọi bạn với số điện thoại thông thường của họ và xác minh câu chuyện. Nếu người gọi yêu cầu tiền qua các kênh nghi ngờ khó được theo dõi, chẳng hạn như chuyển khoản tiền, tiền điện tử hoặc thẻ quà tặng, đó có thể là dấu hiệu của một vụ lừa đảo. Các chuyên gia bảo mật khuyến khích thiết lập một từ mã an toàn với người thân để sử dụng trong trường hợp khẩn cấp thực sự và để phân biệt với trò lừa đảo.
Sao chép giọng nói bằng trí thông minh nhân tạo trong ngành âm nhạc Công nghệ sao chép giọng nói bằng trí thông minh nhân tạo cũng đã lan rộng sang lĩnh vực âm nhạc, nơi mà người ta sử dụng công nghệ này để tạo ra những bài hát với giọng hát giống với các nghệ sĩ nổi tiếng. Một bài hát với âm hưởng của Drake và The Weeknd đã trở nên nổi tiếng trên mạng trong tháng này, mặc dù cả hai nghệ sĩ đều không có bất kỳ sự tham gia nào trong việc tạo ra bài hát đó. Công ty quản lý đại diện cho cả hai nghệ sĩ đã có thể loại bỏ bài hát khỏi các dịch vụ phát trực tuyến, chỉ vì một âm thanh bị sao chép bất hợp pháp, chứ không phải vì giọng nói được tạo bằng AI. Drake đã bình luận: "Điều này là đòn giáng cuối cùng của AI," sau khi một bản nhạc rap do AI tạo ra của anh ta đã trở nên nổi tiếng trên mạng trong tháng này.
Các nghệ sĩ khác như nhạc sĩ người Canada Grimes đang nghĩ đến tương lai, khi công nghệ này có thể tiếp tục phát triển và thay đổi cách hoạt động của ngành âm nhạc. "Tôi sẽ chia sẻ 50% tiền tác quyền cho bài hát được tạo ra bằng trí thông minh nhân tạo mang giọng nói của tôi," Grimes đã đăng trên Twitter tuần trước. "Bạn có thể sử dụng giọng nói của tôi mà không bị phạt."
Những người có thể tự viết nhạc, nhưng thu âm bằng giọng hát của ca sĩ nổi tiếng để thu hút sự chú ý. Cho đến nay, không có một hình phạt pháp lý nào đối với những bản nhạc được sao chép bằng trí thông minh nhân tạo, nhưng New York Times cho biết rằng chúng đang đe dọa danh tiếng của những nghệ sĩ, làm mất lợi nhuận của các ca sĩ và đang tiếp tục xâm phạm nền văn hoá của những nghệ sĩ BIPOC.
Liên hệ với chúng tôi tại [email protected].
