Lo ngại về công nghệ deepfake
Tại Đại học St. Thomas, Giáo sư Khoa học Dữ liệu Chih Lai đang sử dụng hình ảnh phôi cá để dạy học sinh về trí tuệ nhân tạo và deepfake.
"Vậy, cái bên trái là cái thật, cái bên phải là cái giả," ông nói, chỉ vào hai hình ảnh phóng to. "Điều này rất thú vị với nhiều người khi bắt đầu tạo ra cái gì đó chỉ cho vui thôi."
Cái bên phải - do chính ông tạo ra bằng một chương trình trí tuệ nhân tạo mà ông tạo ra.
Một số phần của nó hơi mờ nhòe, như Lai gọi là 'hình ảnh phản chiếu của thực tế.'
"Trí tuệ nhân tạo cố gắng làm một cái gì đó tương tự như thực tế," ông nói. "Nhưng chắc chắn nó không thực sự giống như thế."
Không khó để tìm thấy deepfake trên internet.
Một bài viết deepfake hiển thị một video do trí tuệ nhân tạo tạo ra, trong đó diễn viên Morgan Freeman giải thích những gì bạn đang nhìn thấy.
"Những gì bạn thấy không thật, ít nhất là theo quan niệm hiện đại, nó không thật," nhân vật ảo tuyên bố. "Nếu tôi nói với bạn rằng tôi không phải là một con người, bạn có tin không?"
Câu ngạn ngữ cổ kính ấy - 'thấy mới tin' - bị đảo lộn.
"Khi chúng ta không thể tin tưởng vào giác quan của chính mình, những gì chúng ta thấy và nghe - có thể không thật, điều đó thật khó xác định cho xã hội," Thượng nghị sĩ Erin Maye Quade (DFL-Apple Valley) nói.
Deepfake đã trở thành một phần trong cảnh chính trị.
Một bài viết hiển thị cựu Tổng thống Donald Trump đối đầu với cảnh sát ở New York - điều không bao giờ xảy ra.
Một bài viết khác, với Tổng thống Biden hát 'Baby Shark' - cũng không đúng.
"Công nghệ rơi vào tay các diễn viên xấu," Giám đốc Trung tâm Tư dụng Trí tuệ Manjeet Rege giải thích. "Có những hình ảnh giả và cũng có những video giả, cả hai đều có tác động tương tự đến con người. Họ dựa vào thông tin và họ tin vào nó."
Cuộc đua đang diễn ra, tại Minnesota và trên khắp đất nước, để áp đặt các biện pháp bảo vệ trí tuệ nhân tạo, công nghệ được sử dụng để tạo ra deepfake.
Tổng thống Biden gần đây đã gặp các nhà lãnh đạo ngành công nghiệp, người đã đồng ý áp đặt các hạn chế tự nguyện, bao gồm kiểm tra an ninh và các biện pháp minh bạch để xác định tài liệu do trí tuệ nhân tạo tạo ra.
Rege lo ngại rằng nhiều cử tri đang coi deepfake là một nguồn thông tin chính xác.
"Mọi người phải quyết định về, chẳng hạn, hai ứng cử viên tranh cử," ông nói. "Và họ không có đủ thời gian để đến kết luận rằng đây không phải là thông tin chính xác về một ứng cử viên nào."
Gần đây, Thống đốc Tim Walz đã ký một luật mới, cấm chia sẻ hình ảnh deepfake tình dục không được đồng ý hoặc sử dụng deepfake để can thiệp vào một cuộc bầu cử 60 ngày trước khi các cuộc bỏ phiếu mở cửa.
"Bạn có thể làm cho bất kỳ người nào có vẻ nói bất cứ điều gì. Hãy tưởng tượng những gì mà một người có ý đồ xấu có thể làm," Maye Quade, một trong những nhà tài trợ của biện pháp này, nói. "Tôi không đang nói về một công dân bình thường tại Minnesota, mà là một quốc gia quốc tế không có ý đồ tốt, hoặc khiến các nhà lãnh đạo nói những điều họ không có ý nghĩa."
Lai cho rằng có những lo ngại về việc sử dụng deepfake trong các chiến dịch chính trị.
"Tôi nghĩ mọi người đều biết các cuộc bầu cử có thể gây ra rất nhiều tổn thương cho các ứng cử viên chính trị," ông chú ý.
Kẻ vi phạm luật deepfake của Minnesota có thể đối mặt với tùy từ năm năm và phạt 10.000 đô la.
Lai gợi ý nếu bạn đang cố gắng tìm ra một deepfake, hãy làm chậm video xuống.
Nhân vật giả tưởng, ông nói, thường không chớp mắt - và nếu bạn nhìn kỹ, những chuyển động môi thường không phù hợp với giọng điệu của họ.
Lai cho biết ông tin rằng hạn chế cách deepfake được sử dụng là một bước tiến đúng hướng.
Nhưng ông lo lắng rằng khi công nghệ ngày càng tiến bộ, việc phân biệt cái gì là thật sẽ khó hơn.
"Thành thật mà nói, tôi không nghĩ rằng hiện tại có công cụ tốt để phát hiện được deepfake," Lai tuyên bố. "Vì vậy, tôi nghĩ sử dụng pháp luật là một cách để ngăn chặn loại hành vi phạm tội này. Tôi không nói rằng bạn có thể hoàn toàn ngăn chặn deepfake xảy ra, nhưng đó là một bước tiến đúng hướng.
