Các chuyên gia AI và các nhà khoa học chính trị có kiến thức về công nghệ đang cảnh báo về việc sử dụng không được quy định của các công cụ AI vào mùa bầu cử. Generative AI không chỉ có thể nhanh chóng tạo ra các email, tin nhắn hoặc video chiến dịch được nhắm mục tiêu mà còn có thể được sử dụng để đánh lừa cử tri, giả mạo ứng cử viên và làm suy yếu các cuộc bầu cử ở quy mô và tốc độ chưa từng thấy.
"Chúng ta không chuẩn bị cho điều này," cảnh báo A.J. Nash, phó chủ tịch thông tin tình báo tại công ty an ninh mạng ZeroFox. "Đối với tôi, bước tiến lớn là khả năng âm thanh và hình ảnh đã xuất hiện. Khi bạn có thể làm điều đó ở quy mô lớn và phân phối trên các nền tảng mạng xã hội, thì nó sẽ có ảnh hưởng lớn."
Trong số nhiều khả năng của AI, đây là một số khả năng sẽ có tác động đáng kể đến các cuộc bầu cử và phiếu bầu: nó có thể tự động gọi điện thoại hoặc gửi tin nhắn trong giọng nói của ứng cử viên để hướng dẫn cử tri bỏ phiếu vào ngày sai; các băng ghi âm giọng nói của ứng cử viên tỏ ra bik lỗi phạm tội hoặc tỏ ra có quan điểm phân biệt chủng tộc; đoạn phim cho thấy một người phát biểu hoặc phỏng vấn mà họ chưa từng phát biểu.
Hình ảnh giả được thiết kế để giống như các bản tin tin tức địa phương, việc cáo buộc sai sự thật ứng viên bỏ cuộc đua tranh.
CHUYÊN GIA AI TẬP HUẤN CÁC CHUYÊN VIÊN LIÊN HỢP QUỐC ĐỂ TẠO NÊN CƠ QUAN QUẢN LÝ AI TOÀN CẦU
"Giả sử Elon Musk liên lạc với bạn và bảo bạn bỏ phiếu cho một ứng cử viên nhất định?" nói Oren Etzioni, CEO sáng lập của Viện Allen cho AI, đã từ chức vào năm ngoái để bắt đầu tổ chức phi lợi nhuận AI2. "Nhiều người sẽ nghe. Nhưng đó không phải là ông ấy."
Petko Stoyanov, giám đốc công nghệ toàn cầu tại Forcepoint, một công ty an ninh mạng có trụ sở tại Austin, Texas, đã dự đoán rằng các nhóm muốn can thiệp vào nền dân chủ của Mỹ sẽ sử dụng AI và truyền thông tổng hợp để làm suy yếu sự tin tưởng.
"Điều gì sẽ xảy ra nếu một thực thể quốc tế - một tội phạm máy tính hoặc một quốc gia - mạo danh ai đó? tác động là gì? chúng ta có bất kỳ quyền lực gì không?" Stoyanov nói. "Chúng ta sẽ thấy nhiều thông tin sai lệch hơn từ các nguồn quốc tế."
Thông tin giả được tạo ra bằng AI đã tràn lan trên mạng trước cuộc bầu cử năm 2024, từ video bị chỉnh sửa của Biden xuất hiện tấn công người thuộc giới transgender đến hình ảnh được tạo ra bởi AI của các em bé được cho là học Satanism trong thư viện.
Những hình ảnh AI cho thấy ảnh chụp của Trump cũng đã lừa được một số người dùng mạng xã hội mặc dù cựu tổng thống không chụp ảnh một khi anh ta bị bắt và tuyên truyền tại tòa án hình sự quận Manhattan vì việc làm giả hồ sơ kinh doanh. Hình ảnh được tạo ra bởi AI khác cho thấy Trump phản đối bị bắt giữ, tuy nhiên người tạo ra chúng đã nhanh chóng thừa nhận nguồn gốc của mình.
Đại biểu Yvette Clarke, Đảng Dân chủ, đã đề xuất các dự luật yêu cầu ứng cử viên đánh dấu quảng cáo chiến dịch được tạo ra bằng AI. Clark cũng đã tài trợ dự luật yêu cầu bất kỳ người nào tạo ra hình ảnh tổng hợp phải thêm dấu chứng chỉ cho biết điều đó.
Một số tiểu bang đã đưa ra những đề xuất của riêng họ để giải quyết các vấn đề liên quan đến deepfakes.
Clark nói rằng nỗi sợ lớn nhất của bà là AI có thể được sử dụng trước cuộc bầu cử năm 2024 để tạo ra một video hoặc âm thanh kích động bạo lực và xoay chuyển người Mỹ chống lại nhau.
CLICK VÀO ĐÂY ĐỂ LẤY FOX NEWS APP
"Quan trọng là chúng ta phải theo kịp công nghệ," Clark nói với The Associated Press. "Chúng ta phải thiết lập một số hàng rào bảo vệ. Mọi người có thể bị lừa, và chỉ mất một phân giây. Mọi người đang bận rộn với cuộc sống của họ và họ không có thời gian để kiểm tra từng mẩu thông tin. Khi AI được vũ trang, trong một mùa bầu cử, nó có thể gây ra sự cố nghiêm trọng." The Associated Press đóng góp cho báo cáo này.
