Cảnh sát ở tỉnh Gansu, tây bắc Trung Quốc đã bắt giữ một người đàn ông tên Hồng nghi ngờ tạo ra tin giả bằng công nghệ trí tuệ nhân tạo (AI) và phổ biến trên các nền tảng truyền thông xã hội Trung Quốc. Theo đó, Hồng đã sử dụng ChatGPT để tạo tin về một vụ tai nạn tàu hỏa gây chết người với các yếu tố được thu thập từ nhiều tin tức đang thịnh hành. Tin giả này cho rằng 9 người đã tử vong sau khi một chiếc tàu đâm vào các công nhân đang làm việc trên đường ray tại tỉnh Gansu vào ngày 25 tháng 4 và đã thu hút sự chú ý của các nhân viên an ninh mạng địa phương.
Họ đã khởi tố điều tra và phát hiện rằng tổng cộng 21 tài khoản trên nền tảng dạng blog của công ty tìm kiếm lớn nhất Trung Quốc là Baidu đã đăng các phiên bản khác nhau của bài viết đồng thời, liên quan đến nhiều vị trí tai nạn khác nhau. Tin giả này đã đạt được hơn 15.000 lượt nhấp chuột vào thời điểm đó.
Cảnh sát đã theo dõi tất cả các tài khoản liên quan đến vụ việc này từ một công ty tiếp thị truyền thông đăng ký tại thành phố Shenzhen thuộc tỉnh Quảng Đông, phía nam Trung Quốc. Hồng, người đại diện pháp lý của công ty đã sử dụng công nghệ AI để bịa đặt thông tin sai lệch và không đúng sự thật, đã bị bắt và bị buộc tội gây rối trật tự công cộng và kích động.
Vụ việc này đòi hỏi phải tiếp tục điều tra. Đây là vụ việc đầu tiên trong lĩnh vực deepfake kể từ khi các quy định đầu tiên của Trung Quốc về ứng dụng công nghệ deepfake có hiệu lực từ tháng 1.
Các quy định này nhằm mục đích tăng cường phát triển ngành công nghiệp trí tuệ nhân tạo và ngăn chặn việc sử dụng công nghệ sai mục đích, quy định rằng các video và hình ảnh tổng hợp được tạo thông qua công nghệ deep synthesis, phổ biến dưới tên gọi là "deepfake," phải được đánh dấu rõ để ngăn chặn sự nhầm lẫn của công chúng.
Các quy định cũng đề cập đến trách nhiệm của các nhà cung cấp và người sử dụng deepfake, bao gồm cấm các hành vi vi phạm pháp luật bằng cách sử dụng công nghệ này, thiết lập hệ thống xét duyệt và xác định thông tin người dùng.
Khi OpenAI's ChatGPT trở nên phổ biến và các công ty công nghệ khác như Baidu cũng giới thiệu các sản phẩm cạnh tranh, công nghệ trí tuệ nhân tạo sinh tự động mà các chatbot này sử dụng đã thu hút sự chú ý của các quản lý không gian mạng Trung Quốc. Cục Quản lý Không gian mạng Trung Quốc (CAC) đã phát hành dự thảo quy định vào ngày 11 tháng 4 để quản lý các dịch vụ trí tuệ nhân tạo sinh tự động, chúng sẽ có hiệu lực vào đầu năm sau, theo CAC.
Cục này cho biết nước này ủng hộ độc lập, phổ biến và ứng dụng của trí tuệ nhân tạo, nhưng sản phẩm hoặc dịch vụ liên quan phải tuân thủ các yêu cầu của pháp luật và quy định, và tôn trọng đạo đức xã hội và trật tự công cộng. Nó đề xuất các yêu cầu về truy cập của nhà cung cấp dịch vụ, thiết kế thuật toán, lựa chọn dữ liệu đào tạo, tổng quát nội dung và quyền riêng tư người dùng và bí mật kinh doanh.
Theo Liu Xiaochun, giáo sư phụ trách trường Luật của Học viện Khoa học Xã hội Trung Quốc, các nhà cung cấp dịch vụ có nghĩa vụ đưa ra các biện pháp phòng ngừa rủi ro và đáp ứng các yêu cầu quản lý.
