Cảnh sát Trung Quốc thông báo họ đã gần đây bắt giữ một người dùng ChatGPT vì tội sáng tạo ra một câu chuyện giả về một vụ tai nạn tàu hỏa không tồn tại, bằng việc sử dụng chatbot có sức mạnh trí tuệ nhân tạo (AI). Đây là một trong những hành động thực thi đầu tiên dưới đạo luật Trung Quốc vừa có hiệu lực quản lý các "deepfakes", hình ảnh, video hoặc phương tiện truyền thông khác được tạo ra bởi AI, giả mạo nhưng có vẻ như có thật.

Theo một báo cáo của cảnh sát tỉnh Tây Bắc Trung Quốc Gansu, một người chỉ định với họ tên là Hồng đã sử dụng ChatGPT để tạo ra một bài báo giả về một vụ tai nạn chết người giả tưởng của chín công nhân xây dựng ở Gansu. Hai mươi một tài khoản trên một nền tảng mạng xã hội phổ biến do một công ty truyền thông đóng tại miền Nam Trung Quốc sở hữu, đã lan truyền câu chuyện giả trong khoảng thời gian ngắn.

Giống như hầu hết các trang web và ứng dụng nước ngoài khác, ChatGPT kỹ thuật bị cấm ở Trung Quốc nhờ vào "Great Firewall" của đất nước, một cơ chế kiểm duyệt internet đối với cư dân. Tuy nhiên, những người quyết tâm có thể truy cập vào nó thông qua phần mềm "mạng riêng ảo" phổ biến có thể vượt qua tường lửa. Báo cáo của cảnh sát không mô tả Hồng đã làm thế nào để sử dụng ChatGPT.

Theo báo cáo, khi các quan chức an ninh Gansu nhận ra bài viết là giả mạo, nó đã đạt được 15.000 lượt xem. Sau đó, cảnh sát đã lập căn cứ tại nhà của Hồng để thu thập bằng chứng và thực hiện "biện pháp cưỡng chế tội phạm" đối với chính Hồng. Cảnh sát sử dụng cụm từ này để mô tả các biện pháp tạm thời để hạn chế tự do của một nghi phạm.

Đạo luật Trung Quốc về deepfake mới có hiệu lực từ ngày 10 tháng 1. Nó cấm một số loại tài liệu giả mạo được tạo ra bởi "công nghệ tổng hợp sâu" như học máy và thực tế ảo, nhưng chỉ định nghĩa mờ mịt cho nhiều lớp bị cấm này.

Theo một phiên dịch của đạo luật được cung cấp bởi trang web được gợi ý đóng góp từ cộng đồng China Law Translate, nó cấm sử dụng deepfake trong các hoạt động đe dọa an ninh quốc gia, gây tổn hại cho hình ảnh của quốc gia hoặc lợi ích công cộng xã hội, hoặc gây ảnh hưởng đến "thứ tự kinh tế hoặc xã hội". Nó cụ thể cấm sử dụng các công nghệ này để sản xuất, xuất bản hoặc truyền tải tin giả.

__

Trợ lý tin tức của AP Caroline Chen tại Bắc Kinh đã đóng góp cho bài báo cáo này.

Đăng ký nhận thư thông báo Well Adjusted của chúng tôi, đầy đủ các chiến lược đơn giản để làm việc thông minh hơn và sống tốt hơn, từ nhóm Fortune Well.