Công an Trung Quốc đã bắt giữ một người đàn ông tại tỉnh Cam Túc, miền Bắc Trung Quốc, vì tội sản xuất tin giả bằng cách sử dụng ChatGPT. Đây có vẻ như là một trong số các vụ bắt giữ đầu tiên được thực hiện dưới các chỉ thị chống trí tuệ nhân tạo mới của Trung Quốc, mà trong đó (ngoài các hạn chế khác) cấm các dịch vụ trí tuệ nhân tạo bị lạm dụng để phân phát "thông tin sai lệch."
Phần tài phạm, chỉ được đặc tên là Hồng, bị cáo buộc sử dụng chatbot của OpenAI để tạo ra các bài viết tin tức miêu tả vụ tai nạn tàu hỏa chết người mà các nhà chức trách cho là "thông tin sai lệch," theo tuyên bố của cảnh sát được đăng trên một báo cáo từ Chiều Bắc Thông tấn xã. Sau khi phát hiện ra bài báo vào ngày 25 tháng 4, cơ quan chức năng đã phát hiện nhiều phiên bản của cùng một câu chuyện với các vị trí tai nạn khác nhau đã được đăng cùng lúc trên 20 tài khoản khác trên nền tảng bài viết blog của Baidu.
Hồng cho biết rằng anh ta đang sử dụng ChatGPT để viết lại các bài báo và kiếm tiền thông qua lưu lượng internet. Các cơ quan chức năng ở Cam Túc đã dò tìm bài viết đó đến một công ty độc lập được điều hành bởi Hồng, chạy nhiều kênh thông tin giống như blog. Trong tuyên bố của cảnh sát, chúng tôi địa phương cho biết Hồng thừa nhận đã sử dụng ChatGPT để viết lại các bài báo tin tức mang tính lan truyền để tránh các bộ lọc nội dung trùng lặp, sau đó đăng tải chúng trực tuyến sau khi bạn bè đã chỉ cho anh ta cách kiếm tiền thông qua lưu lượng internet. Các bài viết giả đã được xem hơn 15.000 lần trước khi bị xóa.
Hồng bị buộc tội cụ thể là "khởi sự tranh cãi và kích động" - một tội danh tổng quát có thể được áp dụng đối với các nghi phạm bị buộc tội tạo ra và / hoặc phổ biến tin tức sai lệch trực tuyến. Tuy nhiên, đó không phải là ứng dụng duy nhất của tội danh đó, nó cũng có thể được định nghĩa rộng rãi là làm suy yếu trật tự công cộng hoặc gây rối trật tự ở những nơi công cộng. Cách phát biểu của tội danh này rất mơ hồ và đã bị phê phán rộng rãi vì khả năng làm giảm tiếng nói tự do và bắt giữ các nhà hoạt động phê phán chính phủ Trung Quốc. Những người bị buộc tội có thể đối mặt với án tù từ năm đến 10 năm.
