SAN FRANCISCO (AP) - Cảnh sát Trung Quốc cho biết họ vừa bắt giữ gần đây một người dùng ChatGPT vì cáo buộc sử dụng trò chuyện được trang bị trí tuệ nhân tạo (AI) này để tạo ra một câu chuyện tin giả về một vụ tai nạn tàu hỏa không tồn tại. Đây là một trong những hành động thực thi đầu tiên theo Tuyên bố pháp lý Trung Quốc mới đây về các hình ảnh giả mạo được tạo ra bởi AI - những hình ảnh kỹ thuật số được tạo ra nhưng chỉ là giả.

Theo báo cáo từ cảnh sát tỉnh Tây Bắc Trung Quốc Gansu, một người chỉ được xác định bằng họ của mình, Hồng, đã sử dụng ChatGPT để tạo ra một bài báo giả về một vụ tai nạn mà theo đó dẫn đến cái chết của chín công nhân xây dựng tại Gansu. 21 tài khoản trên một nền tảng mạng xã hội phổ biến, tất cả đều thuộc về một công ty truyền thông đặt tại miền Nam Trung Quốc, lan truyền câu chuyện giả trong một thời gian ngắn.

Giống như hầu hết các trang web và ứng dụng nước ngoài khác, ChatGPT kỹ thuật số không có sẵn tại Trung Quốc nhờ vào "Great Firewall" của đất nước này, mà lọc nội dung của internet cho cư dân. Tuy nhiên, những cá nhân kiên trì có thể truy cập thông qua phần mềm "virtual private network" thông dụng để vượt qua tường lửa. Báo cáo cảnh sát không mô tả Hồng đã làm thế nào để sử dụng ChatGPT.

Theo báo cáo, đến khi các quan chức an ninh Gansu nhận ra bài báo giả, đã có 15.000 lượt xem. Cảnh sát đã tiến hành khám nhà Hồng để thu thập bằng chứng và sau đó đã thực hiện "biện pháp cưỡng chế tội phạm" đối với chính Hồng. Cảnh sát sử dụng thuật ngữ này để mô tả các biện pháp tạm thời nhằm giới hạn tự do của các nghi can.

Luật deepfake mới của Trung Quốc đã có hiệu lực từ ngày 10 tháng 1, cấm một số loại phương tiện giả tạo được sản xuất bởi "công nghệ tổng hợp sâu" như học máy và thực tế ảo, nhưng chỉ cung cấp định nghĩa mơ hồ cho nhiều lớp cấm này.

Theo việc dịch thuật của trang web Chinalawtranslate cộng đồng, nó cấm deepfakes được sử dụng trong các hoạt động gây nguy hiểm cho an ninh quốc gia, gây thiệt hại cho hình ảnh của đất nước hoặc lợi ích cộng đồng xã hội, hoặc làm phiền "tình trạng kinh tế hoặc xã hội". Nó cụ thể cấm sử dụng các công nghệ này để sản xuất, xuất bản hoặc truyền tải tin giả.

Nhân viên hỗ trợ tin tức AP Caroline Chen ở Bắc Kinh đóng góp vào bản tin này.