FILE - Logo của OpenAI được nhìn thấy trên điện thoại di động trước màn hình hiển thị trang chủ ChatGPT ngày 17 tháng 3 năm 2023 tại Boston. Cảnh sát Trung Quốc cho biết họ đã gần đây bắt giữ một người dùng ChatGPT vì đã sử dụng trò chuyện AI để tạo ra một câu chuyện tin giả về một vụ tai nạn tàu không tồn tại.
Michael Dwyer/AP
SAN FRANCISCO (AP) — Cảnh sát Trung Quốc cho biết họ đã gần đây bắt giữ một người dùng ChatGPT vì đã sử dụng trò chuyện AI để tạo ra một câu chuyện tin giả về một vụ tai nạn tàu không tồn tại. Đây là một trong những hành động thực thi đầu tiên dưới một luật Trung Quốc mới đang điều chỉnh deepfake được tạo ra bởi trí tuệ nhân tạo - những hình ảnh số hoặc các phương tiện khác được tạo ra có vẻ đáng tin hoặc có thể là giả mạo.
Theo một báo cáo cảnh sát từ tỉnh Tây Bắc Trung Quốc Gansu, một người đàn ông chỉ được xác định bằng họ, Hong, đã sử dụng ChatGPT để tạo ra một bài báo giả về một vụ tai nạn mà theo đó đã dẫn đến cái chết của chín công nhân xây dựng tại Gansu. 21 tài khoản trên một nền tảng xã hội phổ biến, đều thuộc công ty truyền thông có trụ sở tại miền Nam Trung Quốc, đã lan truyền câu chuyện giả trong thời gian ngắn.
Giống như hầu hết các trang web và ứng dụng nước ngoài, ChatGPT kỹ thuật số không hoạt động tại Trung Quốc , bởi vì "Tường lửa Vĩ đại" của quốc gia cắt bỏ mạng Internet cho cư dân. Nhưng những người quyết tâm có thể truy cập thông qua phần mềm "mạng riêng tư ảo" phổ biến để bypass tường lửa. Báo cáo của cảnh sát không mô tả Hong đã quản lý làm thế nào để sử dụng ChatGPT.
Khi các quan chức an ninh Gansu nhận ra rằng bài viết là giả mạo, nó đã nhận được 15.000 lượt xem, theo báo cáo. Cảnh sát sau đó đã tiến hành cuộc truy quét Hong để thu thập bằng chứng và sau đó thực hiện "biện pháp cưỡng chế tội phạm" đối với chính Hong. Cảnh sát sử dụng cụm từ này để miêu tả các biện pháp tạm thời giới hạn quyền tự do của một nghi phạm.
Luật deepfake Trung Quốc mới đã có hiệu lực từ ngày 10 tháng 1. Nó cấm một số loại phương tiện giả mạo được sản xuất bằng "công nghệ tổng hợp sâu" như học máy và thực tế ảo, nhưng chỉ cung cấp các định nghĩa mơ hồ cho nhiều lớp bị cấm này.
Theo một bản dịch của luật được cung cấp bởi trang web được đóng góp từ cộng đồng China Law Translate, nó cấm deepfakes được sử dụng trong các hoạt động đe dọa an ninh quốc gia, gây tổn hại đến hình ảnh của quốc gia hoặc lợi ích công cộng xã hội, hoặc gây náo động "kinh tế hoặc trật tự xã hội". Nó cụ thể cấm việc sử dụng các công nghệ này để sản xuất, xuất bản hoặc truyền tải tin giả.
__
Trợ lý tin tức AP Caroline Chen ở Bắc Kinh đã đóng góp cho bản báo cáo này.
