Bởi: DAVID HAMILTON, Tạp chí Associated Press

Đăng lúc: ngày 10 tháng 5 năm 2023 / 07:14 PM EDT

Cập nhật: ngày 10 tháng 5 năm 2023 / 07:14 PM EDT

SAN FRANCISCO (AP) — Cảnh sát Trung Quốc cho biết họ đã gần đây bắt giữ một người sử dụng ChatGPT vì đã sử dụng chatbot được trang bị trí tuệ nhân tạo này để tạo ra một câu chuyện tin giả về một vụ tai nạn tàu hỏa không tồn tại. Đây là một trong những hành động thực thi đầu tiên trong phạm vi luật Trung Quốc vừa được ban hành để quản lý những "deepfake" được tạo bởi trí tuệ nhân tạo - các hình ảnh, video hoặc phương tiện truyền thông kỹ thuật số mà dường như rất thực tế nhưng lại là giả mạo.

Theo một báo cáo từ cảnh sát tỉnh tỉnh Tây Bắc Trung Quốc - Gansu, một người đàn ông chỉ được xác định bằng họ của anh ta, Hong, đã sử dụng ChatGPT để tạo ra một bài báo giả về một vụ tai nạn mà theo đó đã có ít nhất 9 công nhân thiệt mạng tại Gansu. Hai mươi một tài khoản trên một nền tảng truyền thông xã hội phổ biến, tất cả đều thuộc một công ty truyền thông đặt tại miền nam Trung Quốc, đã lan truyền câu chuyện giả trong một khoảng thời gian ngắn.

Giống như hầu hết các trang web và ứng dụng nước ngoài khác, ChatGPT về cơ bản không khả dụng tại Trung Quốc nhờ vào "Great Firewall" của đất nước, một cơ chế kiểm duyệt internet dành cho cư dân. Tuy nhiên, những cá nhân quyết tâm vẫn có thể truy cập thông qua phần mềm "mạng riêng ảo" phổ biến có thể vượt qua tường lửa. Báo cáo của cảnh sát không mô tả cách thức mà Hong đã sử dụng ChatGPT.

Đến khi các quan chức an ninh của Gansu nhận ra bài báo là giả, nó đã thu hút được 15.000 lượt xem, theo báo cáo. Cảnh sát sau đó đã tiến hành cuộc khám xét tại nơi ở của Hong để thu thập bằng chứng rồi tiến hành các biện pháp cưỡng chế tội phạm đối với Hong. Cảnh sát sử dụng thuật ngữ đó để mô tả các biện pháp tạm thời để hạn chế tự do của một nghi phạm.

Luật trinh sát Trung Quốc mới về "deepfake" đã có hiệu lực từ ngày 10 tháng 1. Nó cấm một số loại phương tiện giả mạo được tạo ra bởi các công nghệ tổng hợp sâu như học máy và thực tại ảo, nhưng chỉ định nghĩa mơ hồ cho rất nhiều những lớp bị cấm này.

Theo bản dịch của Luật Trung Quốc cung cấp bởi trang web cộng đồng China Law Translate, nó cấm deepfake được sử dụng trong các hoạt động đe dọa an ninh quốc gia, làm tổn hại hình ảnh quốc gia hoặc lợi ích công cộng của xã hội, hoặc làm ảnh hưởng đến "khoa học kinh tế hoặc xã hội". Nó cụ thể cấm việc sử dụng các công nghệ này để sản xuất, xuất bản hoặc truyền tải tin tức giả.

__

Trợ lý tin tức AP Caroline Chen ở Bắc Kinh đã đóng góp vào báo cáo này.

Bản quyền 2023 của Tạp chí Associated Press. Đã đăng ký bản quyền. Nội dung này không được xuất bản, phát sóng, viết lại hoặc phân phối lại.