SÀN FRANCISCO (AP) — Cảnh sát Trung Quốc cho biết rằng họ vừa bắt giữ một người dùng ChatGPT vì tội tạo ra một bài báo tin giả về một vụ tai nạn tàu không tồn tại bằng chatbot được cung cấp sức mạnh bởi trí tuệ nhân tạo. Đây là một trong những động thái thực thi pháp luật đầu tiên dưới luật mới đây của Trung Quốc về việc quản lý “deepfake” được tạo ra bởi AI - hình ảnh, video hoặc phương tiện số giả mạo đầy sống động.
Theo một báo cáo cảnh sát của tỉnh Tây Bắc Trung Quốc Gansu, một người được xác định chỉ bởi họ tên Hong đã sử dụng ChatGPT tạo ra một bài báo giả về vụ tai nạn mà theo đó đã có 9 công nhân xây dựng thiệt mạng tại Gansu. Tám mươi tài khoản trên một nền tảng xã hội phổ biến, tất cả đều thuộc về một công ty truyền thông có trụ sở tại miền Nam của Trung Quốc đã lan truyền câu chuyện giả trong thời gian ngắn.
Tương tự như hầu hết các trang web và ứng dụng nước ngoài, ChatGPT kỹ thuật số không có sẵn tại Trung Quốc, nhờ “tường lửa vĩ đại” của đất nước, cung cấp các trang web được kiểm duyệt cho người dân. Tuy nhiên, các cá nhân quyết tâm vẫn có thể đăng nhập thông qua phần mềm mạng riêng ảo phổ biến có khả năng vượt qua tường lửa. Báo cáo cảnh sát không mô tả cách Hong quản lý để sử dụng ChatGPT.
Khi các quan chức an ninh Gansu nhận ra bài báo đó là giả mạo, nó đã nhận được 15.000 lượt xem, theo báo cáo. Cảnh sát sau đó tiến hành khám xét nhà của Hong để thu thập chứng cứ và sau đó thực hiện các biện pháp khẩn cấp để các đối tượng không thể tự do. Cảnh sát sử dụng cụm từ đó để mô tả các biện pháp tạm thời để hạn chế quyền tự do của một nghi can.
Luật deepfake mới của Trung Quốc có hiệu lực từ ngày 10 tháng 1. Nó cấm một số loại phương tiện giả mạo được tạo ra bởi các công nghệ tổng hợp sâu như học máy và thực tế ảo, nhưng chỉ cung cấp định nghĩa mơ hồ cho nhiều lớp cấm này.
Theo phiên dịch của luật do trang web chia sẻ thông tin China Law Translate cung cấp, nó cấm deepfake được sử dụng trong các hoạt động đe dọa an ninh quốc gia, gây hại cho hình ảnh cũng như lợi ích công cộng của quốc gia hoặc gây nên sự đảo lộn “kinh tế hoặc trật tự xã hội”. Luật cụ thể cấm việc sử dụng các công nghệ này để tạo ra, xuất bản hoặc truyền tải tin tức giả.
Trợ lý tin tức AP Caroline Chen ở Bắc Kinh đã đóng góp cho báo cáo này.
Bản quyền 2023 của Tổng hợp The Associated Press. Đã được bảo lưu mọi quyền. Tài liệu này không được phép xuất bản, phát sóng, viết lại hoặc phân phối lại mà không có sự cho phép.
