Cảnh sát Trung Quốc đã bắt giữ một người đàn ông vì tội tạo ra tin giả về một vụ tai nạn tàu hỏa và lan truyền nó trực tuyến bằng công nghệ trí tuệ nhân tạo để "giả tạo thông tin" và đăng tải lên nhiều tài khoản khác nhau, đây được cho là vụ bắt giữ đầu tiên của Trung Quốc về việc lạm dụng ChatGPT.
Cảnh sát ở tỉnh Gansu phía Tây Bắc đã cho biết trong một tuyên bố vào Chủ Nhật rằng một nghi phạm có họ Hong đã bị bắt giữ vì "sử dụng công nghệ trí tuệ nhân tạo để giả tạo thông tin sai lệch và không đúng sự thật".
Vụ việc này trước tiên thu hút sự chú ý của phân vùng mạng của một sở cảnh sát huyện khi họ phát hiện một bài viết tin giả cho rằng chín người đã thiệt mạng trong một vụ tai nạn tàu hỏa địa phương vào ngày 25 tháng 4, theo báo South China Morning Post đăng tải vào thứ Hai.
Các sĩ quan công nghệ an ninh ở huyện Kongtong đã tìm thấy bài viết cùng lúc được đăng bởi hơn 20 tài khoản trên Baijiahao, một nền tảng kiểu blog được vận hành bởi công ty công nghệ hàng đầu Trung Quốc là Baidu.
Theo tuyên bố, các câu chuyện này đã nhận được hơn 15.000 lượt nhấp chuột vào thời điểm chú ý của cơ quan chức năng.
Cục an ninh công cộng Gansu cho biết Hong bị tình nghi phạm tội "gây rối và xúi giục gây rối", một tội danh thường mang án tối đa 5 năm tù. Tuy nhiên, trong các trường hợp được xem là nghiêm trọng đặc biệt, các tội phạm có thể bị tù 10 năm và bị áp thêm hình phạt, theo thông tin của South China Morning Post.
Đây là lần đầu tiên công chúng được biết đến với một vụ bắt giữ của chính quyền Trung Quốc sau khi các quy định đầu tiên của Bắc Kinh để quản lý việc sử dụng công nghệ "deepfake" chính thức có hiệu lực vào tháng 1 năm nay, theo báo cáo của công báo này.
Cảnh sát cho biết họ đã truy tìm nguồn gốc của bài viết đến một công ty thuộc sở hữu của nghi phạm Hong, hoạt động trên các nền tảng truyền thông cá nhân đăng ký tại Thâm Quyến, tỉnh Quảng Đông, miền nam Trung Quốc. Khoảng 10 ngày sau đội cảnh sát đã khám nhà và tìm kiếm máy tính của Hong và bắt giữ anh ta.
Tuyên bố cho biết Hong đã thú nhận được phép phá vụng bảo lệnh kiểm tra sao chép của Baijiahao để đăng tải trên nhiều tài khoản anh ta sở hữu. Anh ta nhập các yếu tố của những câu chuyện xã hội đang trở nên phổ biến tại Trung Quốc từ những năm trước đây vào ChatGPT để nhanh chóng sản xuất các phiên bản khác nhau của cùng một câu chuyện giả và tải lên các tài khoản Baijiahao của mình, theo tuyên bố.
Trong khi ChatGPT không trực tiếp sẵn có đối với những địa chỉ IP Trung Quốc, người dùng Trung Quốc vẫn có thể truy cập dịch vụ của nó nếu họ có một kết nối VPN đáng tin cậy.
Truyền thông CNTT Trung Quốc đang thử nghiệm phiên bản của họ về ChatGPT sau khi Microsoft và Google công bố các đổi mới của họ.
Trung Quốc chặt chẽ giám sát các phương tiện truyền thông xã hội của mình thông qua các bức tường lửa, đặc biệt là Sina Weibo, có hơn 592 triệu người dùng để đảm bảo không có nội dung phản động chống lại nội các đảng Cộng sản Trung Quốc.
Cơ quan quản lý Internet hàng đầu Trung Quốc đã từ lâu bày tỏ lo ngại về việc phát triển và sử dụng công nghệ tổng hợp sâu một cách không kiểm soát có thể dẫn đến việc sử dụng công nghệ này trong các hoạt động phạm tội như lừa đảo trực tuyến hoặc phỉ báng.
Khi ChatGPT trở nên phổ biến trong những tháng gần đây, cơ quan chức năng Trung Quốc đã nhiều lần bày tỏ sự nghi ngờ và cảnh báo về công nghệ này.
Trong một trong những bình luận đầu tiên về trò chuyện trên Chatbot được thực hiện bởi cơ quan an ninh Trung Quốc, cảnh sát ở Bắc Kinh đã cảnh báo công chúng vào tháng 2 cẩn thận với "tin đồn" được tạo ra bởi ChatGPT, theo South China Morning Post đưa tin.
