Các chính quyền Trung Quốc đã bắt giữ một người đàn ông vì vi phạm pháp luật bằng cách sử dụng ChatGPT để tạo và chia sẻ một câu chuyện giả về một vụ tai nạn tàu hỏa làm chết chín người theo Báo South China Morning Post. Đây là vụ bắt giữ đầu tiên tại Trung Quốc liên quan đến việc sử dụng trí tuệ nhân tạo một cách sai mục đích.
Người đàn ông này, được đề cập bằng họ trên là Hong, đã sử dụng ChatGPT để viết một bài báo tiêu đề cho rằng có chín người chết trong một vụ tai nạn tàu hỏa địa phương vào ngày 25 tháng 4. Bài báo này đã được chia sẻ bởi hơn 20 tài khoản trên Baijahao, một nền tảng kiểu blog do Baidu điều hành, và đã có hơn 15.000 lượt click vào thời điểm chính quyền phát hiện.
Cảnh sát tại tỉnh Gansu cho biết họ bắt giữ Hong vì "sử dụng công nghệ trí tuệ nhân tạo để bịa đặt thông tin giả và không đúng sự thật" và rằng anh ta đã "tận dụng các phương pháp công nghệ hiện đại để tạo ra thông tin giả, sau đó lan truyền trên mạng xã hội."
Các nhà điều tra phát hiện ra rằng Hong đã nhập các thành phần của các câu chuyện lan truyền mạng tại Trung Quốc trong vài năm qua vào ChatGPT để tạo ra các phiên bản khác nhau của cùng một câu chuyện giả và sau đó tải lên tài khoản của anh ta trên Baijiahao. Mặc dù ChatGPT không có sẵn tại Trung Quốc, nhưng nó có thể được truy cập bằng cách sử dụng mạng VPN. Hong, người vận hành các nền tảng truyền thông cá nhân, cho biết với các nhà điều tra rằng anh ta đã được bạn bè trên WeChat chỉ cho cách kiếm tiền từ những lượt click.
Cảnh sát Gansu đã bắt giữ Hong vì tội "chống phá pháp luật và xúi giục gây rối", đó là tội danh chung áp dụng cho việc làm đảo lộn trật tự công cộng và bao gồm việc lan truyền tin tức giả trên internet. Đây là một tội danh thường mang tối đa 5 năm tù nhưng có thể lên đến 10 năm đối với các tội danh nặng.
Các tin tức sai lệch được tạo ra bằng trí tuệ nhân tạo không riêng gì ở Trung Quốc - các chuyên gia trí tuệ nhân tạo, các công ty truyền thông xã hội và các quan chức chính phủ ở Mỹ đều lo lắng về khả năng lan truyền thông tin sai lệch bởi trí tuệ nhân tạo.
Vào tháng 4, Cộng hòa Tân Cổ điển đã phát hành một quảng cáo tạo ra bằng trí tuệ nhân tạo mô tả cho tương lai trong trường hợp Tổng thống Biden được tái đắc cử, với các hình ảnh tạo ra bằng máy tính về đợt di dân lớn tại biên giới Mỹ - Mexico và sự sụp đổ của nền văn minh tại San Francisco. Mặc dù quảng cáo này được đánh dấu là "tạo ra bằng trí tuệ nhân tạo", nhưng các hình ảnh giống thật có thể dễ dàng đánh lừa người ta vào xem các cảnh như là thực tế. Các Redditor từ Midjourney subreddit, cho thấy cách máy tạo chữ sang ảnh có thể tạo ra các cảnh từ các sự kiện lịch sử không bao giờ xảy ra, chẳng hạn như "Động đất và sóng thần đại dương Cascadia 9,1 độ richter năm 2001."
Trong một trường hợp khác, Amnesty Norway, một chi nhánh của tổ chức phi lợi nhuận nhân quyền Amnesty International, đã đăng các hình ảnh tạo ra bằng trí tuệ nhân tạo trên các tài khoản truyền thông xã hội của mình để thu hút sự chú ý đến kỷ niệm hai năm ngày Bãi tập kết quốc gia của Colombia. Những hình ảnh này miêu tả cờ Colombia sai và tạo ra những con người giả thay cho người biểu tình thật.
Do ChatGPT đã trở nên ngày càng phổ biến trên toàn thế giới, các nhà lập pháp Trung Quốc tại Cơ quan Quản lý Không gian Mạng đã cố gắng lập các quy định quản lý các doanh nghiệp phát triển trí tuệ nhân tạo. Các quy định đề xuất bao gồm không tạo ra thông tin giả, đánh dấu rõ nội dung được tạo ra bằng trí tuệ nhân tạo và đảm bảo dữ liệu được sử dụng để đào tạo trí tuệ nhân tạo không phân biệt chủng tộc, sắc tộc và giới tính. Các công nghệ Trung Quốc đã ra mắt các sản phẩm cạnh tranh của họ trong vài tuần qua. Vào tháng 3, công cụ tìm kiếm Trung Quốc Baidu đã phát hành một chatbot mang tên Ernie. Vào ngày 10 tháng 4, tập đoàn công nghệ Alibaba đã tiết lộ chatbot có tên là Tongyi Qianwen có khả năng sử dụng tiếng Anh và tiếng Trung Quốc.
