Các nhà chức trách Trung Quốc đã xác nhận việc bắt giữ một nghi can vì sử dụng nền tảng trí tuệ nhân tạo (AI) ChatGPT để tạo ra tin giả trên một số mạng xã hội.
Theo South China Morning Post (SCMP), cảnh sát Trung Quốc ở tỉnh Cam Túc đã bắt giữ nghi can được đề cập đến là Hong vì sử dụng công nghệ trí tuệ nhân tạo để bịa đặt "những thông tin sai lệch và không đúng sự thật". Cảnh sát đã bắt Hong sau khi 20 tài khoản đã chia sẻ một tin giả về một vụ tai nạn tàu hỏa trên nền tảng mạng xã hội Trung Quốc là Baidu.
Đây là lần đầu tiên các nhà chức trách Trung Quốc bắt giữ một cá nhân vì sử dụng ChatGPT trong nước khi đang tiến dần với các quy định để ngăn chặn việc sử dụng nó. Hong đối mặt với án tù tối đa 10 năm vì vi phạm các quy tắc mạng xã hội Trung Quốc về xuất bản tin giả trên Internet.
Tuy nhiên, một lời hội đồng pháp lý nhiệt tình làm được tốt có thể giúp cho Hong chỉ bị kết án 5 năm nếu chứng minh trong tòa án rằng câu chuyện được tạo ra bằng trí tuệ nhân tạo không gây ra thiệt hại nghiêm trọng cho công chúng. Kể từ khi được đăng, câu chuyện đã nhận được hơn 15.000 lượt xem, dẫn đến một cuộc điều tra của các nhà chức trách trong khu vực đó kết thúc bằng một cuộc đột kích vào một căn hộ.
Hong thừa nhận đã vận hành nhiều tài khoản để nhanh chóng phổ biến câu chuyện thông qua chức năng chia sẻ. Hong cũng đã tiết lộ đã sử dụng các câu chuyện Trung Quốc đang trở nên phổ biến trước đó như đầu vào cho ChatGPT để tạo ra báo cáo giả.
Trung Quốc đã tiến hành việc siết chặt về trí tuệ nhân tạo và công nghệ deep fake, nổi tiếng với việc đưa ra một khung việc sử dụng chúng vào tháng 1. Được gọi là Quy định hành chính về tổng hợp sâu cho Dịch vụ Thông tin Internet, quy định ra các khoản phạt nặng nề cho việc sử dụng không đạo đức của công nghệ này tại Trung Quốc.
Trong khi Trung Quốc tiếp tục lưỡng lự đối với các nền tảng trí tuệ nhân tạo nước ngoài, nó dường như đã trao cho các dự án trong nước được các công ty như Tongyi Qianwen của Alibaba phát triển sự ủng hộ. Tuy nhiên, vẫn chưa rõ liệu dự án trí tuệ nhân tạo sinh sản của Alibaba có các chức năng sáng tạo của OpenAI's ChatGPT hay không.
Bão đang được khuấy động bởi trí tuệ nhân tạo
Khi trí tuệ nhân tạo tiếp tục leo thang, các doanh nghiệp đang ráo riết đưa ra các liều pháp để đảm bảo việc sử dụng an toàn của chúng, với ngành công nghiệp tiền điện tử đang phải đối mặt với những nguy cơ tương tự. Tuần trước, Samsung đã cấm nhân viên sử dụng các nền tảng trí tuệ nhân tạo sinh sản trên các thiết bị làm việc do lộ mã nguồn gốc bị rò rỉ liên quan đến một số mối đe dọa về an ninh khác.
Spotify đã bỏ bài hàng nghìn bài hát được tạo ra bởi trí tuệ nhân tạo trên các nền tảng phát trực tuyến của mình sau khi nhận được khiếu nại từ các công ty âm nhạc như Universal Music Group (UMG). Các công ty âm nhạc đã cảnh báo rằng sử dụng trí tuệ nhân tạo để sinh sản âm nhạc có thể mở ra một hộp Pandora về sở hữu trí tuệ và bản quyền.
“Âm nhạc sinh sản nhân tạo là vấn đề lâu dài của toàn ngành mà Spotify đang nỗ lực xóa bỏ trên toàn dịch vụ của chúng tôi,” một người phát ngôn của Spotify cho biết.
