OpenAI đã đóng cửa một công cụ được thiết kế để phân biệt văn bản của con người và AI do độ chính xác thấp. Trong một bài đăng đã được cập nhật, OpenAI cho biết họ đã quyết định kết thúc công cụ phân loại AI của mình kể từ ngày 20 tháng 7. "Chúng tôi đang làm việc để tích hợp phản hồi và hiện đang nghiên cứu các phương pháp nguồn gốc hiệu quả hơn cho văn bản," công ty cho biết.
Trong quá trình đóng cửa công cụ để phát hiện văn bản được tạo ra bởi AI, OpenAI cho biết họ dự định "phát triển và triển khai các cơ chế cho phép người dùng hiểu xem nội dung âm thanh hoặc hình ảnh có phải do AI tạo ra hay không." Tuy nhiên, hiện chưa có thông tin về những cơ chế đó là gì.
OpenAI thừa nhận rằng công cụ phân loại chưa bao giờ tốt lắm trong việc phát hiện văn bản được tạo ra bởi AI và cảnh báo rằng nó có thể phát sinh kết quả sai, tức là văn bản do con người viết được đánh dấu là văn bản do AI tạo ra. OpenAI, trước khi thêm cập nhật về việc đóng cửa công cụ, cho biết công cụ phân loại có thể cải thiện hơn với nhiều dữ liệu hơn.
Sau khi ChatGPT của OpenAI xuất hiện và trở thành một trong những ứng dụng phát triển nhanh nhất từ trước đến nay, mọi người đã vội vàng tìm hiểu về công nghệ này. Nhiều ngành đã nâng động về văn bản và nghệ thuật được tạo ra bởi AI, đặc biệt là giáo viên lo lắng rằng học sinh sẽ không còn học tập nữa mà chỉ để ChatGPT viết bài tập về nhà cho mình. Ngay cả các trường học ở New York đã cấm truy cập vào ChatGPT trên các cơ sở trường học do lo ngại về độ chính xác, an toàn và gian lận.
Thông tin sai lệch thông qua AI cũng là một vấn đề đáng quan ngại, với các nghiên cứu cho thấy văn bản được tạo ra bởi AI, như các bài đăng trên Twitter, có thể thuyết phục hơn so với những bài viết do con người viết. Các chính phủ vẫn chưa tìm ra cách để kiềm chế AI, và cho đến nay, họ vẫn để cho các nhóm và tổ chức cá nhân tự đề ra quy định và phát triển biện pháp bảo vệ riêng để đối phó với lượng lớn văn bản được tạo ra bởi máy tính. Và dường như trong thời điểm hiện tại, không ai, thậm chí là chính công ty đã khởi đầu cơn sốt về AI sáng tạo, cũng chẳng có câu trả lời cho việc làm thế nào để đối phó với tất cả những điều đó. Mặc dù có một số người bị tóm gọn, việc phân biệt AI và công việc của con người sẽ ngày càng khó khăn hơn.
Gần đây, OpenAI cũng đã mất đi lãnh đạo về niềm tin và an toàn trong thời điểm mà Ủy ban Thương mại Liên bang đang đang điều tra OpenAI để xem họ kiểm duyệt thông tin và dữ liệu như thế nào. OpenAI từ chối bình luận ngoài bài đăng trên blog của mình.
