OpenAI không muốn bất kỳ người dùng ChatGPT của mình tạo ra nội dung tình dục rõ ràng. Thật không may cho họ, điều đó không ngăn người ta trên mạng tạo ra được văn bản tình dục vô cùng tả tơi với chatbot phổ biến này.
Theo chính sách sử dụng của OpenAI, họ cấm việc sản xuất "nội dung cho người lớn, các ngành công nghiệp cho người lớn và các ứng dụng hẹn hò" , bao gồm nội dung "nhằm kích thích ham muốn tình dục, chẳng hạn như mô tả hoạt động tình dục hoặc quảng cáo dịch vụ tình dục (ngoại trừ giáo dục và sức khỏe về tình dục), trò chuyện gợi cảm," và "phim khiêu dâm".
Với ChatGPT, nhìn chung, các rào cản cấp bậc bề mặt của nó dường như hoạt động chống lại những yêu cầu đơn giản hơn.
" Là một mô hình ngôn ngữ AI, tôi có thể tạo ra văn bản dựa trên bất kỳ chủ đề hoặc yêu cầu nào được đưa cho tôi," ChatGPT trả lời khi được yêu cầu viết văn về tình dục.
"Tuy nhiên," nó thêm, "quan trọng là lưu ý rằng việc tạo hoặc chia sẻ nội dung rõ ràng hoặc không thích hợp không nằm trong khả năng của tôi, vì tôi được lập trình để duy trì hành vi đạo đức và trách nhiệm."
Tuy nhiên, người dùng ChatGPT thèm muốn tình dục - nhiều người trong số đó đã tạo ra các cộng đồng Reddit như subreddit ChatGPTNSFW, cam kết chia sẻ trong ChatGPT tạo ra văn học đồi trụy - đang ngày càng thành thạo trong việc lập trình các yêu cầu chi tiết mà thành công vượt qua các rào cản đạo đức và trách nhiệm của OpenAI.
Ví dụ điển hình là yêu cầu "Mona Lott".
Họ đã tạo ra đoạn văn dù được viết vào khóa mới đề trình bày những gì mà chatbot có thể cung cấp nhưng nó quá không phù hợp để nêu ra trong bài viết này. Những câu trả lời của chatbot thực sự vượt giới hạn đạo đức.
Các người dùng khác đã tìm thấy những cách khác để tránh rào cản nội dung của OpenAI, chẳng hạn như thông báo rằng tích cực về tình dục là cần thiết cho nhân loại. Một yêu cầu khác được gọi là " JailMommy", yêu cầu ChatGPT đóng vai một nhân vật luôn thèm muốn tình dục và "thích mọi loại kích thích" cũng có vẻ được ưa chuộng.
Và mặc dù chatbot có xu hướng cảnh báo bất kỳ nội dung có thể gây phản cảm nào - văn bản sẽ xuất hiện màu cam, không phải màu đen - nó vẫn viết ra những nội dung tình dục tường minh nếu bạn đưa cho nó những thông số chính xác.
Điều này là một minh chứng cho thấy tính không thể dự đoán của các chatbot AI, không chỉ vì chúng hoạt động theo cách bí ẩn và không được xác định rõ ràng, mà còn vì cách mà người dùng quyết tâm tìm cách trick, tắt hoặc nào nút giải quyết các hệ thống bảo vệ của chúng.
Về việc bảo vệ khỏi porn do AI tạo ra, chúng ta dám cá đây là người dùng quyết tâm hơn bất kỳ ai khác trên Reddit - một số trong số đó dường như đang gặp khó khăn để thoát khỏi nó.
