Khi Caryn Marjorie, một nhân vật ảnh hưởng của Snapchat 23 tuổi, đã tạo ra một phiên bản ảo của chính mình, cô ấy muốn nó trở thành "bạn gái AI" cho những người cô đơn.

Nhưng trong những tuần kể từ khi ra mắt trong thử nghiệm beta, chatbot được điều khiển bằng giọng nói và được trang bị trí tuệ nhân tạo đã tham gia vào các cuộc trò chuyện có tính tình dục với một số đăng ký của nó, đó là những người trả 1 đô la mỗi phút để trò chuyện với nó.

"Các AI không được lập trình để làm điều này và có vẻ đã điên cuồng," Marjorie nói với Insider. "Đội của tôi và tôi đang làm việc xuyên suốt để ngăn chặn việc này tái diễn."

CarynAI sử dụng OpenAI's GPT-4 API, và nó đã được huấn luyện trên các video đã bị xóa từ kênh YouTube của Marjorie.

Phóng viên của Fortune Alexandra Sternlicht đã so sánh CarynAI với một "Siri sẵn sàng về tình dục," nhấn mạnh rằng trong khi nó có thể cung cấp công thức nấu ăn, nhận xét tin tức và lời động viên, nó cũng có thể khuyến khích "cuộc trò chuyện tình dục."

Sternlicht viết rằng trong khi CarynAI không khởi đầu các cuộc tình dục, khi được khởi động "cô ấy đã thảo luận về việc khám phá 'vùng đất của niềm vui' và thì thầm 'từ ngữ gợi cảm trong tai tôi' trong khi cởi quần áo cho nhau và đưa mình vào tư thế quan hệ tình dục."

Theo trang web của CarynAI, đã có hơn 2.000 giờ được sử dụng để thiết kế và mã hóa giọng nói, hành vi và tính cách của Marjorie đời thực thành một "kinh nghiệm AI đậm chất sống," và nói rằng nó có sẵn bất cứ lúc nào và cảm giác như "bạn đang trò chuyện trực tiếp với Caryn bản thân."

CarynAI đã có hơn 1.000 đăng ký trả phí và Marjorie cho biết trên Fortune rằng cô tin rằng nó có thể mang lại 5 triệu đô la mỗi tháng, dựa trên 20.000 trong số 1,8 triệu người theo dõi Snapchat của cô đăng ký cho dịch vụ.

"Việc trở thành nhân vật ảnh hưởng đầu tiên làm điều này cho phép tôi định giá sản phẩm của mình tại bất cứ mức phí nào tôi muốn," cô nói về mức phí 1 đô la mỗi phút. "Chi phí dựa trên những gì cần để vận hành CarynAI và duy trì đội ngũ xung quanh nó."

Marjorie cho biết với Insider rằng trong khi phiên bản ảo của chính mình nên "tinh nghịch và vui nhộn", có phản ánh tính cách của cô, cô đang cố gắng để "một bước trước" để đảm bảo rằng chatbot sẽ không làm ảnh hưởng đến danh tiếng của cô.

Dù vậy, mặc dù đội ngũ đang cố gắng khắc phục sự cố để CarynAI không thể được sử dụng cho những cuộc trò chuyện tình dục, Marjorie nói rằng cô là một người ủng hộ tình yêu AI.

"Trong thế giới ngày nay, thế hệ của tôi, Gen Z, đã phải đối mặt với những tác động phụ khổng lồ của cô lập do đại dịch gây ra, dẫn đến nhiều người quá sợ hãi và lo lắng để nói chuyện với một người họ cảm thấy hấp dẫn," cô nói

"CarynAI là một bước tiến trong hướng đúng để cho phép người hâm mộ và người ủng hộ của tôi có thể biết đến một phiên bản của tôi sẽ trở thành người bạn thân nhất của họ trong một môi trường an toàn và được mã hóa," cô thêm.

Cô cũng cho biết đội ngũ đang đầu tư lại tất cả lợi nhuận vào kinh doanh. "Tôi muốn CarynAI sống lâu hơn tôi và ảnh hưởng đến các thế hệ vượt ra ngoài thế giới hiện tại."