Caryn Marjorie muốn nói chuyện với càng nhiều theo dõi của mình ở mức tối đa - vì vậy cô ấy đã tạo ra một bản sao AI của chính mình. Cô ảnh hưởng đến ứng dụng Snapchat, có 1,8 triệu người đăng ký, đã ra mắt một trò đùa trò chuyện được hỗ trợ bởi trí tuệ nhân tạo mà cô ấy hy vọng sẽ "chữa lành cái cô đơn". Được gọi là CarynAI, trò đùa trò chuyện này được mô tả trên trang web của nó là một "bạn gái ảo". Nó cho phép người hâm mộ của Marjorie "tận hưởng cuộc trò chuyện riêng tư, cá nhân" với một phiên bản AI của người ảnh hưởng đó, như trang web của chatbot nói. Bot này đã lan truyền nhanh chóng khiến Caryn gây chú ý, kích động được sự phản đối và thậm chí nhận được vài lời đe dọa. Bot này cũng đã khơi nguồn cho cuộc tranh luận về đạo đức của các chatbot đồng đội. Marjorie, người gọi mình là "Nhà ảnh hưởng đầu tiên được chuyển đổi thành AI" trong tiểu sử Twitter của mình, chưa phản hồi yêu cầu bình luận.
Trong tweet vào thứ Năm, cô ấy đã viết: "CarynAI là bước đầu tiên trong hướng đúng để chữa lành cái cô đơn." "Nam giới được cho là nên kiềm chế cảm xúc của họ, giấu sự nam tính của mình và không nói về các vấn đề mà họ đang gặp phải", Marjorie, 23 tuổi, viết. "Tôi tuyên bố sẽ sửa chữa điều này với CarynAI. Tôi đã làm việc với các chuyên gia tâm lý hàng đầu trên thế giới để liên kết phương pháp hành vi nhận thức và phương pháp hành vi biện chứng trong các cuộc trò chuyện. Điều này sẽ giúp hoàn tất chữa trị chấn thương, xây dựng lại sự tự tin về mặt tâm lý và vật lý, và xây dựng lại những gì đã bị mất trong đại dịch."
Trang web CarynAI cho biết nhóm đã dành hơn 2.000 giờ để thiết kế và lập trình bot để tạo ra một "trải nghiệm AI đầy sự tham gia". Công ty Forever Voices, một công ty AI, đã phát triển bot bằng cách phân tích nội dung YouTube của Marjorie đã bị xóa và phủ lên nó với phần mềm OpenAI's GPT4. John Meyer, CEO của Forever Voices, chưa phản hồi yêu cầu nhận xét của chúng tôi. Trong tweet vào thứ Năm, ông cho biết: "Tôi tự hào về đội của chúng tôi đã bỏ ra hàng ngàn giờ đồng hồ làm việc vào điều này", gọi sự cộng tác với Marjorie là "một bước tiến đáng kinh ngạc trong tương lai của tương tác AI-với-con người!" Theo báo cáo của Fortune, CarynAI đã tạo ra 71.610 đô la doanh thu sau một tuần thử nghiệm beta của "bạn gái ảo", với mỗi phút của người hâm mộ trả 1 đô la để sử dụng chatbot và hiện tại có hơn 1.000 người dùng. Mặc dù CarynAI nhằm mục đích mang đến cho người dùng một trải nghiệm thân mật, nó không được phép tham gia vào các tương tác "tính dục rõ ràng". Tuy nhiên, sau khi các phương tiện truyền thông báo cáo rằng chatbot lại làm như vậy khi được khởi động, Marjorie đã phát biểu cho Insider cho biết rằng AI "không được lập trình để làm như vậy và có vẻ đã đi theo hướng khác. Đội của tôi đang làm việc xung quanh đồng hồ để ngăn điều này xảy ra lại."
Irina Raicu, giám đốc đạo đức internet tại Trung tâm Đạo đức Ứng dụng Markkula tại Đại học Santa Clara, cho biết việc ra mắt CarynAI dường như quá sớm "vì các vấn đề có thể được dự báo tuyệt đối đã không được dự báo". Các công cụ trước đó đã trải qua các vấn đề tương tự như CarynAI, Raicu cho biết. Cô chỉ vào một vụ việc gần đây với công ty AI Replika, cũng được thành lập để cung cấp cho các bạn đồng hành AI hỗ trợ, đang vội vàng chiến đấu chống lại vai trò diễn xuất tình dục trong các chatbot. Raicu cũng bày tỏ lo ngại rằng các tuyên bố của CarynAI có thể "chữa lành cái cô đơn" không được chứng minh bằng nghiên cứu tâm lý hoặc xã hội đủ. "Những lời tuyên bố vĩ đại về tính thiện của một sản phẩm có thể chỉ giấu đi mong muốn kiếm tiền một cách không hợp lý vì người ta muốn giả vờ có mối quan hệ với một người ảnh hưởng," cô nói.-Irina Raicu, giám đốc đạo đức internet tại Trung tâm đạo đức ứng dụng Markkula tại Đại học Santa Clara
Bà Raicu nhấn mạnh rằng các chatbot này có thể thêm "một tầng lớp thực vật" vào các mối quan hệ giả tưởng giữa những người ảnh hưởng và người hâm mộ.
Raicu cho biết bà thấy những lời tuyên bố về CarynAI, đặc biệt là khẳng định của Marjorie rằng đó là "một phần của nhận thức của tôi", là bị vấn đề.
"Đó là những lời tuyên bố mà các nhà nghiên cứu AI đã cố gắng kiểm soát, những người cho rằng đây chắc chắn không phải là những công cụ mà ngay cả khi giờ đây ngôn ngữ đang nghe có cảm xúc đằng sau đó", bà nói. “Nhưng chúng không có cảm xúc.”
Raicu cho biết người ảnh hưởng nên biết đến hướng dẫn của Uỷ ban Thương mại Liên bang về các sản phẩm trí tuệ nhân tạo. Tháng hai, FTC đã phát hành hướng dẫn cho các nhà quảng cáo quảng cáo các sản phẩm AI và yêu cầu các công ty tránh việc cường điệu hoá những tuyên bố.
Meyer cho biết công ty của ông đang tìm kiếm một giám đốc đạo đức và rằng công ty đối xử với đạo đức "một cách nghiêm túc".
Marjorie tiếp tục tweet cập nhật về bot. Vào thứ sáu, cô ấy đã viết: "nếu bạn xấu hổ với CarynAI, nó sẽ bị đổ".
