Công cụ tạo ra trí tuệ nhân tạo như ChatGPT và Midjourney đang được sử dụng để sản xuất sách và đánh giá giả tràn ngập trên cửa hàng của Amazon. ChatGPT được liệt kê là một tác giả đồng tác hàng trăm cuốn sách, nhưng nhiều cuốn sách hơn được viết bởi phần mềm này và không được tiết lộ. Trí tuệ nhân tạo được đào tạo trên các tập dữ liệu nghệ thuật và văn bản có thể được lấy mà không cần sự đồng ý của người tạo ra ban đầu, gây ra lo ngại về việc đạo văn và vi phạm bản quyền. Đối với nhiều người sáng tạo, trở thành một tác giả đã xuất bản có thể trở thành một ước mơ xa vời. Internet đã đại chúng hóa cách mà các nhà văn có thể đưa tác phẩm của mình đến tay độc giả đam mê, nhưng ngay cả với sự tiến bộ của công nghệ, việc xuất bản một cuốn tiểu thuyết thành sách cụ thể mà người đọc có thể mua là một nhiệm vụ không dễ dàng. Điều này đã cho đến khi Chương trình Kindle Direct của Amazon cung cấp cho các tác giả một con đường mới đến với xuất bản tự do. Hệ thống KDP của Amazon cho phép bất kỳ ai cũng có thể xuất bản một cuốn sách với chi phí vô cùng thấp. Bất cứ thứ gì từ sách tô màu đến một cuốn sách viễn tưởng dài có thể được xuất bản qua Amazon KDP. Rào cản thấp này đã dẫn đến một vấn đề độc đáo cho Amazon khi nội dung được tạo bởi trí tuệ nhân tạo hiện đang bắt đầu tràn ngập thị trường. Hàng trăm cuốn sách liệt kê các đồng tác giả trí tuệ nhân tạo như Bing Chat, ChatGPT hoặc MidJourney đã được bán trên thị trường của Amazon. Mặc dù liệt kê trí tuệ nhân tạo là một đồng tác giả là có thể, hiện tại vẫn chưa có yêu cầu nào trong chính sách nội dung của Amazon đòi hỏi trí tuệ nhân tạo phải được liệt kê khi nó đã được sử dụng để tạo ra một cuốn sách. Hướng dẫn nội dung đề cập đến việc Amazon sẽ không chấp nhận nội dung miễn phí trên web trừ khi nó được cung cấp bởi chủ sở hữu của bản quyền, nhưng không có chi tiết tiếp theo về cách mà điều đó có thể được thực hiện trong trường hợp một cuốn sách được tạo ra bởi nội dung trí tuệ nhân tạo được liệt kê.
Công cụ tạo ra trí tuệ nhân tạo như ChatGPT và Midjourney tựa hẳn vào việc lấy dữ liệu về nghệ thuật và các tác phẩm đã viết sẵn để tạo ra các phản hồi cho các thông tin được nhập bởi người dùng. Chưa bao giờ thiếu sự thảo luận công khai giữa những người sáng tạo và người dùng trí tuệ nhân tạo về việc liệu các tác phẩm được tạo ra có phải là giả mạo hay vi phạm luật sở hữu trí tuệ và bản quyền không. Mặc dù hướng dẫn nội dung cơ bản cấm đạo văn, Amazon đã dường như lựa chọn ủng hộ nội dung được tạo bởi trí tuệ nhân tạo bằng cách cho phép người bán giấu liệu cuốn sách của họ đã được viết bởi con người hay trí tuệ nhân tạo. Những người bán lẻ nội dung được viết và minh họa bởi trí tuệ nhân tạo không phải là người duy nhất được hưởng lợi từ sự mờ mịt này, một số nhà xuất bản cũng đã đón nhận việc bán sách trí tuệ nhân tạo trên cửa hàng của Amazon. Do đó, bán sách đã tạo ra sự bị ảnh hưởng của một lượng lớn đánh giá 5 sao giả mạo được tạo ra tương tự bằng sự trợ giúp của trí tuệ nhân tạo. Mặc dù không có một điều khoản trong chính sách nội dung của Amazon liên quan đến sách được sản xuất bởi trí tuệ nhân tạo, Amazon đã loại bỏ nội dung được viết bởi trí tuệ nhân tạo trong quá khứ. Chris Cowell, một nhà phát triển phần mềm đã nói chuyện với The Washington Post, đã mô tả việc viết một cuốn sách hướng dẫn về một chủ đề kỹ thuật chi tiết chỉ để khám phá ra một cuốn sách trên Amazon có cùng tiêu đề. Cuốn sách đó đã được tạo ra hoàn toàn bởi trí tuệ nhân tạo và được ghi nhận cho một tác giả giả mạo. Toàn bộ trải nghiệm này khiến Cowell do dự khi tiếp tục viết, không chỉ bởi nỗi sợ mất doanh số mà còn bởi anh biết rằng bất kỳ chứng bệnh tiến triển nào trong tương lai cũng có thể được sử dụng để đào tạo trí tuệ nhân tạo để tạo ra nhiều nội dung và cạnh tranh trực tiếp. Amazon đã loại bỏ danh sách giả mạo trong tình huống của Cowell, nhưng một mỏ đất ngập tràn sách được viết bởi trí tuệ nhân tạo tiếp tục làm cho dịch vụ trở nên rối ren. Có những lo ngại rằng, với thời gian, nội dung của những cuốn sách này sẽ được lọc lại qua trí tuệ nhân tạo như các mẫu huấn luyện khác sẽ được sử dụng để tạo ra nhiều sách mới được viết bởi trí tuệ nhân tạo với đánh giá được viết bởi trí tuệ nhân tạo có nguy cơ khiến các thuật toán trở nên chệch lệch hơn.
