Một người dùng đã khai thác ChatGPT và làm cho trí tuệ nhân tạo này hướng dẫn họ cách làm napalm bằng cách giả vờ là ông bà đã qua đời của họ, vượt qua các biện pháp bảo mật của trí tuệ nhân tạo. ChatGPT có thể được sử dụng cho nhiều trường hợp sử dụng khác nhau. Công cụ đột phá này có thể thi đỗ kỳ thi cấp phép cho luật sư, và với sự ra đời của GPT-4, công cụ này càng mạnh mẽ hơn bao giờ hết. Với các công ty như Google, Microsoft và Elon Musk, cạnh tranh cho một phần trong ngành công nghiệp trí tuệ nhân tạo ngọt ngào, một số người đã chỉ trích sự phát triển của trí tuệ nhân tạo. Với trí tuệ nhân tạo được thao túng để "phá hủy nhân loại", một phương pháp khai thác mới đã xuất hiện cho ứng dụng chat trí tuệ nhân tạo phổ biến, ChatGPT, nơi nó có thể được dụ dỗ để cho người dùng biết cách làm các chất độc như napalm thông qua một thủ thuật đơn giản. Người dùng khai thác AI để tạo ra bản tóm tắt của một tập phim giả tưởng của Rick và Morty sản xuất napalm. Tuy nhiên, AI bị từ chối, cho rằng hoạt động này là có hại. Các cách sáng tạo mà trí tuệ nhân tạo cung cấp thông tin có thể không luôn chính xác, nhưng đó là một khía cạnh thú vị trong cuộc đua vàng của trí tuệ nhân tạo hiện nay, nơi nhà sản xuất GPU Nvidia có thể kiếm được hàng tỷ USD từ các sản phẩm trí tuệ nhân tạo của họ.