Các bác sĩ và chuyên gia y tế công cộng đã nói rằng Trí tuệ nhân tạo (AI) có thể gây hại cho sức khỏe hàng triệu người và đặt mối đe dọa về bản chất đối với nhân loại, và đòi hỏi ngừng phát triển trí tuệ nhân tạo tổng quát cho đến khi được quản lý. Trí tuệ nhân tạo có tiềm năng để cách mạng hóa y tế bằng cách cải thiện chẩn đoán bệnh, tìm cách điều trị bệnh nhân và mở rộng chăm sóc đến nhiều người hơn. Tuy nhiên, phát triển trí tuệ nhân tạo cũng có tiềm năng để gây ra ảnh hưởng tiêu cực đến sức khỏe, theo các chuyên gia y tế từ Vương quốc Anh, Mỹ, Úc, Costa Rica và Malaysia viết trên tạp chí BMJ Global Health. Những rủi ro liên quan đến y tế và chăm sóc sức khỏe bao gồm "khả năng gây hại cho bệnh nhân của trí tuệ nhân tạo, vấn đề về quyền riêng tư và an ninh dữ liệu và việc sử dụng trí tuệ nhân tạo một cách sẽ làm tăng bất bình đẳng xã hội và sức khỏe". Các chuyên gia cũng cảnh báo về những mối đe dọa rộng hơn từ AI đến sức khỏe con người và thậm chí là tồn tại của loài người. AI có thể gây hại cho sức khỏe hàng triệu người thông qua các nhân tố xác định xã hội của sức khỏe thông qua việc kiểm soát và thao túng con người, sử dụng vũ khí tự động gây tử vong và ảnh hưởng đến sức khỏe tâm thần do thất nghiệp hàng loạt do hệ thống AI vị lý số lớn số công nhân. Các chuyên gia này cho rằng: "Khi được kết hợp với khả năng biến đổi hoặc giả mạo hiện thực với các hệ thống thông tin được hưởng lợi từ AI, nó có thể làm suy yếu mật độ dân số bằng cách gây ra sự suy giảm niềm tin hoặc vì kích động sự chia rẽ xã hội và xung đột, với các tác động đến sức khỏe cộng đồng tiếp theo”. Các mối đe dọa cũng phát sinh từ việc mất việc làm đi kèm với việc triển khai rộng rãi của công nghệ AI, với ước tính từ hàng chục đến hàng trăm triệu trong thập kỷ tới. Nhóm này nói rằng: "Mặc dù sẽ có nhiều lợi ích từ việc kết thúc các công việc lặp đi lặp lại, nguy hiểm và không dễ chịu, chúng ta đã biết rằng thất nghiệp liên quan mật thiết đến kết quả và hành vi ảnh hưởng xấu đến sức khỏe". Nhưng mối đe dọa do trí tuệ nhân tạo tổng quát tự cải tiến, lý thuyết có thể học và thực hiện toàn bộ loạt nhiệm vụ của con người, là bao trùm tất cả, như họ đã đề xuất. "Chúng tôi hiện đang cố gắng tạo ra những máy móc vô cùng thông minh và mạnh mẽ hơn chính chúng ta. Tiềm năng của những thiết bị với thông minh và sức mạnh đó để áp dụng, có chủ ý hoặc không chủ ý và theo cách có thể gây hại hoặc áp bức con người, đó là thực tế và phải được xem xét. Với sự tăng trưởng mạnh mẽ về nghiên cứu và phát triển trí tuệ nhân tạo, cửa sổ cho cơ hội để tránh những tổn thất nghiêm trọng và có thể gây nguy hiểm cho sự tồn tại đang ngắt lại. "Cần quy định hiệu quả về việc phát triển và sử dụng trí tuệ nhân tạo để tránh hại cho đến khi những quy định này được đưa ra, cần thiết phải bắt đầu tạm ngừng việc phát triển trí tuệ nhân tạo tổng quát tự cải tiến. "Riêng biệt, tại Vương quốc Anh, một liên minh gồm các chuyên gia y tế, các tổ chức kiểm chứng độc lập và các tổ chức từ thiện y tế đã kêu gọi Dự luật an toàn trực tuyến của chính phủ sắp tới phải được sửa đổi để đối phó với thông tin sai lệch về y tế. "Một cách chính là chúng ta có thể bảo vệ tương lai của hệ thống chăm sóc sức khỏe của mình là đảm bảo các công ty internet có chính sách rõ ràng về cách họ xác định thông tin sai lệch về y tế có hại xuất hiện trên các nền tảng của họ, cũng như cách tiếp cận nhất quán để giải quyết vấn đề này," theo một lá thư mở của nhóm này gửi đến Chloe Smith, bộ trưởng Nghiên cứu, Đổi mới và Công nghệ. "Điều này sẽ mang lại sự bảo vệ cao hơn cho người dùng khỏi thiệt hại và cải thiện môi trường thông tin và niềm tin vào các cơ quan công cộng. Ký tên các tổ chức như Quỹ Trái tim Anh, Học viện Nội tiết Mỹ và Full Fact, lá thư kêu gọi chính phủ Vương quốc Anh thêm một nghiệm trọng pháp lực mới vào dự luật, yêu cầu mạng xã hội lớn nhất phải thêm các quy tắc mới vào các điều khoản dịch vụ của mình về cách họ xử lý thông tin sai lệch liên quan đến sức khỏe. Will Moy, Giám đốc điều hành của Full Fact, cho biết: “Nếu thiếu sửa đổi này, dự luật an toàn trực tuyến sẽ vô dụng đối với thông tin sai lệch về y tế có hại".