Một trong những giáo sư đứng đầu về trí tuệ nhân tạo đã nói rằng các bộ trưởng chưa làm đủ để bảo vệ khỏi các nguy hiểm của các máy trí tuệ siêu việt trong tương lai. Trong đóng góp mới nhất vào cuộc tranh luận về an ninh của sự phát triển ngày càng nhanh của AI, Giáo sư Stuart Russell cho biết rằng chính phủ đang ngần ngại để quy định ngành công nghiệp này mặc dù có mối quan tâm rằng công nghệ này có thể trở nên ngoài tầm kiểm soát và đe dọa tương lai của nhân loại. Russell, một giảng viên tại Đại học California ở Berkeley và cựu cố vấn cho chính phủ Mỹ và Anh, cho biết ông lo lắng rằng ChatGPT, được phát hành vào tháng 11, có thể trở thành một phần của một hệ thống trí tuệ siêu việt không thể kiềm chế được. "Làm thế nào để bạn giữ được quyền lực đối với các thực thể mạnh hơn bạn - mãi mãi?", ông nói. "Nếu bạn không có câu trả lời, thì hãy ngừng nghiên cứu. Điều đó đơn giản như vậy. "Mức độ quan trọng không thể cao hơn: nếu chúng ta không kiểm soát nền văn minh của chúng ta, chúng ta không có quyền quyết định liệu chúng ta có tiếp tục tồn tại hay không." Sau khi ChatGPT được phát hành cho công chúng vào năm ngoái, đã được sử dụng để viết văn xuôi và đã gây lo lắng cho giảng viên và giáo viên về việc sử dụng trong đại học và trường học, tranh luận đã gay gắt hơn về sự an toàn của nó trong dài hạn. Elon Musk, người sáng lập Tesla và chủ sở hữu Twitter, và người sáng lập Apple Steve Wozniak, cùng với 1.000 chuyên gia trí tuệ nhân tạo, đã viết một lá thư cảnh báo rằng đang có một "cuộc đua ngoài tầm kiểm soát" đang diễn ra tại các phòng thí nghiệm AI và kêu gọi tạm dừng sự tạo ra AI quy mô khổng lồ. Thư cảnh báo rằng các phòng thí nghiệm đang phát triển "những trí tuệ số mạnh mẽ hơn mà không ai, thậm chí cả những người tạo ra chúng, có thể hiểu, dự đoán hoặc kiểm soát được một cách đáng tin cậy". Cũng có lo ngại về ứng dụng rộng hơn của nó. Hội đồng Thượng viện Mỹ đã nghe lời khai từ Sir Lawrence Freedman, một giáo sư nghiên cứu chiến tranh, người đã nói về các mối quan tâm về cách AI có thể được sử dụng trong các cuộc chiến tranh trong tương lai. Đối thủ của Google, Bard, dự kiến ​​sẽ được phát hành tại EU vào cuối năm nay. Chính Russell trước đây đã làm việc cho Liên hợp quốc về cách theo dõi điều ước kiểm tra hạt nhân và được yêu cầu làm việc với Whitehall vào đầu năm nay. Ông nói: "Bộ Ngoại giao ... đã nói chuyện với rất nhiều người và họ kết luận rằng mất kiểm soát là một kết quả có khả năng xảy ra và có ý nghĩa cực kỳ cao." Khi chính phủ đưa ra một phương pháp quy định cho biết: 'Không có gì để xem ở đây... chúng tôi sẽ chào đón ngành công nghiệp AI như khi chúng tôi đang nói về việc sản xuất ô tô hoặc một cái gì đó tương tự'. "Tôi nghĩ rằng chúng ta đã mắc sai lầm ngay từ đầu, khi chúng ta quá mê hoặc với ý niệm về việc hiểu và tạo ra trí tuệ, chúng ta không suy nghĩ về trí tuệ đó sẽ được sử dụng cho mục đích gì", ông nói. "Trừ khi mục đích duy nhất của nó là để là lợi ích cho con người, bạn đang tạo ra một đối thủ - và đó sẽ là điều ngốc nghếch một cách rõ ràng. "Chúng ta không muốn có các hệ thống mô phỏng hành vi con người ... bạn đang huấn luyện nó để có các mục tiêu giống con người và theo đuổi những mục tiêu đó. "Bạn chỉ có thể tưởng tượng những thảm họa sẽ xảy ra nếu có các hệ thống thực sự có khả năng theo đuổi những mục tiêu đó."