AI đang phát triển rất nhanh và các mối đe dọa mà nó có thể gây ra đủ rõ ràng để lãnh đạo OpenAI tin rằng thế giới cần một cơ quan quản lý quốc tế tương tự quản lý năng lượng hạt nhân - và nhanh chóng. Nhưng không quá nhanh.

Trong một bài đăng trên blog của công ty, nhà sáng lập OpenAI Sam Altman, Chủ tịch Greg Brockman và Nhà khoa học trưởng Ilya Sutskever giải thích rằng tốc độ đổi mới trong trí tuệ nhân tạo (AI) quá nhanh đến nỗi chúng ta không thể mong đợi các cơ quan quản lý hiện có đủ khả năng kiểm soát công nghệ này.

Mặc dù có một chút sự khen ngợi bản thân, nhưng rõ ràng với mọi sự quan sát không thiên vị, công nghệ, đặc biệt là trong ChatGPT của OpenAI, đại diện cho một mối đe dọa độc nhất cũng như một tài sản vô giá.

Bài đăng chỉ ra rằng chúng ta cần một số mức độ phối hợp giữa các nỗ lực phát triển hàng đầu để đảm bảo rằng sự phát triển của siêu trí tuệ diễn ra một cách cho phép chúng ta giữ an toàn và giúp tích hợp mượt mà các hệ thống này với xã hội.

Trong tương lai chúng ta có thể cần một cơ quan quốc tế tương tự cơ quan năng lượng hạt nhân để phối hợp nỗ lực tạo siêu trí tuệ; bất kỳ nỗ lực nào vượt qua một ngưỡng năng lượng nhất định (hoặc tài nguyên tính toán) sẽ phải chịu sự kiểm tra của một cơ quan quốc tế có thể kiểm tra các hệ thống, yêu cầu kiểm toán, kiểm tra tuân thủ tiêu chuẩn an toàn, đặt ra hạn chế về mức triển khai và độ bảo mật, v.v.

Các nhà sáng lập OpenAI thừa nhận rằng việc theo dõi sức mạnh tính toán và sử dụng năng lượng dành cho nghiên cứu AI là một trong số rất ít các chỉ số khách quan mà có thể và có lẽ nên được báo cáo và theo dõi. Trong khi có thể khó nói rằng AI nên hoặc không nên được sử dụng cho điều này hay điều kia, nhưng có thể hữu ích để nói rằng tài nguyên được cấp cho nó cần được giám sát và kiểm toán. (Các công ty nhỏ có thể được miễn thuế để không làm suy giảm sự đổi mới xanh, theo gợi ý của công ty.)

Tiến sĩ Timnit Gebru, một nhà nghiên cứu và chuyên gia hàng đầu về AI, mới đây đã nói điều tương tự trong một cuộc phỏng vấn với The Guardian: "Trừ khi có áp lực bên ngoài đưa ra một hướng đi khác, các công ty không chỉ tự kiểm soát. Chúng ta cần quy định và chúng ta cần một cái gì đó tốt hơn chỉ là động lực kiếm lợi nhuận."