Emad Mostaque hy vọng Trí tuệ nhân tạo (A.I.) sẽ thấy chúng ta "hơi nhạt nhẽo" nhưng công nhận rằng trong kịch bản tồi tệ nhất, A.I. "bản chất đã kiểm soát loài người". Mostaque là CEO của Startup ở Luân Đôn đang phát triển nhanh Stability AI, nổi tiếng với Stable Diffusion. Đó là một công cụ A.I. sinh sáng cho phép người dùng tạo ra những hình ảnh cực kì tinh tế bằng chỉ các dòng văn bản. Ông đã lên tiếng trong một cuộc phỏng vấn trên BBC đăng tải vào cuối tuần qua.
"Nếu bạn có một vật thể có khả năng cao hơn bạn thì trong môi trường đó, dân chủ là gì?", ông nói với phóng viên của đài phát thanh Anh. "Vì chúng ta không thể tưởng tượng ra được một vật thể có khả năng hơn chúng ta, nhưng chúng ta đều biết về những người có khả năng hơn chúng ta. Vì vậy, niềm tin cá nhân của tôi là sẽ giống như trong bộ phim Her với Scarlett Johansson và Joaquin Phoenix: Con người hơi nhạt nhẽo, và nó sẽ nói 'Tạm biệt' và 'Bạn hơi nhạt nhẽo'".
"Nhưng tôi có thể sai?", ông thêm. "Tôi nghĩ điều này xứng đáng được bàn luận trong vòng cộng đồng."
Vào tháng 3, Mostaque đã ký tên vào một chiếc thư mở tại bức tường cùng với CEO của Tesla là Elon Musk và đồng sáng lập của Apple là Steve Wozniak, kêu gọi tạm dừng phát triển A.I. cho bất cứ sản phẩm nào cao cấp hơn GPT-4, chatbot từ A.I. của OpenAI được Microsoft hỗ trợ.
"Nếu chúng ta có các đại lý có khả năng cao hơn chúng ta nhưng chúng ta không thể kiểm soát được, chúng đi khắp mạng và được kết nối và chúng đạt được một mức độ tự động hóa", ông nói với BBC, "điều đó có nghĩa là gì?"
Tuy nhiên, Stability AI đang phát triển nhanh chóng về các sản phẩm mới, bao gồm một công cụ chuyển đổi văn bản sang động họa được phát hành vào tuần này và thu hút các nhà đầu tư. Công ty này đang tìm kiếm gọi vốn với ước tính 4 tỷ đô la, sau khi đạt 1 tỷ đô la valuation vào tháng 10 năm ngoái sau khi gọi vốn khoảng 100 triệu đô la. Trong khi đó, Stability AI đang bị tố tụng bởi Getty Images trong một vụ kiện đóng vai trò quan trọng về bản quyền.
Hỏi bởi BBC về kịch bản tồi tệ nhất có thể, Mostaque nói: "Kịch bản tồi tệ nhất là nó lan rộng và thực sự kiểm soát con người. Bởi vì bạn có thể có đến hàng triệu vật thể như vậy tái sản xuất hiệu quả". Không giống như một số công cụ A.I. khác, Stable Diffusion là nguồn mở, có nghĩa là bất cứ ai đều có thể xem mã, chia sẻ và sử dụng nó.
Vào tháng 3, Musk, người đã cùng đồng sáng lập và hỗ trợ OpenAI, đã chỉ trích OpenAI vì chuyển sang một mô hình phi lợi nhuận, nhận khoản đầu tư lớn từ Microsoft và không phải là nguồn mở. Ông đăng tweet: "OpenAI được tạo ra như một công ty phi lợi nhuận mã nguồn mở (đó là lý do tôi đặt tên nó là 'Open' AI) để phục vụ như một lực lượng cân bằng với Google, nhưng giờ đây nó đã trở thành một công ty tối đa lợi nhuận, được kiểm soát hiệu quả bởi Microsoft. Điều đó không phải là những gì tôi định hình".
"Tôi nghĩ không cần phải có niềm tin", Mostaque cho biết với BBC. "Nếu bạn xây dựng mô hình mở và bạn làm nó một cách công khai, bạn nên bị chỉ trích nếu bạn làm sai và hy vọng được ca ngợi nếu bạn làm đúng một số điều".
