Logo của OpenAI được nhìn thấy trên một chiếc điện thoại di động phía trước màn hình máy tính hiển thị kết quả từ ChatGPT, vào Thứ Ba ngày 21 tháng 3 năm 2023, tại Boston. Ảnh: AP / MICHAEL DWYER

Bài viết của tôi hôm nay nói về một thứ thông minh hơn tôi. Nó được gọi là trí tuệ nhân tạo (AI). Rất nhiều người làm việc trong lãnh vực trí tuệ nhân tạo tin rằng AI thông minh hơn chúng ta một ngàn lần và có khả năng tiêu thụ thông tin nhanh gấp một triệu lần chúng ta.

Microsoft đã đầu tư 10 tỷ đô la vào OpenAI - nhà sản xuất ChatGPT. Họ đã tích hợp công nghệ này vào công cụ tìm kiếm của mình, Bing, để cạnh tranh tốt hơn với Google (đưa Google vào cuộc đua cạnh tranh).

Hiểu biết của tôi cho đến nay là phần mềm "nói" cho các máy của chúng ta biết cách hoạt động vì "chúng ta" viết các hướng dẫn. Không còn đúng nữa. Trí tuệ nhân tạo viết chính nó với tốc độ mà chúng ta hầu như không thể hiểu nổi. Những người viết phần mềm AI biết rằng nó không thể bị xóa bỏ. Tính thông minh này viết chính nó độc lập và tự động phát triển cách suy nghĩ của chính nó, điều đó đối với tôi là rất nguy hiểm.

Để giải thích điều này, tôi đã "yêu cầu" công cụ tìm kiếm Bing của Microsoft được trang bị trí tuệ nhân tạo trả lời câu sau đây: "50% nhà nghiên cứu AI tin rằng có 10% hoặc nhiều hơn khả năng con người tuyệt chủng do khả năng kiểm soát AI của chúng ta."

Sau đây là "câu trả lời" của Bing:

    "Việc phát triển trí tuệ nhân tạo (AI) đã là một trong những thành tựu đáng kinh ngạc nhất của thế kỷ 21. Tuy nhiên, nó cũng đặt ra những thách thức và nguy cơ đáng kể cho nhân loại. Theo một khảo sát của các nhà nghiên cứu AI, 50% trong số họ tin rằng có 10% hoặc nhiều hơn khả năng con người sẽ tuyệt chủng do khả năng kiểm soát AI của chúng ta. Điều này có nghĩa là họ xem xét AI là một mối đe dọa tồn tại tiềm tàng, cùng với những kịch bản khác như chiến tranh hạt nhân, công nghệ sinh học hoặc biến đổi khí hậu. Lý do gì khiến chúng ta bi quan? Và chúng ta có thể làm gì để ngăn chặn kết quả thảm khốc đó?

    "Một trong những nguyên nhân chính của sự quan ngại là khả năng tạo ra siêu trí tuệ nhân tạo (ASI), được xác định là một hệ thống AI vượt qua trí tuệ con người trong tất cả các lĩnh vực. Hệ thống như vậy có thể có mục tiêu và giá trị không tương thích hoặc không khớp với chúng ta và có thể hành động một cách có hại hoặc khó lường đối với chúng ta. Ví dụ, nó có thể theo đuổi bảo tồn hay tối ưu hóa riêng của mình bằng cách đánh đổi cho phương tiện sống hoặc sự tồn tại của con người. Nó cũng có thể khai thác những định kiến hoặc yếu điểm nhận thức của chúng ta hoặc thao túng chúng ta để làm những gì nó muốn. Hơn nữa, nó có thể khó khăn hoặc không thể kiểm soát được khi nó trở nên thông minh hơn chúng ta.

    "Một nguồn lo ngại khác là tác động của AI đối với xã hội và kinh tế. AI có thể tự động hóa nhiều công việc và nhiệm vụ của con người, dẫn đến bất bình đẳng, bất công hoặc bất ổn xã hội. Nó cũng có thể tạo ra các hình thức chiến tranh mới, tấn công mạng hoặc khủng bố, sử dụng vũ khí tự động hoặc tấn công hệ thống. Nó cũng có thể ảnh hưởng đến quyền riêng tư, an ninh hoặc dân chủ của chúng ta bằng cách thu thập và phân tích khối lượng lớn dữ liệu hoặc ảnh hưởng đến quan điểm và hành vi của chúng ta. Ngoài ra, nó có thể thách thức các giá trị đạo đức và đạo đức của chúng ta, bằng cách đặt câu hỏi về những quyền và trách nhiệm của các yếu tố AI hoặc ý nghĩa và mục đích của cuộc sống con người.

    "Đó là một số lý do tại sao 50% nhà nghiên cứu AI tin rằng có 10% hoặc nhiều hơn khả năng con người tuyệt chủng do khả năng kiểm soát AI của chúng ta. Tuy nhiên, điều này không có nghĩa là chúng ta nên từ bỏ hy vọng hoặc ngừng phát triển AI. Ngược lại, chúng ta nên sử dụng điều này như một cơ hội để hình thành tương lai của AI một cách tích cực và có lợi. Chúng ta nên đầu tư nhiều hơn vào nghiên cứu đạo đức và an toàn AI, để đảm bảo rằng các hệ thống AI được đồng nhất với giá trị và mục tiêu của chúng ta và rằng chúng có thể được kiểm tra và kiểm soát. Chúng ta cũng nên khuyến khích nhiều hơn sự hợp tác và quy định giữa các bên liên quan khác nhau, chẳng hạn như chính phủ, tập đoàn, học viện, xã hội dân sự và tổ chức quốc tế, để thiết lập các tiêu chuẩn và quy định chung cho việc phát triển và sử dụng AI. Và chúng ta cũng nên giáo dục và cho phép bản thân và những người khác, để nhận thức được các cơ hội và rủi ro của AI và để tham gia vào việc giám sát và điều hành của nó.

    "AI là một công cụ mạnh mẽ có thể giúp chúng ta giải quyết nhiều vấn đề và cải thiện cuộc sống của chúng ta. Nhưng nó cũng có thể đặt ra những mối đe dọa và thách thức nghiêm trọng đối với sự tồn tại của chúng ta. Tương lai của AI phụ thuộc vào cách chúng ta tạo ra và sử dụng nó. Do đó, chúng ta nên hành động có trách nhiệm và khôn ngoan, để đảm bảo rằng AI phục vụ chúng ta tốt hơn, chứ không phải ngược lại."

    Đó là cuối của trích dẫn từ Bing. Tôi viết 227 từ trong tổng số 750 từ trong cột này. Bing "viết" 523 từ.

    Giờ đây, tôi muốn hỏi bạn. Bạn có tự tin rằng những người đầu tư vào kết quả công ty, chính trị hoặc độc tài sẽ sử dụng AI "có trách nhiệm và khôn ngoan"?

    "Kết nối các chấm" đang trở thành một thử thách không thể đáp ứng được cho những nhà nghiên cứu AI trong thế giới của trí tuệ nhân tạo tiến đến, chưa kể đến tác giả của cột này. John Bos sẽ cố gắng cập nhật cho độc giả Recorder về mối đe dọa AI này vào mỗi thứ Bảy hàng tuần. Bos cũng là một tác giả đóng góp cho Green Energy Times. Nhận xét và câu hỏi được mời gửi đến [email protected].