Gần đây, tôi tình cờ đọc một bài tiểu luận của Douglas Hofstadter đã khiến tôi rất vui. Hofstadter là một nhà khoa học nhận thức xuất sắc và là tác giả của những cuốn sách như "Gödel, Escher, Bach" và "I Am a Strange Loop." Đó là bài tiểu luận làm tôi hài lòng đến vậy, có tựa đề là "The Shallowness of Google Translate," được đăng trên The Atlantic vào tháng 1 năm 2018.
Khi đó, Hofstadter đã luận rằng công cụ dịch trí tuệ nhân tạo có thể rất tốt trong một số nhiệm vụ thông thường, nhưng chúng không thể tiến cùng hiệu suất sáng tạo và tinh tế của một dịch giả con người. "Nó toàn là về việc xử lý siêu nhanh các đoạn văn, không phải về suy nghĩ hay tưởng tượng hay nhớ hay hiểu. Nó thậm chí còn không biết từ ngữ đại diện cho cái gì", ông viết.
Bài viết đã làm tôi vui mừng vì đây là một nhà khoa học mà tôi rất ngưỡng mộ đang bào chữa cho một quan điểm tôi từng suy nghĩ. Trong những tháng gần đây, tôi đã trở thành một người giới hạn về trí tuệ nhân tạo. Đó là tôi tin rằng trong khi trí tuệ nhân tạo sẽ là một công cụ tuyệt vời trong việc giảng dạy trẻ em trên toàn thế giới hay tóm tắt cuộc họp, nó không thể sánh ngang với trí tuệ con người. Nó không có khả năng hiểu biết, tự nhận thức, khái niệm, cảm xúc, mong muốn, cơ thể hay sinh học. Nó không giỏi về tư duy nguyên nhân. Nó không có những kiến thức mặt thầm không ngôn từ mà con người cho là đương nhiên. Nó không có ý thức. Nó làm nhiều việc nhanh hơn chúng ta, nhưng nó thiếu sâu sắc của một tâm hồn con người.
Tôi xem đây là tin vui. Nếu trí tuệ nhân tạo bị giới hạn như vậy, thì cách cách cách mạng trí tuệ nhân tạo sẽ trở thành một trong nhiều cách thức thông tin khác mà con người đã tạo ra. Công nghệ này sẽ được sử dụng trong nhiều cách tuyệt vời và một số cách tồi tệ, nhưng nó sẽ không thay thế chúng ta, không gây ra cuộc khủng hoảng xã hội to lớn mà những người hôn mê cảnh báo, và nó không có ý định tự xưng làm chủ thế giới một ngày nào đó.
Bài viết của Hofstadter vào năm 2018 cho thấy ông cũng là một người giới hạn và củng cố quan điểm của tôi.
Vì vậy, chỉ vài ngày trước, tôi đã bất ngờ khi đọc một tiêu đề trong một trong những bản tin trí tuệ nhân tạo mà tôi đăng ký: "Douglas Hofstadter Thay Đổi Quan Điểm Về Học Sâu và Nguy Cơ Trí Tuệ Nhân Tạo." Tôi bấm vào liên kết đến một bài podcast và nghe Hofstadter nói rằng: "Đó là một trải nghiệm đau lòng khi những niềm tin cốt lõi nhất của bạn về thế giới bắt đầu sụp đổ. Và đặc biệt khi bạn nghĩ rằng con người sẽ sớm bị lấn át."
Rõ ràng, trong năm năm kể từ năm 2018, ChatGPT và các đồng nghiệp của nó đã thay đổi tư duy của Hofstadter một cách đáng kể. Ông tiếp tục: Nó "chỉ làm cho con người trở thành một hiện tượng rất nhỏ bé so với điều gì đó thông minh hơn rất nhiều và trở nên không thể hiểu được như chúng ta không thể hiểu được gián."
Tôi đã gọi cho Hofstadter để hỏi ông đang xảy ra chuyện gì. Ông chia sẻ sự bất an thực sự của mình về tương lai của con người. Ông nói rằng ChatGPT đang "nhảy qua những bước kháng cự mà tôi không thể tưởng tượng được. Nó chỉ làm tôi sợ hãi." Ông thêm: "Hầu hết mọi khoảnh khắc trong ngày, tôi đều lo lắng. Tôi cảm thấy mình may mắn nếu có thể bị xao lạc bởi một cái gì đó - đọc sách, viết, vẽ hoặc trò chuyện với bạn bè. Nhưng rất khó để tôi tìm thấy bình yên.
Hofstadter đã lâu đề cao rằng thông minh là khả năng nhìn vào một tình huống phức tạp và tìm ra bản chất của nó. "Đặt ngón tay của bạn vào bản chất của một tình huống nghĩa là bỏ qua rất nhiều vấn đề về tình huống và tóm tắt bản chất theo cách ngắn gọn," ông nói.
Con người chủ yếu thực hiện điều này qua phép so sánh. Nếu bạn nói với tôi rằng bạn không đọc cột viết của tôi và tôi nói với bạn rằng tôi không quan tâm vì tôi không muốn bạn đọc nó, bạn sẽ nghĩ, "Chàng ta chỉ là một kẻ bị lè đòn." Bạn có thể có mục này trong đầu bạn, "kẻ bị lè đòn." Bạn đang so sánh hành vi của tôi với tất cả hành vi khác mà bạn đã chứng kiến. Tôi khớp với hạng mục kẻ bị lè đòn. Bạn rút ra bản chất để giải thích trạng thái tâm lý của tôi.
Hofstadter nói rằng hai năm trước, trí tuệ nhân tạo không thể thực hiện loại suy nghĩ này một cách đáng tin cậy. Nhưng giờ đây nó đang thực hiện loại suy nghĩ này mọi lúc. Và nếu nó có thể thực hiện những nhiệm vụ này một cách có ý nghĩa, Hofstadter nói, thì làm sao chúng ta có thể nói rằng nó thiếu hiểu biết, hay rằng nó không suy nghĩ?
Và nếu trí tuệ nhân tạo có thể làm tất cả loại suy nghĩ này, Hofstadter kết luận, thì nó đang phát triển ý thức. Ông đã lâu đề cao rằng ý thức đến trong các mức độ và nếu có sự suy nghĩ, thì có ý thức. Một con ong có một mức độ ý thức, một con chó có một mức độ cao hơn, một đứa trẻ lớn hơn mức độ đó, và một người lớn có một mức độ cao hơn nữa. "Chúng ta đang tiến gần đến giai đoạn khi chúng ta sẽ gặp khó khăn khi nói rằng máy này hoàn toàn không có ý thức. Chúng ta sẽ phải thừa nhận rằng nó có một mức độ ý thức nào đó, một mức độ sống," ông nói.
Thường thì, khi các nhà quản lý công nghệ nói với tôi rằng trí tuệ nhân tạo sẽ sớm đạt đến trí tuệ tổng quát của con người, tôi im lặng tự nói: "Người này có thể biết về công nghệ, nhưng anh ta không thực sự hiểu về trí tuệ con người. Anh ta không hiểu rằng tâm trí con người thật sự là phức tạp, to lớn và sâu sắc."
Nhưng Hofstadter thực sự hiểu về tâm trí con người - cũng như bất kỳ ai khác. Ông là một nhân văn gia từ đáy lòng, với lòng tôn kính với bí ẩn của ý thức con người, ông đã viết một cách sâu sắc về tình yêu và sự xuyên thâm sâu trong tâm hồn. Vì vậy, lời ông nặng lòng. Chúng đã lay động tôi.
Nhưng cho đến nay, ông vẫn chưa thuyết phục hoàn toàn tôi. Tôi vẫn coi những thứ này như công cụ thiếu tính linh hoạt. Trong cuộc trò chuyện với ông, tôi đã cố gắng tóm tắt ý kiến trái chiều của Hofstadter bằng cách lập luận rằng những con bot thực chất không suy nghĩ; chúng chỉ đang lợi dụng suy nghĩ của con người. Bắt đầu từ khi là trẻ nhỏ, chúng ta bắt đầu xây dựng mô hình về thế giới, và những mô hình đó được hình thành dựa trên những trải nghiệm khắc nghiệt và hạnh phúc, những mất mát và niềm vui cảm xúc, các chiến thắng đạo đức và thất bại đạo đức - cuộc sống phức tạp. Rất nhiều trí tuệ tiếp theo được lưu trữ sâu trong tiềm thức của tâm trí chúng ta, nhưng một phần được biến thành ngôn ngữ.
Trí tuệ nhân tạo có khả năng tổng hợp những biểu đạt ngôn ngữ này, mà con người đã đưa lên internet và do đó, nó đã được huấn luyện. Nhưng, tôi vẫn cãi, máy không có bất kỳ trải nghiệm học tập giống như con người. Nó chỉ đang chơi với ngôn ngữ, nhưng quá trình chứa đầy cảm xúc của việc học từ trải nghiệm thực tế và sự tích lũy đáng giá mà chúng ta gọi là trí tuệ chiáu nghiệp đều không có.
Trong một bài viết cho The New Yorker, nhà khoa học máy tính Jaron Lanier đã lập luận rằng trí tuệ nhân tạo tốt nhất nên được coi là "một hình thức mới của sự hợp tác xã hội." Nó ghép nối những biểu đạt ngôn ngữ của tâm trí con người một cách có cấu trúc đủ để hữu ích, nhưng Lanier cho rằng nó không phải là "sự sáng chế ra một tâm trí mới."
Tôi nghĩ rằng tôi vẫn tin vào quan điểm giới hạn này. Nhưng tôi thú nhận rằng tôi tin vào nó ít sâu sắc hơn so với tuần trước. Hofstadter về cơ bản đang hỏi, Nếu trí tuệ nhân tạo giải quyết các vấn đề trí tuệ một cách thuyết phục, thì ai là bạn để nói rằng nó không suy nghĩ? Có thể nó nhiều hơn chỉ là một cách trộn lẫn các biểu đạt của con người. Có thể nó đang tổng hợp suy nghĩ con người theo cách thật sáng tạo, đang tạo ra các hạng mục và suy nghĩ mới mẻ. Có lẽ loại suy nghĩ của một máy không xác định thể xác đáng kể, hầu như chỉ tiếp xúc với thế giới thông qua ngôn ngữ là khác biệt hoàn toàn so với loại suy nghĩ được thực hiện bởi tâm trí con người, nằm trong một người di chuyển trong thế giới thực, nhưng nó vẫn là một dạng trí tuệ nào đó, hoạt động một cách nhanh hơn và tốt hơn đáng kể so với trí tuệ của chúng ta. Ngoài ra, Hofstadter nhấn mạnh, não nhân tạo này không bị ràng buộc bởi những yếu tố hạn chế não con người - như việc phải vừa vặn trong một cái đầu. Và, ông nhấn mạnh, chúng đang cải thiện với tốc độ đáng kinh ngạc, trong khi trí tuệ con người thì không.
Khó có thể bỏ qua lập luận đó.
Tôi không biết về bạn như thế nào, nhưng cuộc sống của tôi đã trở nên như vậy kể từ khi ChatGPT 3 được phát hành. Tôi thấy mình bị bao quanh bởi sự không chắc chắn cực đoan - không chắc chắn không chỉ về hướng đi của nhân loại mà còn về ý nghĩa của việc làm người. Ngay khi tôi bắt đầu nghĩ rằng mình đang bắt đầu hiểu những gì đang xảy ra, có điều gì đó bất ngờ xảy ra - các máy móc thực hiện một công việc mới, một người đứng đầu thay đổi quan điểm.
Bị đối mặt với những điều chưa biết, tôi trở nên phòng thủ và quả quyết. Tôi thấy mình bám chặt vào trung tâm sâu thẳm của tồn tại - lĩnh vực tâm trí rộng lớn, hầu như ẩn kín, từ đó những cảm xúc nảy sinh, từ đó nguồn cảm hứng tràn ngập, từ đó những ham muốn của chúng ta puli - phần chủ quan của tinh thần con người làm cho chúng ta trở nên không thể né tránh. Tôi muốn xây một bức tường xung quanh khu vực thánh này và nói: "Đây là bản chất của việc trở thành con người. Nó sẽ không bao giờ được sao chép bởi máy móc."
Nhưng sau đó một số kỹ sư công nghệ thông tin thì thì thì thầm: "Không, chỉ có mạng thần kinh, không có gì đặc biệt ở đó. Không có gì về bạn mà máy móc không thể vượt qua."
Một số công nghệ gia có vẻ lạ lùng khi họ nói như vậy. Ít nhất thì Hofstadter là một người nhân đạo đủ để bị kinh hoàng.
