Trong câu chuyện khoa học viễn tưởng kinh điển "Robbie" của Isaac Asimov, gia đình Weston sở hữu một robot làm nghề bảo mẫu và bạn đồng hành cho con gái thông minh trước tuổi, Gloria. Gloria và robot Robbie là bạn; mọi quan hệ giữa hai người được xây dựng trên tình yêu và sự chăm sóc lẫn nhau. Gloria coi Robbie là người chăm sóc trung thành và chu đáo của mình. Tuy nhiên, bà Weston lo lắng về mối quan hệ "không tự nhiên" này giữa robot và con gái mình, và e ngại về khả năng Robbie gây hại cho Gloria (mặc dù nó đã được lập trình để không làm như vậy); rõ ràng bà ta ghen trên. Sau một số nỗ lực thất bại để cai nhận Gloria khỏi Robbie, cha cô, bực tức với sự phản đối của mẹ, đề nghị thực hiện một chuyến tham quan nhà máy robot – Gloria sẽ được thấy rằng Robbie chỉ là một robot sản xuất, không phải một con người, và từ đó Gloria sẽ từ bỏ tình yêu với nó. Gloria phải hiểu cách Robbie hoạt động, cách nó được tạo ra; sau đó cô ấy sẽ hiểu rằng Robbie không phải là người mà cô nghĩ. Kế hoạch này không thành công. Gloria không hiểu được Robbie hoạt động "thực sự" như thế nào, và theo một cú twist, Gloria và Robbie trở thành bạn tốt hơn đồng thời. Bà Weston, đám đông, bị đánh bại một lần nữa. Gloria vẫn "mắc mớ" về ai là Robbie "thực sự".
Moral của câu chuyện này là gì? Quan trọng nhất là những người tương tác và giao tiếp với những người đại biểu nhân tạo mà không biết (hoặc không quan tâm) cách họ hoạt động "thực sự" bên trong sẽ phát triển quan hệ đặc biệt với chúng và gán cho chúng những phẩm chất tâm học phù hợp với mối quan hệ của họ. Gloria chơi với Robbie và yêu nó như một người bạn; nó quan tâm đến cô ấy và cũng thế. Có một vũ điệu giải nghĩa mà Gloria thực hiện với Robbie, và hoạt động và bản chất nội tại của Robbie không liên quan đến nó. Khi có cơ hội để tìm hiểu chi tiết này, bằng chứng thêm về chức năng của Robbie (sau khi nó cứu Gloria khỏi tai nạn) làm sao chứng làm phân tâm và ngăn cản Gloria tìm hiểu thêm.
Một cách triết học, "Robbie" dạy chúng ta rằng khi gán một tâm trí cho một sinh vật khác, chúng ta không đang đưa ra một tuyên bố về loại thứ mà nó là, mà đang biểu lộ sự hiểu rõ cách hoạt động của nó. Ví dụ, Gloria nghĩ rằng Robbie thông minh, nhưng cha mẹ cô ta cho rằng họ có thể giảm bớt hành vi thông minh của nó xuống thành các hoạt động máy móc cấp thấp hơn. Để nhìn nhận điều này một cách rộng hơn, chú ý đến trường hợp phản ngược khi chúng ta mô tả những phẩm chất tâm học cho chính bản thân mình mà chúng ta không sẵn lòng gán cho các chương trình hay robot. Những phẩm chất này, như trí tuệ, trực giác, nhìn nhận, sáng tạo và hiểu biết, đều có điểm chung này: Chúng ta không biết chúng là gì. Mặc dù những tuyên bố hoành tráng thường được nhiều nhà thần kinh học và tâm lý học kinh nghiệm và đa dạng người công nhận, những lời khen tự hướng này vẫn chưa xác định được. Mọi nỗ lực để mô tả điều này đều sử dụng nhau ("trí tuệ thực sự yêu cầu sự nhìn nhận và sáng tạo" hoặc "hiểu biết thực sự yêu cầu sự nhìn nhận và trực giác") và liên quan đến, thậm chí đòi hỏi, sự vẫy vùng rộng lớn.
Tuy nhiên, dù chúng ta không chắc chắn chất tính chính xác là gì hoặc nó hoạt động dựa trên gì, bất kể phẩm chất tâm học là gì, cái gọi là "người thông thái được giáo dục" chắc chắn rằng con người có nó và các thiết bị như robot không có - ngay cả khi các máy hoạt động giống chúng ta, tạo ra những sản phẩm tương tự với con người và đôi khi sao chép các thành công con người được nói là cần sự thông minh, khéo léo hoặc bất kỳ phẩm chất khác nào. Tại sao? Bởi vì, giống như cha mẹ của Gloria, chúng ta biết (nhờ được người tạo ra hệ thống từ phương tiện truyền thông phổ biến) rằng "tất cả những gì chúng đang làm là [tra cứu bảng / hoàn thành nhắc nhở / tìm kiếm toàn bộ không gian giải pháp]." Trong khi đó, các phẩm chất tâm lý được áp dụng cho chính chúng ta định nghĩa chung quá mờ nhạt và sự vô hiểu của chúng ta về hoạt động tâm lý là vô cùng sâu sắc (hiện tại), chúng ta không thể nói "trực giác con người (nhìn nhận hoặc sáng tạo) chỉ là [điền vào chỗ trống với hoạt động thể chất tầm thường]."
Vì vậy, tranh luận hiện tại về trí tuệ nhân tạo diễn ra như hiện tại vì mỗi khi chúng ta đối mặt với một "trí tuệ nhân tạo", một cái mà chúng ta (tưởng) hiểu vận hành của nó, dễ dàng trả lời: "Tất cả những gì nhân tạo thật này làm là X". Mô tả từ loại này giải mã vận hành của nó, và do đó chúng ta rất chắc rằng nó không thông minh (hoặc có khả năng sáng tạo hoặc nhìn nhận). Nói cách khác, những sinh vật hoặc vật thể mà chúng ta hiểu và có thể chỉ ra và làm sáng tỏ hoạt động nội tại, cấp thấp hơn, đơn giản chỉ theo các mô hình đã biết của hoạt động vật lý tầm thường. Những thực thể có vẻ như thông minh mà chúng ta không hiểu được hoạt động nội tại của chúng có thể nhìn nhận, hiểu và sáng tạo. (Vẻ giống con người cũng giúp ích; chúng ta dễ dàng từ chối trí tuệ đối với các loài động vật không giống chúng ta.)
Nhưng ngay cả khi, giống như Gloria, chúng ta không biết được những gì hệ thống hoặc sinh vật hoặc vật thể hoặc người ngoài trái đất đang làm khi chúng tạo ra câu trả lời "thông minh" của chúng? Loại bẩm sinh này có thể đến gần rất nhanh. Hãy xem những phản ứng bối rối của một số nhà phát triển ChatGPT trước hành vi "xuất hiện" của nó, nơi không ai dường như biết ChatGPT đã tạo ra những câu trả lời như thế nào. Chúng ta có thể, tất nhiên, khẳng định "tất cả những gì nó làm chỉ là (một loại) hoàn thành nhắc nhở." Nhưng thực sự, chúng ta cũng có thể nói về con người: "Nó chỉ là sự phát hỏa của các tế bào thần kinh". Nhưng cả ChatGPT và con người đều không làm cho chúng ta hiểu như vậy.
The evidence suggests that if we were to encounter a sufficiently complicated and interesting entity that appears intelligent, but we do not know how it works and cannot utter our usual dismissive line, “All x does is y,” we would start using the language of “folk psychology” to govern our interactions with it, to understand why it does what it does, and importantly, to try to predict its behavior. By historical analogy, when we did not know what moved the ocean and the sun, we granted them mental states. (“The angry sea believes the cliffs are its mortal foes.” Or “The sun wants to set quickly.”) Once we knew how they worked, thanks to our growing knowledge of the physical sciences, we demoted them to purely physical objects. (A move with disastrous environmental consequences!) Similarly, once we lose our grasp on the internals of artificial intelligence systems, or grow up with them, not knowing how they work, we might ascribe minds to them too. This is a matter of pragmatic decision, not discovery. For that might be the best way to understand why and what they do.
Bằng chứng cho thấy nếu chúng ta gặp phải một thực thể phức tạp và hấp dẫn đủ độ mắt thấy thông minh, nhưng chúng ta không biết nó hoạt động như thế nào và không thể phát ra câu hỏi coi thường theo lối thông thường của chúng ta, "Mọi thứ mà x làm chẳng qua chỉ là y", chúng ta sẽ bắt đầu sử dụng ngôn ngữ của "tâm lý tư tưởng cổ truyền" để điều khiển tương tác với nó, hiểu lý do nó làm việc như thế nào và quan trọng hơn, cố gắng dự đoán hành vi của nó. Bằng tiền gương lịch sử, khi chúng ta không biết nguyên nhân gì đẩy động đại dương và mặt trời, chúng ta trao cho chúng tình trạng tâm lý. ("Biển giận dữ tin rằng những vách đá là kẻ thù tử thần của nó." Hoặc "Mặt trời muốn hoàng hôn nhanh chóng.") Sau khi chúng ta biết cách chúng hoạt động, nhờ kiến thức ngày càng tăng của chúng ta về khoa học vật lý, chúng ta giáng chức họ thành các đối tượng hoàn toàn vật lý. (Một động thái gây hậu quả môi trường thảm khốc!) Tương tự như vậy, khi chúng ta mất khả năng hiểu về bên trong của hệ thống trí tuệ nhân tạo, hoặc lớn lên cùng chúng mà không biết chúng hoạt động như thế nào, chúng ta cũng có thể quyền cho chúng tâm trí. Điều này là một quyết định hợp lý, không phải phát hiện. Vì điều đó có thể là cách tốt nhất để hiểu lý do và cái mà chúng làm.
