2025年9月7日，哥倫比亞大學終身人文講席教授劉禾、清華大學教授汪暉、作家格非齊聚上海圖書館東館閱劇場，以“數字時代和人的未來”為主題進行對談。本場活動為“我們時代的思想者”開幕論壇，特別邀請華東師范大學副校長雷啟立致開幕辭。

在數字技術深入滲透日常的當下，情感、記憶與無意識正不可避免地與算法發生糾纏，人機之間的界限也愈發曖昧。“弗洛伊德機器人”這一概念的浮現，不僅是技術發展的必然，更是人類潛意識的投射與映照。當智能機器不斷從“模仿人”走向“成為人”，我們不得不追問：在人機糾纏的回路中，“人”的意義是否正在悄然改變？今天，三位學者齊聚一堂，以不同的學科立場與經驗，重新思考人類與機器的共生困境，引出對當下與未來的深層追問。

本場活動由上海圖書館、華東師范大學國際漢語文化學院、華東師范大學中國語言文學系主辦，上海圖書館講座中心、華東師范大學遠讀批評中心、華東師范大學全球中文發展研究中心承辦。

華東師范大學副校長雷啟立致開幕辭

劉禾教授發言

華東師范大學遠讀批評中心同學帶來表演

以下為對談內容：

活動現場

汪暉：剛才我們看到了一場精彩的表演，劉禾老師在新書中也寫到過一位年輕的女病人和“伊莉莎”的人機對話。和機器對話很大程度上是和我們自己對話，就像照鏡子一樣。AI不僅能和我們對話，還能根據指令生成文章、繪畫和音樂，它仿佛成為了一面能動的、有生產能力的“魔鏡”。當我們越來越依賴機器這面魔鏡來表達和創造時，我們是在借助工具擴展自我，還是在將自我的定義權讓渡給一個由他人算法所定義的反射？我們該如何與這個“鏡中之我”保持一種健康、清醒的距離？如果像剛才這樣的對話繼續持續下去，是否可能變成我們看待自我的一種新的方式？劉禾教授，您怎么看待這個現象？

劉禾：約瑟夫·魏岑鮑姆（Joseph Weizenbaum）將歷史上第一個聊天軟件開發出來后，曾在采訪中提到，他有一天在辦公室發現自己的助手在和程序對話，正要湊近看時，助手說：“你別接近我！這是個人隱私。”魏岑鮑姆開玩笑說，這個隱私其實不那么隱私，因為他可以從后端了解聊天內容，結果助手大發雷霆。魏岑鮑姆說，人們，包括他的助手，都誤解了聊天程序的本質。在他看來，用戶和程序互動時，其實把自身的愿望、幻想和期待投射到了機器上。機器生成的文本語言非常模糊，這為用戶提供了廣闊的詮釋空間，就像人們去算命，在解讀算命先生話語的過程中，仍然會回到內心早已存在的答案。

汪暉

汪暉：讓我們從文學的角度回答一下這個問題。劉禾老師的書里談到了喬伊斯的《芬尼根守靈夜》，并指出現代主義文學的先鋒性與某種語言文字的隨機性相關，而這種隨機性如今已然可以技術化。格非老師，從您的寫作經驗來看，您認為文學創作中最核心的、最無法被技術替代的價值是什么？當世界的“真實性”越來越被數字幻象所中介，人類還有獨屬于“人類”的未來嗎？對于人類“認識自身”而言，講故事和形式實驗，何者更為重要？

格非：這是非常重要的問題。我花了十天時間讀這本書，其中有幾個方面和這個問題是密切相關的。第一，無意識與技術的關系。第二，從口語到書寫，再到計算機的信息處理，這個漫長的語言學過程中發生了什么？第三，現代主義文學和技術到底是什么關系？回到汪暉老師的提問，昨天我和李陀老師聊到這個話題，李陀老師說，他在讀馬克思的《關于費爾巴哈的提綱》時有一個信念，同時也是馬克思的經典說法，即認為我們認識世界的目的，就是為了改變這個世界。可是德國學者君特·安德斯的說法與此不同，他認為，我們認識世界的目的不是為了改變世界，因為世界一直在改變。劉禾老師在書里提到了《莊子》中關于機械、機事和機心的寓言，這恐怕是海森堡特別關注的一個問題，其中就涉及語言和無意識。我作為一個小說家，如何理解喬伊斯？比如他為什么寫出了所有作家都公認的寫實主義力作《都柏林人》《青年藝術家的畫像》后，還要重新尋找新路去寫《尤利西斯》？《尤利西斯》實際上做了非常巨大的冒險，這個冒險在世界范圍內引起了爭議，但他后來又去做了關于《芬尼根守靈夜》的更極端的嘗試。劉禾在書中把它稱作語言內部機制的極端冒險。我經常說，如果把我心中的文學壓縮成兩本小說，一本是列夫·托爾斯泰的《戰爭與和平》，第二本就是《尤利西斯》，或者《芬尼根守靈夜》。前面一本代表了整個現實主義的最高成就，而喬伊斯涉及了最核心的東西，即“什么東西不能被AI取代”的問題。我認為一個人，作為個體的生存體驗，那些剎那間的感覺和感知，是機器所不能取代的。并且我們的體驗并不能隨時取用，而是把它存入記憶當中。可是從尼采，到弗洛伊德，再到德國古典哲學觀念論時期的謝林，他們都有一個共同的說法——記憶從一開始就是無意識。我們不能認為記憶是一個完全理性的、不受控于意識的行為。寫作最迷人的部分就是記憶的無意識部分，因為人在行為當中，比如談戀愛，你覺得高興，但這些事情很快就會被遺忘。如果某個行為在大腦中留下印記，那這個印記就會被歸入無意識的范疇，比如受到窘迫、挫折、巨大的悲傷，或是不能直視的生活場景。當然，如果人的精神出現問題，這是因為無意識的內容侵入了意識的領域。文學在某種意義上就是如此，里面有一個巨大的無意識空間，人們無法完全按照基本語義和它表達的內容來呈現。真正迷戀喬伊斯的人不一定是文學家，而是科學家。法國大革命有一批革命者，他們大部分原先都是色情小說作家，所以文學和技術、政治，從來都是不能分開的。回到汪暉老師的問題，我們需要去探索一個空間，即拉康后來揭示的，無意識的茫茫黑夜。文學的一部分受理性控制，更多的部分是尼采說的，狄奧尼索斯的創造性智慧，它被黑暗所籠罩，需要通過寫作把它召喚出來，才能獲得喬伊斯式的、真正意義上的書寫自由。

格非

劉禾：文學在我這本書中占有很大的比重，而我之所以在這本書中加入文學，并不是把文學作為語料庫使用。我在書中提到俄國數學家馬爾可夫（Markov），他的“馬爾可夫鏈”（Markov Chain）是很早期的數學模型，而這來自于對普希金的詩《葉甫蓋尼·奧涅金》中元音和輔音的計算。文學是先于數字技術的，尤其是現代主義文學。喬伊斯在《芬尼根守靈夜》這本幾乎不可讀的小說里做了一個數學實驗，而這就是為什么“信息論之父”克勞德·香農把喬伊斯這本書拿來計算熵（entropy）和冗余度（redundancy），喬伊斯這本書在他的通信理論研究中起了巨大作用。另一個話題關于人和工具。教科書給“人”的定義通常是“能夠制造和使用工具的動物”，后來我們發現鳥類和別的動物也會使用工具時，很少反省教科書的定義存在錯誤，而是反過來贊美那些動物和鳥類的智慧。但仔細想想，我們真的在贊美動物和鳥類嗎？不，我們贊美的是自己，好像人類是世間萬物的衡量標準。這是一個哲學問題。

劉禾

汪暉：兩位都提到了無意識，提到了某些經驗和感性。不過劉禾老師提到一個新的無意識概念——“控制論無意識”，也就是格非老師剛才提到的，作為作家所受到的一個挑戰，就來自于控制論無意識。劉禾老師，我們能夠用心理分析的方法對機器人進行分析嗎？

劉禾：我認為用精神分析的方法分析機器人，就等于分析我們自己。

汪暉：劉禾老師在書中提到“人機擬像”的無限反饋回路，即機器模仿人，人再模仿機器，這個過程循環往復，最終使得“自然人”的概念變得可疑。我們今天討論的是人的未來，這讓我想起更早時期的哲學辯論，比如笛卡爾說動物是機器，人不是機器。為什么？首先因為人有理性。他所說的理性是能夠計算，能夠通過人的精神表達出一種完美的宇宙世界。第二個是人有語言。理性和語言在當時構成了人區別于動物的標記。在這個意義上，他模糊了有機和無機，動物如果是機器的話，有機和無機的邊界就被突破了。但是他守護著人和動物之間、理性和語言的邊界。后來的拉美特利，既從笛卡爾的理論來，又反駁了笛卡爾，提出人也是機器，因為人有感性。比如夢幻，睡夢中的幻覺和人清醒時的狀態之間，也沒有清晰的邊界，所以那一部分是依托于人的肉身的。換句話說，精神和肉身無法分離。現如今“人機擬像”的無限反饋回路造成了人和機器的并存，似乎能夠隱隱約約地感受到邊界的動搖。所以，我們是否正在經歷一個二者邊界徹底溶解的“后人類”過程？在這樣的圖景下，建立在人類例外論和個體自主性基礎上的傳統倫理框架，是否正在面臨挑戰？我們需要怎樣的新倫理來應對這種根本性的轉變？

劉禾：我始終在焦慮人的主體性的安置問題，因為現在人和機器的界限很不明確。但這并不是說我們分不清人和機器，而是如果要重新定義“人”的話，人已經不是一個脫離機器存在的主體，必須存在一個加號。比如我和我的手機是一體的，如果手機突然丟了，就好像是自己掉了一塊肉，因為我的記憶全都在手機里，已經沒有辦法界定我和機器之間的界限在哪里了。很多人說人機融合了，人可以植芯片，人類可以不朽，但我不那么樂觀。這本書提出的是一種哲學的批判，人完全有可能會變成“弗氏人偶”。就像情侶在一起坐在一起喝咖啡的時候，兩個人都對著自己的手機，這個圖景是值得我們深思的。

劉禾著《弗洛伊德機器人》

汪暉：接著從另一個角度問格非老師。“人機擬像”或它的增強，現在能不能實現、何時實現，還依舊是一個問題，不必要馬上回答。但是人工智能創造的虛擬現實，這一定程度上已經成為年輕人生活中的一部分。所謂“虛擬現實”、“增強現實”、“元宇宙”等概念都在模糊現實世界和鏡像世界的關系，人工智能似乎變成了有自己生命、思維、方式的另外一種東西。作為一個長期通過“虛構”來探尋“真實”的小說家，您如何看待這種技術帶來的現實感變遷？這是人類想象力的偉大延伸，還是一種令人擔憂的、對現實世界的逃避甚至替代？在這樣的背景下，小說家的虛構世界還能為我們理解現實提供怎樣的獨特價值？

格非：我和劉禾老師在某種意義上有相似點，就是悲觀。在文學這個領域，我覺得我們可以做的部分已經很有限了。剛才我提到喬伊斯，喬伊斯為什么要做這么大膽的實驗？我覺得是因為技術的進步和發展。剛才汪暉老師提到的“人機擬像”等問題，這些都不是到現代社會才發生的，從古至今一直有漫長的討論。有一個很重要的物理概念叫“涌現”（emergence），即在一定的系統條件下，事物本身會發生突變。最近帶清華的學生們重讀了《戰爭與和平》，我認為《戰爭與和平》寫的是突變，是通過拿破侖的戰爭、通過法國大革命、通過啟蒙運動，讓整個世界發生巨變。戰爭把一個從西向東的歷史運動帶到俄羅斯，然后由于庫圖佐夫擊敗了拿破侖，俄國軍隊又從東向西打到了巴黎。然后他們受到巴黎進入現代世界的誘惑，回到俄國以后成立了十二月黨人，開始起義。所以托爾斯泰在寫《戰爭與和平》的時候，已經準確預料到了1917年的革命。我們在討論這些革命的時候，會討論很多歷史運動、社會變革等，但我們很少討論技術問題，比如遠洋貿易、資本主義的產生、蒸汽機的發明。如果從這個角度看《戰爭與和平》，就能發現托爾斯泰寫的是對一個歷史運動本身的描述。用兩個概念概括的話，就是“系統”和“個人”。雖然相隔時間不長，但在喬伊斯的筆下，系統和個人的關系又發生了根本性巨變。所以我認為，技術變革所導致的社會的系統性變革，其速率會越來越快，甚至快得讓人無法想象。“弗洛伊德機器人”的背后，實際上是一個死亡驅動力，是一種無意識。去年，有一位科學家在《科學》雜志上發表了一篇關于熱力學第二定律的論文，他在討論人類未來時提出，人的技術只不過加快了這個進程而已。在這樣一個科學技術不斷發生突變，整個社會、人與人之間的交往、信息傳播等所有領域都發生根本性扭轉的狀況下，我們的身份都成了問題。比如，我是什么身份？我到底是誰？對于系統來說，系統不認為你是男的、女的、官員、教師，或父親，系統只認為你是龐大系統里的一個小點。在這樣的情況下，如果文學在進入社會現實時不尋求變化，而仍然用四平八穩的老方式來描述現實，你不覺得可笑嗎？法國哲學家德勒茲對“奇點”（Singularity）一詞做了很重要的解釋，今天的文學如果找不到奇點，創作就沒有了意義。喬伊斯實際上也在尋找這個奇點。比如上次和汪暉老師聚會時，我聊到了麥爾維爾的《白鯨》，他為什么要寫《白鯨》？因為他找到了白鯨自動奔赴某個地方去毀滅的點。麥爾維爾還寫過一篇更奇怪的小說，就是《抄寫員巴特比》。今天重讀《抄寫員巴特比》這篇短篇小說，我們也會發現他介入了一個點。鮑德里亞說，你做任何事情，系統都不會有反應。一個人可以反抗所有人，但是反抗不了系統。系統非常強大，只有找到奇點才能突破。按照鮑德里亞的說法，巴特比在美國、歐洲都被認為是一個恐怖主義分子，為什么？因為他不消費。不消費對于系統的影響是最大的，一個人不消費、不工作，什么都不干，就在律師事務所呆著，這是他寫的點。喬伊斯是一種方法，麥爾維爾也是一種方法。我覺得當代作家如果要繼續寫作的話，一定需要找到這個奇點，使得創作和系統的關系變得更加有意義。

列夫·托爾斯泰著《戰爭與和平》

劉禾：現在的問題是，如果AI可以做藝術，那我們就得問藝術變成了什么？如果AI能寫作，寫作變成了什么？如果AI能冒充人，那人又是什么？人工智能發展所提出的最根本的哲學問題就在這里。我們現有的關于人生、生活的意義，關于人類文明創造的各方面的文化、社會、政治等所有東西，會不會在這個系統面前變成另外一種東西？這是需要思考的問題，而不是簡單地認為AI可以畫畫了、可以寫作了、可以替人翻譯了。寫作是什么？藝術是什么？人是什么？每次面對新技術時，我們都必須重新提這些古老的問題。

汪暉：格非老師提到了《戰爭與和平》，提到了解釋《戰爭與和平》的技術因素，我們可以想象托爾斯泰對此的回應。托爾斯泰對和平的理解，及其背后的宗教關懷，存在一個想象中的世界。格非老師還提到了系統，讓系統中斷的最大威脅來自于停止消費。但我們也知道，今天的貿易戰在一定程度上與此相關。換句話說，所有尖端技術，尤其是智能技術，越來越像是軍事競爭邏輯背后牽動的。這個話題和劉禾老師直接有關，劉禾老師在書中指出，“控制論無意識”網絡實則有一個源自冷戰軍事需求的技術理性作為根基，通過全球性的知識流通與翻譯，構建了一種跨越東西方的普遍性。在如今的后冷戰世代，當人工智能技術本身正在演化為新一輪全球競爭的焦點時，我們是否還有可能超越這種冷戰技術邏輯？這種超越是在某種對立的基礎上越走越遠，還是有可能在《莊子》寓言和海森堡的反思之上重建另一種總體性？我們該從哪里尋找？

劉禾：這個非常困難，相當于在競爭之外尋找另一個可能性。我寫這本書時做了大量的檔案研究，通信技術，包括AI背后的各種控制論等，所有技術都是冷戰的產物。90年代時，我在伯克利加州大學任教，有人告訴我，70年代、80年代在伯克利畢業的理工科學生，如果想在硅谷一帶找到工作的話，沒有辦法繞開軍事技術，也就是說找不到任何一個和軍事研究沒有關系的科技領域的工作。現在中美在AI研究方面存在競爭，我看不出來在競爭之外還有什么發展的可能性，這很危險。冷戰時期是美國和蘇聯之間的競爭，當時的機器翻譯就是為了處理情報，美國國防投入大量資金來發展機器翻譯。現在的ChatGPT等工具翻譯得很流暢，其實這背后和地緣政治等方面有密切的互動。

格非：我稍做一點補充。技術有一個很大的特性，它涉及到權力，而且是根本性的霸權。各個國家都心照不宣地把所有技術都隱蔽起來，大家在做一個非常可怕的競賽，就像當年的曼哈頓計劃一樣。原子彈剛發明的時候，大家都爭先恐后，所有技術的意圖都很清晰，誰先發明原子彈誰勝。在今天的技術層面，如果有國家率先掌握遠超其他國家的新技術，那么大家可以想見其帶來的力量和權力。如果所有人都這么思考問題的話，確實會帶來剛才劉禾老師說的那種可怕的場景。杰弗里·辛頓到中國來提了一個方案，我覺得很有道理。他說，每個國家在發展自己的核心技術，這是可以理解的，因為發展技術的目的是為了避免被別人奴役，但是大量的其他技術應該及時分享。我覺得應該對技術進行不同的分層，比如今天這樣的討論就特別重要。文化、文學上的討論，使得我們在關心技術發展時，不僅僅關注技術迭代的速度，更要像劉禾老師所倡導的那樣，從哲學、心理學、歷史學的角度，來認真思考技術對當今社會帶來的諸多問題。

汪暉：感謝兩位老師的發言。下面的的問題和語言有關。劉禾老師在書中批判了以“機識英文”為代表的拼音文字表意化所蘊含的帝國普世主義，它試圖將一切語言和生命形式都納入其可計算的單一系統。中文作為一種非拼音文字系統，在數字時代面臨著被這種普世主義“收編”（如通過編碼和輸入法）的強大壓力。您認為，中文的文字特性及其背后的思維模式，是否可能為抵抗這種數字普世主義提供某種可能性？第二個問題問格非老師，在這樣一個背景下，持續性的、具有創造性的漢語寫作，在數字時代具有什么樣的意義和可能性？

劉禾：從理論上來說，香農當年發明通信數學公式的時候，往26個英文字母里加了一個字母，這第27個字母是“空格”。他說，英文的字母表是27個字母，在這個基礎上，才有通信的數學模式。所有的語言和文字最后都會納入編碼模式，因此它在機器里是具有普適性的。當然，每個漢字也有自己獨特的編碼，能夠進入統一的系統，在這個意義上，漢字不能作為一種另外的資源來思考普適性問題。但是另一方面，漢字在早期人工智能的研究中起了很大的作用。50年代，英國劍橋語言研究小組在做機器翻譯研究時，發現漢字和漢語主要依靠組合邏輯（combinatorial logic），而非命題邏輯（propositional logic）。對比來說，英文和法文很難將詞與詞、句與句對應，因為詞是多義的。因此他們提出了一系列語義網絡，如今的向量空間等方面的人工智能研究，都和他們曾經的這類工作有關。從這個角度來看，漢語對人工智能的貢獻是持久的，因為它建立在對語義的理解之上。

克勞德·艾克伍德·香農

格非：我個人認為，我們今天的寫作，尤其是使用語言的策略，遇到了多重的挑戰。比如，我們很多作家根本不像過去那些作家一樣，要通過自己的經驗積累才能獲得寫作素材。例如新聞媒體信息就能提供很多素材，這讓寫作在某種意義上變得非常容易，因為它提供素材的同時，還提供大量的附加信息。比如你對醫療行業不了解，通過Deepseek或其他軟件，完全可以把自己變成一個專家，可以描述一個原本不熟悉的門類或一種社會生活，這在過去是不敢想象的。但它同時也造成一個問題，那就是，如果AI也能做的東西，做得會比一般作家好。這樣一來，一個人通過長期的語言培訓產生的語感會消失，語感不僅僅代表語言訓練得多好，更重要的是代表了一個人和世界的特殊關系。第二，寫作過程中，經常會有突發奇想，進入一個自由的狀態。福柯有一個非常著名的說法，如果你找到了一個很好的詞，你怎么知道這個詞不是從遠方飄過來，經過了你的大腦？博爾赫斯有一句更加精簡的名言：“作家是神的抄寫員”，神就是靈感。當人處在出神的狀態，語言的敏感性是不一樣的。但是大家也都知道，這樣的寫作在今天沒有前途，因為能夠精細把握語言的讀者越來越少。在這種情況下，一般性的寫作會被人工智能取代，如果要做精深的探索，表達個性，將會變得非常困難。當然，我認為寫作是絕對有意義的，這個沒什么好商量的，萬一有一天機器寫得比我好，我也不會放棄寫作，因為寫作是我的權利，它給我帶來巨大的快樂。唯一的問題是，我們的作品很可能會回到李白、杜甫的那個時代，只被很少的人閱讀，但這也沒什么不好。今天有一些年輕的寫作者，他們寫了很多不發表的作品，給朋友們看一看，印個一兩百冊，這種寫作在將來會變得非常普遍。寫作不是一種比賽，而是為了把你從焦慮中、從無聊中拯救出來的一種游戲，這個權利你不能放棄。我覺得只需要我們在被讀者認可這方面適當降低一點期待值就可以了，全國有14億人，如果有10萬人買你的書，這個數量也不小。我們需要重新調整跟時代的關系，憑著自己的內心，從中來確定我們的語言策略，否則的話，寫什么都沒有意義。我很迷戀寫作帶給我的巨大激情，所以我覺得盡管我們面對很多困難，但還是有辦法克服的。

汪暉：格非老師的話給了我們一點信心。清華大學曾經有一個討論人工智能的活動，我觀察發現，從事技術的科學家到今天為止，主要還都在從事著工具性的發展項目。而哲學家、倫理學家更傾向于把人工智能看作是和人類幾乎并置的他者，這是人類歷史上從未出現過的現象。但這個現象背后存在著對所謂通用人工智能，和超級人工智能的恐懼，因為它不但能夠達到人的智能水平，甚至可能超過人。劉禾老師的書中也提到了“恐惑”（uncanny）這個概念。弗洛伊德提的傳統的“恐惑”體驗中，那個“詭異的他者”既熟悉又陌生，但其“他者性”的邊界是清晰的。然而，當前AI的目標是創造“無所不知、無所不能”的通用智能，其本質是一種沒有內在性、沒有潛意識、卻又能完美模擬所有人類表達形式的存在。我們不知道人工智能發展的奇點有沒有到來，至少到今天，恐怕很難作肯定的回答，但它的速度之快使人們感覺它要到來了。像剛才劉禾教授提到的“控制論無意識”一樣，它帶來的是無意識，但這又不是我們通常所說的意識和無意識。也就是說，它沒有所謂內在性，沒有真正的“自我”（self），沒有所謂的“內在深度”（inwardness）。這是否會導致我們傳統的關于他者性的討論也消失，轉化為另一種東西？我們過去講“他者”都是講其他的宗教、其他的民族、其他的地區，我們討論像愛德華·薩義德（Edward Said）討論的那些他者化問題。可是我們今天面臨的是完全不一樣的他者，那他所帶來的對人類的不安全感，一定程度上也會塑造我們的自我意識。我們該怎么去理解這個自我意識？此外，劉禾教授在書中非常強調人與機器持續的循環模仿，我們都知道，人工智能帶來了很多便利，但同時也帶來很多危險。客觀地講，我們面臨的危險包括兩類，一是日常社會化的系統問題，比如高效率的人工智能導致大規模的失業，我們該怎么處理失業問題？又比如無人駕駛的汽車撞死人了，如何認定法律糾紛和責任問題？二是技術性的人工智能失控，機器人“發瘋”等等。今年暑假前，圖靈獎得主姚期智教授說，現在的問題不是理論上的，而是實際上已經出現了。那么接下來，社會科學家要提出對這個問題的治理模式，以及一系列人工智能的治理方式；哲學家和倫理學家要討論新的AI倫理該如何成型。德國的倫理學家曾提出過一個問題，我認為跟劉禾教授討論的問題具有相似性。他們都強調，AI倫理無法運用迄今為止已經發展出的規范倫理學、實踐倫理學，只能在互相模擬和相互互動中產生。這一方面提出了巨大的挑戰，但另一方面，這使我們對它的把握具有高度的不確定性，又會增強“恐惑”現象，您能否分析這個現象？

劉禾：我們平時看到的機器人形象大多是非常可愛的，但其實從70年代開始，一些制造機器人的公司和大學實驗室，已經在討論一個叫“恐怖谷”（the uncanny valley）的概念。最早提出這個概念的是一位日本的機器人工程師，叫森昌弘。森昌弘從弗洛伊德得到啟發，他說，我們可以把機器人的手做得跟人一樣，靜脈、肌肉、肌腱、指甲，甚至膚色，全都一模一樣，但是當你去和它握手的時候，它是冰涼的。這是非常恐怖的。森昌宏說，機器人產業必須制造一個標準，一個衡量在什么情況下，人類和機器人之間的互動會落入恐怖谷的標準。后來，好萊塢電影工業也納入這個標準，他們用這類技術生產電影，思考怎樣能讓數字演員像真的，但又不落入恐怖谷。這是機器人實驗室里出現的理論思考，而這個理論思考背后，也有很多關于人和機器的關系、人的倫理如何被納入機器人設計的思考和討論。倫理這個問題經常被大眾探討，尤其是有一些事件發生的時候。例如埃隆·馬斯克的Grok系統，前一陣突然冒出了白人至上主義、種族主義特征的語句，大家會問“你怎么能讓你的AI系統說這樣的話”。但我認為，最大的問題不是AI系統，而是我們人類自己的倫理思考不到位。我們自己尚且沒有解決種族主義、白人至上主義這些巨大的社會問題和心理問題，憑什么把它轉嫁給AI系統？AI反照的是我們自己，讓我們得以重新審視什么叫人類的能力。