中國作家協(xié)會主管

最近一段時間，人工智能和互聯(lián)網領域最火的話題莫過于智能對話系統(tǒng)“生成式預訓練模型聊天機器人”（ChatGPT，暫譯，以下簡稱“聊天系統(tǒng)”）。該系統(tǒng)不僅支持包括中文在內的多語聊天，而且還能夠扮演角色，甚至執(zhí)行編程。對于或詼諧或嚴肅的提問，它的表現令人感到驚艷：相當多的知識內容正確，語言表達更是流暢，并且還支持多輪連續(xù)聊天。因此，不少人感慨“自己已經沉迷于和它對話”“讓它替我編程、寫稿，效率提升”，甚至有人用它生成了某行業(yè)的咨詢報告，通過對話引導它生成的書也在亞馬遜線上出版。但在聊天系統(tǒng)流暢交談的表面下，其對人類知識的掌握仍不可靠。隨著測試的增加，也有越來越多的人感慨它“常常一本正經地胡說八道”。錯誤信息以純熟的語言表達出來，因而更加隱蔽。但無論如何，在不少人認定本輪人工智能泡沫開始破碎的時間點，它的誕生無疑是給人們打了一劑“強心針”。

人工智能所涉任務眾多，語言智能卻越來越成為方法、技術、應用方面的領先領域。正如聊天系統(tǒng)對自己的介紹：“我是一個語言模型。”該系統(tǒng)得以駕馭極其廣泛的知識內容，來自對互聯(lián)網文本內容的獲取和“理解”，進而形成了自己的“知識體系”。其中所涉技術十分復雜，但它的成功無疑以十分直觀的方式向我們展示了語言之于人類知識乃至人類思維的重要性。人工智能的核心在于知識的獲取、表示和運用，語言無疑是其中關鍵。教科書上“語言是人類最重要的思維工具”“人類九成的知識由語言承載”的論斷在人工智能系統(tǒng)的應用上得到了淋漓盡致的展現。知識和思維的承載物是語言，因而也賦予語言無可替代的資源屬性。智能技術的發(fā)展和落地，頻繁向傳統(tǒng)語言學的教育和研究發(fā)出信號：構建語言資源、挖掘語言中的知識、探索語言知識的形式表達，是最切中數字社會命脈的發(fā)展方向。

當然，正如過去幾十年中任何一項智能技術的成熟落地一樣，聊天系統(tǒng)也引起了一波“失業(yè)潮”的輿論。這樣的擔心實不必要。過去幾十年里，智能技術成熟引起的“失業(yè)潮”幾乎從未出現，短期內或許會攪動局部行業(yè)，但長期來看卻相反。技術應用本身也催生了大量新崗位，例如聊天系統(tǒng)的研制本身依賴于海量的人工數據標注和反饋，數據標注師和測試員崗位需求巨大。

更深層次來看，與聊天系統(tǒng)強大的語言生成能力不匹配的是它對知識的真正掌握程度。大量模棱兩可乃至錯誤的信息混雜在流暢的對話中，反而令其更加難以被發(fā)現。誠如清華大學馬少平教授所說：“人工智能最大的問題是不知道自己不知道什么，也不知道自己真知道什么，什么問題都能回答，結果如何就不得而知了。”在一般性知識極易獲取，復雜知識參差不齊的背景下，人類專家的專業(yè)判斷力和經過思考加工的準確回答，更顯彌足珍貴。人工智能諸多技術“黑箱”帶來的不確定性，終究還需要人類專業(yè)、全局判斷來化解。從這個層面上講，“自知”的人類永遠不可或缺。

也恰恰因為技術“黑箱”的存在，人類才需要不斷從自身、從技術去尋求可靠、可信的技術和技術使用方式。可信的人工智能、可信計算成為融合技術、倫理的重要領域，并受到越來越多的重視。更宏觀的人工智能倫理和治理工作也早已被納入科技管理的視野。挽救“失足系統(tǒng)”，矯正“智能體歧視”也許不再是比喻，而將成為使用者、從業(yè)者和治理者都必須面對的問題。

（作者：饒高琦，系北京語言大學漢語國際教育研究院助理研究員）