中國作家協會主管

從左至右：《人工智能：馴服賽維坦》《人工智能倫理引論》《人類未來》。均出版社供圖

剛剛結束的2020世界人工智能大會上，包括7位圖靈獎得主、1位諾貝爾獎得主、62位中外頂級院士在內的550余位嘉賓探討了人工智能技術的未來。伴隨著人工智能的高速發展，與倫理、責任相關的問題亦浮出水面。近期，上海交通大學出版社集中推出了《人工智能倫理引論》《人類未來》《人工智能：馴服賽維坦》等一批與AI相關新書，從道德倫理層面上探討了人工智能與人類的未來，并提出：人工智能的發展，人文社科學者和思想家們不能缺席。

根據分析報告，到2030年，全球得益于人工智能推動的經濟增長將高達15.7萬億美元，而中國將占7萬億美元。人工智能在教育、醫療、居家、養老、交通等方方面面都將極大地提高人類生活質量，勢必帶來一場前所未見的科技和產業革命。但同時，也有不少人對人工智能技術發展可能帶來的問題憂心忡忡。

人工智能實現后，它們會接受人類的道德觀念，還是發展出自己的道德觀？未來的人類如何與具備自主思維能力的人工智能相處？人類會與具備情感能力的機器人結為伴侶嗎？老人死后會把遺產留給一直在身邊照顧自己的智慧機器人嗎？在新出版的《人工智能倫理引論》一書中，上海交通大學杜嚴勇教授對人工智能可能帶來的問題進行了深入思考。他從機器人權利、機器人道德能力的建構以及人工智能安全問題等著手，提出了人工智能倫理問題的解決進路，包括道德責任、倫理設計、自反性倫理治理等內容，探討人工智能為什么發展以及怎樣才算是理想發展的問題。這是目前國內較為全面且深入闡述人工智能倫理學意義和實操案例的著作。

“要應對全球威脅，需要更多的技術，但這些技術需要社會學和倫理道德的引導。”曾任劍橋大學三一學院院長和天文研究所所長的英國皇家天文學家馬丁·里斯在《人類未來》一書如是強調。馬丁·里斯雖然樂觀預測了人類運用科學技術修復受傷的星球、改善生活狀況的前景，但同時 “謹以科學家、同時也是人類中的一名焦慮者的身份”去討論未來人類可能面對的問題。例如，隨著計算機技術、人工智能、生物技術等的發展，如若“插入”擴展記憶或將語言技能直接輸入大腦等成為現實，那么，“我是誰”這樣的哲學問題也因技術的發展而出現了新的語境，實際的人與“可能存在的人”的關系、機器智能與有機智能的關系等都成為新的倫理課題。

而《人工智能：馴服賽維坦》一書，則從產業格局、社會公正和人文倫理的層面，討論了人工智能的未來與我們每一個人，及與社會之間喜憂參半的關系。例如有學者就指出，大數據的未來不能僅僅掌握在那些數據公司手中。同樣的，人工智能和人工智能的未來也不能僅僅掌握在自然科學家、工程師和科技公司手中。因為這不僅是科技和科學家的未來，也是整個人類的未來。科學家和工程師可以掌控科技發展的技術走向，但不一定能深刻地理解科技對人類的復雜性影響。人文社科學者和思想家們不能缺席，而應該主動參與到影響人類命運和人類發展的大討論中。同時，書中提出的“趣緣合作”“數據生命體”“算法獨裁”“透明人”等一系列科技與人文碰撞而生的概念也十分有趣耐讀。