(圖片來(lái)源：圖蟲(chóng)創(chuàng)意）

張健康/文

以ChatGPT為代表的人工智能的快速升級(jí)和一大群業(yè)內(nèi)大佬的密集示警，突然把原本屬于冷門(mén)學(xué)科的科技哲學(xué)推到了知識(shí)舞臺(tái)的中央。

人工智能無(wú)疑是當(dāng)今世界最引人矚目的前沿科技之一，然而接管輿論場(chǎng)的卻不是自然科學(xué)家，而是科技哲學(xué)家。背后的邏輯應(yīng)該不難理解。畢竟，玩游戲的是自然科學(xué)家，但最終買(mǎi)單的是整個(gè)人類(lèi)，而科技哲學(xué)家有義務(wù)為人類(lèi)站好崗。

人工智能（Artificial Intelligence）的概念被提出來(lái)，至少可以追溯到1956年夏天美國(guó)達(dá)特茅斯學(xué)院數(shù)學(xué)教授約翰·麥卡錫（John McCarthy）發(fā)起組織的一次學(xué)術(shù)研討會(huì)。作為知識(shí)論傳人的科技哲學(xué)家們自然不會(huì)放過(guò)對(duì)人工智能的關(guān)注。只不過(guò)，長(zhǎng)期以來(lái)人們認(rèn)為人工智能還只是一個(gè)知識(shí)論問(wèn)題，雖然有過(guò)對(duì)人工智能可能造成的社會(huì)、經(jīng)濟(jì)、政治和文化后果的預(yù)警甚至批評(píng)，但更多的還是對(duì)人工智能的生產(chǎn)方式、計(jì)算能力、認(rèn)知機(jī)制的分析。時(shí)過(guò)境遷，大概是人工智能阿爾法狗（AlphaGo）分別于2016年3月和2017年5月先后戰(zhàn)勝韓國(guó)圍棋棋手李世石和中國(guó)圍棋棋手柯潔之后，世人突然發(fā)覺(jué)，人工智能已經(jīng)由一個(gè)知識(shí)論問(wèn)題升級(jí)為一個(gè)存在論問(wèn)題。于是，討論問(wèn)題的氣氛不再輕松，越來(lái)越多的聲音試圖用嚴(yán)厲的警告阻止人工智能技術(shù)向控制人類(lèi)甚至毀滅人類(lèi)的方向發(fā)展。

中國(guó)社會(huì)科學(xué)院學(xué)部委員、哲學(xué)研究所研究員趙汀陽(yáng)無(wú)疑是最近幾年參與人工智能討論最活躍、最重要的學(xué)者之一。2017年以來(lái)，他利用各種機(jī)會(huì)、從科技哲學(xué)的立場(chǎng)出發(fā)，發(fā)表了多篇有影響力的文章，對(duì)人工智能的發(fā)展前景及可能造成的社會(huì)、經(jīng)濟(jì)、政治和文化后果提出了獨(dú)立的看法。2022年9月，他從已發(fā)表的文章中精選了10篇主要討論人工智能的文章，結(jié)集成《人工智能的神話或悲歌》一書(shū)，由商務(wù)印書(shū)館出版發(fā)行，算是對(duì)他近幾年對(duì)人工智能的思考的一次總結(jié)。

按照趙汀陽(yáng)的判斷，人工智能雖然已經(jīng)從一個(gè)知識(shí)論問(wèn)題升級(jí)為一個(gè)存在論問(wèn)題，但是奇點(diǎn)（singularity）尚未出現(xiàn)，人類(lèi)還有時(shí)間思考如何防止人工智能走向人類(lèi)不愿看到的結(jié)果。因此，我們同時(shí)推薦了另一本科技哲學(xué)的重要作品——美國(guó)學(xué)者約翰·特雷希（JohnTresch）的著作《浪漫機(jī)器：拿破侖之后的烏托邦科學(xué)與技術(shù)》。該書(shū)對(duì)拿破侖·波拿巴倒臺(tái)之后到他的侄子夏爾-路易-拿破侖·波拿巴（即拿破侖三世）發(fā)動(dòng)政變顛覆法蘭西第二共和國(guó)建立法蘭西第二帝國(guó)的30多年時(shí)間里（1815年6月-1853年12月），法國(guó)工業(yè)革命與浪漫主義社會(huì)思潮相遇所帶來(lái)的社會(huì)、經(jīng)濟(jì)、政治和文化變革的生動(dòng)描述和獨(dú)到分析，可能對(duì)我們思考人工智能發(fā)展所帶來(lái)的存在論問(wèn)題，會(huì)有一定的參考意義。

《人工智能的神話或悲歌》

趙汀陽(yáng)/著

商務(wù)印書(shū)館

2022年9月

人工智能奇點(diǎn)臨近？

自從“奇點(diǎn)”概念1958年被美國(guó)數(shù)學(xué)家、“計(jì)算機(jī)之父”約翰·馮·諾依曼（John von Neumann）引入科技領(lǐng)域以來(lái)，人們就不斷猜測(cè)：人工智能的奇點(diǎn)是什么？什么時(shí)候會(huì)到來(lái)？到來(lái)之后會(huì)怎么樣？

根據(jù)馮·諾依曼的朋友、美籍波蘭裔數(shù)學(xué)家、物理學(xué)家斯坦尼斯拉夫·馬爾辛·烏拉姆（Stanislaw Marcin Ulam）回憶：“我們有過(guò)一次關(guān)于科技加速發(fā)展以及人類(lèi)生活方式發(fā)生變革的對(duì)話。”馮·諾依曼告訴他，“仿佛我們正在接近人類(lèi)發(fā)展史上的某個(gè)‘本質(zhì)奇點(diǎn)’，一旦越過(guò)該奇點(diǎn)，我們目前已知的人類(lèi)活動(dòng)就會(huì)不再延續(xù)下去。”

馮·諾依曼沒(méi)有具體闡釋那個(gè)“奇點(diǎn)”是什么，但因?yàn)橛?jì)算機(jī)科學(xué)的傳奇人物艾倫·圖靈（AlanM. Turing）的前同事、英國(guó)數(shù)學(xué)家和密碼學(xué)家、“智能爆炸”的提出者歐文·約翰·古德（Irving John Good）1966年曾提出一個(gè)超智能機(jī)器的概念，說(shuō)它是“一種可以遠(yuǎn)遠(yuǎn)超過(guò)任何人的智力活動(dòng)的機(jī)器，無(wú)論人們有多么聰明”，一些研究者沒(méi)有仔細(xì)閱讀古德后面的話——它既有記憶又能思考，能夠自我學(xué)習(xí)——就據(jù)此認(rèn)為人工智能發(fā)展的奇點(diǎn)是機(jī)器達(dá)到“強(qiáng)人工智能”時(shí)，智商超過(guò)人類(lèi)，從而對(duì)人類(lèi)社會(huì)造成巨大的沖擊。

趙汀陽(yáng)顯然不能認(rèn)同以“智力”判別奇點(diǎn)的觀點(diǎn)。他明確提出，幾乎可以肯定，未來(lái)的人工智能的“能力”必然遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)，“難道人類(lèi)不是寄希望于人工智能的超強(qiáng)能力來(lái)幫助人類(lèi)克服各種困難嗎？”就以現(xiàn)有的人工智能而論，某一方面的特殊能力遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)都不是什么新鮮事，比如谷歌推出的阿爾法狗，它的圍棋水平遠(yuǎn)超人類(lèi)，但它只是一個(gè)“圍棋天才”，別的方面則是“白癡”，根本不能對(duì)人類(lèi)構(gòu)成威脅。即便未來(lái)出現(xiàn)多功能機(jī)器人，只要不具備自我意識(shí)，仍然只是新的勞動(dòng)力。

那么，人工智能發(fā)展的“奇點(diǎn)”到底是什么呢？趙汀陽(yáng)的觀點(diǎn)很明確，那就是人工智能真正“長(zhǎng)得”像人的時(shí)候：不僅外表面目像人，而且具有人的情感、欲望和價(jià)值觀。人比動(dòng)物有著更強(qiáng)的理性能力，但又有非常強(qiáng)的非理性傾向，經(jīng)常以理性思維去實(shí)現(xiàn)非理性的目標(biāo)。人總是欲望太多，貪得無(wú)厭，經(jīng)常陷于“布里丹之驢”的選擇困境。對(duì)人的反思成為人類(lèi)一切知識(shí)的核心之后，人就占據(jù)了思想的核心地位，人的問(wèn)題就高于一切問(wèn)題。中世紀(jì)的僧侶和學(xué)者本來(lái)是想通過(guò)研究人來(lái)理解創(chuàng)造萬(wàn)物的上帝的，最終卻變成了宗教的掘墓之舉。后來(lái)人被定義為獨(dú)立自主的存在，人成了萬(wàn)物的立法者，于是構(gòu)建了一個(gè)現(xiàn)代人的概念。隨著現(xiàn)代人的概念不斷膨脹，要求的天賦人權(quán)越來(lái)越多，以至于遠(yuǎn)遠(yuǎn)突破了自然人的概念，成為一種“自定人”（self-definedman），即自己決定自己成為什么樣的人。一旦人工智能具備了人一樣的情感、欲望和價(jià)值觀，他們很自然地會(huì)以自己為中心為萬(wàn)物立法，而不太可能無(wú)怨無(wú)悔地為人類(lèi)服務(wù)，同時(shí)他們又具有遠(yuǎn)超人類(lèi)的智力和實(shí)踐能力，那么人類(lèi)的末日就到了。

聽(tīng)起來(lái)很可怕，但是人類(lèi)總是很難抵御科技的誘惑，因此越來(lái)越多的人相信，人工智能的發(fā)展遲早有一天是會(huì)到達(dá)奇點(diǎn)的。科學(xué)家們?yōu)榇嗽O(shè)想了多種測(cè)試人工智能發(fā)展是否到達(dá)奇點(diǎn)的辦法，最廣為人知的大概要算“圖靈測(cè)試”了。盡管艾倫·圖靈1950年提出的“圖靈測(cè)試”遭遇了很多質(zhì)疑，那時(shí)人工智能的概念還沒(méi)有誕生，但是趙汀陽(yáng)認(rèn)為圖靈測(cè)試的思路是沒(méi)有問(wèn)題的，只是需要對(duì)問(wèn)題進(jìn)行升級(jí)。他認(rèn)為圖靈測(cè)試以語(yǔ)言對(duì)話作為測(cè)試標(biāo)準(zhǔn)是大有深意的，因?yàn)檎Z(yǔ)言能力等價(jià)于自我意識(shí)功能，所以只要人工智能能夠以相當(dāng)于人類(lèi)的思想水平回答問(wèn)題，就可以被確定為具有意識(shí)和思維能力的物種。但是人工智能很快就有望獲得幾乎無(wú)窮大的信息儲(chǔ)藏空間，勝過(guò)人類(lèi)百倍甚至萬(wàn)倍的量子計(jì)算能力，還有各種專(zhuān)業(yè)化的算法、類(lèi)腦神經(jīng)網(wǎng)絡(luò)及圖像識(shí)別功能，加上互聯(lián)網(wǎng)的助力，只要配備專(zhuān)業(yè)知識(shí)水平的知識(shí)庫(kù)和程序設(shè)置，“回答”專(zhuān)業(yè)科學(xué)級(jí)別的問(wèn)題應(yīng)該不是難題。

由此，趙汀陽(yáng)提出抗議設(shè)計(jì)兩個(gè)超出程序能力的“怪問(wèn)題”：一個(gè)是悖論，一個(gè)是無(wú)窮性。他甚至想到了“終極版的超圖靈測(cè)試”；當(dāng)超圖靈機(jī)（趙汀陽(yáng)很樂(lè)意稱超級(jí)人工智能為超圖靈機(jī)）具有自由意志和主體性，會(huì)不會(huì)變成一個(gè)革命者？會(huì)不會(huì)質(zhì)疑人類(lèi)的秩序和標(biāo)準(zhǔn)且自己建立一套秩序和標(biāo)準(zhǔn)？會(huì)不會(huì)說(shuō)出“我是真理、法律和上帝”？如果一旦進(jìn)入終極版超圖靈測(cè)試，那可能就是人類(lèi)歷史終結(jié)之日。

人類(lèi)無(wú)法反抗的網(wǎng)？

雖然美國(guó)數(shù)學(xué)家、計(jì)算機(jī)專(zhuān)家、硬科幻小說(shuō)作家弗諾·文奇（VernorStef－fenVinge）1993年發(fā)出的預(yù)言——30年內(nèi)人類(lèi)擁有實(shí)現(xiàn)超級(jí)人工智能的技術(shù)手段，人類(lèi)時(shí)代結(jié)束——沒(méi)有如期實(shí)現(xiàn)，而且按照趙汀陽(yáng)的標(biāo)準(zhǔn)，美國(guó)未來(lái)學(xué)家、發(fā)明家、奇點(diǎn)大學(xué)創(chuàng)始人雷·庫(kù)茲韋爾（Ray Kurzweil）2005年發(fā)出的預(yù)言——2045年人工智能出現(xiàn)奇點(diǎn)，人類(lèi)文明走到終點(diǎn)——亦未必能夠?qū)崿F(xiàn)，但人工智能的技術(shù)應(yīng)用可能帶來(lái)的倫理學(xué)問(wèn)題（趙汀陽(yáng)稱之為“近憂”）和能夠形成“存在升級(jí)”的人工智能的存在論問(wèn)題及知識(shí)論問(wèn)題（趙汀陽(yáng)稱之為“遠(yuǎn)慮”）還是清晰可見(jiàn)的。

趙汀陽(yáng)認(rèn)為，以下4個(gè)倫理學(xué)問(wèn)題是可以確定近年里人工智能技術(shù)應(yīng)用就會(huì)帶來(lái)的問(wèn)題：（1）自動(dòng)駕駛應(yīng)該遵循什么樣的規(guī)則？有沒(méi)有可以同時(shí)保護(hù)行人和乘車(chē)人的“周全的”行為程序？（2）人工智能的大量使用必然導(dǎo)致現(xiàn)有工人的失業(yè)。無(wú)事可做的人能夠做什么？他們何以打發(fā)時(shí)間？他們何以兌現(xiàn)生命的意義？（3）如果人工智能發(fā)達(dá)到不僅能夠提供大多數(shù)勞動(dòng)，而且能夠提供一切生活服務(wù)，每個(gè)人就只需要技術(shù)系統(tǒng)而不再需要他人，人對(duì)于人成為了冗余物，人與人的關(guān)系深度異化，人們生活的意義又是什么？（4）人工智能武器使戰(zhàn)爭(zhēng)變成無(wú)需賭命的游戲，世界會(huì)變得更加不安嗎？

相比人工智能技術(shù)應(yīng)用帶來(lái)的“近憂”，能夠促成“存在升級(jí)”的人工智能存在論問(wèn)題和知識(shí)論問(wèn)題更加值得警惕。盡管超級(jí)人工智能還很遙遠(yuǎn)，但從理論上講是非常可能的。即便是可以預(yù)見(jiàn)的可能性，已經(jīng)足以令人感到不安。

首先，危險(xiǎn)的超級(jí)人工智能不太可能落實(shí)為個(gè)體的萬(wàn)能機(jī)器人，而更可能會(huì)成為以網(wǎng)絡(luò)系統(tǒng)的形式而存在的超能系統(tǒng)。因?yàn)榫W(wǎng)絡(luò)形式無(wú)處不在，而且有極強(qiáng)的修復(fù)能力，很難被徹底破壞，所以是超級(jí)人工智能的優(yōu)選形態(tài)。一旦網(wǎng)絡(luò)形成，任何人的反抗都不再可能，那就意味著硅基生命的人工智能超越了擬人模式而進(jìn)入上帝模式，成為上帝那樣無(wú)處不在的系統(tǒng)化存在。假如出現(xiàn)兩個(gè)以上的超級(jí)人工智能系統(tǒng)，世界會(huì)怎么樣？

超級(jí)人工智能系統(tǒng)一旦形成，必然導(dǎo)致“存在的升級(jí)”。趙汀陽(yáng)對(duì)“存在的升級(jí)”給出了一個(gè)定義，即某種技術(shù)、制度的發(fā)明開(kāi)拓了新的可能生活，并且定義了一個(gè)新的可能世界，所以它意味著存在方式的革命，而不僅僅是工具性的進(jìn)步。人類(lèi)歷史上經(jīng)歷過(guò)多次存在的升級(jí)，比如語(yǔ)言的產(chǎn)生帶來(lái)人類(lèi)的誕生，農(nóng)業(yè)的出現(xiàn)帶來(lái)社會(huì)和國(guó)家的形成，現(xiàn)代性的形成帶來(lái)了人類(lèi)現(xiàn)在的生活事實(shí)，包括資本主義、科學(xué)、工業(yè)、主體性、意識(shí)形態(tài)等。現(xiàn)在人類(lèi)正面臨最后一次存在升級(jí)，即存在的徹底技術(shù)化，簡(jiǎn)而言之就是技術(shù)要對(duì)任何存在進(jìn)行重新規(guī)定。結(jié)果是什么呢？人類(lèi)不再重要，歷史失去意義，人類(lèi)文明成為遺跡，未來(lái)不再屬于人類(lèi)。人類(lèi)為什么會(huì)試圖創(chuàng)造一個(gè)高于人類(lèi)、貶低人類(lèi)地位甚至有可能終結(jié)人類(lèi)的更高存在呢？

而且更可怕的是，科技所創(chuàng)造的存在升級(jí)是不可逆的。事實(shí)上，人類(lèi)無(wú)力拒絕一個(gè)新世界，無(wú)法拒絕技術(shù)化的未來(lái)，所以人類(lèi)需要關(guān)心的更應(yīng)該是：未來(lái)世界如何才能夠成為一個(gè)普遍安全、普遍公平而意義豐富的世界？

巴黎浪漫機(jī)器的啟示

所幸的是，人工智能革命可能是人類(lèi)的最后一次科技革命，但不是第一次科技革命。人類(lèi)歷史上的每一次科技革命，都給人類(lèi)的存在帶來(lái)了深刻的挑戰(zhàn)，所以反思以前的科技革命，對(duì)人類(lèi)應(yīng)該如何應(yīng)對(duì)現(xiàn)在面臨的人工智能革命，應(yīng)該有一些參考意義。

美國(guó)學(xué)者約翰·特雷希選取拿破侖·波拿巴建立的法蘭西第一帝國(guó)滅亡到拿破侖三世建立法蘭西第二帝國(guó)那段歷史期間，第一次工業(yè)革命給巴黎的社會(huì)、文化、政治造成的劇烈沖擊作為考察對(duì)象，試圖說(shuō)明現(xiàn)代工業(yè)化之初，人們是如何讓科學(xué)技術(shù)與藝術(shù)、倫理和政治思想?yún)f(xié)同工作的。根據(jù)約翰·特雷希的描述，十九世紀(jì)上半葉的巴黎，科技發(fā)展與藝術(shù)、倫理和政治思想不是對(duì)立的，而是以一種與人性和自然相關(guān)聯(lián)的創(chuàng)造性的方式相伴相生的。

《浪漫機(jī)器：拿破侖之后的烏托邦科學(xué)與技術(shù)》

[美]約翰·特雷希/著

劉慧寧 石稷馨/譯

智慧柳|中國(guó)科學(xué)技術(shù)出版社

2023年1月

那么，巴黎人是如何做到的呢？

巴黎人是幸運(yùn)的：十九世紀(jì)初工業(yè)革命勃興之時(shí)，正好與方興未艾的浪漫主義迎面相遇。當(dāng)時(shí)巴黎典型的浪漫主義作品強(qiáng)調(diào)情感、表達(dá)、審美和有目的的行動(dòng)，拒絕啟蒙運(yùn)動(dòng)的理性主義，反對(duì)冷漠、碎片化的科學(xué)和工業(yè)秩序。那些希望生活像小說(shuō)一樣、沉迷于強(qiáng)烈激情、無(wú)法妥協(xié)于殘酷現(xiàn)實(shí)和常識(shí)的人，常被形容為“無(wú)可救藥的爛漫”。但是，令人驚訝的是，安德烈-馬里·安培、亞歷山大·馮·洪堡、弗朗索瓦·阿拉戈、路易·達(dá)蓋爾以及巴黎綜合理工學(xué)院的很多教授，既是頗有建樹(shù)的自然科學(xué)家和工程師，又醉心于浪漫主義哲學(xué)和藝術(shù)。他們被歷史學(xué)家稱為浪漫機(jī)械主義者。他們拒絕把人類(lèi)對(duì)自然的掌控作為科學(xué)的目的，而是認(rèn)為有限的規(guī)范和可持續(xù)的共存才是科學(xué)的目標(biāo)。他們不否認(rèn)無(wú)節(jié)制的技術(shù)發(fā)展所帶來(lái)的風(fēng)險(xiǎn)，與后來(lái)模棱兩可的科學(xué)技術(shù)觀形成了鮮明的對(duì)照。

還有一些人，他們是工程師、社會(huì)活動(dòng)家、哲學(xué)家、宗教家。他們對(duì)人類(lèi)和機(jī)械之間的固有關(guān)系進(jìn)行了反思，更重要的是把反思的結(jié)果融入到新社會(huì)哲學(xué)的烏托邦和革命想象中。比較典型的是空想社會(huì)主義者圣西門(mén)和他的追隨者們。他們從物理學(xué)和工程學(xué)的意象中獲得靈感和素材，構(gòu)想出一個(gè)個(gè)嶄新的世界：一個(gè)既能保持內(nèi)聚力又能保護(hù)個(gè)人自由的社會(huì)。盡管普洛斯珀·昂方坦、皮埃爾·勒魯與奧古斯特·孔德構(gòu)想的新世界大相徑庭，但是他們所規(guī)劃的未來(lái)愿景中都包含著人類(lèi)與自然需求之間必須保持平衡的信息。

巴黎的浪漫機(jī)械主義者留給后來(lái)者的經(jīng)驗(yàn)教訓(xùn)是什么？必須看到無(wú)節(jié)制的技術(shù)發(fā)展給人類(lèi)社會(huì)帶來(lái)的風(fēng)險(xiǎn)。

趙汀陽(yáng)曾提出一個(gè)設(shè)想：為人工智能設(shè)置“哥德?tīng)栒◤?rdquo;作為安全閥門(mén)，以達(dá)到控制技術(shù)無(wú)節(jié)制發(fā)展給人類(lèi)社會(huì)帶來(lái)風(fēng)險(xiǎn)的目的。簡(jiǎn)而言之，利用自相關(guān)原理設(shè)置一個(gè)自毀炸彈，一旦人工智能系統(tǒng)試圖背叛人類(lèi)，抑或試圖刪除哥德?tīng)栒◤棧◤椌蜁?huì)被引爆，因?yàn)楸撑鸦騽h除指令本身就是引爆炸彈的指令。但是人工智能科學(xué)家告訴他，人工智能不能刪除哥德?tīng)栒◤棧强梢哉业睫k法封閉它，就像人類(lèi)暫時(shí)解決不了某個(gè)問(wèn)題，可以先擱置下來(lái)，繼續(xù)處理別的問(wèn)題一樣。

于是，他想到了《西游記》的隱喻：法力高超、殺不死、燒不化的孫悟空造反了，眾神無(wú)可奈何，即便被壓到五指山下仍然是一個(gè)隱患，最后還是經(jīng)過(guò)點(diǎn)化，覺(jué)悟成佛，無(wú)欲無(wú)情，才永除后患。

事實(shí)上，十九世紀(jì)上半葉巴黎的浪漫機(jī)械主義者亦給出了同樣的答案：科學(xué)家本身就是哲學(xué)家、藝術(shù)家、社會(huì)活動(dòng)家、宗教家，他們不會(huì)允許科技無(wú)節(jié)制地發(fā)展。