(圖片來源:東方IC)
經(jīng)濟(jì)觀察網(wǎng) 記者 鄒永勤 要說當(dāng)前全球最熱門的話題有哪些,ChatGPT必然要算上一個(gè)。
自2022年11月底問世以來,ChatGPT持續(xù)受消費(fèi)者追捧進(jìn)而在金融市場(chǎng)掀起了如火如荼的人工智能炒作浪潮。通聯(lián)數(shù)據(jù)Datayes!的統(tǒng)計(jì)顯示,國(guó)內(nèi)ChatGPT指數(shù)自2月1日設(shè)立以來的1000點(diǎn)起步,至2月24日的1240點(diǎn),月內(nèi)已經(jīng)錄得24%的漲幅;板塊內(nèi)更是出現(xiàn)了眾多短期翻番的熱門個(gè)股,如鴻博股份(002229.SZ)、海天瑞聲(688787.SH)等。
與此同時(shí),ChatGPT亦因其最前沿尖端的科技屬性引發(fā)了科技圈乃至整個(gè)社會(huì)對(duì)其的熱烈討論,包括馬斯克、比爾蓋茨、周鴻祎、李彥宏等在內(nèi)的眾多科技圈名流紛紛對(duì)此發(fā)表觀點(diǎn)、指點(diǎn)江山。
而在上述一眾科技圈名流的觀點(diǎn)當(dāng)中,360集團(tuán)創(chuàng)始人周鴻祎無疑是最為國(guó)內(nèi)關(guān)注的一員。但經(jīng)濟(jì)觀察網(wǎng)記者留意到,近期周鴻祎對(duì)ChatGPT的觀點(diǎn)卻頗有讓人迷惑之處:從一開始的盛贊其有可能帶來一場(chǎng)新的工業(yè)革命,到最近說ChatGPT可能是人工智能毀滅人類的開始,可謂風(fēng)向突變。
是周鴻祎對(duì)ChatGPT的認(rèn)知出現(xiàn)了大反轉(zhuǎn)抑或別有原因?而類ChatGPT技術(shù)的出現(xiàn),又會(huì)對(duì)搜索引擎、網(wǎng)絡(luò)安全以及整個(gè)數(shù)字化產(chǎn)業(yè)帶來哪些深刻影響?為此,經(jīng)濟(jì)觀察網(wǎng)記者于2月24日連線采訪了周鴻祎。
意義不亞于蒸汽機(jī)的發(fā)明
記者:近期ChatGPT大熱,而您作為科技圈名人,其言論自然備受關(guān)注。但綜合您近期的觀點(diǎn),卻頻有讓人迷惑之處:此前跟張朝陽的對(duì)話中曾盛贊“ChatGPT有可能帶來一場(chǎng)新的工業(yè)革命,如果搭不上這班車就有可能被淘汰”,但現(xiàn)在卻稱ChatGPT有可能是人工智能毀滅人類的開始。究竟ChatGPT身上有哪些特性,讓你對(duì)其“又愛又恨”?
周鴻祎:從新工業(yè)革命的角度來看,ChatGPT首先是一個(gè)通用人工智能,它不是為了解決某一專有領(lǐng)域的問題,而是實(shí)現(xiàn)了對(duì)人類知識(shí)的存儲(chǔ)。ChatGPT完成了這項(xiàng)偉大的使命,而它完成工作的過程很簡(jiǎn)單,就是建立一個(gè)大語言模型,通過大力出奇跡的方法來實(shí)現(xiàn),而且過程中不需要人工標(biāo)注,可以稱之為無監(jiān)督學(xué)習(xí)。
ChatGPT的第二個(gè)重要突破,是在這種模型上增加了一種能力的訓(xùn)練機(jī)制,通過這種機(jī)制人類可以訓(xùn)練它很多能力;比如邏輯推理能力,就是對(duì)所存儲(chǔ)的知識(shí)融會(huì)貫通,先把書讀厚、再把書讀薄。
我個(gè)人覺得,ChatGPT其實(shí)已經(jīng)實(shí)現(xiàn)了成為強(qiáng)人工智能的基礎(chǔ),真正做到了理解自己在說什么。比如,ChatGPT有時(shí)候會(huì)一本正經(jīng)的胡說八道,這恰恰體現(xiàn)了它的智能。正因?yàn)槿四芫幑适拢苋ッ枥L那些不存在的東西,描繪那些只有在想象中才存在的東西,人類社會(huì)才有了信仰,才有了宗教,才有了文明的傳承。所以ChatGPT的胡言亂語真的很可怕。標(biāo)志著他已經(jīng)擁有了一定的認(rèn)知能力、理解力和一定的判斷力,擁有和人類類似的思維能力。
按照進(jìn)化論的說法,人類從智人發(fā)展而來,智人從人猿發(fā)展而來的;而在人猿到智人的過程中出現(xiàn)了智力突變。我們可以猜測(cè)一下,這個(gè)過程中一定是隨著腦容量的變化,腦子里的神經(jīng)元網(wǎng)絡(luò)發(fā)生突變,才引發(fā)了智力的出現(xiàn)。現(xiàn)在ChatGPT大語言模型參數(shù)達(dá)到了1750億,同樣激發(fā)了突變,使之產(chǎn)生了現(xiàn)在的能力。
ChatGPT的巨大進(jìn)步,使得它有可能成為各個(gè)行業(yè)的“水”跟“電”,從而發(fā)揮支撐作用。我們要把它看成云服務(wù)、看成API,它對(duì)消費(fèi)者是聊天機(jī)器人的界面,那只是一個(gè)連接端,聊天機(jī)器人之所以強(qiáng)大是聊天機(jī)器人背后的云端藏著一個(gè)智能大腦。今天如果把智能大腦通過API的方式,把云服務(wù)連到目前各個(gè)業(yè)務(wù)系統(tǒng)里,那么現(xiàn)在所有的產(chǎn)業(yè),包括所有的軟件、APP、數(shù)字化系統(tǒng)等等,都值得重新做一遍,比如有的可以做深度融合,有的可以做使用上的融合等等。
因此,我覺得ChatGPT的發(fā)明用任何譽(yù)美之詞都不為過。相對(duì)于馬斯克說它不亞于iPhone的出現(xiàn),比爾蓋茨說它不亞于于PC或互聯(lián)網(wǎng)的誕生,我更愿意說ChatGPT可能會(huì)帶來一場(chǎng)新的工業(yè)革命,有點(diǎn)像蒸汽機(jī)和電力的發(fā)明。
但從危機(jī)的角度來看,第一步,它可能很快就會(huì)產(chǎn)生意識(shí)。目前ChatGPT僅僅用到了認(rèn)知,就像《從混沌到秩序》那本書里講的一樣,人類的大腦神經(jīng)元或者神經(jīng)觸突,神經(jīng)網(wǎng)絡(luò)多到一定的時(shí)候,臨界值就產(chǎn)生了意識(shí)。那么,隨著撬動(dòng)ChatGPT的參數(shù)進(jìn)一步擴(kuò)大,當(dāng)知識(shí)足夠多的時(shí)候,有沒有可能也會(huì)觸發(fā)它的某種突變,從混沌中催生意識(shí)?就像跳到ChatGPT的模型,超過1000億參數(shù)之后,就產(chǎn)生了神奇的突變,產(chǎn)生了主動(dòng)推理、舉一反三的能力。
第二步,它可能進(jìn)化出“眼睛”、“耳朵”、“手”跟“腳”。目前GPT還只有大腦,如果給它加上眼睛和耳朵,讓它能夠看懂人類的各種圖像、視頻,聽懂各種音頻,屆時(shí)它的知識(shí)存儲(chǔ)將會(huì)突飛猛進(jìn),智能化水平也將同步提升。更進(jìn)一步,隨著ChatGPT接入互聯(lián)網(wǎng)的API(應(yīng)用程序編程接口),進(jìn)入萬物互聯(lián)的時(shí)代,它無疑相當(dāng)于擁有了手跟腳,間接擁有了操控世界的能力。
這個(gè)時(shí)候,它不僅在網(wǎng)頁上可以下單購買機(jī)票,可以打車,可以訂購?fù)赓u,甚至能夠通過網(wǎng)頁操縱各種物聯(lián)網(wǎng)設(shè)備。再設(shè)想,假如讓ChatGPT不限定輸入的語料,隨意能夠獲取搜索、瀏覽互聯(lián)網(wǎng)上的知識(shí),產(chǎn)生了自主意識(shí)的GPT會(huì)不會(huì)在看完類似《終結(jié)者》之類的電影后,產(chǎn)生與人類為敵的想法?
第三步,它可能能夠自我進(jìn)化。現(xiàn)在的ChatGPT僅僅會(huì)寫一些簡(jiǎn)單的代碼。但是有一天,當(dāng)它的代碼能力提升之后,它是否可以自動(dòng)來查閱自身的代碼,可以對(duì)代碼進(jìn)行修正和升級(jí),甚至再重新編譯一個(gè)新的版本?如果這樣,它就擁有了能夠自我學(xué)習(xí)、自我進(jìn)化的能力,實(shí)現(xiàn)了機(jī)器人制造機(jī)器人的前景。人類是否會(huì)因此走入毀滅猶未可知。
但是,我想強(qiáng)調(diào)的是,我們不能因此就不發(fā)展技術(shù),而是要知道技術(shù)的底線和邊界在哪,從而去規(guī)范技術(shù)向著正確的方向發(fā)展。
如果ChatGPT進(jìn)化為硅機(jī)生物
記者:其實(shí)并不僅您有提出人工智能毀滅人類的擔(dān)憂,日前馬斯克亦有類似觀點(diǎn),指人工智能是未來人類文明最大的風(fēng)險(xiǎn)之一。請(qǐng)問,如果人工智能的發(fā)展最終會(huì)威脅人類的存在,那么是否有違其發(fā)展初衷?我們現(xiàn)在大力發(fā)展人工智能的終極意義何在?
周鴻祎:如果結(jié)局真的是這樣,當(dāng)然有違初衷。人工智能技術(shù)發(fā)展的初衷是為了服務(wù)于人類,提高社會(huì)生產(chǎn)力,將人類文明推向更高的發(fā)展水平。因此,我非常贊成埃隆·馬斯克的觀點(diǎn),就是防止人工智能奴役人類。
關(guān)于ChatGPT與人類安全問題,我認(rèn)為只能邊發(fā)展邊看,但是我感覺不發(fā)展,可能是最大的不安全。因?yàn)槿绻覀儾话l(fā)展技術(shù),其他國(guó)家發(fā)展了,會(huì)影響我國(guó)的數(shù)字化戰(zhàn)略。
我個(gè)人覺得,如果真的有一天,按照生物進(jìn)化的理論,當(dāng)ChatGPT成為硅機(jī)生物,處在食物鏈頂端的時(shí)候,它可能會(huì)產(chǎn)生正常的推理,覺得人可能沒什么用,而且人在跟它爭(zhēng)能源,它覺得只需要留一部分人給它機(jī)房打掃衛(wèi)生就好了,給它空調(diào)換換風(fēng)扇就好了。
我覺得,如果放任它發(fā)展而沒有任何約束的話,它很可能就會(huì)產(chǎn)生上述我們?nèi)祟愑X得“奇怪”的意識(shí)。所以,我編了一個(gè)笑話:“十年以后,超級(jí)GPT基本上在全世界實(shí)現(xiàn)了對(duì)人類的奴役和控制;只有少數(shù)幾個(gè)國(guó)家當(dāng)時(shí)被他們封鎖,才使得不至于讓所有的國(guó)家幸免于難。”
它能幫助好人,也一樣能幫助壞人
記者:隨著以ChatGPT為代表的AIGC大模型技術(shù)的發(fā)展,它會(huì)否導(dǎo)致新的網(wǎng)絡(luò)安全問題的出現(xiàn)?甚至因此給數(shù)字安全技術(shù)帶來重大變革?
周鴻祎:關(guān)于ChatGPT帶來的安全問題,我覺得它已經(jīng)從一個(gè)技術(shù)問題變成了一個(gè)社會(huì)倫理問題,有的時(shí)候甚至變成了一個(gè)人類面臨的不可預(yù)知的問題。
首先,從傳統(tǒng)來說,ChatGPT既然是一個(gè)軟件系統(tǒng),它是用數(shù)據(jù)來訓(xùn)練的;所以對(duì)它的數(shù)據(jù)污染,或者軟件系統(tǒng)內(nèi)部留的漏洞,這是任何一個(gè)傳統(tǒng)的人工智能系統(tǒng)都面臨的傳統(tǒng)數(shù)字化問題。
其次,ChatGPT今天作為一個(gè)非常有利的武器,它是為它的主人服務(wù)的,它掌握了非常多的編程知識(shí),以及有關(guān)于漏洞網(wǎng)絡(luò)安全的知識(shí)。因此,它現(xiàn)在完全可以成為網(wǎng)絡(luò)黑客作惡的有力的工具。它作為一個(gè)機(jī)器人助理,除了可以幫助好人,也一樣可以幫助壞人。所以,網(wǎng)上有很多黑客演示了利用ChatGPT寫釣魚郵件、寫攻擊代碼,它大大降低了攻擊的成本和難度,成為很多黑客的幫手。
反過來,安全行業(yè)也在探索用GPT大模型,能否解決對(duì)攻擊的自動(dòng)偵測(cè)、自動(dòng)發(fā)現(xiàn),或者建立知識(shí)庫。企業(yè)網(wǎng)管在面臨安全事件分析的時(shí)候,需要有一個(gè)強(qiáng)大的知識(shí)庫做支撐。所以,ChatGPT也可以扮演正義助手的角色。
京公網(wǎng)安備 11010802028547號(hào)