經(jīng)濟(jì)觀察網(wǎng) 記者 錢玉娟 正在世界各地進(jìn)行旋風(fēng)式訪問的“ChatGPT之父”、人工智能公司OpenAI的CEO薩姆·阿爾特曼（Sam Altman），6月10日首次“云”上參與了在中國舉行的行業(yè)峰會“2023北京智源大會”。北京智源大會是由智源研究院（全稱：北京智源人工智能研究院）主辦的年度國際性人工智能領(lǐng)域的專業(yè)交流活動，定位于“AI內(nèi)行頂級盛會”，今年已經(jīng)是第五屆。

五年前，智源研究院在科技部和北京市的支持下，聯(lián)合北京人工智能領(lǐng)域的優(yōu)勢單位共建而成。因匯集了張宏江、黃鐵軍等國際頂尖人工智能學(xué)者，智源研究院聚焦核心技術(shù)與原始創(chuàng)新，旨在推動人工智能領(lǐng)域發(fā)展政策、學(xué)術(shù)思想、理論基礎(chǔ)、頂尖人才與產(chǎn)業(yè)生態(tài)的五大源頭創(chuàng)新。

薩姆·阿爾特曼在名為“AI安全與對齊”的分論壇中進(jìn)行了主題演講，在穿越五大洲近20個國家，與多國領(lǐng)導(dǎo)人、開發(fā)者及學(xué)生們展開交流、討論后，他發(fā)現(xiàn)，世界的注意力都集中在解決AI的安全問題上。

除了給OpenAI優(yōu)化工具等方面工作提出寶貴意見，薩姆·阿爾特曼希望，在親眼目睹了通用人工智能（Artificial General Intelligence, AGI）發(fā)展帶來的變革，人類的想象力被迅速拓展后，防范風(fēng)險，“推進(jìn)AGI安全治理，是我們尋找共同立場的最重要領(lǐng)域之一。”

薩姆·阿爾特曼舉例稱，像根除小兒麻痹和天花等疾病，以及減少全球氣候變化等風(fēng)險，大國之間經(jīng)常在關(guān)鍵醫(yī)學(xué)和科學(xué)領(lǐng)域展開合作，以實現(xiàn)共同目標(biāo)。在他看來，AGI安全治理同樣需要國際合作，尤其在AI開發(fā)和安全部署方面，需要建立包容的國際標(biāo)準(zhǔn)，使所有國家對AGI發(fā)展抱以一個統(tǒng)一且平等的準(zhǔn)則；同時，在可驗證的方式下，全球范圍內(nèi)建立起對AGI安全開發(fā)的信任。

作為首場中國演講，薩姆·阿爾特曼特意援引《道德經(jīng)》中的“千里之行，始于足下”，以呼吁國際科技界能邁出建設(shè)性的第一步，合作推動AGI安全。與此同時，他也提及，要深入地思考，如何尊重和保護(hù)知識產(chǎn)權(quán)，推動并引導(dǎo)與安全研究有關(guān)的投資。

談及OpenAI當(dāng)前的重點內(nèi)容，“如何訓(xùn)練優(yōu)化模型，以使AI系統(tǒng)成為人類有益且安全的助手。”薩姆·阿爾特曼演講后還與智源研究院理事長張宏江進(jìn)行了對話，他談到，過去的六個月時間里，人們愈發(fā)重視AGI風(fēng)險和機(jī)遇，OpenAI在讓人們享受技術(shù)變革帶來的益處同時，也在努力減輕風(fēng)險，但“全球合作始終是困難的”。

薩姆·阿爾特曼強(qiáng)調(diào)，OpenAI在依托技術(shù)消除全球合作障礙的同時，還試圖為AGI治理系統(tǒng)溝構(gòu)建一個框架和安全標(biāo)準(zhǔn)。他認(rèn)為，AI安全確實需要技術(shù)的參與，但更為關(guān)鍵的是，“要保持一致的價值觀。”為此，OpenAI要設(shè)計出一個公平、包容又具有代表性的系統(tǒng)，“我們需要構(gòu)建安全的分類器和檢測器，以監(jiān)測符合用戶規(guī)范的情況。”

中國、美國和歐洲是推動人工智能和創(chuàng)新的三個主要力量，當(dāng)張宏江問及國際合作對于解決AI需求和決策具備怎樣的優(yōu)勢時，薩姆·阿爾特曼表示，AI安全需要受益于不同國家和不同背景下的用戶偏好，因此需要融合不同的觀念來實現(xiàn)這一目標(biāo)。

聚焦中國，薩姆·阿爾特曼認(rèn)為，這里擁有世界上一些最優(yōu)秀的AI系統(tǒng)，也從根本上使研究人員在解決AI系統(tǒng)問題時面臨困難，他希望未來中美兩國間的AI技術(shù)研究人員能一起為AI安全做出貢獻(xiàn)。

對談中，張宏江疑問，未來OpenAI的GPT源代碼會否重新開放，薩姆·阿爾特曼并未直接回答。但他對開源模型的發(fā)展以及開源這一路徑的正確性予以認(rèn)可，只是伴隨模型變得越來越大，他強(qiáng)調(diào)，“確保正確性變得昂貴，開源一切可能不是最優(yōu)路徑。”