沈建緣/文 在日前舉行的C3安全大會·2024大會上，中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長張亞勤表示， “新的人工智能是信息智能、物理智能和生物智能的融合。AI大模型的能力極其強大，未來可能創(chuàng)造出很多發(fā)展機遇，但也蘊含著不少潛在風(fēng)險——例如信息智能的風(fēng)險、AI本身隱含的安全風(fēng)險以及可控性、可信性、邊界等問題；例如幻覺的問題、深度偽造的問題，或是當大模型技術(shù)的應(yīng)用范圍拓展至更廣更深的領(lǐng)域時的失控和被利用的風(fēng)險等。”

隨著越來越多的企業(yè)將生成式AI整合到自身的業(yè)務(wù)平臺中，生成式AI將成為基于企業(yè)龐大數(shù)據(jù)架構(gòu)建立的交互接口，成為服務(wù)客戶的新途徑，通過AI戰(zhàn)略提升競爭力已成為大勢所趨。張亞勤建議，“企業(yè)應(yīng)將投入AI大模型研發(fā)費用的10%用于安全投入，設(shè)立相應(yīng)的邊界。在推動大模型相關(guān)技術(shù)進步的同時，也應(yīng)未雨綢繆地做好防范工作，在大模型用到金融、軍事等核心系統(tǒng)時設(shè)立安全邊界。”

全國數(shù)據(jù)資源調(diào)查工作組日前發(fā)布的《全國數(shù)據(jù)資源調(diào)查報告（2023年）》顯示，2023年，全國數(shù)據(jù)生產(chǎn)總量達32.85ZB（澤字節(jié)），同比增長22.44%。中國數(shù)據(jù)生產(chǎn)總量高達32ZB與此同時，亞信安全監(jiān)測到，短短一年時間，針對大模型的攻擊手段已涌現(xiàn)出數(shù)10種不同的類型。

為此，亞信安全與清華大學(xué)智能產(chǎn)業(yè)研究院提升合作規(guī)模，啟動了聯(lián)合研發(fā)行動升級計劃，實現(xiàn)科研實力與人力資源的優(yōu)勢結(jié)合，持續(xù)開展理論、技術(shù)、政策等方面的創(chuàng)新性研究工作。

亞信聯(lián)合創(chuàng)始人田溯寧指出：“在新的時代，衛(wèi)星互聯(lián)網(wǎng)和5G網(wǎng)絡(luò)正在成為‘數(shù)據(jù)生產(chǎn)網(wǎng)絡(luò)’；操作系統(tǒng)、行業(yè)大模型與‘云網(wǎng)安’共同構(gòu)成新時代數(shù)據(jù)的基礎(chǔ)設(shè)施。”確保技術(shù)向善，不僅需要學(xué)界和政府的推動，也需要企業(yè)積極合作。

亞信安全通過外部合作，打通大模型的技術(shù)及生態(tài)體系。亞信安全與中國聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，正式啟動獵狐行動計劃，以防范網(wǎng)絡(luò)勒索的持續(xù)惡意攻擊為目標，通過事前、事中、事后三個階段處理“銀狐”木馬，打擊網(wǎng)絡(luò)勒索行為，建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心，形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運營。

基于亞信安全的“數(shù)據(jù)驅(qū)動 AI原生”產(chǎn)品戰(zhàn)略，亞信安全推出“信計劃”，包括全新研發(fā)的保護算力云基礎(chǔ)設(shè)施安全、大模型應(yīng)用安全防護、大模型紅藍對抗測試等服務(wù)；聚焦網(wǎng)絡(luò)安全行業(yè)垂直大模型的研發(fā)及運行于其上的智能體和安全應(yīng)用。同時發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方。

亞信安全高級副總裁陳奮在采訪中表示，“未來，AGI技術(shù)可能會更加智能化和自主化，黑客可能會利用這些特點進行更加隱蔽和復(fù)雜的攻擊。‘信立方’將安全技術(shù)與AI技術(shù)結(jié)合在一起，可用于實現(xiàn)網(wǎng)絡(luò)安全領(lǐng)域的攻擊面智能檢測、惡意代碼及威脅情報智能分析、告警預(yù)判等功能應(yīng)用。”該模型基于其網(wǎng)絡(luò)安全行業(yè)數(shù)據(jù)和專業(yè)知識，將會全面提升亞信安全系列產(chǎn)品的智能化水平。

據(jù)亞信安全研判，AI技術(shù)顯著降低了勒索軟件開發(fā)的門檻，并加速了復(fù)雜攻擊手段的開發(fā)進程，黑客組織借助AI的學(xué)習(xí)與分析能力，持續(xù)深入剖析防御機制，不斷優(yōu)化和精進其攻擊策略，甚至能夠?qū)崿F(xiàn)攻擊策略的自動部署與執(zhí)行，從而加劇了網(wǎng)絡(luò)安全領(lǐng)域的挑戰(zhàn)。AGI工具將黑客生成新威脅的時間由之前的“數(shù)個月”縮減至幾小時甚至幾分鐘；同時，攻擊者開始利用大模型迅速發(fā)現(xiàn)軟件與服務(wù)中存在的漏洞；通過人臉深度偽造來實施網(wǎng)絡(luò)詐騙犯罪的案例也越來越多。更嚴重的，攻擊者的目標正由傳統(tǒng)的數(shù)字資產(chǎn)轉(zhuǎn)向AI算力基礎(chǔ)設(shè)施和大模型。

作為網(wǎng)絡(luò)安全廠商推出的安全垂域大模型，更多是考慮到網(wǎng)絡(luò)安全產(chǎn)品相對復(fù)雜，不同產(chǎn)品解決的問題不一樣，未來落地應(yīng)用場景也各有不同，所以“信立方”具有通用（模型）能力，所有的產(chǎn)品線按照該標準框架、按照場景個性化的落地，以解決重復(fù)投入、通用化的問題，以及內(nèi)部生態(tài)的問題。大模型的發(fā)布是對亞信安全所有產(chǎn)線產(chǎn)品的能力的提升。

亞信安全認為，智能時代安全分為AI For Security和Security For AI兩部分，對于防護能力一體化的追求，從未來技術(shù)轉(zhuǎn)型或架構(gòu)轉(zhuǎn)型去談安全領(lǐng)域到底應(yīng)該怎么去做，是亞信安全整個技術(shù)架構(gòu)的底層邏輯。根據(jù)亞信安全的構(gòu)想，未來將有可能通過安全運營數(shù)字人，為用戶解決每天產(chǎn)生的大量的安全事件。