經(jīng)濟(jì)觀察網(wǎng) 記者 沈怡然 6月21日，北京瑞萊智慧科技有限公司（下稱“瑞萊智慧”）在2024年產(chǎn)品發(fā)布會(huì)上發(fā)布了一款面向個(gè)人用戶的AIGC（生成式人工智能技術(shù)）實(shí)時(shí)檢測(cè)產(chǎn)品RealBelieve，能幫助用戶鑒別通話或網(wǎng)絡(luò)視頻中的人臉真?zhèn)危部稍谟脩魹g覽網(wǎng)頁(yè)內(nèi)容時(shí)提供AI合成可能性提示。

瑞萊智慧成立于2018年，專注于人工智能安全可控技術(shù)，其客戶涵蓋金融、工業(yè)、公共安全等多個(gè)行業(yè)。RealBelieve產(chǎn)品中文名叫“尊嘟假嘟”，目前已開啟內(nèi)測(cè)招募。

會(huì)上，瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪稱，RealBelieve是一款軟件，用戶安裝后，在視頻通話時(shí)，產(chǎn)品會(huì)及時(shí)發(fā)出預(yù)警，提示視頻對(duì)方的人臉是否存在AI合成的風(fēng)險(xiǎn)。實(shí)時(shí)的風(fēng)險(xiǎn)提示可以幫助用戶及時(shí)調(diào)整溝通方式，快速確認(rèn)對(duì)方的真實(shí)身份，避免損失；也可在用戶瀏覽網(wǎng)頁(yè)內(nèi)容時(shí)，針對(duì)一些網(wǎng)頁(yè)上的人物圖片，提供AIGC合成可能性的提示。

蕭子豪稱，該產(chǎn)品背后的檢測(cè)模型基于貝葉斯深度學(xué)習(xí)技術(shù)開發(fā)，團(tuán)隊(duì)構(gòu)建了一整套多模態(tài)AIGC檢測(cè)技術(shù)體系，能夠挖掘并建模多模態(tài)、多層次、多角度的AI合成線索，度量真假差異，并進(jìn)行不確定性的推理和決策。

隨著人工智能進(jìn)入大模型時(shí)代，數(shù)字人和AI生成的視頻內(nèi)容日益增多。瑞萊智慧創(chuàng)始人、CEO田天稱，但是AI系統(tǒng)其實(shí)是很脆弱的，一些AI算法對(duì)黑客攻擊的防御力非常薄弱。

田天舉例稱，攻擊者在圖像上施加細(xì)微、人眼難以察覺(jué)的干擾，能輕易誤導(dǎo)AI系統(tǒng)作出錯(cuò)誤的識(shí)別。例如，在人臉識(shí)別場(chǎng)景中，通過(guò)在人臉圖像上施加微小的擾動(dòng)，使得原本準(zhǔn)確的人臉識(shí)別系統(tǒng)錯(cuò)誤地將一個(gè)人識(shí)別為另一個(gè)人。這種脆弱性可能帶來(lái)多種詐騙風(fēng)險(xiǎn)，攻擊者可以利用AI生成的數(shù)字人或視頻內(nèi)容冒充他人，進(jìn)行詐騙或誤導(dǎo)公眾。