據(jù)不完全統(tǒng)計(jì)，2024年將有50多個(gè)國(guó)家、半個(gè)地球的人將面對(duì)政府改選。與此同時(shí)，隨著AIGC技術(shù)最新一輪的大爆發(fā)，AI技術(shù)對(duì)互聯(lián)網(wǎng)輿論生態(tài)的威脅也達(dá)到前所未有的高度。近些日子“冒牌拜登來電”、知名女星DeepFake照片等事件，都引發(fā)國(guó)際輿論的強(qiáng)烈擔(dān)憂。

在整件事情變得愈發(fā)不可控之前，社交媒體平臺(tái)臉書、Instagram和Threads決定做一些嘗試，通過識(shí)別并標(biāo)記平臺(tái)上的AI內(nèi)容，將社交媒體平臺(tái)上的AI生成內(nèi)容和真實(shí)生活區(qū)分開來。

識(shí)別、檢測(cè)和標(biāo)記

Meta表示，在未來幾個(gè)月內(nèi)，臉書、Instagram和Threads將嘗試對(duì)上傳到平臺(tái)上的照片進(jìn)行檢測(cè)，并打上“AI標(biāo)簽”。

這件事情要分成兩個(gè)層面來講：“有據(jù)可循”的AIGC圖片，以及雜亂無章的AI視頻、音頻內(nèi)容。

首先，是標(biāo)準(zhǔn)比較清晰的圖片領(lǐng)域。以Meta自家的AI“文生圖”功能為例，通過這種途徑生成的圖片，不僅左下角會(huì)有看得見的水印，同時(shí)圖片的元數(shù)據(jù)中也會(huì)被打上“看不見的水印”。

Meta表示，正在開發(fā)能夠批量識(shí)別這類水印的工具，特別是C2PA和IPTC技術(shù)標(biāo)準(zhǔn)——意味著當(dāng)谷歌、OpenAI、微軟、 Adobe、Midjourney、Shutterstock等公司按照計(jì)劃在AIGC工具中加入元數(shù)據(jù)后，Meta就能在社交媒體平臺(tái)上批量識(shí)別并標(biāo)注出這些公司生成的AI圖片。

當(dāng)然，光靠幾家巨頭合作并不能解決所有問題，而且那些惡意使用AI的人，也有辦法去除AI圖片中的標(biāo)記水印。

前英國(guó)副首相、Meta全球事務(wù)和通訊總裁尼克·克萊格補(bǔ)充稱，Meta現(xiàn)在也在開發(fā)分類器，目的是自動(dòng)檢測(cè)那些由AI生成，但沒有數(shù)據(jù)水印的圖片。同時(shí)，Meta的AI實(shí)驗(yàn)室近些日子剛分享了一種名為“穩(wěn)定簽名”的數(shù)字水印技術(shù)，將水印機(jī)制直接集成到圖像生成的步驟中，這對(duì)于許多開源模型來說會(huì)非常有價(jià)值。

那視頻、音頻怎么辦？

Meta透露，與圖片有“隱形水印”標(biāo)準(zhǔn)不同，AI生成的音頻、視頻缺乏這方面的共識(shí)，所以現(xiàn)在無法通過檢測(cè)信號(hào)來打標(biāo)簽。

對(duì)此，Meta決定引入自主申報(bào)和處罰機(jī)制。除了讓用戶自主申報(bào)AI視頻和音頻外，Meta可能會(huì)對(duì)那些故意創(chuàng)作深度偽造（deepfake）內(nèi)容且故意不報(bào)的用戶進(jìn)行處罰。

克萊格進(jìn)一步表示，如果Meta認(rèn)定某些AI創(chuàng)作或修改的圖像、視頻或音頻內(nèi)容，在重要問題上實(shí)質(zhì)性欺騙公眾的風(fēng)險(xiǎn)特別高，可能會(huì)酌情添加一個(gè)更醒目的標(biāo)簽。

即便對(duì)于“AI大鬧大選年”心存顧慮，但克萊格依然認(rèn)為這種情況在今年“席卷Meta平臺(tái)”的可能性并不高。克萊格表示：“我們不可能很快看到完全由人工合成的、具有重大政治意義的視頻或音頻，我只是不認(rèn)為會(huì)有這樣的結(jié)果。”

克萊格同時(shí)提到，Meta內(nèi)部已經(jīng)在測(cè)試依照社區(qū)準(zhǔn)則訓(xùn)練的大語言模型，并稱這項(xiàng)技術(shù)提供了一種高效的“分流機(jī)制”，確保人工審核員看到的帖子，的確是需要人工判斷的邊緣案例。

來源：財(cái)聯(lián)社 作者：史正丞