21世紀(jì)經(jīng)濟(jì)報道記者 鐘雨欣 北京報道

利用AI“涉黃”問題已引發(fā)多個國家關(guān)注。據(jù)英國政府網(wǎng)站消息，利用生成式人工智能（AI）制作“深度偽造”色情圖像的人將被定罪。根據(jù)最新定罪標(biāo)準(zhǔn)，任何未經(jīng)同意創(chuàng)作這些可怕色情圖像的人，無論是否分享，都將被視為犯罪并處以無上限的罰款。假如這些圖像被廣泛傳播，始作俑者可能將入刑坐牢。

英國受害者和保護(hù)事務(wù)負(fù)責(zé)人勞拉·法里斯表示：“這是某些人企圖貶低他人的行徑，尤其是針對女性，假如相關(guān)物料廣泛傳播，很可能造成災(zāi)難性后果，本屆政府絕不會容忍這種行為”。英國政府網(wǎng)站稱，近年來，“深度偽造”變得越來越普遍，全世界每個月的這類圖像瀏覽量達(dá)數(shù)百萬次。?

今年1月，美國流行樂歌星泰勒·斯威夫特的“AI偽造照片”在社交媒體上瘋傳，“震驚”美國白宮。在1月26日的白宮記者會上，發(fā)言人讓·皮埃爾回應(yīng)此事，表示“網(wǎng)絡(luò)上的執(zhí)法不嚴(yán)對女性影響更大，她們是受到網(wǎng)絡(luò)騷擾和欺凌的主要目標(biāo)。”

皮埃爾稱，“雖然社交媒體公司在內(nèi)容管理方面能做出獨(dú)立決定，但我們相信他們在執(zhí)行自己規(guī)則，防止錯誤信息和未經(jīng)同意的真實人物私密圖像傳播方面能發(fā)揮重要作用。”她還補(bǔ)充說，應(yīng)該立法解決社交媒體上濫用人工智能技術(shù)的問題。

社交平臺“X”在1月26日發(fā)表聲明稱，嚴(yán)格禁止在該平臺上發(fā)布未經(jīng)同意的露骨內(nèi)容，對此類內(nèi)容采取零容忍政策，團(tuán)隊正在積極刪除所有已識別的圖像，并對發(fā)布這些圖像的賬戶采取適當(dāng)?shù)男袆樱送猓撈脚_連續(xù)幾天封鎖了對泰勒·斯威夫特的相關(guān)搜索。

在此事件之后，微軟公司1月29日宣布，對旗下AI圖片生成產(chǎn)品Designer引入更多“護(hù)欄”，以避免在未經(jīng)同意的情況下生成名人的露骨圖片。

除了名人之外，普通女性也成為了AI深度偽造色情圖片的受害者。據(jù)媒體報道，2023年9月，西班牙發(fā)生一起利用AI的深度偽造技術(shù)制作少女裸照的事件，至少有28名11歲至17歲的少女成為受害者，疑犯不僅將裸照在校園內(nèi)及網(wǎng)絡(luò)上傳播，甚至還利用裸照進(jìn)行勒索。

2023年11月，一名14歲的新澤西州高中生表示,她和其他30多名女同學(xué)的照片被篡改并在網(wǎng)上分享，她呼吁聯(lián)邦機(jī)構(gòu)立法解決人工智能生成的露骨圖片問題。

2024年2月，在美國加州貝弗利山的一所中學(xué)，有學(xué)生利用AI技術(shù)偽造同學(xué)的裸照并在網(wǎng)絡(luò)上散布，引發(fā)當(dāng)?shù)亟逃賳T的強(qiáng)烈譴責(zé)。

近年來，中國也發(fā)生了多起類似事件。2023年3月，“女子地鐵照被AI一鍵脫衣傳播”登上熱搜，而所謂的“裸照”其實是該女子此前分享在社交平臺的一張照片，原圖中該女子衣著正常，卻被AI技術(shù)“一鍵脫衣”，“除衣”后的照片被廣泛傳播。

2023年11月，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，并處罰金6萬元。在該案中，虞某利用“AI換臉”軟件生成大量淫穢視頻進(jìn)行傳播，被換臉的既包括不少女明星等公眾人物，也包括普通人。

檢察機(jī)關(guān)收集的證據(jù)顯示，虞某創(chuàng)建的眾多社交群組中，最少的成員95人，最多的成員達(dá)2053人，通過銷售換臉淫穢視頻以及定制換臉淫穢視頻等違法行為，虞某先后收取口令紅包200余次，總金額共計6萬余元。?

中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒此前在接受21世紀(jì)經(jīng)濟(jì)報道記者采訪時表示，深度合成技術(shù)能否被合法應(yīng)用，是關(guān)系互聯(lián)網(wǎng)信息內(nèi)容安全的大事。俗語說“耳聽為虛，眼見為實”“有圖有真相”，可見照片、視頻在公眾潛意識中的真實性遠(yuǎn)勝文字。而深度合成技術(shù)則恰恰顛覆了這一公眾認(rèn)知，可以偽造音頻、圖片、視頻，捏造人物的行為與語言。

在法律法規(guī)層面，我國已有相應(yīng)規(guī)制。民法典規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。 此外，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。《生成式人工智能服務(wù)管理暫行辦法》也明確，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德。?