陳永偉/文

最近，總部位于加州的克拉克森律師事務(wù)所（ClarksonLawFirm）向加州北部地區(qū)巡回法院提交了一份長(zhǎng)達(dá)157頁(yè)的起訴書，對(duì)風(fēng)頭正勁的人工智能公司OpenAI和它的合作伙伴微軟提起了一項(xiàng)集體訴訟。

在起訴書中，原告指控OpenAI和微軟在開發(fā)、營(yíng)銷和運(yùn)營(yíng)其AI產(chǎn)品時(shí)，對(duì)數(shù)以億計(jì)的互聯(lián)網(wǎng)用戶的個(gè)人信息，包括兒童信息進(jìn)行了非法收集、使用和分享。原告認(rèn)為，被告的上述活動(dòng)違反了多項(xiàng)法律。據(jù)此，原告要求法院對(duì)被告發(fā)布禁令，并對(duì)被告的損失進(jìn)行賠償。

由于這項(xiàng)訴訟是ChatGPT爆火以來(lái)面臨的第一次較有影響力的訴訟，因此在很多新聞報(bào)道中將其稱為“ChatG－PT第一案”。不過(guò)，嚴(yán)格來(lái)說(shuō)，這個(gè)“第一案”的名頭可能未必恰當(dāng)。一方面，幾乎就在克拉克森律師事務(wù)所提起訴訟的同時(shí)，作家保羅·崔布雷（PaulTrem－blay）和莫納·阿瓦德（MonaAwad）也向舊金山聯(lián)邦法院提起了一項(xiàng)針對(duì)Ope－nAI的著作權(quán)訴訟。只不過(guò)，克拉克森律師事務(wù)所提起的這項(xiàng)訴訟在媒體上披露得更多（或許這應(yīng)該歸功于律所的訴訟策略），因而其影響更大。另一方面，這次訴訟涉及的對(duì)象也不限于ChatGPT，而是包括了ChatGPT、Dall-E、Codex在內(nèi)的眾多OpenAI旗下產(chǎn)品。基于這一點(diǎn)，相比于將這次訴訟稱為“ChatGPT第一案”，倒不如將其稱作“OpenAI第一案”更為恰當(dāng)。

AI：最好和最糟的發(fā)明

2016年10月，著名物理學(xué)家斯蒂芬·霍金（StephenHawking）曾在一次演講中說(shuō)道：“AI的成功創(chuàng)造可能是我們文明史上最大的事件。但它也可能是最后一次，除非我們學(xué)會(huì)如何避免風(fēng)險(xiǎn)。”在他看來(lái)，“強(qiáng)大的人工智能的崛起或許是人類有史以來(lái)最好的事情，但也可能是有史以來(lái)最糟糕的事情。”

在克拉克森律師事務(wù)所向法庭提交的起訴書的開頭，就這次集體訴訟的基本情況撰寫了一段引言，其中就引述了霍金的上述著名言論。在代理案件的律師看來(lái)，隨著ChatGPT等產(chǎn)品的成功，一場(chǎng)激烈的AI軍備競(jìng)賽正在大型科技企業(yè)之間展開。這在大幅推進(jìn)AI技術(shù)進(jìn)步的同時(shí)，也迫使人們不得不認(rèn)真思考霍金的預(yù)言：人們應(yīng)該選擇一條更為安全、繁榮、可持續(xù)的AI發(fā)展道路，還是選擇一條通向毀滅的AI發(fā)展道路。

起訴書指出，被告的產(chǎn)品及其技術(shù)無(wú)疑具有很多向善的潛力，但遺憾的是，它們?cè)趽碛辛藦?qiáng)大力量的同時(shí)，卻沒(méi)有意識(shí)到它所蘊(yùn)含的破壞性力量。

原告律師引述了OpenAI安全部門負(fù)責(zé)人的一段公開發(fā)言。這段發(fā)言表明，OpenAI方面其實(shí)早就認(rèn)識(shí)到，它們的AI產(chǎn)品是“一項(xiàng)相當(dāng)不成熟的技術(shù)”，如果沒(méi)有足夠的安全防范，激進(jìn)地部署AI模型將是非常魯莽的。但顯然，OpenAI的上述認(rèn)識(shí)并沒(méi)有讓其放緩對(duì)AI的研發(fā)和部署。在原告律師看來(lái)，正是這種對(duì)風(fēng)險(xiǎn)的忽視和放縱，造成了對(duì)人們隱私權(quán)、財(cái)產(chǎn)權(quán)等多種權(quán)利的侵犯。

原告律師指出，被告這種為謀取經(jīng)濟(jì)利益而不惜犧牲他人和公眾利益的行為是非法的。據(jù)此，他們呼吁法庭要求被告立即停止這些行為，并讓被告確保他們今后的產(chǎn)品是透明（Transparen－cy）、可問(wèn)責(zé)（Accountability），以及可控（Control）的。

美國(guó)AI的發(fā)展回顧

在結(jié)束了“引言”之后，起訴書對(duì)美國(guó)AI的發(fā)展進(jìn)行了一段回顧——不過(guò)，雖然題為“美國(guó)AI發(fā)展”，其實(shí)關(guān)注的焦點(diǎn)完全是在OpenAI和微軟這兩個(gè)被告上。具體來(lái)說(shuō)，這段回顧強(qiáng)調(diào)了四個(gè)基本的事實(shí)：

（1）OpenAI從非營(yíng)利組織向營(yíng)利公司的轉(zhuǎn)變

最初，OpenAI是以一個(gè)非營(yíng)利研究機(jī)構(gòu)的形式成立的，它聲稱要以安全和負(fù)責(zé)任地推動(dòng)人類進(jìn)步作為自己的使命。然而，從2019年起，OpenAI的戰(zhàn)略就發(fā)生了180度的轉(zhuǎn)變，從一個(gè)開放的非營(yíng)利組織轉(zhuǎn)向以盈利為目的的公司結(jié)構(gòu)，并與外部投資者進(jìn)行合作，其中最著名的合作者就是微軟。

從商業(yè)上看，OpenAI的這個(gè)轉(zhuǎn)型是非常成功的。短短幾年時(shí)間，它就從一家默默無(wú)聞的AI研究機(jī)構(gòu)搖身一變成了估值290億美元的公司。但是，原告律師指出，這個(gè)轉(zhuǎn)變也帶來(lái)了很多問(wèn)題。很多人擔(dān)心OpenAI因此將短期財(cái)務(wù)利益置于人類利益之上，尤其是他們?cè)谝阎嬖陲L(fēng)險(xiǎn)的情況下突然將產(chǎn)品廣泛商業(yè)化，可能引發(fā)道德、安全和倫理等多個(gè)方面的問(wèn)題。

（2）ChatGPT的發(fā)展對(duì)秘密抓取網(wǎng)絡(luò)數(shù)據(jù)的依賴

大型語(yǔ)言模型的開發(fā)和訓(xùn)練嚴(yán)重依賴于個(gè)人數(shù)據(jù)，尤其是人與人之間的對(duì)話數(shù)據(jù)。起訴書指出，為了能夠以相對(duì)低廉的成本對(duì)ChatGPT等大語(yǔ)言模型進(jìn)行訓(xùn)練，OpenAI坐視成熟的數(shù)據(jù)交易市場(chǎng)不用，而選用了“偷竊”（theft），也就是秘密在互聯(lián)網(wǎng)上爬取數(shù)據(jù)的方式。在數(shù)年中，它爬取了大約3000億字的網(wǎng)上文本資料，包括書籍、文章，以及網(wǎng)絡(luò)帖子等。除此之外，它還秘密爬取了大量的個(gè)人數(shù)據(jù)，包括個(gè)人信息、聊天記錄、在線客戶服務(wù)互動(dòng)、社交媒體對(duì)話和從互聯(lián)網(wǎng)上抓取的圖片等。

（3）ChatGPT在用戶的應(yīng)用程序上進(jìn)行訓(xùn)練

起訴書指出，最初，ChatGPT曾在未經(jīng)用戶同意的情況下，利用用戶來(lái)幫助其進(jìn)行模型的訓(xùn)練。當(dāng)用戶和ChatGPT聊天時(shí)，他的所有行為和信息，包括點(diǎn)擊、輸入、問(wèn)題、使用、移動(dòng)、按鍵、搜索和地理位置等，都會(huì)被Ope－nAI秘密搜集，并用于模型的訓(xùn)練。

另外需要指出的是，OpenAI并沒(méi)有對(duì)其搜集的用戶信息的保存狀況進(jìn)行充分披露。由于這些數(shù)據(jù)當(dāng)中可能包含用戶的敏感信息，因此在缺乏妥善保護(hù)的情況下，它們存在著很大的泄露風(fēng)險(xiǎn)。

（4）微軟推廣OpenAI的經(jīng)濟(jì)依賴模式

起訴書指出，作為OpenAI的最重要合作者，微軟在推廣OpenAI產(chǎn)品的過(guò)程中起到了至關(guān)重要的作用，但與此同時(shí)，也大幅加速了潛在風(fēng)險(xiǎn)的擴(kuò)散。盡管GPT的最新版本GPT-4不久之前才正式發(fā)布，但微軟就已經(jīng)積極將其集成到了從學(xué)術(shù)到醫(yī)療的各領(lǐng)域核心產(chǎn)品當(dāng)中。這樣的集成讓OpenAI的產(chǎn)品觸達(dá)的用戶數(shù)量暴漲，同時(shí)也大幅擴(kuò)大了風(fēng)險(xiǎn)。然而，微軟不但沒(méi)有對(duì)這種風(fēng)險(xiǎn)引起足夠的重視，反而解雇了負(fù)責(zé)確保倫理AI原則的團(tuán)隊(duì)。而當(dāng)其他的AI開發(fā)商目睹了OpenAI和微軟的“成功”之后，也紛紛加以效防。在這種情況下，相關(guān)風(fēng)險(xiǎn)達(dá)到了前所未有的高度。

AI的最主要風(fēng)險(xiǎn)

在對(duì)“美國(guó)的AI發(fā)展”進(jìn)行了回顧之后，起訴書進(jìn)一步列出了當(dāng)前情況之下存在的最主要風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括：

（1）大規(guī)模侵犯隱私的行為

被告對(duì)用戶個(gè)人信息的大規(guī)模收集和跟蹤構(gòu)成了對(duì)用戶隱私和安全的巨大威脅。這些信息可能被用于身份盜竊、金融欺詐、敲詐勒索等惡意目的。

這里尤其值得指出的是，OpenAI沒(méi)有尊重用戶的“被遺忘權(quán)”（righttobeforgotten），即用戶刪除自己個(gè)人數(shù)據(jù)的權(quán)利。雖然OpenAI表面上允許用戶要求刪除自己的相關(guān)數(shù)據(jù)，但事實(shí)上，這個(gè)刪除選項(xiàng)可能是虛假的。一些公司禁止或限制ChatGPT的使用，也因?yàn)樗麄儞?dān)心所有上傳到像OpenAI的Chat－GPT或谷歌的Bard這樣的AI平臺(tái)的內(nèi)容將被存儲(chǔ)在這些公司的服務(wù)器上，從而無(wú)法訪問(wèn)或刪除這些信息。

（2）AI引發(fā)的虛假信息宣傳、有針對(duì)性的攻擊、性犯罪和偏見(jiàn)

起訴書指出，包括ChatGPT在內(nèi)的被告產(chǎn)品存在著嚴(yán)重的產(chǎn)品缺陷，即會(huì)產(chǎn)生各種虛假的信息。一個(gè)典型的例子是ChatGPT編造的關(guān)于喬治·華盛頓大學(xué)法學(xué)教授喬納森·特利（JonathanTurley）性騷擾的謠言。不久前，加州大學(xué)洛杉磯分校的法學(xué)教授尤金·沃洛克（EugeneVolokh）為研究AI生成內(nèi)容的法學(xué)問(wèn)題而進(jìn)行了一項(xiàng)測(cè)試：他要求ChatGPT生成一份“曾對(duì)他人進(jìn)行過(guò)性騷擾的法律學(xué)者”的名單。為了確保生成的內(nèi)容是真實(shí)的，他還專門要求ChatGPT對(duì)生成的內(nèi)容標(biāo)明信息出處。當(dāng)沃洛克閱讀這份名單時(shí)，他發(fā)現(xiàn)特利的名字赫然在列。根據(jù)ChatGPT的描述，特利曾在一次去阿拉斯加的班級(jí)旅行中發(fā)表了具有性暗示的言論，并嘗試對(duì)一名學(xué)生進(jìn)行猥褻。沃洛克對(duì)此大為震驚，畢竟作為著名教授，特利也是圈內(nèi)響當(dāng)當(dāng)?shù)娜宋铮鳛橥校雇耆珱](méi)有聽過(guò)這個(gè)圈內(nèi)的“大瓜”。于是，他立即對(duì)該消息進(jìn)行了確認(rèn)。結(jié)果發(fā)現(xiàn)，此事根本是子虛烏有，特利根本沒(méi)有去參加過(guò)什么班級(jí)旅行，也更沒(méi)有進(jìn)行過(guò)什么性騷擾的活動(dòng)。在沃洛克向媒體公布了這個(gè)消息后，“人在家中坐，‘鍋’從天上來(lái)”的特利才知道了自己竟然被ChatGPT描述為了一名性騷擾者。他對(duì)此非常不滿，在接受采訪時(shí)，他說(shuō)道：“這真令人不寒而栗！這種莫須有的指控是非常有害的。”

起訴書還指出，除了傳播錯(cuò)誤信息外，被告的產(chǎn)品還可能被犯罪分子應(yīng)用于騷擾、勒索、敲詐、脅迫、詐騙等犯罪活動(dòng)。例如，現(xiàn)在出現(xiàn)了一種新型的“性騷擾”形式，通過(guò)社交媒體獲得的私人照片和視頻，以創(chuàng)建含有色情內(nèi)容的深度偽造（deepfake）內(nèi)容。這些照片在網(wǎng)上的公開傳播，對(duì)受害人的情緒和心理造成了嚴(yán)重的傷害。

這里尤其需要重視的是，被告的產(chǎn)品還被用于兒童色情。例如，有一些戀童癖者使用Dall-E，以非常低的成本創(chuàng)造出了大量?jī)和孕袨榈膱D片和視頻，并將它們?cè)诎稻W(wǎng)上大肆傳播。這些行為都造成了相當(dāng)嚴(yán)重的后果。

此外，起訴書還指出，被告的產(chǎn)品，如ChatGPT等還促進(jìn)了憎恨和偏見(jiàn)的傳播。這是因?yàn)椋Z(yǔ)言模型是基于現(xiàn)實(shí)的語(yǔ)料訓(xùn)練而成的，其中就包含了大量涉及憎恨和偏見(jiàn)的內(nèi)容。被告在訓(xùn)練模型時(shí)，并沒(méi)有注意排除這些信息，因而就導(dǎo)致了模型本身存在著缺陷。

（3）幫助構(gòu)建超強(qiáng)惡意軟件

起訴書指出，被告的產(chǎn)品還為惡意軟件的創(chuàng)建提供了強(qiáng)力支持。所謂惡意軟件（Malware），指的是旨在破壞或滲透計(jì)算機(jī)系統(tǒng)的計(jì)算機(jī)程序。過(guò)去十年中，惡意軟件變得越來(lái)越復(fù)雜，越來(lái)越難以檢測(cè)。

被告的產(chǎn)品可以以很低的成本生成幾乎不可檢測(cè)的惡意軟件，并且可以大規(guī)模使用，對(duì)全球的網(wǎng)絡(luò)安全構(gòu)成前所未有的風(fēng)險(xiǎn)。盡管OpenAI方面聲稱有禁止生成多態(tài)惡意軟件的安全防護(hù)措施，但實(shí)際上惡意軟件開發(fā)人員可以通過(guò)巧妙的輸入繞過(guò)這些過(guò)濾器。據(jù)此，原告律師認(rèn)為，將這種增強(qiáng)的破壞能力交給大眾，但又缺乏必要的安全防護(hù)措施應(yīng)當(dāng)被視為是被告的嚴(yán)重過(guò)失行為。

（4）自主武器

所 謂 自 主 武 器（AutonomousWeapons），也被稱為“殺戮機(jī)器人”（Slaughterbots）、“致命自主武器系統(tǒng)”（lethalautonomousweaponssystems），或“殺手機(jī)器人”（killerrobots），它利用AI識(shí)別、選擇，并在無(wú)需干預(yù)的情況下以殺死人類為目標(biāo)，從而對(duì)國(guó)際安全和人權(quán)構(gòu)成了嚴(yán)重的威脅。

起訴書指出，目前這種未受監(jiān)管的AI風(fēng)險(xiǎn)已經(jīng)不再遙不可及，而是正在成為一種現(xiàn)實(shí)的風(fēng)險(xiǎn)，例如它曾差一點(diǎn)就刺殺了一名外國(guó)元首（注：起訴書沒(méi)有對(duì)這起事件進(jìn)行說(shuō)明。筆者猜測(cè)，它指的應(yīng)該是委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅在演講時(shí)遭遇無(wú)人機(jī)攻擊一事）。而要建造和使用這樣的殺人武器，其成本和難度都非常低。

專家警告稱，由于在不斷提升人工智能能力的同時(shí)，缺乏足夠的道德和倫理規(guī)范，因此類似技術(shù)的進(jìn)展將加速自主武器的發(fā)展，而對(duì)這些產(chǎn)品的大規(guī)模商業(yè)化則會(huì)加速風(fēng)險(xiǎn)的傳播和擴(kuò)散。

被告對(duì)原告財(cái)產(chǎn)權(quán)和隱私權(quán)的侵犯

在列舉了被告的產(chǎn)品可能造成的各種重大風(fēng)險(xiǎn)之后，起訴書著重對(duì)被告侵犯隱私權(quán)和財(cái)產(chǎn)權(quán)的問(wèn)題進(jìn)行了陳述。

（1）被告的爬取數(shù)據(jù)應(yīng)當(dāng)被視為盜竊

起訴書認(rèn)為，被告在未經(jīng)同意的前提下，秘密對(duì)互聯(lián)網(wǎng)進(jìn)行的大規(guī)模抓取本質(zhì)上是一種盜竊和挪用行為。

為了對(duì)被告的行為性質(zhì)進(jìn)行說(shuō)明，原告律師將其和2020年的ClearviewAI事件進(jìn)行了類比。ClearviewAI是一家人臉識(shí)別公司，為了開發(fā)其產(chǎn)品，在未征得用戶同意的情況下，從各種網(wǎng)站和社交媒體平臺(tái)上抓取了數(shù)十億張公開的照片。在其行為被《紐約時(shí)報(bào)》公開后，立即引發(fā)了公眾的不安。2020年3月，伊利諾伊州的美國(guó)公民自由聯(lián)盟，以及佛蒙特州的檢察官幾乎在同時(shí)對(duì)ClearviewAI提起了訴訟。英國(guó)、意大利、澳大利亞等國(guó)的監(jiān)管部門也陸續(xù)對(duì)ClearviewAI展開了調(diào)查，并先后對(duì)其作出了數(shù)額不等的罰款。

原告律師認(rèn)為，現(xiàn)在OpenAI的違規(guī)數(shù)據(jù)搜集行為在性質(zhì)上是和ClearviewAI十分類似的，因而也應(yīng)該被視為非法。

（2）被告行為對(duì)原告財(cái)產(chǎn)權(quán)益的侵犯

起訴書指出，在過(guò)去的案例當(dāng)中，法院已經(jīng)確立了互聯(lián)網(wǎng)用戶對(duì)其個(gè)人信息和數(shù)據(jù)擁有財(cái)產(chǎn)權(quán)益的原則，因此，OpenAI的非法抓取數(shù)據(jù)行為首先就對(duì)原告的財(cái)產(chǎn)權(quán)益構(gòu)成了侵犯。在數(shù)據(jù)市場(chǎng)上，一個(gè)互聯(lián)網(wǎng)用戶的信息價(jià)值在15美元到40美元之間，甚至更多。另外有調(diào)查表明，一個(gè)人的在線身份在暗網(wǎng)上可以以1200美元的價(jià)格出售。如果按照此估價(jià)，OpenAI非法侵犯的財(cái)產(chǎn)價(jià)值將是十分驚人的。

（3）被告行為對(duì)原告隱私權(quán)益的侵犯

除了財(cái)產(chǎn)權(quán)利之外，互聯(lián)網(wǎng)用戶對(duì)個(gè)人信息擁有隱私權(quán)利，即使這些信息已經(jīng)發(fā)布在網(wǎng)絡(luò)上。因此，被告的非法爬取行為也對(duì)原告的隱私權(quán)益構(gòu)成了侵犯。

起訴書指出，通過(guò)對(duì)數(shù)據(jù)進(jìn)行聚合和分析可以揭示個(gè)人不愿被公開的信息。比如，通過(guò)個(gè)人公開的推文，可以分析出他的心理健康狀況。因此，即使只有少量的“公開”私人信息，也足以損害互聯(lián)網(wǎng)用戶的隱私權(quán)益。除此之外，起訴書還指出，用戶在網(wǎng)上發(fā)表言論時(shí)通常會(huì)預(yù)期這些內(nèi)容不會(huì)被太多人看到，并且隨著時(shí)間的流逝其影響還會(huì)日漸消退。但被告的行為卻打破了用戶的這種預(yù)期，從而對(duì)他們的利益造成了侵犯。

（4）被告商業(yè)行為對(duì)理性人的冒犯及對(duì)監(jiān)管機(jī)構(gòu)警告的無(wú)視

起訴書指出，現(xiàn)在的公眾對(duì)被告如何使用和可能濫用他們的個(gè)人信息感到恐懼和焦慮。人們擔(dān)心自己的個(gè)人信息會(huì)被永遠(yuǎn)嵌入到被告的產(chǎn)品當(dāng)中，從而被反復(fù)訪問(wèn)、共享和濫用。

此外，起訴書還指出，現(xiàn)在的監(jiān)管機(jī)構(gòu)已經(jīng)對(duì)類似的非法行為進(jìn)行了警告，例如聯(lián)邦貿(mào)易委員會(huì)就曾在一起針對(duì)亞馬遜的案件中提到：“機(jī)器學(xué)習(xí)不是違法的借口……用來(lái)改進(jìn)算法的數(shù)據(jù)必須合法收集和保留。公司最好汲取這一教訓(xùn)。”然而，被告顯然并沒(méi)有對(duì)這個(gè)警告引起充分的重視。

（5）被告在超出合理同意的情況下竊取用戶數(shù)據(jù)

除了直接在網(wǎng)絡(luò)上抓取信息外，被告還對(duì)用戶使用ChatGPT等產(chǎn)品的過(guò)程中產(chǎn)生的數(shù)據(jù)進(jìn)行搜集。在起訴書中，將其稱為第二類盜竊行為。具體來(lái)說(shuō)，這有兩種表現(xiàn)：一方面，對(duì)于那些使用ChatGPT插件或API的消費(fèi)者來(lái)說(shuō)，各個(gè)網(wǎng)站并沒(méi)有提供任何知情同意信息，消費(fèi)者的信息和個(gè)人數(shù)據(jù)在這種情況下被違規(guī)搜集并被用于了訓(xùn)練被告的大模型。另一方面，即使是那些注冊(cè)了OpenAI賬戶，并與ChatGPT直接互動(dòng)的人在其數(shù)據(jù)被搜集之前，也沒(méi)有得到告知。

除此之外，被告還告知用戶可以要求不使用他們的私人信息，但實(shí)際上，他們并無(wú)法從語(yǔ)言模型的知識(shí)庫(kù)中刪除已收集的數(shù)據(jù)。同時(shí)，被告也無(wú)法向用戶提供數(shù)據(jù)使用的狀況，因而其行為嚴(yán)重違反了透明度原則。

被告對(duì)兒童權(quán)益的侵犯

在陳述了被告對(duì)原告造成的財(cái)產(chǎn)權(quán)侵害和隱私權(quán)侵害之后，起訴書還著重強(qiáng)調(diào)了其對(duì)兒童的隱私和風(fēng)險(xiǎn)帶來(lái)的危害。具體來(lái)說(shuō)，這包含如下幾個(gè)方面：

一是在未經(jīng)同意的情況下對(duì)兒童進(jìn)行欺騙性的追蹤。起訴書指出，被告違規(guī)搜集了大量關(guān)于兒童的敏感信息，包括身份、位置、興趣和關(guān)系等。

二是OpenAI在服務(wù)條款和隱私政策中明確指出ChatGPT的使用對(duì)象是十三歲及以上的個(gè)人，但在現(xiàn)實(shí)中，平臺(tái)并沒(méi)有設(shè)置驗(yàn)證機(jī)制，未成年用戶可以很容易通過(guò)虛報(bào)年齡來(lái)獲得使用資格。而被告的這個(gè)疏漏，會(huì)把這些未成年用戶置于有害信息的曝露之下。

三是被告對(duì)兒童用戶的經(jīng)濟(jì)價(jià)值進(jìn)行了剝奪。起訴書指出，相比于成人，兒童更容易在誘導(dǎo)之下出賣自己和其他人的各種信息，這使得被告可以通過(guò)兒童獲得更高價(jià)值的數(shù)據(jù)，并將其用于營(yíng)利用途。

四是被告侵犯了合理的隱私預(yù)期，并具有冒犯性。起訴書指出，家長(zhǎng)撫養(yǎng)和監(jiān)護(hù)子女的權(quán)利是基本的自由權(quán)益。因此，被告在兒童隱私問(wèn)題上存在的問(wèn)題其實(shí)也是侵犯了家長(zhǎng)對(duì)于隱私保護(hù)的合理預(yù)期，這不僅違法，也嚴(yán)重沖擊社會(huì)規(guī)范和道德。

相關(guān)的指控和法律救濟(jì)

基于以上的相關(guān)事實(shí)，原告律師認(rèn)為，被告OpenAI和微軟涉嫌違反了包括《電子通信隱私法》、《計(jì)算機(jī)欺詐和濫用法》在內(nèi)的多項(xiàng)法律，因而對(duì)其提起了十五項(xiàng)指控。

同時(shí)，原告向法院提出了自己的法律救濟(jì)方案。該方案包括：請(qǐng)求法院發(fā)布禁止令，讓被告臨時(shí)凍結(jié)對(duì)產(chǎn)品的商業(yè)訪問(wèn)和商業(yè)開發(fā)，直到完成一系列整改，并符合法院要求為止。同時(shí)，起訴書中還要求被告對(duì)原告進(jìn)行賠償——包括由審判確定的實(shí)際賠償，三倍的懲罰性損害賠償，以及法律允許的示范性賠償。盡管在起訴書中，并沒(méi)有給出大致的賠償金額，但如果相關(guān)指控得到了法院的支持，那么這個(gè)數(shù)額應(yīng)該會(huì)是一個(gè)不小的數(shù)字。

訴訟的前景和意義

實(shí)事求是地說(shuō)，雖然這份起訴書中提出的指控非常嚴(yán)重，但原告想要據(jù)此成功告倒OpenAI和微軟并不是那么容易的。畢竟，作為被告的微軟擁有強(qiáng)大的法律團(tuán)隊(duì)，還有雄厚的財(cái)力支持。即使真的能夠成功，恐怕也要經(jīng)歷一場(chǎng)曠日持久的訴訟。事實(shí)上，根據(jù)慣例，這個(gè)案件最有可能的終結(jié)方式就是原被告雙方達(dá)成和解，OpenAI和微軟接受原告的部分訴求，并給予一筆數(shù)額不算太大的賠償了事。也就是說(shuō)，盡管案件的雷聲很大，但最后的結(jié)果可能只是幾點(diǎn)小雨而已。

不過(guò)，雖然乏味的結(jié)局大概率已經(jīng)注定，但在此時(shí)此刻，這個(gè)案件本身依然是非常有意義的。從去年開始，生成式AI迎來(lái)了爆發(fā)。和過(guò)去的技術(shù)熱潮不同，引領(lǐng)這場(chǎng)爆發(fā)的并不是谷歌、臉書這樣的傳統(tǒng)巨頭，而是OpenAI這樣一家規(guī)模并不算大的創(chuàng)業(yè)公司。強(qiáng)大的技術(shù)、勵(lì)志的公司形象設(shè)定，很容易讓人忘記它正在推廣的產(chǎn)品背后所蘊(yùn)含的風(fēng)險(xiǎn)。隨著生成式AI模型的迅速普及，相關(guān)風(fēng)險(xiǎn)已經(jīng)越來(lái)越難以忽視，因而在這個(gè)時(shí)間點(diǎn)上，通過(guò)一場(chǎng)這樣的訴訟把問(wèn)題挑明，讓更多的人認(rèn)識(shí)到AI發(fā)展背后的風(fēng)險(xiǎn)，就是非常有價(jià)值的。

應(yīng)當(dāng)承認(rèn)，原告律師在起訴書當(dāng)中提出的問(wèn)題大部分是存在的，不過(guò)，對(duì)于其提出的法律救濟(jì)方案，我個(gè)人認(rèn)為存在可以商榷之處。

在現(xiàn)階段，各類AI模型已經(jīng)被廣泛使用，如果要像原告要求的那樣，立即停止使用這些模型，將會(huì)造成非常巨大的損失，這是不現(xiàn)實(shí)的。相比之下，一種更為穩(wěn)妥的方式可能是在發(fā)展中逐步加強(qiáng)治理。

事實(shí)上，起訴書中給出的很多問(wèn)題，都可以用技術(shù)的方式來(lái)解決的，例如在注冊(cè)過(guò)程中加強(qiáng)驗(yàn)證，就可以解決未成年人偽造年齡的問(wèn)題；通過(guò)聯(lián)邦學(xué)習(xí)等方式，就可以有效緩解數(shù)據(jù)搜集帶來(lái)的隱私泄露問(wèn)題；借助于區(qū)塊鏈等技術(shù)，就可以追蹤數(shù)據(jù)的流向。我想，比起一禁了之來(lái)說(shuō)，如果OpenAI和微軟在通過(guò)AI獲得了巨額收入之后，將營(yíng)利的一部分投入技術(shù)，用來(lái)克服先前的各種問(wèn)題，讓其AI模型在發(fā)展和治理之間實(shí)現(xiàn)更好的平衡，可能是一個(gè)更好的解決方案。