隨著人工智能通用大模型的問世，全球?qū)IGC技術(shù)的強(qiáng)大潛力有了更加深刻的認(rèn)識。然而，這也引發(fā)了諸多關(guān)于AIGC技術(shù)可信度、隱私保護(hù)以及知識產(chǎn)權(quán)等問題的爭議，引起了廣泛關(guān)注。

5月9日，抖音針對人工智能生成內(nèi)容出十一條平臺(tái)規(guī)范與行業(yè)倡議。

其實(shí)，早在今年4月11日，國家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《意見稿》）公開征求意見。其中之一便對“AI生成的內(nèi)容要有標(biāo)識”提出了具體要求。

按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，提供者還應(yīng)對生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識。目前對標(biāo)識的具體方式還沒有很清晰的解釋。但加上標(biāo)識是有利于整治行業(yè)亂象的，例如上文提到的換臉造謠事件，AI服務(wù)提供方可以依據(jù)標(biāo)識快速辟謠、進(jìn)行追責(zé)。

在AIGC技術(shù)火熱的當(dāng)下，一盆冷水迎頭而來。

AIGC需要降溫

據(jù)了解，抖音發(fā)布的“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”中提及，發(fā)布者需對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)。禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)、違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。上述違規(guī)行為一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

為了便于上述倡議落地，抖音還承諾平臺(tái)將提供統(tǒng)一的人工智能生成內(nèi)容標(biāo)識能力，幫助創(chuàng)作者打標(biāo)，方便用戶區(qū)分。此外，平臺(tái)還將提供虛擬人的注冊能力，對已注冊的虛擬人形象進(jìn)行保護(hù)，并且提供用戶反饋渠道，方便用戶反饋違規(guī)生成內(nèi)容。

在Open AI接連對ChatGPT迭代升級的背景下，國內(nèi)外大廠爭相推出旗下有關(guān)Al的最新應(yīng)用。人們對該類技術(shù)在歧視、誤傳和隱私方面的潛在風(fēng)險(xiǎn)的擔(dān)憂日益加劇。

過去的幾個(gè)月內(nèi)，網(wǎng)絡(luò)上有關(guān)AIGC商業(yè)泄密、違法信息傳播、虛假信息、侵權(quán)等問題也接踵而至。

鬧劇早有預(yù)演。2022年11月，GitHub、微軟和OpenAI在一起侵權(quán)案中被起訴，程序員指控一款名為GitHub Copilot的AI編程工具抄襲代碼。

2023年2月17日，杭州某小區(qū)業(yè)主嘗試用ChatGPT寫了新聞稿“杭州市政府3月1號取消限行”，并將其轉(zhuǎn)發(fā)至網(wǎng)絡(luò)上，導(dǎo)致虛假新聞在網(wǎng)絡(luò)上瘋傳。

2023年4月29日，喬治·華盛頓大學(xué)法學(xué)教授喬納森·特利被ChatGPT列入“性騷擾”名單，聲稱他在一次去阿拉斯加的旅行中對學(xué)生“動(dòng)手動(dòng)腳”，并援引了一篇所謂《華盛頓郵報(bào)》的新聞報(bào)道作為信息來源。

近日，B站上“AI孫燕姿翻”翻唱的《下雨天》《發(fā)如雪》點(diǎn)擊量已經(jīng)破百萬。“AI周杰倫”，“AI王心凌”也陸續(xù)在網(wǎng)絡(luò)上爆火，歌迷們紛紛驚嘆于AI功能的強(qiáng)大，表示“那以后，就能聽見黃家駒、張國榮他們唱新歌了。但有網(wǎng)友重視起版權(quán)問題，有微博網(wǎng)友笑稱，“第一步應(yīng)該是獲得孫燕姿的授權(quán)同意吧”。

回顧移動(dòng)互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、區(qū)塊鏈的發(fā)展歷程，新技術(shù)的發(fā)展和監(jiān)管合規(guī)往往相輔相成。如何在合規(guī)的基礎(chǔ)上穩(wěn)步實(shí)現(xiàn)應(yīng)用落地、推進(jìn)產(chǎn)品迭代，是入局AIGC的企業(yè)后續(xù)需要考慮的一點(diǎn)。

AIGC所存在的法律風(fēng)險(xiǎn)正在狂飆

ChatGPT的大火，帶來了AIGC技術(shù)及相關(guān)應(yīng)用的“強(qiáng)勢出圈”。從AIGC的應(yīng)用行業(yè)來看，AIGC為文化傳媒、商業(yè)、教育、金融、醫(yī)療、工業(yè)、影視等多領(lǐng)域都帶來了顛覆性的創(chuàng)新。

不可否認(rèn)的是AIGC的發(fā)展為各行各業(yè)帶來了新的變革與機(jī)遇，但與此同時(shí)，也暴露出了一系列AIGC可能帶來的風(fēng)險(xiǎn)。

以下是數(shù)據(jù)猿整理的關(guān)于AIGC可能會(huì)涉及的一些法律風(fēng)險(xiǎn)。

1、版權(quán)侵權(quán)風(fēng)險(xiǎn)

AIGC本質(zhì)上是機(jī)器學(xué)習(xí)的應(yīng)用，也就是說基于AIGC所產(chǎn)生和生成的內(nèi)容是基于數(shù)據(jù)通過大量的學(xué)習(xí)而來。目前AI模型的數(shù)據(jù)來源包括以下幾類：公共數(shù)據(jù)集、公共網(wǎng)站、自有數(shù)據(jù)、眾包數(shù)據(jù)、合成數(shù)據(jù)等。除了合成數(shù)據(jù)沒有版權(quán)爭議外，其他數(shù)據(jù)都是通過采集互聯(lián)網(wǎng)獲得。

在今年2月，根據(jù)《華爾街日報(bào)》記者弗朗西斯科·馬可尼（Francesco Marconi）公開指責(zé)，Open AI公司未經(jīng)授權(quán)大量使用路透社、紐約時(shí)報(bào)、衛(wèi)報(bào)、BBC等國外主流媒體的文章訓(xùn)練Chat GPT模型，但從未支付任何費(fèi)用。

AIGC技術(shù)開發(fā)與應(yīng)用中的知識產(chǎn)權(quán)尤其是版權(quán)侵權(quán)問題之所以受到高度關(guān)注，其根源在于AIGC模型的形成和完善依賴于大量的數(shù)據(jù)訓(xùn)練，而用于訓(xùn)練的數(shù)據(jù)往往包含受版權(quán)法保護(hù)的內(nèi)容。

2、數(shù)據(jù)泄露風(fēng)險(xiǎn)

3月20日，ChatGPT平臺(tái)出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況。這是ChatGPT平臺(tái)首次遭遇重大個(gè)人數(shù)據(jù)泄露。之后，加拿大隱私專員辦公室（OPC）有收到投訴，稱OpenAI在未經(jīng)同意的情況下收集、使用和泄露個(gè)人信息。4月，加拿大隱私專員辦公室（OPC）宣布，將對AI聊天機(jī)器人ChatGPT背后的開發(fā)商OpenAI展開調(diào)查。

雖然像ChatGPT這樣的生成式AI對于提高工作效率非常有幫助，但是將ChatGPT用于工作時(shí)還是有許多問題沒有解決，比如，三星使用ChatGPT不到20天就發(fā)生了芯片機(jī)密泄露事件。

3、深度偽造風(fēng)險(xiǎn)

深度偽造（Deepfakes）技術(shù)是近年來發(fā)展的一種基于深度學(xué)習(xí)的人物圖像合成技術(shù)。其主要被運(yùn)用于AI換臉、語音模擬、人臉合成、視頻生成等場景。深度偽造技術(shù)被某些群體的惡意運(yùn)用，將可能導(dǎo)致該技術(shù)被用于生成虛假信息、使用模型來模擬某個(gè)人的語言或行為模式、進(jìn)行政治干預(yù)、煽動(dòng)暴力和犯罪等破壞公共利益的行為。例如：AIGC驅(qū)動(dòng)的圖像生成器制作出來的美國前總統(tǒng)特朗普和俄羅斯總統(tǒng)普京被捕的照片，在社交媒體上廣泛流傳。不僅是普京被AIGC“惡搞”，AIGC更是惡意剪輯了烏克蘭總統(tǒng)澤連斯基宣布投降的深度偽造視頻。這些假圖像可能會(huì)在社會(huì)的關(guān)鍵時(shí)刻混淆事實(shí)和虛構(gòu)，削弱公眾對信息的信任。

4、信息真假難辨、無法提供信源風(fēng)險(xiǎn)

目前以ChatGPT為代表的大型語言模型（LLMs）是在包含海量數(shù)據(jù)的大規(guī)模數(shù)據(jù)集上預(yù)訓(xùn)練產(chǎn)生的，其“知識庫”當(dāng)然不可能窮盡全部知識，而預(yù)訓(xùn)練也意味著數(shù)據(jù)集僅有“過去”的信息，無法更新到最新數(shù)據(jù)。

和ChatGPT對話過的伙伴想必都很清楚，ChatGPT并不能完全解釋給出回答的事實(shí)類信息的真實(shí)來源，如果要求它提供，很可能會(huì)給出虛假的鏈接或應(yīng)用。

基于這些風(fēng)險(xiǎn)存在，AIGC成為各國規(guī)范的重點(diǎn)對象，也迎來了全球監(jiān)管風(fēng)暴。

千億級市場，監(jiān)管是阻礙還是發(fā)展前提？

ChatGPT的出現(xiàn)引發(fā)了生成式AI技術(shù)的快速發(fā)展和廣泛應(yīng)用，激發(fā)了新一輪的AI技術(shù)熱潮和競爭。谷歌、亞馬遜等科技巨頭相繼推出了面向用戶的生成式AI工具，國內(nèi)多家科技公司也在加快對AIGC技術(shù)的布局。

根據(jù)美國Western Securities（西部證券）的分析，預(yù)計(jì)到2025年，AIGC市場空間將達(dá)到40.35億美元，到2030年市場將達(dá)到217.56億美元（約合人民幣1500億元）。艾媒咨詢數(shù)據(jù)也顯示出了AIGC技術(shù)在國內(nèi)的發(fā)展速度，數(shù)據(jù)顯示，預(yù)計(jì)2023年國內(nèi)AIGC行業(yè)核心市場規(guī)模為79.3億元，2028年將達(dá)2767.4億元。這意味著整個(gè)市場在未來幾年可能迎來爆炸式增長。

這一技術(shù)以及近期表現(xiàn)已經(jīng)引起了多數(shù)國家的高度關(guān)注。尤其是針對AIGC利用版權(quán)作品進(jìn)行數(shù)據(jù)訓(xùn)練與輸出成果的過程存在風(fēng)險(xiǎn)，各國也出了相應(yīng)的監(jiān)管。

3月31日，意大利數(shù)據(jù)保護(hù)局（Garante）以涉嫌違反數(shù)據(jù)收集規(guī)則為由，對ChatGPT的開放公司OpenAI展開調(diào)查，并宣布暫時(shí)禁止使用ChatGPT，且限制OpenAI處理意大利用戶數(shù)據(jù)。

在意大利宣布調(diào)查后的幾天里，法國、德國和愛爾蘭的數(shù)據(jù)監(jiān)管機(jī)構(gòu)已聯(lián)系意大利數(shù)據(jù)保護(hù)局，要求提供有關(guān)其調(diào)查結(jié)果的更多信息；包括中國、美國、法國、意大利、西班牙和加拿大在內(nèi)的多國政府已宣布或考慮對生成式AI進(jìn)行調(diào)查監(jiān)管。

4月11日，美國商務(wù)部就相關(guān)的問責(zé)措施正式公開征求意見，包括具有潛在風(fēng)險(xiǎn)的新型人工智能模型在發(fā)布前是否應(yīng)該進(jìn)行核準(zhǔn)認(rèn)證程序。這被視作美國邁出對人工智能領(lǐng)域?qū)嵭袧撛诒O(jiān)管的第一步。

美國總統(tǒng)拜登出席了在白宮舉行的一個(gè)人工智能會(huì)議，會(huì)見包括谷歌、微軟和OpenAI在內(nèi)的頂級AI公司的首席執(zhí)行官。會(huì)后，美國副總統(tǒng)哈里斯在一份聲明中表示，AI技術(shù)有可能改善生活，但也可能會(huì)帶來安全、隱私和公民權(quán)利方面的擔(dān)憂。她告訴這些科技公司的高管，他們有責(zé)任確保其AI產(chǎn)品的安全，政府對AI方面的立法持開放態(tài)度。

4月12日，意大利數(shù)據(jù)保護(hù)局圍繞數(shù)據(jù)安全問題向OpenAI提出了一系列要求，要求其公開ChatGPT的數(shù)據(jù)處理邏輯、對用戶年齡進(jìn)行篩查、明確數(shù)據(jù)主體擁有的權(quán)利等。

4月13日，法國國家信息自由委員會(huì)決定對ChatGPT提出5項(xiàng)指控，并展開調(diào)查。同日，西班牙數(shù)據(jù)保護(hù)局也發(fā)表聲明，稱該機(jī)構(gòu)已經(jīng)正式對ChatGPT可能的違反法律行為展開初步調(diào)查程序。

4月27日，歐盟達(dá)成了一項(xiàng)新的立法草案，該草案規(guī)定生成性人工智能工具的開發(fā)商必須披露其在構(gòu)建系統(tǒng)時(shí)所使用的任何受版權(quán)保護(hù)的材料。該協(xié)議可能為世界上第一部綜合性人工智能法律《人工智能法》鋪平道路。

雖然多國都已經(jīng)開始對生成式AI進(jìn)行監(jiān)管，但上述做法都只是在尚未形成統(tǒng)一標(biāo)準(zhǔn)的背景下所做的探索。生成式AI為內(nèi)容生產(chǎn)的方式帶來了史無前例的改變，如何更好地應(yīng)對這種變化，仍然需要在實(shí)踐中不斷嘗試和優(yōu)化。

有網(wǎng)友擔(dān)心這才剛起步就開展監(jiān)管是不是太早了？在追趕海外同行的情況下會(huì)不會(huì)造成阻礙？

AIGC技術(shù)作為一種新興的技術(shù)，監(jiān)管是非常必要的。雖然過早的監(jiān)管可能會(huì)限制其發(fā)展，但不加監(jiān)管可能會(huì)導(dǎo)致嚴(yán)重的安全和法律風(fēng)險(xiǎn)。

在AIGC技術(shù)的初期發(fā)展階段，建立合適的監(jiān)管機(jī)制可以幫助監(jiān)督AIGC系統(tǒng)的安全和合規(guī)性，從而增強(qiáng)公眾對AIGC技術(shù)的信任度。同時(shí)，監(jiān)管機(jī)制還可以幫助避免AIGC技術(shù)被不法分子利用來進(jìn)行欺詐、虛假廣告等違法行為，對保障公共利益具有重要作用。

當(dāng)然，監(jiān)管機(jī)制也需要平衡創(chuàng)新和監(jiān)管之間的關(guān)系。過度的監(jiān)管可能會(huì)抑制AIGC技術(shù)的發(fā)展，因此，監(jiān)管應(yīng)該是科學(xué)合理、可持續(xù)的，以充分保護(hù)公眾利益的同時(shí)，盡可能地減少不必要的限制和成本。

如何保障技術(shù)高速發(fā)展與合規(guī)同步進(jìn)行？

去年11月30日，OpenAI發(fā)布聊天機(jī)器人ChatGPT，上線2個(gè)月月活用戶過億，刷新互聯(lián)網(wǎng)應(yīng)用用戶增長記錄。可以看到，大家對于該技術(shù)的發(fā)展已產(chǎn)生的濃厚的興趣。其實(shí)，針對AIGC技術(shù)的發(fā)展，不僅是平臺(tái)和國家監(jiān)管的責(zé)任，更是每個(gè)使用者的責(zé)任。可以從以下三個(gè)方面來進(jìn)行規(guī)范。

其一，加強(qiáng)內(nèi)容審查及內(nèi)容過濾。

AIGC技術(shù)日漸發(fā)展成熟，可以完成包括寫郵件、代碼、新聞報(bào)道以及論文等多種任務(wù)，且表述內(nèi)容與人類對話風(fēng)格相似，一般人難以區(qū)分。其使用門檻和成本低，生成效率高，能夠在短時(shí)間內(nèi)生成大量虛假信息，從而迅速淹沒真相。同時(shí)，由于ChatGPT等目前并不會(huì)核實(shí)生成內(nèi)容信息的真實(shí)性與準(zhǔn)確性，在發(fā)布到平臺(tái)上后，平臺(tái)需要及時(shí)對信息進(jìn)行檢測，加強(qiáng)來源真實(shí)性判斷，提升平臺(tái)治理能力。在發(fā)現(xiàn)不良或違法信息時(shí)及時(shí)向有關(guān)部門進(jìn)行報(bào)告，并將日志信息進(jìn)行封存。

其二，保證真實(shí)性。

對于研發(fā)AIGC技術(shù)的企業(yè)來說，由于虛假信息檢測是通過與“已收錄的虛假信息庫”進(jìn)行比對和判斷，未被收錄的新信息則需要以人工檢測進(jìn)行判斷。研發(fā)者應(yīng)該保障信息來源的真實(shí)性，應(yīng)當(dāng)遵守《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以及《深度合成管理規(guī)定》等相關(guān)法律法規(guī)對AIGC的相關(guān)規(guī)定。按照《深度合成管理規(guī)定》要求，AIGC相關(guān)企業(yè)等深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)技術(shù)管理，定期審核、評估、驗(yàn)證生成合成類算法機(jī)制機(jī)理。此外，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。

其三，國家監(jiān)管保障最后一條紅線。

制定適當(dāng)?shù)谋O(jiān)管和評估機(jī)制，對AIGC系統(tǒng)進(jìn)行全面的評估和監(jiān)控，確保其符合相關(guān)法律和法規(guī)的要求。加強(qiáng)跨領(lǐng)域、跨機(jī)構(gòu)和跨國家的合作和協(xié)作，共同應(yīng)對AIGC系統(tǒng)的安全和法律風(fēng)險(xiǎn)，共同推動(dòng)AIGC技術(shù)的發(fā)展和應(yīng)用。當(dāng)前，AIGC產(chǎn)業(yè)監(jiān)管方面存在相關(guān)法律法規(guī)與標(biāo)準(zhǔn)體系不健全、缺乏多部門協(xié)同的自上而下的監(jiān)管體系、監(jiān)管技術(shù)手段落后等突出問題，政府有關(guān)部門需要盡快建立健全AIGC研發(fā)與應(yīng)用相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系，建立或完善倫理審查制度和監(jiān)管體系，加強(qiáng)對科技企業(yè)、應(yīng)用場景、使用者的監(jiān)管，搭建多方參與協(xié)同治理平臺(tái)，推動(dòng)AIGC產(chǎn)業(yè)健康可持續(xù)發(fā)展。

但法律總是滯后于社會(huì)發(fā)展的，AIGC的廣泛發(fā)展帶來的是遠(yuǎn)超出立法者預(yù)設(shè)、制度有效供給的超前問題，無論是對于內(nèi)容創(chuàng)作者，還是AIGC領(lǐng)域企業(yè)而言，在沒有明確實(shí)施規(guī)則可以遵守的情況下，更加需要謹(jǐn)慎面對 AIGC可能帶來的法律風(fēng)險(xiǎn)，做好合規(guī)應(yīng)對，避免在技術(shù)爆炸中迷失發(fā)展方向、逾越合規(guī)紅線。

文：媛媛 樂樂 余小魚 / 數(shù)據(jù)猿

來源：數(shù)據(jù)猿