國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）將于2025年9月1日起正式施行，對(duì)人工智能生成合成內(nèi)容標(biāo)識(shí)的使用進(jìn)行了規(guī)范。
《標(biāo)識(shí)辦法》要求，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)；提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)，如核驗(yàn)文件元數(shù)據(jù)、添加顯著提示標(biāo)識(shí)并提醒公眾、提供必要的標(biāo)識(shí)功能并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等。
其中，提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者如果在文件元數(shù)據(jù)中未核驗(yàn)到人工智能生成合成內(nèi)容隱式標(biāo)識(shí)（隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的、不易被用戶明顯感知到的標(biāo)識(shí)），用戶也未聲明為生成合成內(nèi)容，但平臺(tái)識(shí)別為疑似生成合成內(nèi)容時(shí)，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著提示標(biāo)識(shí)，提醒公眾該內(nèi)容疑似生成合成內(nèi)容。
近日，北京互聯(lián)網(wǎng)法院審結(jié)一起網(wǎng)絡(luò)服務(wù)合同糾紛案，平臺(tái)用戶和網(wǎng)絡(luò)服務(wù)提供者因人工智能生成合成內(nèi)容標(biāo)識(shí)起了爭(zhēng)端。
平臺(tái)算法判定用戶內(nèi)容包含AI生成起糾紛
原告為涉案平臺(tái)用戶，被告為涉案平臺(tái)運(yùn)營(yíng)者。原告在平臺(tái)上發(fā)布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對(duì)學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個(gè)假期完成它……工作之后就沒(méi)有太多完整的時(shí)間考駕照了”內(nèi)容。
該內(nèi)容被涉案平臺(tái)判定為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的違規(guī)情況，涉案平臺(tái)作出將該內(nèi)容隱藏并將用戶禁言1天的處理。原告對(duì)此進(jìn)行了申訴但未成功。
原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請(qǐng)求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號(hào)1天的違規(guī)處理，并在后臺(tái)系統(tǒng)中刪除違規(guī)處理記錄。
被告辯稱，其有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同對(duì)原告使用平臺(tái)服務(wù)時(shí)的行為是否違規(guī)進(jìn)行審核認(rèn)定，并采取必要治理措施，因此涉案行為不構(gòu)成違約。涉案平臺(tái)規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時(shí)，應(yīng)主動(dòng)使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明，未主動(dòng)聲明的內(nèi)容，平臺(tái)將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識(shí)”。
被告表示，原告發(fā)布的內(nèi)容經(jīng)機(jī)器識(shí)別為“包含人工智能生成”，且經(jīng)過(guò)平臺(tái)人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。并向法院提交了其在“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”公示的相關(guān)算法機(jī)制機(jī)理內(nèi)容作為其算法決策判定的證據(jù)。
被告認(rèn)為，其作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，其針對(duì)人工智能治理需求而開發(fā)、部署、運(yùn)行自研的深度合成算法模型是合理、必要的，并設(shè)置專門測(cè)試團(tuán)隊(duì)通過(guò)技術(shù)手段觀察、抽檢模型運(yùn)行的準(zhǔn)確率，如發(fā)生準(zhǔn)確率下降或異常波動(dòng)，被告會(huì)及時(shí)對(duì)模型進(jìn)行優(yōu)化迭代。涉案內(nèi)容被識(shí)別、標(biāo)記期間，模型準(zhǔn)確率沒(méi)有變化。請(qǐng)求法院依法駁回原告的訴訟請(qǐng)求。
平臺(tái)應(yīng)對(duì)審查及處理結(jié)果進(jìn)行合理舉證和解釋聲明
北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，平臺(tái)有權(quán)依據(jù)合同約定對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理，同時(shí)，平臺(tái)的審查及處理結(jié)果也應(yīng)有合理依據(jù)。
法院表示，網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺(tái)時(shí)，應(yīng)依照誠(chéng)信原則如實(shí)標(biāo)記。本案中，被告結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標(biāo)識(shí)的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實(shí)需要，發(fā)布了社區(qū)公告，載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時(shí)，應(yīng)主動(dòng)使用標(biāo)識(shí)，幫助讀者進(jìn)行區(qū)分。對(duì)發(fā)布時(shí)未主動(dòng)聲明的內(nèi)容，平臺(tái)將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識(shí)”“未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺(tái)注冊(cè)用戶，上述公告屬于平臺(tái)服務(wù)協(xié)議的組成部分。因此，被告有權(quán)依據(jù)合同約定對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。
本案中，原告主張涉案內(nèi)容并非AI生成內(nèi)容，被告對(duì)涉案內(nèi)容的審查及處理違反平臺(tái)服務(wù)協(xié)議，在一般情況下，原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)。但法院查明，本案中原告發(fā)布內(nèi)容為即時(shí)性創(chuàng)作文本，在客觀上無(wú)法提供上述證據(jù)，由其提供上述證據(jù)亦不存在合理性和現(xiàn)實(shí)可行性。而被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運(yùn)算過(guò)程和審查結(jié)果由被告掌控，在此情況下，被告應(yīng)就該事實(shí)進(jìn)行合理舉證或解釋說(shuō)明。
雖然被告在本案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為“識(shí)別有安全風(fēng)險(xiǎn)的回答”，無(wú)法認(rèn)定其系對(duì)AI生成合成識(shí)別判斷的技術(shù)，故無(wú)法確認(rèn)備案信息與本案爭(zhēng)議的關(guān)聯(lián)性，因此被告未對(duì)涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。
法院還認(rèn)為，被告對(duì)人工復(fù)核程序的解釋為“需要非常明顯的人類情感特征”才能駁回算法決策結(jié)果，而該判斷標(biāo)準(zhǔn)更多依賴主觀認(rèn)識(shí)和個(gè)人經(jīng)驗(yàn)，并不具有科學(xué)依據(jù)以及較強(qiáng)的說(shuō)服力和可信度。
法院最終判定，被告未對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說(shuō)明，對(duì)用戶的處理沒(méi)有事實(shí)依據(jù)，應(yīng)承擔(dān)違約責(zé)任。法院還查明，被告系統(tǒng)后臺(tái)對(duì)用戶發(fā)布的內(nèi)容僅存在“折疊回答”這一條處理記錄，對(duì)“禁言1天”的處理沒(méi)有后臺(tái)記錄。最終判決被告展開對(duì)于涉案內(nèi)容的折疊隱藏，刪除在后臺(tái)的違規(guī)處理記錄，駁回原告的其他訴訟請(qǐng)求。目前，該案判決已生效。
法官解讀用戶和平臺(tái)的舉證責(zé)任
“生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟(jì)發(fā)展注入強(qiáng)大動(dòng)力。與此同時(shí)，在AI生成合成內(nèi)容未進(jìn)行‘AI標(biāo)識(shí)’的情況下，公眾難以區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用AI實(shí)施詐騙、侵權(quán)等違法犯罪的行為不斷攀升。AI生成合成內(nèi)容標(biāo)識(shí)作為對(duì)人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會(huì)對(duì)凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用?！北本┗ヂ?lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng)、四級(jí)高級(jí)法官袁建華說(shuō)。
袁建華表示，此案對(duì)于平臺(tái)運(yùn)用算法工具進(jìn)行AI生成合成內(nèi)容治理引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛裁判作出以下探索：
首先，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)有權(quán)利用算法工具對(duì)用戶發(fā)布的內(nèi)容是否使用AI生成合成進(jìn)行審查和處理。平臺(tái)通過(guò)用戶協(xié)議、社區(qū)規(guī)范、處罰規(guī)則等明確告知用戶需要遵守AI生成合成內(nèi)容標(biāo)識(shí)規(guī)定，如用戶違反有關(guān)規(guī)定，平臺(tái)可對(duì)違規(guī)行為進(jìn)行處理。
其次，若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)判定用戶發(fā)布的內(nèi)容為AI生成合成，用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù)，人民法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任，并認(rèn)定證據(jù)的證明效力。
再次，網(wǎng)絡(luò)用戶提供初步證據(jù)后，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)應(yīng)舉證證明其使用算法工具進(jìn)行判定的正確性或進(jìn)行必要限度的解釋說(shuō)明，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。
最后，對(duì)于算法解釋的司法審查應(yīng)符合比例原則。一般情況下，平臺(tái)無(wú)需提供技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù)，而需圍繞案件爭(zhēng)議事實(shí)以可理解的方式舉證或說(shuō)明算法運(yùn)行機(jī)制、對(duì)于可能出現(xiàn)的誤判是否采取了合理的救濟(jì)措施。
中國(guó)人民大學(xué)法學(xué)院副教授黃尹旭表示，本案認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)在即時(shí)性創(chuàng)作文本場(chǎng)景下對(duì)使用算法自動(dòng)化決策的結(jié)果承擔(dān)適度說(shuō)明義務(wù)，并為司法審查階段的算法解釋說(shuō)明程度確立了一定的標(biāo)準(zhǔn)。明確算法解釋說(shuō)明的司法審查標(biāo)準(zhǔn)，既能保障網(wǎng)絡(luò)用戶合法權(quán)益，又能有效推動(dòng)算法公開透明，規(guī)范算法應(yīng)用行為，推動(dòng)平臺(tái)經(jīng)濟(jì)健康發(fā)展。同時(shí)，本案通過(guò)司法個(gè)案裁判，合理分配網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)和用戶的舉證責(zé)任，有助于推動(dòng)網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)提高算法的識(shí)別能力和決策能力，切實(shí)提升人工智能信息內(nèi)容治理水平。（本社記者任文岱 通訊員張夏意）
