人工智能是當(dāng)今時代的最強(qiáng)大的驅(qū)動力之一，它正在以前所未有的速度和規(guī)模改變著我們的生活、工作和社會。人工智能技術(shù)的不斷創(chuàng)新和應(yīng)用，也帶來了一系列的法律、倫理和安全等方面的挑戰(zhàn)和風(fēng)險。作為人工智能領(lǐng)域的一個重要組成部分，AIGC產(chǎn)品的發(fā)展和應(yīng)用面臨著特殊的合規(guī)性挑戰(zhàn)。如何在保障人工智能的發(fā)展空間和活力的同時，有效地規(guī)范和監(jiān)管人工智能的行為和影響，是所有AIGC產(chǎn)品服務(wù)提供者必須面對和解決的重大課題。

?

正值《生成式人工智能服務(wù)管理暫行辦法》發(fā)布之際，我們特別撰寫了關(guān)于AIGC產(chǎn)品上市合規(guī)的系列文章。該系列文章將從算法備案、安全評估、資質(zhì)證照和內(nèi)控措施四個方面進(jìn)行深入探討，介紹人工智能產(chǎn)品上市所需遵守的相關(guān)法律法規(guī)、政策規(guī)范和行業(yè)標(biāo)準(zhǔn)。我們不僅會為讀者詳細(xì)解讀當(dāng)前法律法規(guī)對AIGC產(chǎn)品上市的合規(guī)要求，還將結(jié)合我們的實踐經(jīng)驗，為讀者提供可借鑒的操作策略。

?

我們深知AIGC賽道的復(fù)雜性和合規(guī)要求的多樣性，我們的探索與經(jīng)驗可能只是冰山一角。我們謹(jǐn)希望透過專題文章，為AIGC技術(shù)和產(chǎn)品的投資人、開發(fā)者、運(yùn)營者及相關(guān)方提供一點(diǎn)啟發(fā)和借鑒，幫助他們更好地理解和應(yīng)對合規(guī)要求，為AIGC產(chǎn)業(yè)的繁榮與進(jìn)步貢獻(xiàn)專業(yè)力量。

算法備案作為算法治理體系的重要監(jiān)管內(nèi)容，是算法透明度要求的落地方式之一，旨在保護(hù)用戶權(quán)益，維護(hù)產(chǎn)品安全和信息安全。自《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《算法推薦管理規(guī)定》）、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《深度合成管理規(guī)定》）提出算法備案要求以來，中央網(wǎng)信辦已連續(xù)發(fā)布了四批境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法備案清單和首批境內(nèi)深度合成服務(wù)算法備案清單。

?

此外，各大應(yīng)用商店也開始加強(qiáng)對App完成算法備案情況的審核。根據(jù)《深度合成管理規(guī)定》第十三條，如AIGC產(chǎn)品未按照相關(guān)法律法規(guī)履行算法備案的，應(yīng)用商店有權(quán)采取不予上架、警示、暫停服務(wù)或者下架等處置措施。鑒于此，算法備案義務(wù)已成為AIGC產(chǎn)品合規(guī)上市的必由之路。

在《深度合成管理規(guī)定》發(fā)布之初，業(yè)界曾對“深度合成技術(shù)"與“生成合成類技術(shù)"的關(guān)系展開討論。根據(jù)《深度合成管理規(guī)定》規(guī)定，“深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)"。從文意本身分析，“深度合成技術(shù)"是“生成合成類算法"的利用形態(tài)之一。

?

根據(jù)我們對相關(guān)技術(shù)的初步調(diào)研，生成合成類技術(shù)包含深度合成技術(shù)：深度合成算法與生成合成算法均可利用深度學(xué)習(xí)技術(shù)（例如卷積神經(jīng)網(wǎng)絡(luò)（CNN）、生成對抗網(wǎng)絡(luò)（GAN）、變分自編碼器（VAE）等）生成圖像、視頻、音頻以及其他類型的數(shù)據(jù)，兩類算法均可用于計算機(jī)視覺、圖像處理、計算機(jī)圖形學(xué)、虛擬現(xiàn)實、增強(qiáng)現(xiàn)實等領(lǐng)域。兩種技術(shù)的相同點(diǎn)是它們都可以實現(xiàn)和現(xiàn)實完全不一樣的內(nèi)容，而深度合成算法的特點(diǎn)在于其訓(xùn)練時依賴深度學(xué)習(xí)技術(shù)，通過學(xué)習(xí)數(shù)據(jù)的特征和分布，不斷調(diào)整模型參數(shù)來生成逼真且與真實世界相似的新數(shù)據(jù)，如Deepfake，而Deepfake本身也是一種特定生成方法。生成合成類算法則更進(jìn)一步，其基于一套確定的規(guī)則、參數(shù)或模型，生成全新的、完全原創(chuàng)的、一種更加趨于“真實"的內(nèi)容。用更加通俗的語言解釋，如果深度合成技術(shù)是“換臉"，那么生成合成類技術(shù)就是“造臉"。

?

實踐中，“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)"顯示，“生成合成類算法"與“深度合成算法"被列為一類，即“生成合成類（深度合成）算法"。因此，即使在技術(shù)層面深度合成技術(shù)與生成合成技術(shù)的關(guān)系或存爭議，但就算法備案實操而言，企業(yè)履行算法備案義務(wù)以及被要求提供的備案信息并不因生成合成類算法與深度合成算法的區(qū)別而有所區(qū)分。

點(diǎn)擊可查看大圖

1、備案主體

與《算法推薦管理規(guī)定》所監(jiān)管的其他幾類算法不同，深度合成算法是唯一一項在備案環(huán)節(jié)需要區(qū)分備案主體身份的算法。其備案角色包括服務(wù)提供者和技術(shù)支持者，且兩類主體對同一算法的備案義務(wù)相互獨(dú)立。

?

對于企業(yè)而言，判定其是否應(yīng)當(dāng)履行備案義務(wù)時，可參照以下線索：

?

• 如企業(yè)針對同一款算法存在前述兩種角色，應(yīng)當(dāng)分別完成作為深度合成服務(wù)提供者以及深度合成服務(wù)技術(shù)支持者的備案；

  ?

• 如企業(yè)僅為服務(wù)提供者，不對外提供深度合成服務(wù)技術(shù)支持，則其僅需要完成作為深度合成服務(wù)提供者的備案；

  ?

• 對于從技術(shù)供應(yīng)商處采購深度合成技術(shù)并利用該技術(shù)向終端用戶提供深度合成服務(wù)的企業(yè)而言，無論該深度合成技術(shù)供應(yīng)商是否已完成相關(guān)備案，其也需以深度合成服務(wù)提供者的身份履行單獨(dú)的備案義務(wù)。

?

對于集團(tuán)公司而言，同一個算法可能由集團(tuán)的多個下屬公司共享。在此情形下，集團(tuán)公司可以選擇有權(quán)控制算法的公司作為備案主體。但需要注意的是，此情形下算法備案主體可能與應(yīng)用該算法的AIGC產(chǎn)品的ICP主體不一致。企業(yè)需要在主體信息中提交關(guān)于算法備案與ICP主體不一致的情況說明，例如二者之間存在關(guān)聯(lián)關(guān)系等。

2、備案范圍備案程序

結(jié)合《<互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定>備案填報指南》以及我們的項目實踐，深度合成算法備案的流程包括三個步驟：

?

第一步：填報主體信息，填報完成后需等待后臺工作人員審核通過方可繼續(xù)填報算法信息和產(chǎn)品及功能信息。

?

第二步：填報算法信息，包括算法基礎(chǔ)屬性信息、算法詳細(xì)屬性信息（詳見下圖）。

算法基礎(chǔ)屬性填報內(nèi)容

算法詳細(xì)屬性填報內(nèi)容（點(diǎn)擊可看大圖）

第三步：關(guān)聯(lián)產(chǎn)品及功能信息或填報技術(shù)服務(wù)方式，第二步和第三步需一并遞交審核。

?

深度合成服務(wù)提供者和技術(shù)支持者在算法備案過程中的差異主要在于第三步填報內(nèi)容不同，即深度合成服務(wù)提供者需填報關(guān)聯(lián)產(chǎn)品及功能信息，而深度合成服務(wù)技術(shù)支持者需填報技術(shù)服務(wù)方式。具體流程詳見下圖：

點(diǎn)擊可查看大圖

?

在具體填報的過程中，鑒于填報內(nèi)容較多，通常情況下需要一定時間準(zhǔn)備材料，因此我們建議企業(yè)首先根據(jù)“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)"梳理需要填報的內(nèi)容，在確認(rèn)填報的內(nèi)容準(zhǔn)確無誤后再行上傳至系統(tǒng)中，以免因系統(tǒng)不穩(wěn)定或者未保存而需重復(fù)操作。

3、備案材料

在算法備案材料中，除了主體信息、算法基本信息等實時填寫的基本內(nèi)容之外，還需單獨(dú)準(zhǔn)備以下幾個附件：

（1）落實算法安全主體責(zé)任基本情況

在主體信息填報（第一步）中，企業(yè)需要上傳“落實算法安全主體責(zé)任基本情況"表，其主要內(nèi)容包括企業(yè)設(shè)置的算法安全專職機(jī)構(gòu)以及制定的算法安全管理制度。算法安全管理制度應(yīng)當(dāng)至少包括算法安全自評估制度、算法安全監(jiān)測制度、算法違法違規(guī)處置制度、算法安全事件應(yīng)急處置制度、科技倫理審查制度等。

（2）算法安全自評估報告

在算法信息填報（第二步）中，企業(yè)需要提交算法安全自評估報告，其主要包括算法情況（算法流程、數(shù)據(jù)、模型和干預(yù)策略）、服務(wù)情況、風(fēng)險研判、風(fēng)險防控情況、安全評估結(jié)論等內(nèi)容。對比服務(wù)提供者與技術(shù)支持者的算法安全自評估報告模板，服務(wù)提供者需提供更多關(guān)于內(nèi)容生態(tài)治理、結(jié)果標(biāo)識、辟謠機(jī)制，以及用戶權(quán)益保障方面的說明。

（3）擬公示內(nèi)容

根據(jù)《算法推薦管理規(guī)定》第十六條，算法推薦服務(wù)提供者應(yīng)當(dāng)以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。在算法信息填報（第二步）中，企業(yè)即需要提交算法擬公示內(nèi)容，主要包括算法基本原理、算法運(yùn)行機(jī)制、算法應(yīng)用場景、算法目的意圖，以供監(jiān)管機(jī)構(gòu)審核。鑒于目前監(jiān)管機(jī)構(gòu)并未公布關(guān)于算法基本原理、算法運(yùn)行機(jī)制等內(nèi)容的公示維度，建議企業(yè)可參考行業(yè)目前的實踐做法，把握公示內(nèi)容的顆粒度，以確保在不泄露算法技術(shù)商業(yè)秘密的前提下履行算法公示的法律義務(wù)。

?

前述材料是整個算法備案中的關(guān)鍵審核材料，其內(nèi)容不僅涉及算法基本原理、算法屬性等算法技術(shù)本身，還涉及算法安全管理制度、組織架構(gòu)、風(fēng)險防控措施等算法合規(guī)體系構(gòu)建情況。因此，建議需完成算法備案的企業(yè)可提前準(zhǔn)備相關(guān)內(nèi)容，必要時，可引入富有經(jīng)驗的外部律師協(xié)助企業(yè)搭建算法合規(guī)體系，盡可能確保算法備案材料的齊備性。

4、備案期限

根據(jù)《算法推薦管理規(guī)定》第二十五條，當(dāng)算法材料齊全的，網(wǎng)信部門應(yīng)當(dāng)在三十個工作日內(nèi)予以備案。根據(jù)我們的項目實踐，在深度合成算法備案過程中，可能存在需公司補(bǔ)正材料的情形，因此完成深度合成算法備案通常需2個月以上。

?

日前公布的《生成式人工智能服務(wù)管理暫行辦法》亦對AIGC產(chǎn)品提出算法備案要求。作為人工智能領(lǐng)域的重要監(jiān)管措施，算法備案已成為AIGC產(chǎn)品的入市門檻。鑒于算法備案所需時間較長，建議需履行算法備案的企業(yè)盡早開展算法備案工作。在具體的算法備案過程中，一方面，企業(yè)需對自身算法進(jìn)行全面地梳理，由法務(wù)、IT協(xié)調(diào)配合準(zhǔn)備相關(guān)備案材料，必要時可引入外部律師協(xié)助準(zhǔn)備；另一方面，企業(yè)需充分了解相關(guān)法規(guī)要求和備案流程，必要時可與監(jiān)管部門進(jìn)行積極溝通和協(xié)調(diào)。完成算法備案后，應(yīng)當(dāng)及時在產(chǎn)品的顯著位置公示備案編號，并以恰當(dāng)?shù)姆绞焦舅惴ǖ幕驹怼⑦\(yùn)行機(jī)制等內(nèi)容。算法備案僅是算法治理的環(huán)節(jié)之一，完成算法備案并非一勞永逸，AIGC產(chǎn)業(yè)企業(yè)應(yīng)當(dāng)主動擁抱監(jiān)管，積極履行《算法推薦管理規(guī)定》《深度合成管理規(guī)定》關(guān)于算法治理的其他合規(guī)義務(wù)。

根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》，安全評估是所有具有輿論屬性或社會動員能力的信息服務(wù)上市的前置條件。作為一項始于2018年的規(guī)定，安全評估在很長一段時間內(nèi)并未引起市場的注意，直到《生成式人工智能服務(wù)管理暫行辦法》將其拉回大眾的視野。

?

根據(jù)《生成式人工智能服務(wù)管理暫行辦法》第十七條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。至此，《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》以及已經(jīng)趨于成熟的安全評估機(jī)制再一次煥發(fā)了“生機(jī)"。然而，根據(jù)我們的實踐探索，此項2018年的舊規(guī)定在AIGC產(chǎn)品前有了新的內(nèi)涵，成為AIGC產(chǎn)品上市前最頑固的一道壁壘。

安全評估0.5

早在2017年，網(wǎng)信辦就提出了“安全評估"的監(jiān)管方法。彼時，《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》規(guī)定互聯(lián)網(wǎng)新聞服務(wù)提供者當(dāng)（1）應(yīng)用新技術(shù)、調(diào)整增設(shè)具有新聞輿論屬性或社會動員能力的應(yīng)用功能，或（2）新技術(shù)、新應(yīng)用功能在用戶規(guī)模、功能屬性、技術(shù)實現(xiàn)方式、基礎(chǔ)資源配置等方面的改變導(dǎo)致新聞輿論屬性或社會動員能力發(fā)生重大變化時，應(yīng)當(dāng)自行組織開展新技術(shù)新應(yīng)用安全評估、編制書面安全評估報告，并報請國家或地方網(wǎng)信辦開展審核性質(zhì)的安全評估。這就是業(yè)界所稱“雙新評估（新技術(shù)新應(yīng)用）"的雛形。

?

但是，在《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》的框架下，開展安全評估的義務(wù)主體僅局限于“互聯(lián)網(wǎng)新聞信息服務(wù)提供者"，而該規(guī)定的上位法《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》又對“互聯(lián)網(wǎng)新聞信息服務(wù)"再做限制性定義：

點(diǎn)擊可查看大圖

因此，雖然該規(guī)定目前仍然有效，但對于不涉足新聞信息服務(wù)的AIGC產(chǎn)品而言并不適用，因此我們將其命名為安全評估0.5版本。

安全評估1.0

在《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》實施一年之后，網(wǎng)信辦發(fā)布了《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》。這一次，安全評估的適用對象不再局限于新聞業(yè)，適用場景也從0.5版本的新技術(shù)新應(yīng)用進(jìn)一步延展開來。

?

根據(jù)該規(guī)定，互聯(lián)網(wǎng)信息服務(wù)提供者在以下情形下應(yīng)當(dāng)自行開展安全評估：

?

（一）具有輿論屬性或社會動員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能的；

?

（二）使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更，導(dǎo)致輿論屬性或者社會動員能力發(fā)生重大變化的；

?

（三）用戶規(guī)模顯著增加，導(dǎo)致信息服務(wù)的輿論屬性或者社會動員能力發(fā)生重大變化的；

?

（四）發(fā)生違法有害信息傳播擴(kuò)散，表明已有安全措施難以有效防控網(wǎng)絡(luò)安全風(fēng)險的；

?

（五）地市級以上網(wǎng)信部門或者公安機(jī)關(guān)書面通知需要進(jìn)行安全評估的其他情形。

?

在上述情況下，互聯(lián)網(wǎng)信息服務(wù)提供者需自行進(jìn)行安全評估并通過全國互聯(lián)網(wǎng)安全管理服務(wù)平臺（https://www.beian.gov.cn/portal/index.do）向所在地地市級以上網(wǎng)信部門和公安機(jī)關(guān)提交安全評估報告。評估內(nèi)容即為《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》第五條所規(guī)定內(nèi)容。

點(diǎn)擊可查看大圖

此外，網(wǎng)信部門和公安部門有權(quán)視情況開展現(xiàn)場檢查。一般由互聯(lián)網(wǎng)信息服務(wù)提供者攜帶材料前往指定公安部門進(jìn)行現(xiàn)場檢查和作答。因此，從遞交窗口和檢查機(jī)構(gòu)來看，1.0版本的安全評估以公安部門為實施主力。

?

此外，1.0版本的安全評估雖然在法條中與“具有輿論屬性或社會動員能力"密切綁定，但實務(wù)中對于何為“具有輿論屬性或社會動員能力"的判斷相對寬泛，幾乎囊括了所有具備互聯(lián)網(wǎng)信息交互渠道功能的產(chǎn)品。值得注意的是，1.0版本的安全評估流程公開透明，實踐中企業(yè)僅需根據(jù)全國互聯(lián)網(wǎng)安全管理服務(wù)平臺提供的《安全評估使用手冊》按圖索驥填報真實信息并上傳備案報告即可，不存在實質(zhì)障礙。安全評估報告從遞交到通過通常一個月內(nèi)可以完成。

安全評估2.0

時間來到人工智能技術(shù)大放異彩的2023年。如上文所述，1.0版本的安全評估有了新的內(nèi)涵。一個現(xiàn)狀是：以大模型為主的AIGC產(chǎn)品開發(fā)商正在被要求向中央網(wǎng)信辦提請“雙新評估"。該評估報告要求具體并內(nèi)容詳盡，動輒上百頁篇幅，與全國互聯(lián)網(wǎng)安全管理服務(wù)平臺所填報的安全評估報告大相徑庭，故稱其為安全評估2.0版。

?

目前，安全評估2.0版的監(jiān)管對象以AIGC大模型開發(fā)商為主。僅基于我們的實踐經(jīng)驗與觀察，安全評估2.0版本相較于1.0版本主要有以下區(qū)別：

注：上表僅基于我們的實踐經(jīng)驗和觀察總結(jié)，其全面性和準(zhǔn)確性有待進(jìn)一步提升

事實上，監(jiān)管部門對于AIGC產(chǎn)品的安全風(fēng)險特別關(guān)注并非新鮮事。早在2021年，中央網(wǎng)信辦已經(jīng)聯(lián)同公安部提出要加強(qiáng)對語音社交軟件和涉深度偽造技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估。彼時其援引的法律基礎(chǔ)還是《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》。時隔兩年，對安全評估的監(jiān)管強(qiáng)度有了顯著提升。各大AIGC產(chǎn)品開發(fā)商正在艱難地應(yīng)對2.0版本的安全評估要求。

點(diǎn)擊可查看大圖

但關(guān)于2.0版本的安全評估（雙新評估）的出處，似乎處于實踐先行、立法滯后的狀態(tài)。在《生成式人工智能服務(wù)管理辦法（征求意見稿）》中，第六條曾有“利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估"的規(guī)定。雖然該條援引了安全評估1.0版本的法律基礎(chǔ)（即《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》），但卻將申報對象部門從原規(guī)定的“地市級以上網(wǎng)信部門和公安機(jī)關(guān)"提級至“國家網(wǎng)信部門"。因此，征求意見稿第六條曾被視為安全評估2.0的立法鋪墊。

?

然而，在最終頒布的版本中，關(guān)于安全評估的要求被替換為“提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估"。對于此種表述，我們理解：

?

• “具有輿論屬性或社會動員能力的生成式人工智能服務(wù)"是“具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)"的子集，因此AIGC服務(wù)提供者應(yīng)當(dāng)滿足《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》的相關(guān)要求，包括申報1.0版本安全評估；

  ?

• “國家有關(guān)規(guī)定"并不局限于《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》。因此，AIGC服務(wù)提供者應(yīng)當(dāng)同時滿足其他適用法規(guī)的要求。如果其他適用法規(guī)提出類似的安全評估要求，則AIGC服務(wù)提供者也應(yīng)當(dāng)依法依規(guī)完成相關(guān)評估義務(wù)。

?

此外，“安全評估"的要求也同時在其他人工智能產(chǎn)業(yè)相關(guān)立法中出現(xiàn)：

?

• 《算法推薦管理規(guī)定》第二十七條：具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估；

  ?

• 《深度合成管理規(guī)定》第十五條：深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評估：（一）生成或者編輯人臉、人聲等生物識別信息的；（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的。

  ?

• 《深度合成管理規(guī)定》第二十條：深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。

?

當(dāng)不止一套“安全評估"體系同時存在，企業(yè)在理解上述法規(guī)時不免產(chǎn)生困惑。因此，我們謹(jǐn)對立法作出前瞻，未來中央網(wǎng)信辦或會就2.0版本的安全評估單獨(dú)頒布下位法或具體的評估規(guī)則，以消弭當(dāng)前的法律基礎(chǔ)空白。

題外話：工信版“安全評估"

上文中，關(guān)于安全評估0.5、1.0以及2.0版本均由網(wǎng)信部門牽頭（雖然實操中1.0版本的安全評估多由公安部門推動，但網(wǎng)信部門也具備同等法定職權(quán)），但與之同時存在的還有工信部版本“安全評估"。

?

工信部版本的“安全評估"始于工信部于2017年發(fā)布的《互聯(lián)網(wǎng)新業(yè)務(wù)安全評估管理辦法（征求意見稿）》。該辦法要求電信業(yè)務(wù)經(jīng)營者對其互聯(lián)網(wǎng)新業(yè)務(wù)可能引發(fā)的網(wǎng)絡(luò)信息安全風(fēng)險應(yīng)進(jìn)行安全評估（因此該評估也稱為“雙新評估"。為避免疑義下文將使用“工信部版 ‘安全評估’"的稱呼）。該辦法雖未生效，但此后工信部陸續(xù)發(fā)布了一系列通信行業(yè)互聯(lián)網(wǎng)新技術(shù)新業(yè)務(wù)信息安全評估行業(yè)標(biāo)準(zhǔn)文件（如下圖），使得工信部版本“安全評估"得以落地實施。

點(diǎn)擊可查看大圖

關(guān)于工信部版本的“安全評估"目前已經(jīng)有相對成熟的服務(wù)流程，和受到市場認(rèn)可的評估機(jī)構(gòu)。值得關(guān)注的是，工信部版本的“安全評估"實質(zhì)內(nèi)容與網(wǎng)信版本安全評估2.0版存在大面積重疊，未來網(wǎng)信、工信、公安各部門是否會相互協(xié)調(diào)收歸監(jiān)管口徑，統(tǒng)一監(jiān)管尺度也值得期待。

?

綜上所述，目前關(guān)于安全評估的種種尚屬于霧里看花，亟需監(jiān)管部門的澄清與明確。但不置可否的是，現(xiàn)階段2.0版安全評估已經(jīng)成為了AIGC產(chǎn)品上市前最頑強(qiáng)的一道壁壘。各家大模型廠商均已做好了持久戰(zhàn)的準(zhǔn)備。而對于尚未著手準(zhǔn)備申報的相關(guān)企業(yè)，我們建議其務(wù)必認(rèn)真對待，盡早內(nèi)部立項，積極調(diào)配負(fù)責(zé)人手，必要時引入外部律師共同推進(jìn)。

在AIGC產(chǎn)品上市的過程中，算法備案和安全評估是保障其合規(guī)性的重要環(huán)節(jié)。在上篇中，我們深入探討了算法備案的流程、內(nèi)容以及注意事項，同時詳細(xì)梳理了安全評估的歷史沿革和現(xiàn)狀。算法備案和安全評估作為產(chǎn)品上市前的關(guān)鍵環(huán)節(jié)，不僅在法律法規(guī)層面上確保了AIGC產(chǎn)品的技術(shù)安全和輸出內(nèi)容安全，也是企業(yè)在境內(nèi)人工智能賽道守法合規(guī)經(jīng)營并保持長期發(fā)展的關(guān)鍵因素。

?

上述只是AIGC產(chǎn)品上市合規(guī)之路的一部分。在下篇中，我們將繼續(xù)介紹AIGC產(chǎn)品上市所需的資質(zhì)證照和內(nèi)控措施，進(jìn)一步探討如何制定和執(zhí)行有效的合規(guī)策略，以期幫助企業(yè)搭建一個牢固的合規(guī)框架，為AIGC產(chǎn)品上市保駕護(hù)航。