?

?

隨著《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱"《數(shù)據(jù)安全法》"）和《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱"《個(gè)人信息保護(hù)法》"）的相續(xù)落地，加之此前業(yè)已生效的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，中國(guó)網(wǎng)絡(luò)空間管理和數(shù)據(jù)保護(hù)的"三根支柱"基本成型。在數(shù)據(jù)方面，這三部大法主要的監(jiān)管重點(diǎn)是數(shù)據(jù)安全和主體權(quán)益保障，而最近的一系列有關(guān)算法治理的立法和監(jiān)管行動(dòng)，預(yù)示著中國(guó)對(duì)網(wǎng)絡(luò)空間的治理已經(jīng)逐步從數(shù)據(jù)治理邁向了算法治理。

?

• 9月29日，國(guó)家互聯(lián)網(wǎng)信息辦公室等九部委聯(lián)合發(fā)布《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（以下簡(jiǎn)稱"《指導(dǎo)意見》"）的通知，要求利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

• 9月25日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，該規(guī)范對(duì)人工智能開發(fā)、應(yīng)用中"避免偏見歧視"進(jìn)行了具體規(guī)定，在數(shù)據(jù)采集和算法開發(fā)中，要避免可能存在的數(shù)據(jù)與算法偏見，努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。

• 8月27日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡(jiǎn)稱"《算法推薦規(guī)定》"），就《算法推薦規(guī)定》公開征求意見。這是我國(guó)第一個(gè)專門規(guī)制算法應(yīng)用的立法。

• 5月8日，國(guó)務(wù)院新聞辦公室舉行2021年網(wǎng)絡(luò)"清朗"系列專項(xiàng)行動(dòng)新聞發(fā)布會(huì)，專項(xiàng)行動(dòng)的八個(gè)重點(diǎn)任務(wù)之一即為"清朗·算法濫用治理"專項(xiàng)行動(dòng)。

• 2月7日，國(guó)務(wù)院反壟斷委員會(huì)印發(fā)《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》（以下簡(jiǎn)稱"《平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》"），對(duì)于經(jīng)營(yíng)者通過數(shù)據(jù)、算法、平臺(tái)規(guī)則等新型手段達(dá)成壟斷協(xié)議、實(shí)施拒絕交易、限定交易或者實(shí)施大數(shù)據(jù)殺熟等行為，結(jié)合平臺(tái)經(jīng)濟(jì)的特點(diǎn)，規(guī)定了認(rèn)定方法和考慮因素。

?

"數(shù)據(jù)治理"以保障數(shù)據(jù)安全、保護(hù)個(gè)人、組織的合法權(quán)益為主要立法目標(biāo)，對(duì)包括收集、存儲(chǔ)、使用、加工、傳輸、提供、公開、刪除等全生命周期的數(shù)據(jù)處理活動(dòng)進(jìn)行規(guī)范。如果說"數(shù)據(jù)治理"重點(diǎn)在于數(shù)據(jù)本身的處理活動(dòng)，那么"算法治理"重點(diǎn)指向的則是數(shù)據(jù)應(yīng)用的內(nèi)在邏輯和產(chǎn)生的效果。在平臺(tái)、數(shù)據(jù)、算法三維競(jìng)爭(zhēng)結(jié)構(gòu)中，數(shù)據(jù)是平臺(tái)的資源要素，而算法是平臺(tái)的行為要素[1]。平臺(tái)通過算法應(yīng)用數(shù)據(jù)來實(shí)施其行為，從而對(duì)個(gè)體權(quán)益、市場(chǎng)競(jìng)爭(zhēng)秩序、社會(huì)秩序等產(chǎn)生持續(xù)的影響。

?

應(yīng)該說，從"數(shù)據(jù)治理"到"算法治理"是網(wǎng)絡(luò)空間領(lǐng)域治理的一個(gè)深化升級(jí)。

?

?

從技術(shù)角度講，算法是一系列的計(jì)算機(jī)程序，而網(wǎng)絡(luò)空間"算法治理"的著眼點(diǎn)在于規(guī)制算法的邏輯及其對(duì)社會(huì)秩序及其它利益相關(guān)方的影響效果。

?

自動(dòng)化決策即是智能算法應(yīng)用的一個(gè)典型場(chǎng)景?！秱€(gè)人信息保護(hù)法》第七十三條將自動(dòng)化決策定義為，通過計(jì)算機(jī)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動(dòng)。在《算法推薦規(guī)定》中，應(yīng)用算法推薦技術(shù)是指應(yīng)用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容[2]。據(jù)此，我們可以理解"算法治理"所要規(guī)制的算法有以下的特征：

?

• 算法通過一系列預(yù)設(shè)的計(jì)算機(jī)程序來實(shí)施，構(gòu)成技術(shù)規(guī)則；

• 網(wǎng)絡(luò)平臺(tái)通過算法運(yùn)用收集或占有的數(shù)據(jù)，從而形成輸出效果；

• 算法規(guī)則事實(shí)上反映的是平臺(tái)運(yùn)營(yíng)方的意圖，但隨著人工智能技術(shù)（比如深度學(xué)習(xí)）的發(fā)展，算法本身逐漸具有了一定的自主性。

?

因此，算法通過對(duì)數(shù)據(jù)的占有、處理與結(jié)果輸出，演化為資源、商品、財(cái)產(chǎn)、中介甚至社會(huì)建構(gòu)力量，從而構(gòu)成了一種事實(shí)上的技術(shù)權(quán)力[3]。

?

?

目前算法治理中的重點(diǎn)主要考慮算法應(yīng)用后對(duì)國(guó)家安全、社會(huì)秩序和個(gè)體及組織合法權(quán)益產(chǎn)生的影響效果。

?

《個(gè)人信息保護(hù)法》已經(jīng)初步涉及算法的規(guī)制，主要規(guī)制的對(duì)象是自動(dòng)化決策行為。自動(dòng)化決策可能會(huì)對(duì)個(gè)體產(chǎn)生具有法律意義或類似的重大影響，由于算法本身的復(fù)雜性與不透明性，個(gè)體可能無(wú)法理解數(shù)據(jù)處理和決策的邏輯，進(jìn)而可能會(huì)給個(gè)體帶來重大風(fēng)險(xiǎn)。同時(shí)，《個(gè)人信息保護(hù)法》對(duì)自動(dòng)化決策技術(shù)應(yīng)用于個(gè)性化推送也給予了關(guān)注，警惕通過對(duì)個(gè)體精準(zhǔn)畫像實(shí)施個(gè)性化推送帶來的"大數(shù)據(jù)殺熟"及"信息繭房"等負(fù)面的效果。

?

《算法推薦規(guī)定》主要關(guān)注算法推薦技術(shù)應(yīng)用后帶來的互聯(lián)網(wǎng)內(nèi)容安全等問題，規(guī)范的主要應(yīng)用領(lǐng)域包括生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等信息服務(wù)，具體包括：

?

• 生成合成類：主要規(guī)范內(nèi)容聚合、內(nèi)容自動(dòng)化生成及內(nèi)容合成服務(wù)；

• 個(gè)性化推送類：主要規(guī)范基于用戶畫像而進(jìn)行的內(nèi)容、商品或服務(wù)的個(gè)性化推送服務(wù)；

• 排序精選類：主要規(guī)范內(nèi)容服務(wù)提供者的版面頁(yè)面管理，諸如首屏、熱搜、精選、榜單、彈窗等；

• 檢索過濾類：主要規(guī)范搜索引擎、內(nèi)容檢索、內(nèi)容干預(yù)等服務(wù)或行為；

• 調(diào)度決策類：主要規(guī)范工作調(diào)度服務(wù)，諸如快遞平臺(tái)、出行平臺(tái)等。

?

而在《平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》中，對(duì)算法的主要規(guī)制是禁止平臺(tái)通過算法來實(shí)施壟斷行為，主要包括：

?

• 壟斷協(xié)議：經(jīng)營(yíng)者通過數(shù)據(jù)、算法、平臺(tái)規(guī)則，達(dá)成排除、限制競(jìng)爭(zhēng)的橫向壟斷協(xié)議、縱向壟斷協(xié)議、軸輻協(xié)議，或者存在其他協(xié)同行為。

• 大數(shù)據(jù)殺熟：平臺(tái)經(jīng)營(yíng)者基于大數(shù)據(jù)和算法，根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)行差異性交易價(jià)格或者其他交易條件。

• 拒絕交易：平臺(tái)經(jīng)營(yíng)者在平臺(tái)規(guī)則、算法、技術(shù)、流量分配等方面設(shè)置不合理的限制和障礙，使交易相對(duì)人難以開展交易。

?

?

首先，要保證算法應(yīng)用的透明度。要保護(hù)個(gè)體的知情權(quán)、自決權(quán)和其他權(quán)利，首先需要保證算法應(yīng)用具有相應(yīng)的透明度。我國(guó)的《個(gè)人信息保護(hù)法》第二十四條要求個(gè)人信息處理者進(jìn)行自動(dòng)化決策時(shí)，應(yīng)當(dāng)保證決策的透明度。無(wú)獨(dú)有偶，GDPR第5條關(guān)于處理個(gè)人數(shù)據(jù)的基本原則中亦有"合法、公正、透明"的要求，第13、14條則進(jìn)一步要求在隱私聲明中說明是否存在自動(dòng)化決策行為（含畫像）以及該行為的邏輯、對(duì)于數(shù)據(jù)主體可能產(chǎn)生的預(yù)期效果等。

?

在《算法推薦規(guī)定》中，對(duì)保證算法推薦應(yīng)用的透明度也提出了明確要求。第十四條規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等?！吨笇?dǎo)意見》第(十三)條則要求規(guī)范企業(yè)算法應(yīng)用行為，保護(hù)網(wǎng)民合理權(quán)益，秉持公平、公正原則，促進(jìn)算法公開透明。

?

其次，算法應(yīng)用的可解釋性。根據(jù)《個(gè)人信息保護(hù)法》第二十四條規(guī)定，通過自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定?！秱€(gè)人信息保護(hù)法》實(shí)質(zhì)上賦予個(gè)體要求自動(dòng)化決策實(shí)施者予以解釋的權(quán)利。類似地，根據(jù)GDPR第22條，若無(wú)其他合法依據(jù)，數(shù)據(jù)主體有權(quán)反對(duì)完全依靠自動(dòng)化決策（含畫像）作出的、會(huì)對(duì)數(shù)據(jù)主體具有法律影響或類似重大影響的決定。同時(shí)，數(shù)據(jù)主體還享有表達(dá)其觀點(diǎn)和對(duì)決定進(jìn)行異議的基本權(quán)利。

?

《算法推薦規(guī)定》也對(duì)算法的可解釋性提出了明確要求，第十五條規(guī)定，用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對(duì)其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施?！吨笇?dǎo)意見》第十三條則督促企業(yè)及時(shí)、合理、有效地公開算法基本原理、優(yōu)化目標(biāo)、決策標(biāo)準(zhǔn)等信息，做好算法結(jié)果解釋，暢通投訴通道，消除社會(huì)疑慮，推動(dòng)算法健康發(fā)展。

?

第三，要保證算法實(shí)施結(jié)果的公平性。《個(gè)人信息保護(hù)法》響應(yīng)社會(huì)對(duì)"大數(shù)據(jù)殺熟"規(guī)制的呼吁，第二十四條規(guī)定了自動(dòng)化決策結(jié)果的公平和公正性要求，要求保證決策的透明度和結(jié)果的公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。《算法推薦規(guī)定》亦通過多處規(guī)定對(duì)于算法推薦服務(wù)提出了公平性要求，第十條要求服務(wù)提供者不得設(shè)置歧視性或者偏見性用戶標(biāo)簽，第十三條要求服務(wù)提供者不得通過不正當(dāng)手段實(shí)施自我優(yōu)待、不正當(dāng)競(jìng)爭(zhēng)等行為，第十八條禁止服務(wù)提供者利用算法在交易價(jià)格等交易條件上對(duì)消費(fèi)者實(shí)行不合理的差別待遇等違法行為。

?

第四，算法的可問責(zé)性。算法的可問責(zé)性是指算法應(yīng)用者應(yīng)采取措施確保算法符合預(yù)期，建立算法的評(píng)估、糾錯(cuò)和救濟(jì)機(jī)制，對(duì)算法運(yùn)行結(jié)果承擔(dān)責(zé)任。對(duì)于自動(dòng)化決策，《個(gè)人信息保護(hù)法》第五十五條要求個(gè)人信息處理者事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄。《算法推薦規(guī)定》第七條要求算法推薦服務(wù)提供者承擔(dān)算法安全的主體責(zé)任，建立健全內(nèi)部的審核、安全評(píng)估、安全事件處置等機(jī)制，第二十六條要求服務(wù)提供者接受社會(huì)監(jiān)督，設(shè)置投訴舉報(bào)入口、建立申訴渠道和制度。《算法推薦規(guī)定》第二十七條至第二十九條則根據(jù)違法行為的程度，規(guī)定了不同的罰則。此外，《指導(dǎo)意見》亦要求強(qiáng)化企業(yè)主體責(zé)任，對(duì)算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任。

?

第五，保障主體合法權(quán)益。《個(gè)人信息保護(hù)法》第四章全面規(guī)定了個(gè)人信息處理活動(dòng)中個(gè)人所享有的包括知情權(quán)、決定權(quán)、限制權(quán)、拒絕權(quán)等在內(nèi)的十大法定權(quán)利，而這些權(quán)利大都適用于包括自動(dòng)化決策在內(nèi)的通過算法所實(shí)施的數(shù)據(jù)處理活動(dòng)。據(jù)算法推薦服務(wù)的特點(diǎn)，《算法推薦規(guī)定》則設(shè)定了以下保障主體權(quán)益的措施:

?

• 用戶可以關(guān)閉個(gè)性化推薦服務(wù)；

• 用戶可以選擇、修改和刪除服務(wù)提供者的用戶標(biāo)簽；

• 對(duì)于有重大影響的算法應(yīng)用，用戶可以要求服務(wù)提供者予以說明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施；

• 對(duì)于工作調(diào)度服務(wù)，服務(wù)提供者應(yīng)當(dāng)履行勞動(dòng)者權(quán)益保障義務(wù)；

• 對(duì)消費(fèi)者不得實(shí)施不合理的差別待遇；

• 服務(wù)提供者應(yīng)當(dāng)履行未成年人的網(wǎng)絡(luò)保護(hù)義務(wù)。

?

第六，保障內(nèi)容安全。保障信息服務(wù)的內(nèi)容安全是互聯(lián)網(wǎng)信息服務(wù)從業(yè)者的紅線，《算法推薦規(guī)定》提出了以下的內(nèi)容安全要求：

?

• 算法推薦服務(wù)提供者應(yīng)當(dāng)優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息；

• 算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序；

• 算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁(yè)首屏、熱搜等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容；

• 算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)等手段實(shí)施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦等手段干預(yù)信息呈現(xiàn)，實(shí)施自我優(yōu)待、不正當(dāng)競(jìng)爭(zhēng)、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

?

?

在《指導(dǎo)意見》中，國(guó)家網(wǎng)信辦等九部委設(shè)定了算法綜合治理的主要目標(biāo)，利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。綜合《指導(dǎo)意見》和《算法推薦規(guī)定》的主要內(nèi)容，可以梳理出監(jiān)管機(jī)構(gòu)對(duì)算法治理工作的近期思路。

?

首先是算法的分類分級(jí)管理制度。類似于《數(shù)據(jù)安全法》所規(guī)定的數(shù)據(jù)分類分級(jí)管理制度，《算法推薦規(guī)定》第十九條規(guī)定了算法的分類分級(jí)管理制度。對(duì)算法推薦服務(wù)提供者實(shí)施分類分級(jí)管理，主要根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對(duì)用戶行為的干預(yù)程度等因素決定。進(jìn)一步，對(duì)于分類分級(jí)為風(fēng)險(xiǎn)程度高的服務(wù)要實(shí)施更加嚴(yán)格的監(jiān)管措施。

?

其次是算法備案管理制度。《指導(dǎo)意見》第（九）條要求有序推進(jìn)算法備案工作，建立算法備案制度，梳理算法備案基本情況，健全算法分級(jí)分類體系，明確算法備案范圍，有序開展備案工作。而《算法推薦規(guī)定》第二十條對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者[4]的備案提出了具體的要求。我們理解，算法備案管理制度應(yīng)該并非普遍適用的制度，而是針對(duì)敏感度較高或風(fēng)險(xiǎn)度較大的服務(wù)進(jìn)行特殊管理的制度安排。

?

第三是算法安全評(píng)估。《算法推薦規(guī)定》第二十三條要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估工作，網(wǎng)信部門會(huì)同有關(guān)部門對(duì)算法推薦服務(wù)開展安全評(píng)估和監(jiān)督檢查工作?！吨笇?dǎo)意見》第（八）條亦要求監(jiān)管部門積極開展算法安全評(píng)估，研判算法應(yīng)用產(chǎn)生的意識(shí)形態(tài)、社會(huì)公平、道德倫理等安全風(fēng)險(xiǎn)，提出針對(duì)性應(yīng)對(duì)措施。

?

第四是監(jiān)管與執(zhí)法。一方面，監(jiān)管部門會(huì)建立起有效的監(jiān)測(cè)算法安全風(fēng)險(xiǎn)的機(jī)制，對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、影響效果等開展日常監(jiān)測(cè)工作，預(yù)警算法應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)，發(fā)現(xiàn)算法應(yīng)用安全問題。另一方面，按照《算法推薦規(guī)定》的規(guī)定，網(wǎng)信部門將負(fù)責(zé)算法推薦服務(wù)的監(jiān)督管理和執(zhí)法工作，嚴(yán)厲打擊算法違法違規(guī)行為，維護(hù)互聯(lián)網(wǎng)信息服務(wù)算法安全。

?

?

考慮到算法治理所包含的復(fù)雜元素，企業(yè)的算法治理并非一件易事，首先需要形成一個(gè)"算法向善"的企業(yè)價(jià)值觀，并伴以長(zhǎng)效的企業(yè)治理機(jī)制。以歐盟委員會(huì)2019年發(fā)布的《人工智能倫理準(zhǔn)則》為例，"可信任AI"應(yīng)當(dāng)滿足的七項(xiàng)關(guān)鍵要求包括：（1）人的自主和監(jiān)督；（2）可靠性和安全性；（3）隱私和數(shù)據(jù)治理；（4）透明度；（5）多樣性、非歧視性和公平性；（6）社會(huì)和環(huán)境福祉；（7）可問責(zé)性?？紤]到不同類型服務(wù)所引發(fā)風(fēng)險(xiǎn)的不同，這七項(xiàng)關(guān)鍵要求對(duì)于不同類型的服務(wù)也各有側(cè)重，企業(yè)應(yīng)當(dāng)根據(jù)行業(yè)實(shí)踐形成自己的實(shí)施標(biāo)準(zhǔn)和路徑。

?

首先要明確，企業(yè)的算法治理和數(shù)據(jù)治理密不可分，或者說一個(gè)良好的數(shù)據(jù)治理體系是開展算法治理的基礎(chǔ)。作為合規(guī)治理的起點(diǎn)，企業(yè)應(yīng)根據(jù)《個(gè)人信息保護(hù)法》、《數(shù)據(jù)安全法》等法律的規(guī)定，構(gòu)建起以組織為保障、以制度為貫穿、以安全為基石的個(gè)人信息保護(hù)及數(shù)據(jù)保護(hù)體系。

?

其次，企業(yè)要進(jìn)行內(nèi)部算法應(yīng)用的梳理和盤點(diǎn)。根據(jù)《算法推薦規(guī)定》的規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全管理制度，制定并公開算法推薦相關(guān)服務(wù)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐，定期對(duì)于算法進(jìn)行審核、評(píng)估、驗(yàn)證，建立用戶申訴渠道和制度。為落實(shí)上述主體責(zé)任，配合監(jiān)管部門進(jìn)行檢查、備案和安全評(píng)估，企業(yè)應(yīng)當(dāng)對(duì)于內(nèi)部算法應(yīng)用的機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果進(jìn)行盤點(diǎn)和梳理，撰寫說明文檔，為內(nèi)部評(píng)估和配合監(jiān)管的評(píng)估打下基礎(chǔ)。

?

第三，企業(yè)要落實(shí)個(gè)人信息保護(hù)影響評(píng)估（PIA）制度。根據(jù)《個(gè)人信息保護(hù)法》第五十五條規(guī)定，利用個(gè)人信息進(jìn)行自動(dòng)化決策的，個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄。個(gè)人信息保護(hù)影響評(píng)估是針對(duì)個(gè)人信息處理活動(dòng)，事先檢驗(yàn)其合法合規(guī)程度的過程，評(píng)估內(nèi)容主要包括：（1）個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；（2）對(duì)個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)；（3）所采取的安全保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)等。

?

第四，企業(yè)在算法治理工作中應(yīng)當(dāng)引入先進(jìn)的合規(guī)工具。比如，GDPR第25條所規(guī)定的通過設(shè)計(jì)和默認(rèn)的數(shù)據(jù)保護(hù)（Data Protection by Design and by Default，以下稱"DPbDD"），DPbDD對(duì)于個(gè)人信息保護(hù)合規(guī)意義重大，作為國(guó)際隱私管理最新成果的ISO 27701（ISO/IEC 27701，安全技術(shù)-擴(kuò)展的ISO/IEC 27001和ISO/IEC 27002-隱私信息管理要求和指南）也將通過設(shè)計(jì)和默認(rèn)的隱私保護(hù)作為控制者和處理者的義務(wù)之一。這項(xiàng)工具的理念是將合規(guī)設(shè)計(jì)嵌入到IT系統(tǒng)和業(yè)務(wù)實(shí)踐的設(shè)計(jì)和架構(gòu)中，不但可以實(shí)現(xiàn)數(shù)據(jù)保護(hù)，也能助企業(yè)達(dá)到算法的合規(guī)，從而實(shí)現(xiàn)事先的預(yù)防，而非事后的補(bǔ)救。

?

第五，審計(jì)制度要落到實(shí)處。作為法定義務(wù)，《個(gè)人信息保護(hù)法》第五十四條要求個(gè)人信息處理者應(yīng)當(dāng)定期對(duì)其處理個(gè)人信息遵守法律、行政法規(guī)的情況進(jìn)行合規(guī)審計(jì)。而《算法推薦規(guī)定》第八條也要求算法推薦服務(wù)提供者定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等。審計(jì)制度既包括制度審計(jì)也包括技術(shù)安全審計(jì)，通過審計(jì)過程發(fā)現(xiàn)算法應(yīng)用或制度執(zhí)行的缺陷，并解決問題，可以幫助企業(yè)形成一個(gè)正向激勵(lì)的合規(guī)提升機(jī)制。

?

第六，密切關(guān)注人工智能立法、監(jiān)管趨勢(shì)。盡管目前監(jiān)管的重點(diǎn)和落實(shí)的方向主要以涉及個(gè)人信息的算法規(guī)制為主，但是結(jié)合《算法推薦規(guī)定》以及《指導(dǎo)意見》的要求以及行業(yè)實(shí)踐發(fā)展的趨勢(shì)來看，算法治理的前景無(wú)疑超出個(gè)人信息保護(hù)范疇。由此，與算法治理相關(guān)的人工智能立法、監(jiān)管趨勢(shì)未來同樣值得企業(yè)密切關(guān)注。

?

隨著人工智能技術(shù)的發(fā)展，先進(jìn)算法的應(yīng)用對(duì)企業(yè)的發(fā)展至關(guān)重要，而深度學(xué)習(xí)等技術(shù)使得人工智能的可解釋性變得愈發(fā)困難，對(duì)社會(huì)秩序和個(gè)體權(quán)益的影響也日益加深，企業(yè)唯有牢固樹立算法合規(guī)的理念，才能行穩(wěn)致遠(yuǎn)。

?