?

?

《算法規(guī)定草案》第二條規(guī)定，在中國境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（"算法推薦服務(wù)"）的，適用本規(guī)定，并進一步明確了"應(yīng)用算法推薦技術(shù)"的定義，即"應(yīng)用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容"。以上適用范圍非常廣泛，各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi)，如各類短視頻平臺、電商平臺、社交平臺及餐飲外賣平臺等。

?

?

?

（1）各級網(wǎng)信部門監(jiān)管

?

《算法規(guī)定草案》第三條規(guī)定，國家網(wǎng)信部門負責(zé)全國算法推薦服務(wù)的監(jiān)督管理執(zhí)法工作，省級網(wǎng)信部門依職責(zé)負責(zé)本行政區(qū)域內(nèi)算法推薦服務(wù)的監(jiān)督管理執(zhí)法工作。

?

（2）加強行業(yè)自律

?

《算法規(guī)定草案》鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全自律制度、行業(yè)準則及行業(yè)標準，并督促指導(dǎo)算法推薦服務(wù)提供者建立健全服務(wù)規(guī)范。（見《算法規(guī)定草案》第五條）

?

（3）完善社會監(jiān)督

?

《算法規(guī)定草案》為社會監(jiān)督提供渠道，發(fā)動社會公眾，開展監(jiān)督?！端惴ㄒ?guī)定草案》規(guī)定，算法推薦服務(wù)提供者應(yīng)為公眾投訴舉報設(shè)置便捷的投訴舉報入口，同時建立用戶申訴渠道和制度。（見《算法規(guī)定草案》第二十六條）

?

?

《算法規(guī)定草案》第十九條規(guī)定，網(wǎng)信辦應(yīng)"根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對用戶行為的干預(yù)程度等對算法推薦服務(wù)提供者實施分類分級管理。"該分類分級制度的具體實施規(guī)則仍待進一步明確，如應(yīng)劃分為哪幾類，哪幾個等級，分別適用何種監(jiān)管措施等。

?

?

（1）實施備案管理

?

《算法規(guī)定草案》規(guī)定，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者（"特殊算法推薦服務(wù)提供者"）應(yīng)當通過相關(guān)備案系統(tǒng)填報相關(guān)信息，進行備案，并在其對外提供服務(wù)的平臺的顯著位置標明其備案編號并提供公示信息鏈接。[1]《算法規(guī)定草案》未對特殊算法推薦服務(wù)提供者的定義和范圍進行說明，仍待相關(guān)配套規(guī)定以及網(wǎng)信部門執(zhí)法案例進一步明確。

?

（2）需進行安全評估

?

《算法規(guī)定草案》規(guī)定，特殊算法推薦服務(wù)提供者應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。網(wǎng)信辦及省級網(wǎng)信部門將會同有關(guān)主管部門對算法推薦服務(wù)負責(zé)開展算法安全評估和監(jiān)督檢查工作，相關(guān)算法推薦服務(wù)提供者應(yīng)提供必要的支持和協(xié)助。[2]相關(guān)安全評估的具體實施規(guī)則仍待進一步明確。

?

?

保障用戶的知情權(quán)和自主選擇權(quán)是保障公平交易、維持市場秩序的重要前提，國家對算法可能不當影響用戶自主決定權(quán)的問題日益關(guān)注，并積極進行立法予以回應(yīng)。如《個人信息保護法》（ "個保法"）中規(guī)定，通過自動化決策方式進行推送或營銷，應(yīng)同時提供不針對其個人特征的選項，或向個人提供便捷的拒絕方式。[3]近日出臺的《禁止網(wǎng)絡(luò)不正當競爭行為規(guī)定（公開征求意見稿）》亦強調(diào)，經(jīng)營者不得利用數(shù)據(jù)、算法等技術(shù)手段，通過收集、分析交易相對方的信息、瀏覽內(nèi)容及次數(shù)等方式，對交易相對方不合理地提供不同的交易信息，侵害交易相對方的知情權(quán)、選擇權(quán)。[4]《算法規(guī)定草案》此次也從以下方面明確規(guī)定保護用戶知情權(quán)及自主選擇權(quán)：

?

?

算法推薦具有一定隱蔽性，常常使得公眾在無形之中被"算計"。因此，《算法規(guī)定草案》在增加算法推薦的公開透明度，保障用戶知情權(quán)方面作出了一系列規(guī)定，如《算法規(guī)定草案》規(guī)定了特殊算法推薦服務(wù)提供者的備案義務(wù)、算法推薦服務(wù)提供者以顯著方式告知用戶其提供算法推薦服務(wù)情況的告知義務(wù)、算法推薦服務(wù)提供者公示算法推薦服務(wù)基本原理、目的意圖、運行機制等的公示義務(wù)以及優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性義務(wù)[5]。上述規(guī)則增加了算法推薦相關(guān)信息及推薦方式的透明度，一定程度上保證了用戶知情權(quán)，同時也有利于公眾去監(jiān)督互聯(lián)網(wǎng)企業(yè)的算法推薦功能。

?

?

與個保法相關(guān)規(guī)定相呼應(yīng)，《算法規(guī)定草案》也明確了用戶接受算法推薦服務(wù)的選擇權(quán)。《算法規(guī)定草案》第十五條規(guī)定，"算法推薦服務(wù)提供者應(yīng)當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當立即停止提供相關(guān)服務(wù)。"該規(guī)定主要針對實踐中眾多互聯(lián)網(wǎng)平臺未提供算法推薦服務(wù)關(guān)閉選項或難以關(guān)閉相關(guān)服務(wù)的情形。據(jù)報道，通過微信設(shè)置功能，經(jīng)過至少14個步驟，可關(guān)閉為期六個月的個性化定制廣告。費盡千辛萬苦關(guān)閉后，用戶其實仍會接收到普遍投放的廣告。[6]本條款生效后，可督促相關(guān)平臺設(shè)置更為便捷的算法推薦服務(wù)關(guān)閉方式，真正便利用戶行使選擇權(quán)。

?

《算法規(guī)定草案》第十五條進一步規(guī)定，"算法推薦服務(wù)提供者應(yīng)當向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標簽的功能。"該條在算法推薦方面給了用戶一定主動權(quán)，可以避免企業(yè)根據(jù)自己所確定的用戶標簽，持續(xù)向用戶推送相關(guān)信息。

?

?

?

在移動互聯(lián)網(wǎng)時代，注意力成為稀缺資源，流量造假逐漸形成產(chǎn)業(yè)鏈，對公平競爭的市場秩序造成破壞，也不斷侵蝕網(wǎng)絡(luò)空間的社會信任。對此，《算法規(guī)定草案》第十三條明確規(guī)定，"算法推薦服務(wù)提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉(zhuǎn)發(fā)、網(wǎng)頁導(dǎo)航等，實施流量造假、流量劫持"，對流量造假、流量劫持行為明令禁止。

?

?

互聯(lián)網(wǎng)時代，信息量爆炸，很多商家或流量網(wǎng)紅為了脫穎而出，不惜通過重金以購買熱搜或精選，操縱榜單等方式"做廣告"，破市場壞公平競爭，擾亂市場秩序，占用公共資源。對此，《算法規(guī)定草案》第十三條進一步規(guī)定，"不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實施自我優(yōu)待、不正當競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管"。

?

但值得注意的是，《算法規(guī)定草案》對違反上述規(guī)定所設(shè)置的行政處罰金額上限為人民幣三萬元[7]，并未根據(jù)流量造假方或搜索結(jié)果操縱方因流量造假或操縱搜索結(jié)果所獲利潤金額設(shè)置更高的處罰金額上限。因此，對上述行為的處罰可能仍需主要依靠刑法等其他法律進行處罰和整治。

?

?

?

近年來，隨著互聯(lián)網(wǎng)不斷滲透到我們的生活，"大數(shù)據(jù)殺熟"已變成一個熱詞，從訂機票、訂酒店甚至訂外賣都會被"大數(shù)據(jù)殺熟"。[8]2021年8月20日發(fā)布的《個人信息保護法》（"個保法"）針對"大數(shù)據(jù)殺熟行為"提出了相關(guān)應(yīng)對措施，如規(guī)定個人信息處理者利用個人信息進行自動化決策，不得對個人在交易價格等交易條件上實行不合理的差別待遇[9]。

?

與個保法相呼應(yīng)，《算法規(guī)定草案》也針對"大數(shù)據(jù)殺熟"提出了類似措施，規(guī)定算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的，"不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。"（見《算法規(guī)定草案》第十八條）

?

?

在互聯(lián)網(wǎng)飛速發(fā)展的時代，未成年人沉迷網(wǎng)絡(luò)的問題引起了社會的廣泛關(guān)注。由于未成年人價值觀尚未健全，缺乏辨別正確價值觀的能力，極易掉進互聯(lián)網(wǎng)的"算法陷阱"里，成為資本逐利的犧牲品。因此，《算法規(guī)定草案》針對未成年人網(wǎng)絡(luò)保護進行了特殊規(guī)定，要求算法推薦服務(wù)提供者向未成年人提供服務(wù)的，應(yīng)當開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務(wù)，不得向未成年人用戶推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息內(nèi)容，或利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)（見《算法規(guī)定草案》第十六條）。但該規(guī)定較為概括，且對違反本規(guī)定的處罰措施亦不明確，僅規(guī)定由主管部門依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。因此，仍待在實踐中探索更為具體的保護措施。

?

?

此前，外賣平臺通過算法來測算外賣員配送時間引熱議。在外賣平臺智能算法的深度學(xué)習(xí)下，外賣員送餐的時間被平臺逐漸壓縮，給外賣員造成了巨大壓力，也一度使得外賣騎手被貼上了最危險職業(yè)的標簽。對此，《算法規(guī)定草案》第十七條規(guī)定，"算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法，履行勞動者權(quán)益保障義務(wù)。"但該規(guī)定亦相對概括，且相應(yīng)的處罰措施亦不夠明確，仍待結(jié)合實際處罰案例探索有關(guān)主管部門的執(zhí)法尺度和力度。

?

?

?

《算法規(guī)定草案》規(guī)定，算法推薦服務(wù)提供者作為算法安全主體，應(yīng)履行以下主體責(zé)任[10]：

?

（1）建立健全用戶注冊、信息發(fā)布審核、算法機制機理審核、安全評估監(jiān)測、安全事件應(yīng)急處置、數(shù)據(jù)安全保護和個人信息保護等管理制度；

?

（2）制定并公開算法推薦相關(guān)服務(wù)規(guī)則；及

?

（3）配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。

?

?

《算法規(guī)定草案》除了強調(diào)算法推薦服務(wù)應(yīng)遵守法律法規(guī)，同時也強調(diào)應(yīng)尊重公序良俗，倡導(dǎo)主流價值導(dǎo)向。為此，《算法規(guī)定草案》規(guī)定算法推薦服務(wù)提供者應(yīng)：

?

（1）定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費等違背公序良俗的算法模型（見《算法規(guī)定草案》第八條）；

?

（2）加強信息內(nèi)容管理，防止違法信息擴散，保存有關(guān)記錄，并向網(wǎng)信部門報告。（見《算法規(guī)定草案》第九條）

?

（3）加強用戶模型和用戶標簽管理，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點或者作為用戶標簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標簽（見《算法規(guī)定草案》第十條）；及

?

（4）加強算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機制，在各個重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息內(nèi)容（見《算法規(guī)定草案》第十一條）。

?

?

《算法規(guī)定草案》適用范圍較廣，幾乎涵蓋了所有提供算法推薦服務(wù)的互聯(lián)網(wǎng)企業(yè)，且其對算法推薦活動亦做了較為全面的規(guī)范，一些規(guī)則更是直指算法推薦領(lǐng)域的一些亂象，因此，《算法規(guī)定草案》的內(nèi)容對提供算法推薦服務(wù)的企業(yè)影響較大，故相關(guān)企業(yè)應(yīng)根據(jù)《算法規(guī)定草案》的相關(guān)規(guī)定著重從以下方面進行準備：

?

（1）根據(jù)《算法規(guī)定草案》要求，準備制定相關(guān)服務(wù)規(guī)則、管理制度，并配備相關(guān)專業(yè)人員及技術(shù)支撐；

?

（2）對開展的算法推薦活動進行自我審核、評估，排除違法和不良信息、誘導(dǎo)性算法模型、偏見性用戶標簽及其他不符合法律法規(guī)、公序良俗及和主流價值導(dǎo)向的情形；

?

（3）根據(jù)《算法規(guī)定草案》要求，增加算法推薦服務(wù)的公開透明度，保障用戶知情權(quán)和自主選擇權(quán)，待《算法規(guī)定草案》生效后，及時履行相關(guān)告知、公示義務(wù)；以及

?

（4）密切關(guān)注《算法規(guī)定草案》及相關(guān)立法及執(zhí)法活動對待明確問題的進一步解釋，如關(guān)注特殊算法推薦服務(wù)者的范圍，以自查是否需進行相關(guān)備案及安全評估。

?