?

AI產(chǎn)業(yè)依托于新時代數(shù)字經(jīng)濟(jì)和算法科技的發(fā)展，是以此為基礎(chǔ)對人類智能的模擬乃至超越。目前，AI技術(shù)也已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，正在對全球經(jīng)濟(jì)發(fā)展、社會進(jìn)步和人民生活產(chǎn)生極其深刻的影響。中國、歐盟和美國均高度重視AI產(chǎn)業(yè)的發(fā)展，將促進(jìn)AI發(fā)展作為一項(xiàng)重要國家/地區(qū)戰(zhàn)略。

?

中國國務(wù)院于2017年7月發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，明確提出了"三步走"的戰(zhàn)略目標(biāo)。其中，第三階段目標(biāo)是，到2030年人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心，為我國躋身創(chuàng)新型國家前列和經(jīng)濟(jì)強(qiáng)國奠定重要基礎(chǔ)。

?

歐盟委員會于2020年2月發(fā)布了White Paper on Artificial Intelligence - a European Approach to Excellence and Trust（《人工智能白皮書——通往卓越和信任的歐洲路徑》），提出了一系列有關(guān)AI研發(fā)和監(jiān)管的政策措施，認(rèn)為AI可以加強(qiáng)歐洲工業(yè)競爭力、提升公民幸福感，明確了歐盟的AI戰(zhàn)略旨在提高在歐盟在AI領(lǐng)域的創(chuàng)新能力，同時促進(jìn)可信賴的AI技術(shù)在歐盟領(lǐng)域內(nèi)的應(yīng)用。

?

美國時任總統(tǒng)特朗普于2019年2月簽署了關(guān)于Maintaining American Leadership in Artificial Intelligence（《維持美國在人工智能領(lǐng)域的領(lǐng)先地位》）的行政命令，要求相關(guān)部門將AI研發(fā)作為部門優(yōu)先事項(xiàng)并為此編制適當(dāng)?shù)呢?cái)政預(yù)算，推動產(chǎn)業(yè)與學(xué)術(shù)界的AI技術(shù)突破，以強(qiáng)化并維持美國在AI領(lǐng)域的領(lǐng)先地位。2020年5月，Generating Artificial Intelligence Networking Security Act（《創(chuàng)建人工智能網(wǎng)絡(luò)安全法案》）被提交美國眾議院，該法案要求調(diào)研美國聯(lián)邦A(yù)I相關(guān)活動以及其他國家采用的AI戰(zhàn)略，確定美國在AI使用方面的國際排名。

?

?

在國家戰(zhàn)略的支持下，以AI科技為核心技術(shù)和主營業(yè)務(wù)的企業(yè)不斷涌現(xiàn)，研發(fā)出的新產(chǎn)品和新技術(shù)給人類社會帶來了諸多便利。但與此同時，AI產(chǎn)業(yè)的快速發(fā)展也給相關(guān)監(jiān)管和企業(yè)合規(guī)帶來了新的挑戰(zhàn)，主要體現(xiàn)在以下三個方面：

?

數(shù)據(jù)安全方面，AI技術(shù)的產(chǎn)生依托于數(shù)字經(jīng)濟(jì)和算法技術(shù)的發(fā)展，不可避免地會涉及到大量數(shù)據(jù)的收集、處理和使用，由此可能導(dǎo)致或放大一系列數(shù)據(jù)安全風(fēng)險(xiǎn)，包括數(shù)據(jù)的過度采集、數(shù)據(jù)的集中存儲和處理風(fēng)險(xiǎn)、數(shù)據(jù)智能竊取、數(shù)據(jù)資源濫用等。

?

個人信息保護(hù)方面，AI可以借助便捷的信息采集技術(shù)，對人們的日常行為進(jìn)行持續(xù)跟蹤和分析，將人們的行為方式、性格傾向、興趣愛好等進(jìn)行信息化和數(shù)據(jù)化處理，增加侵犯個人信息權(quán)利和個人隱私的風(fēng)險(xiǎn)。

?

社會倫理方面，隨著AI產(chǎn)業(yè)高速發(fā)展，也伴生出諸多社會矛盾和倫理風(fēng)險(xiǎn)，例如智能化設(shè)備不斷取代人力勞動導(dǎo)致的潛在就業(yè)矛盾、人工智能在"緊急避險(xiǎn)"等情況下價(jià)值判斷以及相關(guān)責(zé)任承擔(dān)問題。如何建立和發(fā)展可靠和負(fù)責(zé)任的人工智能成為了各國政府和企業(yè)共同面臨的重要課題。

?

從"AI四小龍"的IPO資料及相關(guān)公開信息中，我們看到相關(guān)監(jiān)管機(jī)構(gòu)對于上述風(fēng)險(xiǎn)的監(jiān)管程度正在不斷提升，AI企業(yè)對上述合規(guī)問題也愈發(fā)關(guān)注。具體而言：

?

商湯科技在向港交所遞交的招股書中披露，其秉持?jǐn)?shù)據(jù)安全、數(shù)據(jù)隱私和AI倫理方面的可持續(xù)發(fā)展高標(biāo)準(zhǔn)，并采取了一系列措施來應(yīng)對上述領(lǐng)域的風(fēng)險(xiǎn)和問題，包括對數(shù)據(jù)采取保密分類、訪問控制、數(shù)據(jù)加密及脫敏等各項(xiàng)保護(hù)措施，以防止未經(jīng)授權(quán)訪問、泄露、不當(dāng)使用或修改等。商湯科技設(shè)立有人工智能倫理委員會，并定期為員工組織人工智能倫理培訓(xùn)。

?

曠視科技在向上交所遞交的招股書中披露，其在研項(xiàng)目包括"人工智能安全與倫理研究中心"，該項(xiàng)目旨在研發(fā)數(shù)據(jù)安全和隱私保護(hù)基礎(chǔ)平臺，通過建立一套AI數(shù)據(jù)安全與隱私保護(hù)機(jī)制，有效解決數(shù)據(jù)安全和個人隱私問題。此外，曠視科技在《關(guān)于曠視科技有限公司首次公開發(fā)行存托憑證并在科創(chuàng)板上市申請文件的審核問詢函之回復(fù)》中，按照上交所的要求，詳細(xì)說明了其技術(shù)、業(yè)務(wù)及產(chǎn)品（或服務(wù)）中涉及到的數(shù)據(jù)采集、清洗、管理、運(yùn)用的具體環(huán)節(jié)，相關(guān)數(shù)據(jù)來源和合規(guī)性，以及保證數(shù)據(jù)采集、清洗、管理、運(yùn)用等各方面合規(guī)的措施等。

?

云從科技在向上交所遞交的招股書中披露，云從科技高度認(rèn)同人工智能倫理規(guī)范對于人工智能技術(shù)發(fā)展的重要性，堅(jiān)持"和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理"的價(jià)值導(dǎo)向。云從科技建立了倫理審查機(jī)制，積極加強(qiáng)員工在人工智能倫理方面的培訓(xùn)和管理，并在開放協(xié)作、綠色環(huán)保等方面積極落實(shí)人工智能倫理準(zhǔn)則的要求。云從科技在客戶隱私數(shù)據(jù)方面，也從制度層面、技術(shù)層面和執(zhí)行管理層面進(jìn)行保障，強(qiáng)化對客戶隱私數(shù)據(jù)的保護(hù)。

?

依圖科技官方網(wǎng)站信息顯示，依圖科技已于2020年7月獲得由英國標(biāo)準(zhǔn)協(xié)會（BSI）頒發(fā)的ISO/IEC 27701:2019隱私信息管理體系國際認(rèn)證。

?

?

近年來科技行業(yè)的持續(xù)快速發(fā)展，使得數(shù)據(jù)安全和個人信息保護(hù)方面的風(fēng)險(xiǎn)得以充分暴露。面對已成為全球趨勢的大數(shù)據(jù)處理和使用、信息跨境流動以及不時發(fā)生的個人信息泄露等事件，各國立法和執(zhí)法部門對于數(shù)據(jù)安全和個人信息保護(hù)方面的立法和執(zhí)法工作正在快速推進(jìn)，科技企業(yè)（包括AI企業(yè)）在全球范圍內(nèi)正在面臨數(shù)據(jù)安全和個人信息保護(hù)方面愈加高標(biāo)準(zhǔn)、嚴(yán)要求的監(jiān)管環(huán)境。

?

我國繼2016年頒布《網(wǎng)絡(luò)安全法》后，于今年先后出臺了《數(shù)據(jù)安全法》以及《個人信息保護(hù)法》（即將于11月1日生效），初步完成了數(shù)據(jù)安全和個人信息保護(hù)領(lǐng)域的基本立法工作。這三部法律及相關(guān)配套規(guī)范性文件形成了對數(shù)據(jù)安全和個人信息保護(hù)既有區(qū)別又相互緊密聯(lián)系的監(jiān)管規(guī)則體系：

?

《網(wǎng)絡(luò)安全法》規(guī)定了國家積極開展網(wǎng)絡(luò)空間治理，防范網(wǎng)絡(luò)違法犯罪活動，維護(hù)網(wǎng)絡(luò)數(shù)據(jù)的完整性、保密性和可用性，基于《網(wǎng)絡(luò)安全法》的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等監(jiān)管規(guī)則進(jìn)一步要求，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和生產(chǎn)者、平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用（如深度偽造技術(shù)）從事違法活動，涉及深度偽造技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用應(yīng)按要求履行安全評估程序。

?

《數(shù)據(jù)安全法》要求開展數(shù)據(jù)處理活動以及研究開發(fā)數(shù)據(jù)新技術(shù)應(yīng)當(dāng)有利于促進(jìn)經(jīng)濟(jì)社會發(fā)展，增進(jìn)人民福祉，符合社會公德和倫理。此外，《網(wǎng)絡(luò)安全審查辦法（修訂草案征求意見稿）》擬要求掌握超過100萬用戶個人信息的運(yùn)營者赴國外上市，必須向網(wǎng)絡(luò)安全審查辦公室申報(bào)網(wǎng)絡(luò)安全審查。

?

《個人信息保護(hù)法》在《網(wǎng)絡(luò)安全法》和《數(shù)據(jù)安全法》的基礎(chǔ)上，規(guī)定了處理個人信息應(yīng)當(dāng)遵循合法、正當(dāng)、必要和誠信原則，細(xì)化了敏感個人信息處理和個人信息跨境提供的規(guī)則，并進(jìn)一步規(guī)定國家網(wǎng)信部門統(tǒng)籌協(xié)調(diào)有關(guān)部門針對人工智能等新技術(shù)、新應(yīng)用，制定專門個人信息保護(hù)規(guī)則、標(biāo)準(zhǔn)。

?

歐盟在AI相關(guān)數(shù)據(jù)安全和個人信息保護(hù)領(lǐng)域也走在了世界的前列。為大家所熟知的歐盟"GDPR"（General Data Protection Regulation，即《通用數(shù)據(jù)保護(hù)條例》）于2018年5月起正式實(shí)施，其在個人信息處理原則、個人信息主體的主要權(quán)利以及個人信息跨境傳輸?shù)榷喾矫婢⒘讼鄳?yīng)的監(jiān)管規(guī)則，其第22條即包含了對自動化決策（含用戶畫像）的相關(guān)要求。該條款明確規(guī)定個人原則上應(yīng)有權(quán)拒絕僅基于自動化處理的對其產(chǎn)生法律效力或者其他類似重大影響的自動化決策，但是經(jīng)法律授權(quán)、經(jīng)個人明確同意或者為履行與個人之合約所必須的情況除外。但即使符合上述豁免條件，數(shù)據(jù)控制者（data controller）也應(yīng)采取適當(dāng)?shù)拇胧┍Ｗo(hù)個人合法權(quán)益，至少應(yīng)保障個人獲得數(shù)據(jù)控制者人工干預(yù)、表達(dá)個人觀點(diǎn)以及對自動化決策結(jié)果進(jìn)行同意的權(quán)利。同時，GDPR第15條要求使用自動化決策的數(shù)據(jù)控制者，應(yīng)進(jìn)一步向個人披露自動化決策的存在、其涉及的邏輯以及個人信息處理所帶來的相關(guān)影響和后果。

?

?

如前文所述，各國目前就數(shù)據(jù)安全、個人信息保護(hù)已形成相對完整的監(jiān)管體系，而對于近年來才走入公眾視野的AI倫理等新問題，中國、歐盟和美國也開始嘗試在新的維度上逐步出臺相關(guān)配套法律法規(guī)和政策措施，以保障AI產(chǎn)業(yè)的平穩(wěn)健康發(fā)展，相關(guān)具體情況如下：

（點(diǎn)擊圖片查看大圖）

（點(diǎn)擊圖片查看大圖）

（點(diǎn)擊圖片查看大圖）

?

?

目前各國對AI監(jiān)管總體的政策導(dǎo)向雖已就位，但仍缺少具體的落地方案和實(shí)施細(xì)則，立法和制度建設(shè)尚未完善，監(jiān)管發(fā)展一定程度上滯后于技術(shù)的發(fā)展和應(yīng)用。在各國政府支持和鼓勵A(yù)I發(fā)展、搶占AI發(fā)展先機(jī)的大背景下，未來一段時間的立法和監(jiān)管政策可能會更加注重平衡AI產(chǎn)業(yè)的發(fā)展速度和AI技術(shù)所帶來的風(fēng)險(xiǎn)，我們可能會看到一些監(jiān)管政策由粗到細(xì)、由緩到急逐步落地。

?

考慮到AI技術(shù)的快速發(fā)展導(dǎo)致了立法者和執(zhí)法者很難采用"靜觀其變"的策略，必須積極作為以應(yīng)對AI技術(shù)和產(chǎn)業(yè)發(fā)展帶來的各類風(fēng)險(xiǎn)和漏洞，相關(guān)監(jiān)管部門可能會基于相應(yīng)技術(shù)的發(fā)展速度和屆時的風(fēng)險(xiǎn)程度，通過"小步快跑"的方式制定并不時修訂相應(yīng)監(jiān)管細(xì)則，使敏捷治理成為AI時代的監(jiān)管新常態(tài)。

?

如本文上篇所述，AI相關(guān)技術(shù)可能會導(dǎo)致新的社會矛盾和倫理風(fēng)險(xiǎn)，世界各國也均已將AI倫理作為了重點(diǎn)關(guān)注領(lǐng)域之一。我國也在國家層面成立了國家科技倫理委員會，并且近期剛剛公布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中進(jìn)一步表明國家將建立算法備案制度，有序開展備案工作；該指導(dǎo)意見同時要求企業(yè)應(yīng)建立算法安全責(zé)任制度和科技倫理審查制度，對算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任。由此可見，我國對于AI社會倫理的監(jiān)管已經(jīng)逐步形成了從國家制度層面到企業(yè)執(zhí)行層面的指導(dǎo)原則，結(jié)合我國到2023年初步建立人工智能標(biāo)準(zhǔn)體系的目標(biāo)，筆者預(yù)計(jì)，相關(guān)監(jiān)管細(xì)則要求可能會在未來2-3年內(nèi)逐步完善和落地。

?

在AI時代，大數(shù)據(jù)的經(jīng)濟(jì)價(jià)值被深度挖掘，海量數(shù)據(jù)的聚集和整合一方面確可促進(jìn)AI產(chǎn)業(yè)的不斷進(jìn)步，但另一方面也會為行業(yè)壟斷提供溫床，助長頭部企業(yè)對數(shù)據(jù)和信息紅利的把控，導(dǎo)致其濫用數(shù)據(jù)市場支配地位的風(fēng)險(xiǎn)。隨著我國近期在平臺經(jīng)濟(jì)反壟斷方面持續(xù)加大執(zhí)法力度以及開放協(xié)作的人工智能治理原則的施行，相關(guān)監(jiān)管部門很可能會重點(diǎn)關(guān)注AI行業(yè)的發(fā)展及壟斷風(fēng)險(xiǎn)，以期打破數(shù)據(jù)壁壘、提升數(shù)據(jù)流通和利用效率，進(jìn)一步促進(jìn)經(jīng)濟(jì)和科技的發(fā)展和進(jìn)步。

?

從目前各國的立法現(xiàn)狀來看，歐盟已發(fā)布《關(guān)于制定人工智能統(tǒng)一規(guī)則的提案》，對不同風(fēng)險(xiǎn)等級的AI系統(tǒng)和產(chǎn)品采取不同程度的監(jiān)管措施，建立了以風(fēng)險(xiǎn)等級為基礎(chǔ)的監(jiān)管體系。我國也分別通過《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》和《個人信息保護(hù)法》建立起了網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息保護(hù)領(lǐng)域的分級監(jiān)管規(guī)則。與之類似，《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》也將推進(jìn)算法分級分類安全管理作為了互聯(lián)網(wǎng)信息服務(wù)算法安全治理基本原則之一。

?

據(jù)此理解，我國未來對于AI領(lǐng)域的監(jiān)管，也可能會基于AI技術(shù)的重要程度以及其一旦遭受破壞或惡意利用可能給國家、社會、企業(yè)和個人權(quán)益造成的損害程度，在監(jiān)管層面將AI技術(shù)和系統(tǒng)進(jìn)行分級，以對應(yīng)不同的監(jiān)管規(guī)則和措施，由此建立對于AI的分級分類監(jiān)管體系。

?

?

數(shù)據(jù)安全和個人信息保護(hù)一直以來都是AI領(lǐng)域的監(jiān)管重點(diǎn)，國家對此已出臺了一系列法律法規(guī)加以規(guī)范。數(shù)據(jù)安全作為AI業(yè)務(wù)發(fā)展的基礎(chǔ)保障，其遭到破壞會造成企業(yè)的直接經(jīng)濟(jì)損失，同時可能威脅企業(yè)的用戶隱私與個人信息安全，AI企業(yè)應(yīng)加強(qiáng)相關(guān)措施的完善和制度建設(shè)，采取有效的保密分類、訪問控制、數(shù)據(jù)加密及脫敏等各項(xiàng)保護(hù)措施，以保障數(shù)據(jù)安全和用戶個人信息安全，適應(yīng)國家在此層面的相關(guān)要求。

?

面對AI發(fā)展帶來的倫理挑戰(zhàn)，企業(yè)應(yīng)高度重視并積極應(yīng)對。必須看到，AI倫理風(fēng)險(xiǎn)可能會導(dǎo)致"技術(shù)中立說"在AI領(lǐng)域受到挑戰(zhàn)。AI是對人腦的模擬和延伸，其有很高的類人性和擬人性因素，而其"品行"和"能力"很大程度上取決于開發(fā)者預(yù)設(shè)的使用場景、機(jī)器學(xué)習(xí)時使用的算法邏輯和數(shù)據(jù)源等，因此部分AI系統(tǒng)的開發(fā)可能先天就帶有違反人類倫理和社會公序良俗的"基因"，使技術(shù)不再中立。正因如此，歐盟立法提案將AI系統(tǒng)按不同的風(fēng)險(xiǎn)等級加以立法限制，并設(shè)專門章節(jié)對會產(chǎn)生"不可接受"（unacceptable）風(fēng)險(xiǎn)的AI系統(tǒng)的上市和/或使用予以禁止（Prohibited Artificial Intelligence Practices）。

?

我國目前已通過《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確了建立算法備案制度和企業(yè)主體責(zé)任制的原則，AI企業(yè)試圖通過"技術(shù)中立"尋求免責(zé)的可能性和可行性已經(jīng)越來越小。因此，AI研發(fā)企業(yè)要在技術(shù)開發(fā)過程中從源頭上把控和評估相關(guān)技術(shù)所存在的倫理風(fēng)險(xiǎn)和問題，要做好自身代碼審計(jì)和管理工作，厘清算法邏輯，為后續(xù)算法備案及算法透明化要求的落地做好準(zhǔn)備。

?

數(shù)據(jù)市場作為AI技術(shù)發(fā)展和進(jìn)步的基礎(chǔ)支撐體系之一，具有廣泛的多樣性和靈活性，AI企業(yè)擁有的數(shù)據(jù)越多、產(chǎn)品做得越好，便能吸引更多用戶、產(chǎn)生更高的經(jīng)濟(jì)效益，最終能夠獲取更多數(shù)據(jù)。這種循環(huán)可能會加重AI行業(yè)的壟斷現(xiàn)象，AI系統(tǒng)復(fù)雜的算法技術(shù)也使得壟斷行為變得更加隱蔽和難以探測，使現(xiàn)有的反壟斷監(jiān)管手段面臨嚴(yán)峻考驗(yàn)。

?

在反壟斷執(zhí)法日益趨嚴(yán)的情況下，AI企業(yè)更需關(guān)注AI技術(shù)所帶來的潛在的行業(yè)壟斷風(fēng)險(xiǎn)，同時關(guān)注對消費(fèi)者利益的保護(hù)和對市場公平競爭的維護(hù)。未來隨著AI產(chǎn)業(yè)的發(fā)展，國家勢必會不斷加強(qiáng)在AI領(lǐng)域的反壟斷和反不正當(dāng)競爭立法，企業(yè)可以提前應(yīng)對并積極適應(yīng)相關(guān)政策措施，這對企業(yè)未來的長遠(yuǎn)發(fā)展具有重要意義。

?

面對AI行業(yè)的快速發(fā)展，國家層面的敏捷治理或?qū)⒊蔀槠髽I(yè)合規(guī)工作需要面臨的新常態(tài)，而AI行業(yè)相關(guān)領(lǐng)域的立法和監(jiān)管細(xì)節(jié)尚不成熟，也將導(dǎo)致企業(yè)在未來一段時間內(nèi)會面臨監(jiān)管規(guī)則并不完全清晰的困境，這也對企業(yè)自主適應(yīng)能力提出了挑戰(zhàn)。

?

此等情形下，企業(yè)管理層需要認(rèn)識到不斷變化和深化的監(jiān)管規(guī)則會是未來一段時間內(nèi)需要持續(xù)面對的問題之一。同時，企業(yè)要積極搭建企業(yè)內(nèi)部的合規(guī)敏捷治理結(jié)構(gòu)，建立不同組織層面的合作機(jī)制和溝通橋梁，快速應(yīng)對不斷深化的監(jiān)管規(guī)則，同時對未來更高級AI的潛在風(fēng)險(xiǎn)持續(xù)開展研究和預(yù)判，做到知己知彼，方可百戰(zhàn)不殆。