引言

當(dāng)?shù)貢r(shí)間2024年3月13日，歐洲議會(huì)在法國斯特拉斯堡以523票贊成、46票反對(duì)和49票棄權(quán)的壓倒性多數(shù)通過了世界上第一個(gè)全面的人工智能法律框架——?dú)W盟《人工智能法案》（下稱“法案"）。法案預(yù)計(jì)將在今年5月生效，相關(guān)條款分階段實(shí)施。法案不僅對(duì)在歐盟運(yùn)營的公司至關(guān)重要，而且由于該法案的域外效力，對(duì)非歐盟公司也將產(chǎn)生深遠(yuǎn)影響。

一、法案的立法目的

法案由歐盟委員會(huì)于2021年4月21日正式提出，歷時(shí)近3年終于通過，旨在改善歐盟內(nèi)部市場，促進(jìn)以人為本、值得信賴的人工智能的應(yīng)用，同時(shí)高度保護(hù)健康、安全、以及《歐盟基本權(quán)利憲章》規(guī)定的基本權(quán)利（包括民主、法治和環(huán)境保護(hù)），使其免受人工智能帶來的不利影響，并支持創(chuàng)新。

法案為整個(gè)人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個(gè)合規(guī)義務(wù)框架，以規(guī)范人工智能的開發(fā)和使用。與歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）一樣，歐盟正通過其先發(fā)優(yōu)勢，尋求為人工智能監(jiān)管制定全球標(biāo)準(zhǔn)。

二、法案的主要內(nèi)容

法案共計(jì)13章、113條，包括以下7個(gè)方面的內(nèi)容：（1）人工智能系統(tǒng)（AI System）在歐盟市場上的投放、服務(wù)和使用的統(tǒng)一規(guī)則；（2）禁止某些人工智能行為；（3）對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及此類系統(tǒng)運(yùn)營商的義務(wù)；（4）某些人工智能系統(tǒng)的統(tǒng)一透明度規(guī)則；（5）通用人工智能模型投放市場的統(tǒng)一規(guī)則；（6）關(guān)于市場監(jiān)測、市場監(jiān)督治理和執(zhí)法的規(guī)則；（7）支持創(chuàng)新的措施，特別關(guān)注包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)。

我們將針對(duì)法案的適用范圍、人工智能系統(tǒng)風(fēng)險(xiǎn)分級(jí)管理、通用人工智能模型管理、執(zhí)法與處罰、法案的生效與實(shí)施5項(xiàng)重要內(nèi)容進(jìn)行詳細(xì)闡述。

歐盟《人工智能法案》的章節(jié)目錄

（一）法案的適用范圍

法案適用主體廣泛，旨在規(guī)范整個(gè)人工智能產(chǎn)業(yè)鏈的主體，包括與歐盟市場有連接點(diǎn)的人工智能系統(tǒng)提供商（providers）、使用商（deployers）、進(jìn)口商（importers）、分銷商（distributors）和產(chǎn)品制造商（product manufacturers）。

“人工智能系統(tǒng)"是指一種基于機(jī)器而以不同程度的自主性運(yùn)行、在使用后可能表現(xiàn)出適應(yīng)性的系統(tǒng)，且基于明確或隱含的目標(biāo)，該系統(tǒng)從其接收的輸入中推斷出如何生成可能會(huì)影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決策。該定義的關(guān)鍵詞在于“推斷"和“自主"，這兩個(gè)關(guān)鍵詞將人工智能系統(tǒng)與任何其他通過嚴(yán)格算法預(yù)先確定輸出的軟件明確區(qū)分。這一定義遵循了經(jīng)濟(jì)合作與發(fā)展組織（OECD）的相關(guān)定義，以確保其適用范圍不僅足以預(yù)見未來的技術(shù)進(jìn)步，而且還能確保進(jìn)行簡單自動(dòng)計(jì)算的傳統(tǒng)軟件不在該法案的規(guī)制范疇。

歐盟《人工智能法案》的適用主體

當(dāng)然，法案也規(guī)定了一些適用的例外情形，包括但不限于（1）法案不適用于僅為科學(xué)研究和開發(fā)目的而專門開發(fā)和投入使用的人工智能系統(tǒng)或人工智能模型及其輸出；（2）法案不適用于在純粹個(gè)人非專業(yè)活動(dòng)中使用人工智能系統(tǒng)的自然人；（3）法案不適用于專門為軍事、國防或國家安全目的而投放市場、投入使用的人工智能系統(tǒng)，無論開展這些活動(dòng)的實(shí)體屬于何種類型。

法案具有廣泛的域外適用效力，因此，不少中國企業(yè)也在其適用范圍之內(nèi)，應(yīng)予以關(guān)注。

（二）人工智能系統(tǒng)風(fēng)險(xiǎn)分級(jí)管理

法案基于人工智能系統(tǒng)對(duì)用戶和社會(huì)的潛在影響程度將其分為4類：不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類、最小風(fēng)險(xiǎn)類。[1]每個(gè)類別適用不同程度的監(jiān)管要求。高風(fēng)險(xiǎn)的人工智能系統(tǒng)須遵守更嚴(yán)格的合規(guī)要求，而構(gòu)成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)則被禁止。多數(shù)人工智能系統(tǒng)屬于風(fēng)險(xiǎn)較低的類別，但仍可能需要根據(jù)法案要求履行相應(yīng)義務(wù)。

歐盟《人工智能法案》劃分的人工智能系統(tǒng)風(fēng)險(xiǎn)等級(jí)

1. 不可接受風(fēng)險(xiǎn)類人工智能系統(tǒng)

法案嚴(yán)格禁止某些人工智能行為。從廣義上講，該法案禁止任何試圖操縱人類行為、利用人性弱點(diǎn)或支持政府社會(huì)評(píng)分的人工智能系統(tǒng)。具體而言，以下人工智能系統(tǒng)將被禁止：

（1）使用潛意識(shí)的、操縱性的、或欺騙性的手段來扭曲行為，損害知情決策的能力，造成重大傷害；

（2）利用與年齡、殘疾或社會(huì)經(jīng)濟(jì)狀況有關(guān)的弱點(diǎn)來扭曲行為，造成重大傷害；

（3）推斷敏感屬性（種族、政治觀點(diǎn)、工會(huì)會(huì)員身份、宗教或哲學(xué)信仰、性生活或性取向）的生物識(shí)別分類系統(tǒng)，但合法獲取的生物識(shí)別數(shù)據(jù)集的標(biāo)記或過濾，以及執(zhí)法部門對(duì)生物識(shí)別數(shù)據(jù)進(jìn)行分類的情況除外；

（4）社會(huì)評(píng)分，即根據(jù)社會(huì)行為或個(gè)人特征對(duì)個(gè)人或群體進(jìn)行評(píng)估或分類，從而對(duì)這些人造成不利或不利待遇；

（5）僅根據(jù)特征分析或個(gè)性特征評(píng)估個(gè)人實(shí)施刑事犯罪的風(fēng)險(xiǎn)，除非是根據(jù)與犯罪活動(dòng)直接相關(guān)的客觀的、可核實(shí)的事實(shí)來加強(qiáng)人工評(píng)估；

（6）通過無針對(duì)性地從互聯(lián)網(wǎng)或閉路電視錄像中抓取面部圖像來編制面部識(shí)別數(shù)據(jù)庫；

（7）在工作場所或教育機(jī)構(gòu)進(jìn)行情緒識(shí)別，除非出于醫(yī)療或安全原因；

（8）在公共場所為執(zhí)法部門進(jìn)行“實(shí)時(shí)"遠(yuǎn)程生物識(shí)別（RBI），但以下情況除外：

• 尋找失蹤人員、綁架受害者和被販賣或遭受性剝削的人；

  
  

• 防止對(duì)生命的重大和緊迫威脅，或可預(yù)見的恐怖襲擊；或

  
  

• 識(shí)別嚴(yán)重犯罪（如謀殺、強(qiáng)奸、武裝搶劫、毒品和非法武器販運(yùn)、有組織犯罪和環(huán)境犯罪等）的嫌疑人。

2. 高風(fēng)險(xiǎn)類人工智能系統(tǒng)

高風(fēng)險(xiǎn)類的人工智能系統(tǒng)被認(rèn)為對(duì)健康、安全、基本權(quán)利和法治構(gòu)成重大威脅。法案規(guī)定的大部分義務(wù)適用于高風(fēng)險(xiǎn)的人工智能系統(tǒng)。這類系統(tǒng)可以進(jìn)一步分為兩類。一類是人工智能系統(tǒng)作為安全部件的產(chǎn)品或人工智能系統(tǒng)本身作為產(chǎn)品，受歐盟安全立法規(guī)范，且需要根據(jù)此類法律進(jìn)行第三方符合性評(píng)估。另一類是法案附件III（Annex III）明確指定為高風(fēng)險(xiǎn)的人工智能系統(tǒng)，包括用于以下領(lǐng)域的人工智能系統(tǒng)：

（1）用于未被禁止的生物識(shí)別系統(tǒng)，包括推斷受保護(hù)特征的系統(tǒng)、情感識(shí)別系統(tǒng)和遠(yuǎn)程生物識(shí)別系統(tǒng)（不包括對(duì)個(gè)人的生物識(shí)別驗(yàn)證）；

（2）用于管理關(guān)鍵基礎(chǔ)設(shè)施；

（3）用于教育和職業(yè)培訓(xùn)；

（4）用于就業(yè)、員工管理和自營職業(yè)機(jī)會(huì)；

（5）用于獲得和享受基本私人服務(wù)以及基本公共服務(wù)和福利，如醫(yī)療保健或信貸（但用于金融檢測欺詐的除外）；

（6）用于執(zhí)法；

（7）用于移民、庇護(hù)和邊境管制管理；

（8）用于司法和民主進(jìn)程。

如果人工智能系統(tǒng)不會(huì)對(duì)自然人的健康、安全或基本權(quán)利造成重大損害風(fēng)險(xiǎn)，包括不會(huì)對(duì)決策結(jié)果產(chǎn)生實(shí)質(zhì)性影響，則不會(huì)被視為高風(fēng)險(xiǎn)系統(tǒng)。在將屬于附件III但被視為非高風(fēng)險(xiǎn)的人工智能系統(tǒng)投放市場之前，提供商必須將其風(fēng)險(xiǎn)評(píng)估記錄在案，并在歐盟數(shù)據(jù)庫中注冊該系統(tǒng)。前述評(píng)估應(yīng)考慮到可能造成傷害的嚴(yán)重性及其發(fā)生的概率。如果人工智能系統(tǒng)符合某些情況，例如，如果該系統(tǒng)只是為了執(zhí)行狹義的程序任務(wù)或改善先前完成的人類活動(dòng)的結(jié)果，則該系統(tǒng)可能不會(huì)被認(rèn)定為高風(fēng)險(xiǎn)系統(tǒng)。然而，如果人工智能系統(tǒng)會(huì)對(duì)自然人進(jìn)行特征分析，則該系統(tǒng)始終會(huì)被認(rèn)定為高風(fēng)險(xiǎn)系統(tǒng)。

所有使用高風(fēng)險(xiǎn)人工智能系統(tǒng)的企業(yè)都必須履行廣泛的義務(wù)，包括滿足有關(guān)透明度、數(shù)據(jù)質(zhì)量、記錄保存、人工監(jiān)督和穩(wěn)健性的具體要求。在進(jìn)入市場之前，它們還必須接受符合性評(píng)估（Conformity Assessments），以證明它們滿足法案的要求。公民將有權(quán)提交有關(guān)人工智能系統(tǒng)的投訴，并獲得對(duì)基于高風(fēng)險(xiǎn)人工智能系統(tǒng)、影響其權(quán)利的決定的解釋。

高風(fēng)險(xiǎn)人工智能系統(tǒng)投放市場應(yīng)履行的步驟

3. 有限風(fēng)險(xiǎn)類人工智能系統(tǒng)

有限風(fēng)險(xiǎn)類人工智能系統(tǒng)被認(rèn)為不會(huì)構(gòu)成任何嚴(yán)重威脅，與其相關(guān)的主要風(fēng)險(xiǎn)是缺乏透明度。法案對(duì)有限風(fēng)險(xiǎn)類人工智能系統(tǒng)施加了一定的透明度義務(wù)，以確保所有人類用戶在與人工智能系統(tǒng)互動(dòng)時(shí)都能充分了解相關(guān)情況。例如，在使用聊天機(jī)器人等人工智能系統(tǒng)時(shí)，應(yīng)讓人類意識(shí)到他們正在與一臺(tái)機(jī)器進(jìn)行交互，以便他們在知情的情況下決定是否繼續(xù)。提供商還必須確保人工智能生成的內(nèi)容是可識(shí)別的。此外，人工智能生成的文本在發(fā)布時(shí)必須標(biāo)明是人工生成的，這也適用于構(gòu)成深度偽造的音頻和視頻內(nèi)容。

4. 最小風(fēng)險(xiǎn)類人工智能系統(tǒng)

法案允許自由使用最小風(fēng)險(xiǎn)類的人工智能系統(tǒng)，包括人工智能電子游戲或垃圾郵件過濾器等應(yīng)用。歐盟目前使用的絕大多數(shù)人工智能系統(tǒng)都屬于這一類。

（三）通用人工智能模型的管理

根據(jù)法案，通用人工智能模型是一個(gè)包括使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練的人工智能模型。該模型具有顯著的通用性，無論以何種方式投放市場，都能勝任各種不同的任務(wù)，并可集成到各種下游系統(tǒng)或應(yīng)用中，但在投放市場前用于研究、開發(fā)或原型設(shè)計(jì)活動(dòng)的人工智能模型除外。法案將通用人工智能模型分為不具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型和具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型。如果通用人工智能模型具有高度影響能力或被歐盟委員會(huì)認(rèn)定為具有高度影響能力，則被視為構(gòu)成系統(tǒng)性風(fēng)險(xiǎn)。當(dāng)一個(gè)通用人工智能模型用于訓(xùn)練的累計(jì)計(jì)算量（以FLOPs計(jì)）大于10^25時(shí)，應(yīng)推定其具有高度影響能力。

1. 不具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型

越來越多的通用人工智能模型正在成為人工智能系統(tǒng)的組成部分，這些模型可以執(zhí)行和適應(yīng)無數(shù)不同的任務(wù)。雖然通用人工智能模型可以實(shí)現(xiàn)更好、更強(qiáng)大的人工智能解決方案，但人類很難監(jiān)控其所有能力。因此，法案為所有通用人工智能模型引入了透明度義務(wù)，以便更好地了解這些模型。

具體而言，不具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型提供商應(yīng)履行的義務(wù)包括但不限于：

（1）編制并不斷更新該模型的技術(shù)文件，包括其訓(xùn)練和測試過程以及評(píng)估結(jié)果，以便應(yīng)要求向歐盟人工智能辦公室和國家主管當(dāng)局提供；

（2）為打算將通用人工智能模型納入其人工智能系統(tǒng)的提供商編制、不斷更新和提供信息和文件；

（3）制定遵守歐盟版權(quán)法的政策；

（4）根據(jù)歐盟人工智能辦公室提供的模板，就通用人工智能模型訓(xùn)練所使用的內(nèi)容起草并公布一份足夠詳細(xì)的摘要。

2. 具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型

除應(yīng)履行上述義務(wù)外，具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型的提供商應(yīng)履行額外的風(fēng)險(xiǎn)管理義務(wù)，包括但不限于：

（1）根據(jù)反映最新技術(shù)的標(biāo)準(zhǔn)化協(xié)議和工具進(jìn)行模型評(píng)估，包括對(duì)模型進(jìn)行對(duì)抗測試并記錄在案，以識(shí)別和降低系統(tǒng)性風(fēng)險(xiǎn)；

（2）評(píng)估并降低歐盟層面可能存在的系統(tǒng)性風(fēng)險(xiǎn)，包括因開發(fā)、投放市場、或使用具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型而產(chǎn)生的系統(tǒng)性風(fēng)險(xiǎn)的來源；

（3）跟蹤、記錄并及時(shí)向歐盟人工智能辦公室報(bào)告，并酌情向國家主管機(jī)構(gòu)報(bào)告嚴(yán)重事故的相關(guān)信息以及為解決這些問題可能采取的糾正措施；

（4）確保對(duì)具有系統(tǒng)風(fēng)險(xiǎn)的通用人工智能模型和模型的物理基礎(chǔ)設(shè)施提供適當(dāng)水平的網(wǎng)絡(luò)安全保護(hù)。

（四）執(zhí)法與處罰

歐盟人工智能辦公室成立于2024年2月，隸屬于歐盟委員會(huì)，負(fù)責(zé)監(jiān)督法案在各成員國的執(zhí)行和實(shí)施情況。由成員國代表組成的歐洲人工智能委員會(huì)將作為協(xié)調(diào)平臺(tái)，向歐盟委員會(huì)提供專業(yè)建議。法案將主要通過各成員國的主管機(jī)構(gòu)來執(zhí)行。成員國有義務(wù)在法案實(shí)施1年內(nèi)向歐盟委員會(huì)提名相關(guān)國家主管機(jī)構(gòu)，以便在每個(gè)成員國執(zhí)行法案。

違反法案的處罰結(jié)果將取決于人工智能系統(tǒng)的類型、公司的規(guī)模和違法行為的嚴(yán)重程度，具體處罰規(guī)定如下：

（五）法案的生效和實(shí)施

法案將在歐盟官方公報(bào)公布20天后生效，并在生效2年后全面實(shí)施，但以下情況除外：

1. 有關(guān)總則、禁止性人工智能系統(tǒng)的規(guī)定（法案第一、二章），在法案生效之日起6個(gè)月實(shí)施；

2. 有關(guān)通知機(jī)構(gòu)和被通知機(jī)構(gòu)、治理、通用人工智能模型、處罰的規(guī)定（法案第三章第四節(jié)，第五、七、十二章，除第101條），在法案生效之日起12個(gè)月實(shí)施；

3. 有關(guān)某些高風(fēng)險(xiǎn)人工智能系統(tǒng)分類及相應(yīng)義務(wù)的規(guī)定（法案第六條），在法案生效之日起36個(gè)月實(shí)施。

三、結(jié)語

在人工智能蓬勃發(fā)展的當(dāng)下，越來越多的人開始意識(shí)到自動(dòng)化算法將直接影響他們的生活。在人工智能帶給人類極大便利的同時(shí)，人們也在思考如何更合理地利用人工智能造福人類，并不斷探尋規(guī)范使用和發(fā)展人工智能之道。歐盟《人工智能法案》樹立了人類規(guī)范人工智能的典范，在人工智能發(fā)展史上具有里程碑意義?？梢灶A(yù)見，在不久的將來，我們將迎來全球人工智能立法的熱潮、執(zhí)法的趨嚴(yán)，中國企業(yè)需要把握全球人工智能監(jiān)管的脈搏，未雨綢繆，迎接新的人工智能時(shí)代。

[注]?

[1] 這種分類方法類似于GDPR基于風(fēng)險(xiǎn)的數(shù)據(jù)處理方法。