?

?

人工智能與算法合謀

?

1.人工智能與算法的關(guān)系

?

人工智能是什么？不同時(shí)代、不同行業(yè)的人可能對(duì)此存在不同角度的理解。在人工智能的經(jīng)典教科書(shū)《人工智能：一種現(xiàn)代的方法》中，作者Stuart Russell與Peter Norvig認(rèn)為，人工智能是有關(guān)"智能體（Intelligent agent）研究與設(shè)計(jì)"的學(xué)問(wèn)，而"智能體是指一個(gè)可以觀察周遭環(huán)境并做出行動(dòng)以達(dá)目標(biāo)的系統(tǒng)"。

?

觀察當(dāng)前人工智能的發(fā)展熱潮，機(jī)器學(xué)習(xí)、深度學(xué)習(xí)是兩個(gè)繞不開(kāi)的熱點(diǎn)詞匯。人工智能、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)之間又是什么關(guān)系？從非專業(yè)人士角度簡(jiǎn)單說(shuō)明[1]：

?

• 機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的一種方法，是指基于能夠自主、反復(fù)從數(shù)據(jù)中學(xué)習(xí)的算法設(shè)計(jì)智能體；

  ?

• 深度學(xué)習(xí)是當(dāng)前眾多機(jī)器學(xué)習(xí)方法中的熱門(mén)方法之一，是基于模擬人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)、分析的算法設(shè)計(jì)智能體。

?

近年來(lái)人工智能的崛起，離不開(kāi)機(jī)器學(xué)習(xí)，特別是其中深度學(xué)習(xí)的迅速發(fā)展。基于深度學(xué)習(xí)的應(yīng)用，各種機(jī)器輔助功能都已經(jīng)或即將被逐步實(shí)現(xiàn)。深度學(xué)習(xí)，作為有史以來(lái)最為有效的機(jī)器學(xué)習(xí)方法，是目前人工智能研究的主流技術(shù)。不同于傳統(tǒng)機(jī)器學(xué)習(xí)的線性結(jié)構(gòu)的算法，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)層次結(jié)構(gòu)的算法下，憑借大量的訓(xùn)練數(shù)據(jù)和強(qiáng)大的計(jì)算能力所構(gòu)建的深度學(xué)習(xí)模型具有更加強(qiáng)大的學(xué)習(xí)能力，能夠更好、更快地解決更多的問(wèn)題。

?

然而，有趣的是，深度學(xué)習(xí)的運(yùn)用更像是一個(gè)不求甚解的實(shí)用主義者的做派。很多情況下，人們通常只能觀察運(yùn)算結(jié)果，了解深度學(xué)習(xí)模型是否能夠有效工作，但即便是其設(shè)計(jì)者本人也難以明確地解釋該種算法運(yùn)行的具體過(guò)程。深度學(xué)習(xí)算法因此也被形象地喻為只可意會(huì)不可言傳的"黑箱"。這也引起了部分人對(duì)于"人工智能失控"的擔(dān)心，如果僅能知道計(jì)算機(jī)的學(xué)習(xí)成果而無(wú)法明確掌握其學(xué)習(xí)過(guò)程，那這種學(xué)習(xí)本身會(huì)不會(huì)失控？計(jì)算機(jī)會(huì)不會(huì)悄悄通過(guò)算法學(xué)到什么我們不希望它學(xué)會(huì)的知識(shí)？

?

2.人工智能達(dá)成"壟斷協(xié)議"？

?

人工智能達(dá)成"壟斷協(xié)議"聽(tīng)起來(lái)像是未來(lái)科幻世界中的場(chǎng)景，但其與現(xiàn)實(shí)之間的距離可能并不如一般人想象的那么遙遠(yuǎn)。隨著價(jià)格算法在現(xiàn)代商業(yè)中的大量運(yùn)用，人工智能達(dá)成"壟斷協(xié)議"，也即價(jià)格算法合謀，是作為算法所引發(fā)的重要的反壟斷法問(wèn)題之一，已經(jīng)引起各國(guó)反壟斷執(zhí)法機(jī)構(gòu)和相關(guān)組織的關(guān)注[2]。

?

從當(dāng)前的研究成果來(lái)看，價(jià)格算法合謀可以大致分為三類：

?

(1) 明示價(jià)格算法合謀：經(jīng)營(yíng)者通過(guò)明示的協(xié)商溝通，就價(jià)格算法達(dá)成合謀以期實(shí)現(xiàn)價(jià)格壟斷，價(jià)格算法是實(shí)現(xiàn)與維持合謀之工具；

?

(2) 默示價(jià)格算法合謀：經(jīng)營(yíng)者之間不存在明示的意思聯(lián)絡(luò)，而通過(guò)認(rèn)可相互之間的依賴性以實(shí)現(xiàn)和維持合謀，價(jià)格算法則是經(jīng)營(yíng)者認(rèn)可相互依賴性的關(guān)鍵工具；

?

(3) 虛擬合謀：即便經(jīng)營(yíng)者并無(wú)合謀意圖，其采用的價(jià)格算法會(huì)在無(wú)需人為干預(yù)的狀態(tài)下進(jìn)行高效的反復(fù)試驗(yàn)，最終達(dá)成經(jīng)營(yíng)者之間的合作性均衡，實(shí)現(xiàn)合謀的效果而損害消費(fèi)者利益。

?

在一項(xiàng)明示價(jià)格算法合謀和默示價(jià)格算法合謀中，價(jià)格算法作為經(jīng)營(yíng)者實(shí)現(xiàn)、維持合謀或認(rèn)可相互依賴性的工具，合謀的意志仍然出自經(jīng)營(yíng)者自身，因而稱其為"經(jīng)營(yíng)者利用人工智能達(dá)成‘壟斷協(xié)議’"更為貼切。而在一項(xiàng)虛擬合謀中，價(jià)格算法自發(fā)地達(dá)成合謀的結(jié)果而不論使用該等算法的經(jīng)營(yíng)者是否有合謀的意圖，因而，可謂是名副其實(shí)的"人工智能達(dá)成‘壟斷協(xié)議’"。

?

虛擬合謀的反壟斷法風(fēng)險(xiǎn)

?

1.虛擬合謀或已/或?qū)⒊蔀楝F(xiàn)實(shí)威脅

?

盡管當(dāng)前算法如何具體實(shí)現(xiàn)合謀效果，以及當(dāng)前實(shí)踐中是否已經(jīng)發(fā)生了此類合謀尚不明確，但各國(guó)反壟斷執(zhí)法機(jī)構(gòu)和相關(guān)組織對(duì)虛擬合謀的擔(dān)心并非空穴來(lái)風(fēng)，這從各地學(xué)者所進(jìn)行的一些極具啟發(fā)性的研究中便可見(jiàn)一斑：

?

（1）價(jià)格算法或能迫使市場(chǎng)經(jīng)營(yíng)者與其合謀

?

在2018年浙大的一份論文[3]中，作者設(shè)計(jì)了一種可以導(dǎo)致合謀的算法，并在理論說(shuō)明之外采用了實(shí)驗(yàn)經(jīng)濟(jì)學(xué)方法，進(jìn)行該算法與真人博弈的實(shí)驗(yàn)，最終得出結(jié)論——該等算法確實(shí)可以迫使真人與其進(jìn)行合謀，實(shí)現(xiàn)超競(jìng)爭(zhēng)水平的價(jià)格行為。

?

（2）價(jià)格算法之間或能自主達(dá)成合謀

?

在2018年博洛尼亞大學(xué)學(xué)者所著的一份論文[4]中，作者在計(jì)算機(jī)模擬環(huán)境下，設(shè)置2到4個(gè)經(jīng)營(yíng)者使用相同價(jià)格算法進(jìn)行了價(jià)格行為實(shí)驗(yàn)，發(fā)現(xiàn)即便是極為簡(jiǎn)單的價(jià)格算法也能夠?qū)W習(xí)、實(shí)施復(fù)雜的合謀策略，對(duì)競(jìng)爭(zhēng)對(duì)手以及自身的定價(jià)行為作出反應(yīng)，并最終達(dá)成合謀的結(jié)果。

?

（3）市場(chǎng)經(jīng)營(yíng)者難以達(dá)成默示合謀

?

與前述涉及價(jià)格算法的經(jīng)濟(jì)學(xué)實(shí)驗(yàn)不同，以真人作為對(duì)象的定價(jià)行為實(shí)驗(yàn)相關(guān)文獻(xiàn)[5]表明，如果沒(méi)有明示的交流，真人之間很難協(xié)調(diào)達(dá)成合謀。真人之間的默示合謀大多只能發(fā)生于極為簡(jiǎn)單的市場(chǎng)條件下，例如，雙寡頭壟斷市場(chǎng)。此外，即便是在類似的理想化的簡(jiǎn)單市場(chǎng)結(jié)構(gòu)下，真人達(dá)成合謀的情況也存在不確定性。

?

"積極向上"的人工智能的遠(yuǎn)大前程無(wú)人能及[6]，而"誤入歧途"的人工智能從事合謀的手段也可能遠(yuǎn)比最狡猾的商界巨鱷來(lái)得更加精明。價(jià)格算法合謀問(wèn)題，尤其是虛擬合謀，最引人擔(dān)憂之處正在于此——能夠在不需要人為干預(yù)的情況下，通過(guò)自主學(xué)習(xí)達(dá)成合謀，而這一過(guò)程可能鮮有痕跡可尋。更明確地說(shuō)，即便沒(méi)有價(jià)格算法設(shè)計(jì)者的專門(mén)設(shè)計(jì)和價(jià)格算法使用者的明確指令，價(jià)格算法也能夠在完全陌生的市場(chǎng)環(huán)境中，不通過(guò)市場(chǎng)信息的溝通而僅依靠自主學(xué)習(xí)的過(guò)程掌握、實(shí)施復(fù)雜的合謀策略。

?

2.虛擬合謀的反壟斷規(guī)制亟待更多研究

?

是否需要以及如何從反壟斷法角度對(duì)虛擬合謀進(jìn)行評(píng)價(jià)與規(guī)制的疑問(wèn)目前尚無(wú)定論，仍有待更多的理論研究與實(shí)踐觀察。

?

就技術(shù)角度而言，"黑箱"中的價(jià)格算法如何在學(xué)習(xí)過(guò)程中掌握、實(shí)施合謀策略，以及目前市場(chǎng)上是否已經(jīng)存在此類算法合謀還有待觀察。此外，如前所述，虛擬合謀的達(dá)成過(guò)程可能鮮有痕跡可尋，而僅能從效果上進(jìn)行觀察，如何對(duì)虛擬合謀進(jìn)行有效觀測(cè)也是一大技術(shù)難題。

?

就法律規(guī)范角度而言，首先需要解決的便是虛擬合謀的歸責(zé)原則問(wèn)題。由于虛擬合謀的達(dá)成并不以經(jīng)營(yíng)者的合謀意圖及意思聯(lián)絡(luò)為前提，虛擬合謀所涉經(jīng)營(yíng)者在無(wú)主觀過(guò)錯(cuò)的情況下是否需要承擔(dān)責(zé)任？該等責(zé)任又如何在價(jià)格算法的設(shè)計(jì)者和使用者之間進(jìn)行公平、合理的分配？事實(shí)上，這也不僅僅是價(jià)格算法合謀需要解決的問(wèn)題，也是任何其他"算法事故[7]"共同面臨的難題。

?

經(jīng)營(yíng)者利用人工智能達(dá)成算法合謀的反壟斷法風(fēng)險(xiǎn)

?

相較于前述虛擬合謀的遠(yuǎn)景，"經(jīng)營(yíng)者利用人工智能達(dá)成‘壟斷協(xié)議’"的反壟斷法風(fēng)險(xiǎn)，即上文所述的明示價(jià)格算法合謀和默示價(jià)格算法合謀，對(duì)于各國(guó)執(zhí)法機(jī)構(gòu)和經(jīng)營(yíng)者來(lái)說(shuō)是眼下更為迫切的關(guān)注點(diǎn)。

?

1.明示價(jià)格算法合謀

?

明示價(jià)格算法合謀的問(wèn)題相對(duì)簡(jiǎn)單，可以適用一般經(jīng)驗(yàn)法則——若不涉及算法的某一行為本身違法，那么即便涉及算法的元素也不會(huì)改變?cè)摰刃袨榈倪`法性。事實(shí)上，對(duì)于明示價(jià)格算法合謀而言，算法僅僅是作為實(shí)現(xiàn)、維持合謀之工具，并未觸及、改變明示合謀的實(shí)質(zhì)，因而并不會(huì)落于傳統(tǒng)反壟斷法規(guī)制框架之外，由各司法區(qū)域通過(guò)價(jià)格卡特爾予以規(guī)制。

?

2.默示價(jià)格算法合謀

?

默示價(jià)格算法合謀的問(wèn)題則相對(duì)復(fù)雜一些。在包括美國(guó)、歐盟等在內(nèi)的大多數(shù)司法區(qū)域內(nèi)，傳統(tǒng)的默示合謀均尚未被視為違法而受到規(guī)制，原因主要有二：其一，基于"心照不宣"而實(shí)現(xiàn)的默示合謀不僅由于缺乏明示的協(xié)商溝通而難以達(dá)成，且由于缺乏相應(yīng)約束機(jī)制而容易瓦解；其二，基于"心照不宣"而實(shí)現(xiàn)的默示合謀即便在實(shí)踐中發(fā)生，也難以發(fā)現(xiàn)、證明、認(rèn)定。

?

就該等原因的本質(zhì)而言，價(jià)格算法本身對(duì)默示算法合謀的反壟斷法風(fēng)險(xiǎn)產(chǎn)生了重大影響，使得其更易實(shí)現(xiàn)、維持且難以被發(fā)現(xiàn)、證明、認(rèn)定：

?

• 價(jià)格算法一定程度上導(dǎo)致市場(chǎng)結(jié)構(gòu)性變化，為經(jīng)營(yíng)達(dá)成對(duì)相互依賴性的認(rèn)可提供隱秘的手段，更有利于合謀的產(chǎn)生，且算法的應(yīng)用可以作為及時(shí)、有效監(jiān)督價(jià)格背離行為的手段，更有利于合謀的維持；

  ?

• 由于缺乏相應(yīng)的技術(shù)工具，通過(guò)價(jià)格算法實(shí)現(xiàn)經(jīng)營(yíng)者之間"心照不宣"的過(guò)程更是難以發(fā)現(xiàn)、監(jiān)測(cè)、證明、認(rèn)定。

?

因此，對(duì)默示價(jià)格算法合謀的反壟斷法規(guī)制，目前仍缺少相應(yīng)的制度工具以及有效的技術(shù)工具。盡管如此，考慮到默示價(jià)格算法合謀的反競(jìng)爭(zhēng)效果與明示合謀相比并無(wú)不同，且默示價(jià)格算法合謀相比于傳統(tǒng)默示合謀更易發(fā)生且難以觀察，各反壟斷司法區(qū)域?qū)δ竞现\監(jiān)管的節(jié)制、容忍態(tài)度或?qū)l(fā)生改變。

?

企業(yè)應(yīng)該怎么做才能避免人工智能之間達(dá)成"壟斷協(xié)議"的風(fēng)險(xiǎn)？

?

價(jià)格算法合謀對(duì)市場(chǎng)競(jìng)爭(zhēng)的威脅并非虛無(wú)縹緲，在更多理論研究與實(shí)踐觀察的基礎(chǔ)上，如何從立法、執(zhí)法和司法反面跟進(jìn)、解決這一競(jìng)爭(zhēng)威脅是各個(gè)反壟斷司法區(qū)域共同關(guān)心的話題。價(jià)格算法合謀的反壟斷法規(guī)制正是山雨欲來(lái)，企業(yè)也應(yīng)當(dāng)未雨綢繆，在使用價(jià)格算法作為商業(yè)工具、享受技術(shù)紅利的同時(shí)，也應(yīng)當(dāng)對(duì)價(jià)格算法的潛在反壟斷法風(fēng)險(xiǎn)有所注意：

?

• 企業(yè)應(yīng)當(dāng)避免出于合謀的目的，設(shè)計(jì)或者使用價(jià)格算法，企業(yè)記錄設(shè)計(jì)、使用價(jià)格算法商業(yè)決定的獨(dú)立性以及合理性將大有裨益；

  ?

• 企業(yè)自行設(shè)計(jì)并使用價(jià)格算法應(yīng)當(dāng)注意保密，警惕價(jià)格算法構(gòu)成競(jìng)爭(zhēng)性敏感信息的可能，更不應(yīng)在競(jìng)爭(zhēng)者之間傳遞、交換和交流；

  ?

• 企業(yè)使用第三方設(shè)計(jì)的價(jià)格算法應(yīng)當(dāng)全面關(guān)注市場(chǎng)上其他競(jìng)爭(zhēng)者使用相同算法的情形，避免無(wú)故受到牽連；

  ?

• 企業(yè)應(yīng)當(dāng)將價(jià)格算法的應(yīng)用納入企業(yè)反壟斷合規(guī)管理體系之內(nèi)，價(jià)格算法還可能導(dǎo)致合謀之外的反壟斷法風(fēng)險(xiǎn)（例如，價(jià)格歧視等），企業(yè)全面、謹(jǐn)慎的合規(guī)意識(shí)十分必要；以及，

  ?

• 企業(yè)關(guān)注技術(shù)進(jìn)步改善商業(yè)決策的同時(shí)，也應(yīng)當(dāng)關(guān)注各司法區(qū)域反壟斷立法、執(zhí)法和司法的最新發(fā)展動(dòng)向，以便掌握先機(jī)，防患未然。