全球首部AI法案正式生效，會(huì)產(chǎn)生哪些影響？

　　“讓我們享受一個(gè)漫長(zhǎng)的AI之夏，而不是毫無(wú)準(zhǔn)備陷入秋天?！碑?dāng)AI點(diǎn)燃新一輪技術(shù)革命之火，如何規(guī)范AI往安全可控方向發(fā)展，成為橫亙?cè)诟鲊?guó)政府和業(yè)界面前的一大課題。

　　8月初，歐盟《人工智能法案》正式生效，這是全球首部全面監(jiān)管人工智能的法規(guī)。歐盟內(nèi)部市場(chǎng)委員蒂埃里·布雷東評(píng)價(jià)該法案為“一個(gè)有效、適度且全球首創(chuàng)的人工智能框架”。

　　為了規(guī)范AI應(yīng)用，該法案的核心在于采取風(fēng)險(xiǎn)分級(jí)的方式，將人工智能系統(tǒng)分為禁止、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)四類(lèi)，并據(jù)此設(shè)定不同的合規(guī)標(biāo)準(zhǔn)。同時(shí)，該法案還試圖把通用大模型關(guān)進(jìn)“監(jiān)管的籠子”，要求具有“系統(tǒng)性風(fēng)險(xiǎn)”的通用人工智能（GPAI）承擔(dān)更多的合規(guī)義務(wù)。

　　對(duì)有違規(guī)行為的企業(yè)，歐盟最高將對(duì)其處以3500萬(wàn)歐元或全球年?duì)I業(yè)額7%的罰款，取二者中的較高值。

　　盡管該法案的大多數(shù)條款要到2026年才會(huì)生效實(shí)施，但歐盟的法律法規(guī)向來(lái)被認(rèn)為有著“布魯塞爾效應(yīng)”，即消費(fèi)市場(chǎng)規(guī)模越大、越富裕，出口企業(yè)就越有可能遵守其標(biāo)準(zhǔn)，影響力波及全球。隨著全球首部AI法案正式生效，新規(guī)會(huì)把AI治理帶向何方？科技企業(yè)又需如何構(gòu)筑合規(guī)的壁壘？

　　誰(shuí)先受波及？

　　一定程度上，歐盟AI法案是勉強(qiáng)達(dá)成共識(shí)的產(chǎn)物。“去年年底，歐洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)三方就AI法案進(jìn)行最后一輪談判時(shí)，還有21個(gè)政策分歧要談，這顯然遠(yuǎn)遠(yuǎn)超出正常范疇，即使縮小至7個(gè)爭(zhēng)議條款，在三天三夜的時(shí)間里全部解決都不太可能?！蓖瑵?jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員朱悅告訴21世紀(jì)經(jīng)濟(jì)報(bào)道記者，所以法案還是留下了很多有待完善的地方，各方只是把共識(shí)打包成了一個(gè)法案，直到今年3月提交歐洲議會(huì)通過(guò)前都還在修改調(diào)整。倉(cāng)促之下，目前數(shù)百頁(yè)的AI法案更像是一份監(jiān)管目錄，留下許多實(shí)施標(biāo)準(zhǔn)和細(xì)則有待充實(shí)。

　　而構(gòu)成該法案核心框架之一的，就是風(fēng)險(xiǎn)分級(jí)監(jiān)管。AI系統(tǒng)被分為四個(gè)風(fēng)險(xiǎn)級(jí)別，分別為被禁止的、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)，每個(gè)級(jí)別都有相應(yīng)合規(guī)要求。

　　若風(fēng)險(xiǎn)高到不能被接受，例如操控人類(lèi)的認(rèn)知、社會(huì)評(píng)分、預(yù)測(cè)犯罪行為等等，則此類(lèi)AI的使用將被禁止。“高風(fēng)險(xiǎn)”主要是被認(rèn)為對(duì)健康、安全、基本權(quán)利和法治構(gòu)成重大威脅的AI，比如自動(dòng)駕駛車(chē)輛、醫(yī)療設(shè)備、貸款決策系統(tǒng)和遠(yuǎn)程生物識(shí)別系統(tǒng)等，就須遵守最嚴(yán)格的義務(wù)規(guī)范。被歸類(lèi)為“有限風(fēng)險(xiǎn)”則屬不會(huì)構(gòu)成任何嚴(yán)重威脅的AI，僅需確保其達(dá)到法案要求的公開(kāi)透明度。其他像是電子游戲或垃圾郵件過(guò)濾器等“最小風(fēng)險(xiǎn)”AI就被允許自由使用。

　　據(jù)悉，不可接受風(fēng)險(xiǎn)的AI系統(tǒng)禁令將在生效6個(gè)月后即適用，其他大部分條款，包括針對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的義務(wù)，則需要在公布后36個(gè)月后才能執(zhí)行。

　　外界普遍關(guān)心的是，哪些企業(yè)會(huì)被劃入高風(fēng)險(xiǎn)、嚴(yán)監(jiān)管的范疇？

　　歐盟委員會(huì)發(fā)言人Thomas Regnier表示，大約85%的人工智能公司屬于“最小風(fēng)險(xiǎn)”，幾乎不需要監(jiān)管。

　　朱悅也認(rèn)為，涉及情緒操縱、社會(huì)評(píng)分這些被禁止的AI系統(tǒng)，屬于非常細(xì)分的場(chǎng)景，而且該條款后也有很多附帶條件，不會(huì)輕易被觸發(fā)。此外，大部分科技企業(yè)也不會(huì)落入高風(fēng)險(xiǎn)范疇，即使真的被判定為高風(fēng)險(xiǎn)AI系統(tǒng)，相應(yīng)的監(jiān)管標(biāo)準(zhǔn)也比較常規(guī)，大部分時(shí)候企業(yè)自行做第三方評(píng)估、投入一定合規(guī)成本，即有可能通過(guò)認(rèn)證。

　　金杜律師事務(wù)所合伙人吳涵向21世紀(jì)經(jīng)濟(jì)報(bào)道記者指出，AI法案對(duì)生物識(shí)別技術(shù)進(jìn)行了較多關(guān)注，因此相關(guān)AI企業(yè)可能需盡快推進(jìn)AI合規(guī)體系的構(gòu)建工作。

　　通用AI監(jiān)管，歐盟力不從心

　　通用人工智能，則是歐盟AI法案的另一大監(jiān)管重點(diǎn)。

　　吳涵表示，自2022年底ChatGPT等應(yīng)用在世界范圍內(nèi)流行，全球逐漸將監(jiān)管的視野擴(kuò)大至通用AI模型及系統(tǒng)，AI法案也是基于這一現(xiàn)實(shí)需求進(jìn)行起草和修訂。由于通用AI系統(tǒng)本身可能被視為高風(fēng)險(xiǎn)系統(tǒng)或作為其他高風(fēng)險(xiǎn)系統(tǒng)的組成，因此大模型企業(yè)可能是后續(xù)監(jiān)管與執(zhí)法部門(mén)重點(diǎn)關(guān)注的對(duì)象。

　　在該法案中，歐盟專(zhuān)門(mén)為通用人工智能制定了更嚴(yán)格的法規(guī)，比如遵循特定透明度義務(wù)，公開(kāi)模型訓(xùn)練方式的摘要，以及遵守歐盟版權(quán)法規(guī)等。而高于一定計(jì)算閾值而被歸為“系統(tǒng)性風(fēng)險(xiǎn)”的通用AI系統(tǒng)，就要遵守更嚴(yán)格的規(guī)則，比如企業(yè)需特別評(píng)估和減輕系統(tǒng)性風(fēng)險(xiǎn)、進(jìn)行模型評(píng)估和對(duì)抗性測(cè)試等。

　　在AI法案中，歐盟要求通用AI打開(kāi)“黑盒子”，披露模型參數(shù)、訓(xùn)練數(shù)據(jù)等關(guān)乎技術(shù)細(xì)節(jié)的內(nèi)容，多少引起模型廠商不滿。但就現(xiàn)階段而言，法案對(duì)通用人工智能的監(jiān)管還不甚清晰，把通用AI關(guān)進(jìn)“監(jiān)管的籠子”尚需時(shí)日。

　　吳涵看來(lái)，AI法案僅是初步提出了通用AI模型的合規(guī)要求，歐盟還在針對(duì)通用AI模型制定更為細(xì)致的監(jiān)管規(guī)則。觀察后續(xù)監(jiān)管走向，除一般性合規(guī)要求以外，可能要進(jìn)一步關(guān)注通用大模型訓(xùn)練數(shù)據(jù)與《通用數(shù)據(jù)保護(hù)條例》（GDPR）和版權(quán)保護(hù)等不同法律的交叉問(wèn)題。

　　“AI法案在通用模型的監(jiān)管上留下了很大遺憾，近乎于還是一個(gè)空殼?！敝鞇偢锌?，雖然法案提了很多透明度的要求，但監(jiān)管者對(duì)技術(shù)、行業(yè)know-how的了解遠(yuǎn)不如企業(yè)，所以在一些關(guān)鍵核心數(shù)據(jù)集和微調(diào)參數(shù)的披露上，廠商可以有所保留。同時(shí)，法案監(jiān)管通用AI的實(shí)施細(xì)則還在編制階段，但前期歐盟基本把編制的主動(dòng)權(quán)交到了科技公司手上，受到詬病后迫于壓力才在7月底宣布向多方利益主體開(kāi)放，共同參與實(shí)施細(xì)則編制。

　　朱悅指出，這實(shí)則反映出歐盟AI治理能力的受限。隨著AI技術(shù)的發(fā)展，企業(yè)側(cè)沉淀了很多行業(yè)知識(shí)，比如OpenAI在做的超級(jí)對(duì)齊，Anthropic的可解釋性，還有谷歌、微軟等科技巨頭做的模型卡、算法卡，在AI的內(nèi)部監(jiān)管上已經(jīng)比較超前。但監(jiān)管層在資金密度、人才密度、技術(shù)密度等層面難與大型企業(yè)相比，所以要達(dá)到理想中的強(qiáng)監(jiān)管也較難。

　　發(fā)展大于安全

　　“即使歐盟AI法案正式生效，目前針對(duì)AI的監(jiān)管也還在探索中，不好評(píng)判對(duì)科技業(yè)會(huì)帶來(lái)多大沖擊，但監(jiān)管不構(gòu)成太大阻力，行業(yè)的焦點(diǎn)還是在大模型的商業(yè)化落地?！眹?guó)內(nèi)某證券公司通信行業(yè)首席分析師向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示。

　　從AI法案起草到通過(guò)生效，質(zhì)疑其扼殺科技創(chuàng)新的聲音一直不絕于耳。代表科技業(yè)游說(shuō)的計(jì)算機(jī)和通信行業(yè)協(xié)會(huì)歐洲辦事處（CCIA Europe）就警告稱(chēng)，監(jiān)管干預(yù)為時(shí)過(guò)早，會(huì)減緩創(chuàng)新和增長(zhǎng)，只有充分的競(jìng)爭(zhēng)才能帶來(lái)生成式AI的蓬勃發(fā)展，從而為消費(fèi)者提供豐富多元的選擇。

　　不過(guò)，朱悅指出，科技公司在公共層面對(duì)于監(jiān)管有著諸多指責(zé)和批評(píng)，但實(shí)際在執(zhí)行合規(guī)義務(wù)時(shí)并不會(huì)付出太多額外成本。一來(lái)，AI法案還有諸多模糊、有待提升完善之處，除了通用大模型還沒(méi)有行為守則，歐盟的條條塊塊錯(cuò)綜復(fù)雜，許多監(jiān)管細(xì)則也有待協(xié)商，縱向上各成員國(guó)形成監(jiān)管合力需要時(shí)日，因?yàn)榉▏?guó)、德國(guó)等國(guó)想要促進(jìn)AI發(fā)展，部分排斥強(qiáng)監(jiān)管，也希望在歐盟機(jī)構(gòu)把握更多的監(jiān)管主導(dǎo)權(quán)，橫向上歐盟涉及科技公司監(jiān)管的機(jī)構(gòu)部門(mén)眾多，新成立的人工智能辦公室和現(xiàn)有機(jī)構(gòu)在職能邊界上還需進(jìn)一步厘清。

　　二來(lái)，有別于歐盟嚴(yán)監(jiān)管的刻板印象，AI法案的整體導(dǎo)向還是發(fā)展優(yōu)先于安全。法案開(kāi)篇四方面的宗旨里有三個(gè)關(guān)乎發(fā)展，而且法案中大量規(guī)則有著彈性空間，被禁止、高風(fēng)險(xiǎn)的適用范圍把科研、非商業(yè)使用、開(kāi)源等場(chǎng)景排除在外，還有不少合規(guī)義務(wù)只要企業(yè)自評(píng)估完成等。法案之外，歐盟近年也在力促本土AI的發(fā)展，以期縮小和美國(guó)、中國(guó)等AI大國(guó)的差距，比如發(fā)起“高性能計(jì)算聯(lián)合計(jì)劃”為生成式AI初創(chuàng)公司提供超算算力，《數(shù)據(jù)法案》要求數(shù)據(jù)互換、云切換費(fèi)用逐步取消都有利于中小廠商。

　　因而，盡管歐盟AI法案仍是一部有待完善和細(xì)化的法律，但也為各國(guó)監(jiān)管提供了一定借鑒思路——發(fā)展先于安全的立場(chǎng)，完整的監(jiān)管框架以及不斷充實(shí)的次級(jí)立法、執(zhí)法過(guò)程，監(jiān)管沙盒的引入，明確但保留一定寬松度的監(jiān)管口徑等。但同時(shí)，朱悅也警示，“不能照搬照抄歐盟立法，這種做法容易忽視應(yīng)當(dāng)嚴(yán)管的問(wèn)題?！?/p>

　　國(guó)內(nèi)企業(yè)出海歐洲如何做功課？

　　外界普遍認(rèn)為，歐盟AI法案是一部里程碑式的法律，不僅在于它是全球首部AI立法，還在于它會(huì)通過(guò)市場(chǎng)途徑對(duì)全球科技業(yè)帶來(lái)影響。

　　根據(jù)AI法案，只要在歐盟市場(chǎng)內(nèi)投放或投入使用其AI系統(tǒng)，無(wú)論是否收費(fèi)，無(wú)論實(shí)體是否在歐盟境內(nèi)，都要遵守歐盟的規(guī)定。而大部分跨國(guó)公司為了規(guī)避遵守多個(gè)國(guó)家監(jiān)管制度的成本，就會(huì)選擇將歐盟法規(guī)沿用到全球業(yè)務(wù)，這也是俗稱(chēng)的“布魯塞爾效應(yīng)”。

　　那么對(duì)于國(guó)內(nèi)企業(yè)而言，隨著歐盟AI法案生效、走向落地，未來(lái)布局出海業(yè)務(wù)需要注意哪些合規(guī)風(fēng)險(xiǎn)？

　　吳涵解釋?zhuān)髽I(yè)出海時(shí)，首先應(yīng)判斷自身提供的產(chǎn)品是否構(gòu)成AI法案的AI系統(tǒng)以及通用AI模型。如果適用AI法案，則要判斷產(chǎn)品是否可能屬于禁止在歐洲投放、具有不可接受風(fēng)險(xiǎn)的AI系統(tǒng)，如構(gòu)成禁止投放的產(chǎn)品，則企業(yè)確需考慮轉(zhuǎn)換出海業(yè)務(wù)方向。如經(jīng)評(píng)估，企業(yè)可在歐洲投放相關(guān)AI產(chǎn)品，則應(yīng)盡快根據(jù)AI法案構(gòu)建AI合規(guī)體系。

　　同時(shí)，企業(yè)出海涉及數(shù)據(jù)跨境流動(dòng)，則還要滿足境內(nèi)外的監(jiān)管要求。吳涵舉例道，如果企業(yè)在出海AI產(chǎn)品時(shí)，需要向歐洲提供訓(xùn)練數(shù)據(jù)，在訓(xùn)練數(shù)據(jù)涉及個(gè)人信息的情況下，則觸發(fā)相應(yīng)的數(shù)據(jù)出境義務(wù)。企業(yè)在歐洲提供產(chǎn)品時(shí)，其本身還需適用歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）來(lái)處理個(gè)人數(shù)據(jù)。此外，由于中國(guó)的個(gè)人信息保護(hù)法與歐盟GDPR的合規(guī)要求與標(biāo)準(zhǔn)也并不完全相同，因此企業(yè)出海歐洲時(shí)宜提前根據(jù)GDPR及其他規(guī)定部署數(shù)據(jù)合規(guī)布局。