發(fā)展與安全并重 上市公司共促“AI向善”
近日,平安證券發(fā)布研報(bào)稱,在2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議(以下簡(jiǎn)稱“WAIC2024”)上,中國(guó)AI(人工智能)企業(yè)不僅在技術(shù)研發(fā)方面取得了顯著成效,還在應(yīng)用落地、生態(tài)構(gòu)建等方面展現(xiàn)出強(qiáng)勁勢(shì)頭。中國(guó)AI企業(yè)在多個(gè)領(lǐng)域?qū)崿F(xiàn)了突破,為全球AI治理和應(yīng)用提供了寶貴的中國(guó)方案。
今年的WAIC2024,AI治理被置于前所未有的高度,而AI安全正是其中的重中之重。
“AI與安全,是數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展的必修課?!?月6日,奇安信董事長(zhǎng)齊向東在大會(huì)相關(guān)論壇上表示,要積極構(gòu)建高可靠人工智能安全體系,著力為用戶提供有效的安全防護(hù),既要用AI去驅(qū)動(dòng)安全,又要做好AI自身安全,護(hù)航數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展。
“AI作為引領(lǐng)未來(lái)的戰(zhàn)略新興技術(shù),已成為發(fā)展新質(zhì)生產(chǎn)力、推動(dòng)科技革命和產(chǎn)業(yè)升級(jí)的核心引擎?!敝袊?guó)數(shù)實(shí)融合50人論壇智庫(kù)專家洪勇在接受《證券日?qǐng)?bào)》記者采訪時(shí)表示,隨著AI的高速發(fā)展,尤其是生成式AI的突破,其復(fù)雜效應(yīng)也不斷顯現(xiàn),既釋放巨大的技術(shù)紅利,也衍生出超越以往范疇的挑戰(zhàn),涉及數(shù)據(jù)安全、倫理治理、算法歧視、能源環(huán)境、數(shù)字鴻溝等問(wèn)題。
AI安全受關(guān)注
技術(shù)發(fā)展,協(xié)同共治。面對(duì)挑戰(zhàn),全球AI安全治理的進(jìn)程正加速推進(jìn),已形成各國(guó)政府主導(dǎo)、國(guó)際組織積極推進(jìn)、企業(yè)協(xié)同治理的多方參與格局。全球AI界正積極平衡“發(fā)展”與“安全”這一體兩面,推動(dòng)AI“兩翼齊飛”。
近年來(lái),我國(guó)先后出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等政策文件,構(gòu)建針對(duì)大模型的“雙備案系統(tǒng)”,推動(dòng)人工智能安全、健康、規(guī)范發(fā)展。今年3月份,全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化委員會(huì)發(fā)布《生成式人工智能服務(wù)安全基本要求》,對(duì)前述政策文件中的數(shù)據(jù)來(lái)源合法、內(nèi)容安全等合規(guī)要求的執(zhí)行規(guī)則進(jìn)行了細(xì)化,為生成式人工智能服務(wù)提供者在實(shí)踐中開(kāi)展安全評(píng)估提供了有效路徑。
AI安全相關(guān)企業(yè)也抓住產(chǎn)業(yè)發(fā)展黃金機(jī)遇,乘勢(shì)而上。聚焦國(guó)內(nèi),深信服、天融信、啟明星辰、奇安信等公司均已發(fā)布安全大模型產(chǎn)品。騰訊、螞蟻集團(tuán)等也積極構(gòu)建AI安全平臺(tái)。放眼全球,微軟在今年5月份已正式商用了MicrosoftCopilotforSecurity(一種基于生成式AI的安全產(chǎn)品),旨在“幫助用戶以機(jī)器的速度進(jìn)行防御”。谷歌去年也發(fā)布了網(wǎng)絡(luò)安全專有大模型,并應(yīng)用到了云安全能力中心。
據(jù)TheInsightPartner預(yù)測(cè),2030年,全球AI安全市場(chǎng)規(guī)模將達(dá)到710億美元,未來(lái)十年復(fù)合增速將達(dá)到29%。艾媒咨詢數(shù)據(jù)顯示,預(yù)計(jì)到2027年,我國(guó)網(wǎng)絡(luò)安全市場(chǎng)規(guī)模有望增至884.4億元人民幣。
產(chǎn)業(yè)鏈公司在行動(dòng)
中金公司認(rèn)為,AI的安全風(fēng)險(xiǎn)涉及多個(gè)維度。AI體系安全是基礎(chǔ),包括軟件、硬件等基礎(chǔ)設(shè)施的供應(yīng)安全,以龐大市場(chǎng)為基礎(chǔ)的需求安全,應(yīng)用部署安全等,需確保AI生態(tài)系統(tǒng)的獨(dú)立性、完整性和抗攻擊能力。數(shù)據(jù)安全是AI系統(tǒng)能否有效、高質(zhì)量運(yùn)行的關(guān)鍵。AI應(yīng)用中廣泛出現(xiàn)的錯(cuò)誤與虛假信息、“信息繭房”、隱私泄露等問(wèn)題也會(huì)對(duì)社會(huì)安全帶來(lái)挑戰(zhàn)。
針對(duì)上述問(wèn)題,產(chǎn)業(yè)鏈上市公司正在行動(dòng)。
“公司打造了以‘?dāng)?shù)據(jù)+AI’為核心,以‘應(yīng)用場(chǎng)景’為依托的系列產(chǎn)品,形成了七大解決方案及產(chǎn)品線,其中就包括風(fēng)險(xiǎn)與合規(guī)產(chǎn)品線,涉及智能風(fēng)控、監(jiān)管報(bào)送等。公司信創(chuàng)及安全類產(chǎn)品也有利于降低信息安全風(fēng)險(xiǎn)?!狈ū拘畔⑾嚓P(guān)人士在接受《證券日?qǐng)?bào)》記者采訪時(shí)表示。
永信至誠(chéng)在投資者互動(dòng)平臺(tái)上稱,公司發(fā)布AI大模型安全測(cè)評(píng)“數(shù)字風(fēng)洞”平臺(tái),為AI大模型的持續(xù)演進(jìn)和應(yīng)用提供堅(jiān)實(shí)的安全保障。在內(nèi)容安全測(cè)評(píng)方面,平臺(tái)借助檢測(cè)插件,形成檢測(cè)模板、檢測(cè)場(chǎng)景分類和測(cè)評(píng)數(shù)據(jù)集,測(cè)評(píng)出各類安全風(fēng)險(xiǎn);在系統(tǒng)安全測(cè)評(píng)方面,平臺(tái)對(duì)目標(biāo)系統(tǒng)進(jìn)行深入的安全評(píng)估,幫助AI大模型系統(tǒng)迅速發(fā)現(xiàn)潛在的安全漏洞。
“除了在技術(shù)上推動(dòng)AI系統(tǒng)的可解釋性和可控性外,由于AI問(wèn)題往往跨越國(guó)界,各方還應(yīng)促進(jìn)國(guó)際合作,建立全球共識(shí),共享最佳實(shí)踐?!焙橛氯缡钦f(shuō)。
本屆WAIC2024還發(fā)布了《人工智能全球治理上海宣言》,倡導(dǎo)共推發(fā)展、共護(hù)安全、共商治理、共匯民智、共享成果。呼吁各國(guó)加強(qiáng)交流和對(duì)話,推動(dòng)人工智能更好地造福人類。