AI應(yīng)用加速落地 安全治理筑牢發(fā)展根基

　　近日，電商智能體、醫(yī)療健康智能體、辦公智能體接連發(fā)布，AI應(yīng)用迎來爆發(fā)式增長(zhǎng)，正成為推動(dòng)各行業(yè)發(fā)展的新引擎。從電商平臺(tái)到醫(yī)療健康，從制造業(yè)到能源生產(chǎn)，AI技術(shù)正加速賦能千行百業(yè)。然而，隨著技術(shù)的廣泛應(yīng)用，AI帶來的安全風(fēng)險(xiǎn)也引發(fā)廣泛關(guān)注。近日，我國(guó)發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，中國(guó)信通院也啟動(dòng)了2025年對(duì)AI智能體和大模型的安全評(píng)估工作，為AI應(yīng)用劃定安全邊界，推動(dòng)人工智能在合法、安全、可控的框架內(nèi)發(fā)展。

　　AI應(yīng)用加速落地 賦能千行百業(yè)

　　近日，AI智能體產(chǎn)品接連發(fā)布，AI應(yīng)用加速落地。在電商平臺(tái)，探域科技于3月17日發(fā)布“探域電商智能體”，成為“智能客服”，幫助商家智能回復(fù)買家提問，并可執(zhí)行營(yíng)銷任務(wù)。在辦公領(lǐng)域，釘釘宣布推出AI智能體客服，作為企業(yè)的“電子員工”，AI智能體客服可接入企業(yè)官網(wǎng)、公眾號(hào)直接服務(wù)消費(fèi)者和企業(yè)客戶。在醫(yī)藥領(lǐng)域，中康科技于3月15日正式發(fā)布“醫(yī)療健康全場(chǎng)景智能體”，輔助醫(yī)生提升診斷效率和精準(zhǔn)度，幫助連鎖藥店優(yōu)化庫(kù)存與運(yùn)營(yíng)效率。

　　今年一季度，互聯(lián)網(wǎng)企業(yè)在AI板塊競(jìng)相發(fā)力，進(jìn)一步推高了AI應(yīng)用熱度。華鑫證券研究報(bào)告顯示，阿里、騰訊、字節(jié)跳動(dòng)等企業(yè)積極布局AI產(chǎn)業(yè)鏈。例如，阿里正式發(fā)布并開源推理模型通義千問QwQ-32B，并宣布未來三年將在云和AI領(lǐng)域投入超過3800億元；騰訊借接入DeepSeek的熱度，持續(xù)投放廣告；字節(jié)跳動(dòng)利用自家豆包模型，圍繞自身生態(tài)打造營(yíng)銷策略。

　　“2025年可能會(huì)成為AI智能體爆發(fā)的元年。”百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏近日發(fā)文稱。他提到，推理大模型的深度思考能力將推動(dòng)“AI智能體”落地。隨著大模型技術(shù)的迭代和應(yīng)用成本的下降，人工智能應(yīng)用將迎來大爆發(fā)，加速賦能工業(yè)、制造、能源、交通、政務(wù)等行業(yè)。

　　AI正加速重構(gòu)生產(chǎn)力，在眾多行業(yè)中發(fā)揮著不可小覷的作用。在化工領(lǐng)域，中國(guó)化學(xué)黨委書記、董事長(zhǎng)莫鼎革表示，AI可提高化學(xué)工程中的建模速度、計(jì)算效率與準(zhǔn)確性，解放勞動(dòng)力。在裝備制造業(yè)，中國(guó)中車董事長(zhǎng)孫永才表示，要推動(dòng)AI技術(shù)深度融入中車全產(chǎn)業(yè)鏈、供應(yīng)鏈和創(chuàng)新鏈，全面賦能22個(gè)方向、106個(gè)業(yè)務(wù)、369個(gè)場(chǎng)景，發(fā)揮人工智能對(duì)產(chǎn)業(yè)發(fā)展的“乘數(shù)倍增效應(yīng)”。在能源生產(chǎn)領(lǐng)域，中國(guó)核電董事長(zhǎng)盧鐵忠稱，中國(guó)核電旗下兩家單位將AI技術(shù)融入原本的大數(shù)據(jù)模型，將智能回答和數(shù)據(jù)分析效率提升了45%。在醫(yī)療領(lǐng)域，圣湘生物董事長(zhǎng)戴立忠說，AI技術(shù)與生命科技加速融合，將推動(dòng)藥物研發(fā)、基因組學(xué)、醫(yī)學(xué)影像分析、臨床決策支持、生物制造、健康管理、合成生物學(xué)等領(lǐng)域迎來爆發(fā)式增長(zhǎng)。

　　構(gòu)筑安全邊界 應(yīng)對(duì)AI風(fēng)險(xiǎn)挑戰(zhàn)

　　AI技術(shù)廣泛應(yīng)用，也帶來安全風(fēng)險(xiǎn)。從國(guó)家法律法規(guī)到行業(yè)企業(yè)舉措，各界積極探索如何在充分發(fā)揮AI效能的同時(shí)構(gòu)筑堅(jiān)實(shí)的安全邊界。

　　在剛剛過去的3·15國(guó)際消費(fèi)者權(quán)益日，AI深度偽造引發(fā)的新型騙局引發(fā)網(wǎng)民熱議。AI生成內(nèi)容帶來的安全風(fēng)險(xiǎn)日益凸顯，小米集團(tuán)創(chuàng)始人、董事長(zhǎng)兼CEO雷軍近日表示，AI換臉、擬聲等技術(shù)，帶來新的違法重災(zāi)區(qū)，他本人就是AI換臉擬聲的“受害者”。

　　針對(duì)這一問題，近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，為AI生成的內(nèi)容劃定安全邊界?！稑?biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式，并強(qiáng)調(diào)任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿標(biāo)識(shí)，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

　　在行業(yè)應(yīng)用中，大模型也可能帶來安全風(fēng)險(xiǎn)。在醫(yī)療應(yīng)用領(lǐng)域，科大訊飛董事長(zhǎng)劉慶峰表示，大模型技術(shù)在醫(yī)療臨床、服務(wù)、管理等領(lǐng)域應(yīng)用廣泛，但面臨著數(shù)據(jù)安全、醫(yī)學(xué)專業(yè)性及倫理風(fēng)險(xiǎn)等問題，如部分AI應(yīng)用不具備專業(yè)認(rèn)證的醫(yī)療能力卻能回答相關(guān)問題，造成極大認(rèn)知誤解，應(yīng)制定醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)標(biāo)準(zhǔn)與測(cè)試規(guī)范。

　　個(gè)人與企業(yè)的數(shù)據(jù)安全同樣面臨威脅。奇安信董事長(zhǎng)齊向東說，當(dāng)下許多企業(yè)和個(gè)人部署私有化大模型時(shí)，服務(wù)器未采取安全措施，數(shù)據(jù)隱私和基礎(chǔ)設(shè)施安全風(fēng)險(xiǎn)巨大。要系統(tǒng)提升安全能力，確保人工智能安全發(fā)展，“安全”必須要“快一步”。面對(duì)AI應(yīng)用帶來的多個(gè)層面網(wǎng)絡(luò)安全挑戰(zhàn)，360集團(tuán)創(chuàng)始人周鴻祎提出“以模制?！?思路，通過研發(fā)安全大模型，管理企業(yè)知識(shí)庫(kù)的使用、智能體的調(diào)用，并管理基座模型產(chǎn)生幻覺的問題。

　　中國(guó)信通院人工智能所安全與具身智能部主任石霖指出，近年來，語言大模型、多模態(tài)模型、智能體和具身智能等領(lǐng)域不斷出現(xiàn)突破性創(chuàng)新，推動(dòng)人工智能邁向通用智能初始階段。然而，人工智能也帶來了諸多潛在的風(fēng)險(xiǎn)和挑戰(zhàn)，規(guī)范人工智能應(yīng)用安全邊界的核心在于守住安全底線，確保人工智能技術(shù)在合法、安全、可靠、可控和向善的框架內(nèi)發(fā)展。為此，我國(guó)圍繞統(tǒng)籌“發(fā)展與安全”兩項(xiàng)重要議題，先后頒布一系列重要文件，加強(qiáng)頂層設(shè)計(jì)，推動(dòng)人工智能產(chǎn)業(yè)良性發(fā)展，針對(duì)重點(diǎn)領(lǐng)域開展敏捷治理實(shí)踐，通過“小快精”的治理模式，應(yīng)對(duì)技術(shù)帶來的復(fù)雜挑戰(zhàn)。

　　平衡創(chuàng)新與安全 迎接AI時(shí)代

　　據(jù)今年發(fā)布的第55次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，我國(guó)生成式人工智能產(chǎn)品用戶規(guī)模達(dá)2.49億人。AI技術(shù)成為未來競(jìng)爭(zhēng)力的重要一環(huán)。

　　為AI健康發(fā)展塑造根基，需要更完善的治理框架。2024年9月，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《人工智能安全治理框架》1.0版，以鼓勵(lì)人工智能創(chuàng)新發(fā)展為第一要?jiǎng)?wù)，以有效防范化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，提出了包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開放合作、共治共享等人工智能安全治理的原則。

　　“實(shí)現(xiàn)推動(dòng)技術(shù)創(chuàng)新和保障安全的平衡，一方面要加強(qiáng)多元共治；另一方面要充分發(fā)揮產(chǎn)業(yè)界的自治自律能力?！笔卣f。中國(guó)信通院正在推動(dòng)人工智能安全治理方面的研究。一是開展基于風(fēng)險(xiǎn)的安全治理框架研究，愈發(fā)聚焦識(shí)別、評(píng)估、應(yīng)對(duì)人工智能“真風(fēng)險(xiǎn)”。二是緊隨前沿應(yīng)用，布局安全測(cè)試方案。三是關(guān)注產(chǎn)業(yè)訴求，凝聚產(chǎn)業(yè)力量。