C3安全大會：探索人工智能時代數字安全之道
以大模型為代表的新一輪人工智能（AI）浪潮正以前所未有的態(tài)勢席卷千行百業(yè)。在這個顛覆性技術變革時代，數字安全領域將面臨怎樣的機遇與挑戰(zhàn)？5月18日，“C3安全大會·2024”在南京舉行。在這場數字安全行業(yè)的高級別閉門會議上，業(yè)界多方共同探索AI+時代的數字安全之道，為新時代安全生態(tài)建設提供了新的思路。
人工智能時代 網絡安全形勢嚴峻
“隨著去年ChatGPT的發(fā)布，AGI（通用人工智能）技術讓全球黑客開始狂歡?！眮喰虐踩呒壐笨偛藐悐^在“安全AI未來”主旨演講中的這番描述并非危言聳聽。事實上，AGI工具可以將黑客生成新威脅的時間由之前的數個月縮減至幾小時甚至幾分鐘，與此同時，攻擊者開始利用大模型迅速發(fā)現軟件與服務中存在的漏洞，通過人臉深度偽造來實施網絡詐騙犯罪的案例也越來越多。更有甚者，攻擊者的目標正由傳統(tǒng)的數字資產轉向AI算力基礎設施和大模型?！皝喰虐踩O(jiān)測到，短短一年時間，針對大模型的攻擊手段已涌現出數十種不同的類型?！?/p>
專注AI安全攻防實戰(zhàn)與對抗的亞信安全實驗室模擬了去年發(fā)現的海綿樣本攻擊，大致原理是通過向大模型發(fā)布特殊的樣本，讓大模型的算力消耗急劇上升，原來短時間能做出響應的需求，現在則需要大量時間去計算。即便停止攻擊，大模型返回結果的速度也變得很慢?！叭绻磥砗诵膽枚际谴竽Ｐ万寗拥腁I原生應用，這種情況基本上就等于癱瘓了?！标悐^說。
這只是未來網絡安全風險的“冰山一角”。與會專家學者形成共識的是，隨著全球新一輪科技革命和產業(yè)變革的持續(xù)演進，以人工智能大模型為代表的新技術迅猛發(fā)展，數字化、網絡化、智能化日新月異，網絡安全面臨的風險挑戰(zhàn)不斷增加，網絡安全形勢更為復雜嚴峻。
智譜AI總裁王紹蘭介紹，從技術突破到應用落地顯著加快、技術影響力呈現裂變式擴散、規(guī)模化應用與前沿攻關并舉，這是新一代AI技術浪潮的特點。上海垣信衛(wèi)星科技有限公司高級副總裁陸犇博士則透露，垣信擬于今年開始進行大規(guī)模的衛(wèi)星組網建設，隨著衛(wèi)星互聯(lián)網逐步建成，勢必會為產業(yè)帶來新的大數據源、新的分布式算力網絡與快捷的人工智能分發(fā)途徑。其間，包括通信的連接、數據的連接，以及無處不在的智能泛在體，都將面臨更為突出的安全問題。
“現在安全的范疇需要擴大?！敝袊こ淘涸菏俊⑶迦A大學智能產業(yè)研究院（AIR）院長張亞勤認為，新的人工智能是信息智能、物理智能和生物智能的融合，AI大模型的能力極其強大，未來可能創(chuàng)造出很多發(fā)展機遇，但也蘊含著不少潛在風險，包括信息智能的風險、AI本身隱含的安全風險以及可控性、可信性、邊界等問題。其中，AI幻覺、深度偽造等問題很有挑戰(zhàn)性。“現在完全可以去仿造人的聲音、圖片和短視頻且無法鑒別，而更大的風險是在物理世界、生物世界，當一個大模型可以控制上億的車、無人機、機器人，連接到金融體系、核心體系，甚至和人的大腦連在一起，失控和被利用的風險更大?！?/p>
“在推動大模型相關技術進步的同時，也應未雨綢繆地做好防范工作，確保技術向善?！睆垇喦谠菏繌娬{。
用AI對抗AI 網絡安全攻防升級
與會專家認為，網絡安全的攻防從原來人和人之間的對抗，已經升級到AI和AI之間的對抗，只有AI驅動的網絡安全防護檢測技術才能識別AI驅動的黑客攻擊技術。最典型的案例是深度偽造，人眼可能都看不出來的人臉替換，只有通過AI技術才能識別出來。
面對日益嚴峻的網絡安全形勢，全球科技企業(yè)都在加緊行動，網絡安全范式正在革新。微軟日前已經正式商用了可用自然語言交互的安全自動化解決方案Copilot for Security；谷歌去年也發(fā)布了網絡安全大模型。全球網絡安全企業(yè)Palo Alto、Crowd Strike已經在安全運營平臺上集成了大模型能力。在AI技術浪潮推動下，Palo Alto已經成為全球首家市值突破千億美元的安全公司，Crowd Strike的市值也逼近千億美元。在中國，約80%以上的網絡安全公司都在將大模型技術集成到網絡安全產品中，近30%的公司已經開始做大模型安全的研究。
本次大會期間，亞信安全帶來的“信計劃”也包含了全新研發(fā)的保護算力云基礎設施安全、大模型應用安全防護、大模型紅藍對抗測試等服務，并正式發(fā)布了網絡安全行業(yè)領域自研大模型——信立方。據介紹，信立方大模型對于執(zhí)行網絡安全行業(yè)的精準問答、復雜的告警日志解讀、深度的網絡安全事件分析等專用場景都有獨特的效果。
此外，亞信安全還在構想安全運營數字人，這是一個獨立的大模型應用。用戶每天會產生大量的安全事件，未來安全運營主管只要對數字人說：“幫我分析一下今天的安全態(tài)勢怎么樣？”數字人就會自動把當天的安全態(tài)勢調出來?！敖裉炷男┌踩录仨汃R上處理？”數字人可能會列舉ABCD四個事件，只要告訴數字人處理哪個事件，這個事件就會被閉環(huán)處理，沒有任何復雜的界面，完全是對話式的入口來完成過去很繁雜的操作工作。
針對近期頻發(fā)的網絡勒索事件，本次大會上，網絡勒索響應與治理中心暨獵狐計劃正式啟動。該中心由亞信安全、中國聯(lián)通江蘇分公司、四川省數字產業(yè)有限責任公司、人民數據管理有限公司聯(lián)合發(fā)起，以防范網絡勒索的持續(xù)惡意攻擊為目標，建立區(qū)域性和行業(yè)性的網絡勒索響應與治理中心，形成常態(tài)化一體化的網絡勒索安全運營。獵狐行動計劃則通過事前、事中、事后三個階段完善處理“銀狐”木馬，這一計劃的實施將為有效打擊網絡勒索行為提供更加堅實的保障。
產學研用協(xié)同 多方共建安全生態(tài)
值得關注的是，本屆C3安全大會上還舉行了兩項重磅簽約儀式。其一是亞信安全和清華大學智能產業(yè)研究院聯(lián)合研發(fā)行動升級計劃，雙方將進一步提升合作規(guī)模，實現科研實力與人力資源的優(yōu)勢結合，持續(xù)開展理論、技術、政策等方面的創(chuàng)新性研究工作；另一項則是亞信安全與華為終端的合作簽約，雙方將深度投入鴻蒙生態(tài)建設，結合領先行業(yè)的終端安全能力，為用戶提供更加安全、可靠的終端環(huán)境，保障用戶的信息安全。
產學研用加強協(xié)作正在成為業(yè)界的共識：只做大模型安全是無法解決大模型安全問題的，需要整個產業(yè)鏈、生態(tài)鏈多方融合，構建產品配套、軟硬協(xié)同的產業(yè)生態(tài)。
“大模型產業(yè)鏈非常長，最終落地過程中會發(fā)現有更多企業(yè)參與進來，尤其是以大模型為基礎的周邊業(yè)態(tài)會更加豐富?！眮喰虐踩呒壐笨偛眉鍯DO吳湘寧說，“現在大家都還在探索大模型生態(tài)安全的建設，可以明確的是整個生態(tài)鏈打開后，很多技術使用場景都會發(fā)生改變。”
在制造業(yè)，美的是較早把安全大模型落地到信息安全領域的企業(yè)。據美的集團首席信息安全官兼軟件工程院院長劉向陽介紹：“過去做安全運營，安全日志每天80億條，僅告警就有20萬條，很難用人力處理。引入安全大模型后，把安全告警需要人工研判的數量從20萬條降到了100至200條，這就是人工能夠處理的程度了?！?/p>
談及與亞信安全的合作，華為終端云開發(fā)者服務與平臺部總裁望岳表示，鴻蒙操作系統(tǒng)是華為推出面向下一代端側的操作系統(tǒng)，在華為設計理念里，“安全”排在所有因素之上。操作系統(tǒng)涉及計算、資源、通訊、圖形圖像等方方面面，安全體系特別龐大，安全面臨的形勢也尤為復雜，特別是應用到各個行業(yè)，在制造業(yè)、家電行業(yè)、金融業(yè)等，涉及安全的課題和考量點完全不一樣?！傍櫭刹僮飨到y(tǒng)其實也是一個容器，需要像亞信安全這樣的合作伙伴，把多年的經驗、積累、能力放到鴻蒙操作系統(tǒng)的底層，以協(xié)同治理好整個系統(tǒng)的安全?！?/p>
“在新的時代，數據正在成為最重要的資產，大模型如同現代冶煉廠，在鑄造出這個時代的‘鋼鐵’。操作系統(tǒng)、行業(yè)大模型與‘云網安’共同構成新時代數據的基礎設施，應用開發(fā)者們在建造征服數據海洋的戰(zhàn)艦?！眮喰怕?lián)合創(chuàng)始人田溯寧如此生動的比喻，勾勒出的正是當前正在建設中的新時代安全生態(tài)。
