全國政協(xié)委員、啟明星辰CEO嚴(yán)望佳：加強人工智能應(yīng)用安全 促進數(shù)字經(jīng)濟發(fā)展

　　全國兩會期間，全國政協(xié)委員、啟明星辰CEO嚴(yán)望佳提交了三份提案，關(guān)注數(shù)字經(jīng)濟發(fā)展過程中的安全問題。嚴(yán)望佳建議，建立政務(wù)大數(shù)據(jù)全生命周期安全治理體系，加強人工智能應(yīng)用相關(guān)的數(shù)據(jù)安全及隱私保護技術(shù)研究，加強對智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全管控。

　　開展前沿技術(shù)研究

　　嚴(yán)望佳介紹，當(dāng)前人工智能應(yīng)用面臨不少安全問題，包括數(shù)據(jù)安全及隱私保護問題、算法“黑盒”應(yīng)用模式的安全隱患以及人工智能應(yīng)用的倫理安全問題。

　　嚴(yán)望佳表示，為穩(wěn)步推進數(shù)字經(jīng)濟發(fā)展，充分發(fā)揮人工智能應(yīng)用在發(fā)掘數(shù)據(jù)要素價值方面的作用，須采取有效措施加強人工智能應(yīng)用的安全管控。

　　嚴(yán)望佳建議，加強人工智能應(yīng)用的相關(guān)數(shù)據(jù)安全及隱私保護技術(shù)研究，在不泄露隱私及敏感信息的前提下保留數(shù)據(jù)價值，支持人工智能應(yīng)用發(fā)展。建議設(shè)立相關(guān)專項課題，推動產(chǎn)學(xué)研合作開展技術(shù)研究與應(yīng)用落地攻關(guān)等。

　　嚴(yán)望佳認(rèn)為，應(yīng)強化人工智能應(yīng)用的透明性要求，尤其在涉及社會、人身安全的關(guān)鍵領(lǐng)域應(yīng)避免“黑盒”應(yīng)用。建議制定相關(guān)法律及標(biāo)準(zhǔn)規(guī)范，明確各領(lǐng)域人工智能應(yīng)用的透明性要求與衡量指標(biāo)等。

　　人工智能應(yīng)用軟硬件供應(yīng)鏈的安全問題應(yīng)得到更多關(guān)注�？紤]到人工智能應(yīng)用越來越多源自開源軟件領(lǐng)域，建議高度關(guān)注并加強評估開源供應(yīng)鏈和開源軟件的安全問題，做好風(fēng)險管控。

　　加強數(shù)據(jù)安全管控

　　對于智能網(wǎng)聯(lián)汽車的安全問題，嚴(yán)望佳表示，智能網(wǎng)聯(lián)汽車是一個復(fù)雜的系統(tǒng)工程，涉及分布式電子自動控制的汽車電子控制系統(tǒng)，數(shù)十甚至上百個電子控制單元如駕駛控制單元、傳感單元等。這些元器件通過不同類型的總線相互連接，經(jīng)由固件代碼驅(qū)動，再加上外部信息，通過無線通信接口實現(xiàn)車與車、車與網(wǎng)以及移動蜂窩基站進行數(shù)據(jù)交互，并與智慧交通系統(tǒng)互聯(lián)互通。

　　從智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)角度看，汽車電子信息系統(tǒng)及開發(fā)基礎(chǔ)平臺對境外企業(yè)存在高度的依賴性，影響了我國汽車產(chǎn)業(yè)的安全。從無人駕駛和輔助駕駛技術(shù)看，自身就存在漏洞。除了物理連接的攻擊方式外，還可以通過遠程無線的方式建立連接，攻擊軟件安全漏洞，控制汽車總線系統(tǒng)、車路協(xié)同系統(tǒng)等，達到信息竊取、系統(tǒng)破壞、遠程遙控等目的。

　　嚴(yán)望佳建議，統(tǒng)籌安排跨部門協(xié)調(diào)處理智能網(wǎng)聯(lián)汽車從生產(chǎn)制造到道路交通運行的安全監(jiān)管，增強智能網(wǎng)聯(lián)汽車信息與控制系統(tǒng)安全能力和“云-管道-端”系統(tǒng)運行安全能力，提升汽車信息電子控制系統(tǒng)的國產(chǎn)化比例。

　　此外，加強對智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全管控，尤其是進口境外生產(chǎn)的車輛和相關(guān)零部件，對出境汽車數(shù)據(jù)則按照相關(guān)法規(guī)進行管理。加強智能網(wǎng)聯(lián)汽車個人隱私信息保護力度，防止隱私信息泄露，保障公民隱私安全。