2024年6月15日，由國內多家頂尖網絡安全機構聯(lián)合主辦的“智見破境——2024網絡安全運營實戰(zhàn)大會”在北京國家會議中心隆重開幕。本次大會以“實戰(zhàn)驅動，智御未來”為核心主題，匯聚了來自政府、企業(yè)、高校及研究機構的數(shù)千名網絡安全專家、學者與從業(yè)者，共同探討在人工智能技術浪潮下，網絡安全運營面臨的新形勢、新挑戰(zhàn)與實戰(zhàn)解決方案。其中，人工智能基礎軟件（AI Infrastructure Software）的安全開發(fā)與治理，成為本屆大會最受關注的前沿焦點。
隨著ChatGPT等生成式人工智能的爆發(fā)式應用，人工智能技術已深度滲透至各行各業(yè)的核心業(yè)務系統(tǒng)。作為AI模型訓練、部署與運行的底層支撐，人工智能基礎軟件——包括機器學習框架（如TensorFlow, PyTorch）、大規(guī)模數(shù)據(jù)處理平臺、模型服務平臺及各類AI開發(fā)工具鏈——其安全性直接關系到上層AI應用的可靠性與整個數(shù)字生態(tài)的穩(wěn)定。AI基礎軟件在帶來巨大效能提升的也因其復雜性、開源依賴性及新型架構特點，引入了前所未有的安全風險。
在大會主論壇上，中國工程院院士、網絡安全專家李明教授發(fā)表了題為《筑牢智能時代的安全基座：AI基礎軟件開發(fā)生命周期安全》的主旨演講。他指出：“人工智能基礎軟件已構成數(shù)字社會的‘新基建’。其安全漏洞不僅可能導致模型被投毒、數(shù)據(jù)泄露、服務中斷等傳統(tǒng)風險，更可能引發(fā)模型偏見固化、決策邏輯被惡意操控等新型系統(tǒng)性風險。我們必須將安全能力‘左移’，深度嵌入AI基礎軟件的需求設計、代碼開發(fā)、供應鏈管理及持續(xù)運營的全生命周期之中。”
本次大會特設“AI基礎軟件安全”專題分論壇，議題深入且極具實戰(zhàn)性。來自頭部科技公司的安全實驗室負責人分享了他們在自研AI框架中實施“安全-by-Design”原則的實踐，包括在軟件架構層面集成機密計算、差分隱私保護模塊，以及建立針對AI模型的專項模糊測試（Fuzzing）與對抗樣本檢測體系。多家專注于軟件供應鏈安全的廠商展示了針對AI開源組件（如Hugging Face模型庫、PyPI中的AI相關包）的自動化漏洞與后門掃描方案，以應對日益嚴峻的供應鏈攻擊威脅。
與會專家們熱烈討論了AI基礎軟件開發(fā)帶來的新挑戰(zhàn)：
- 復雜性挑戰(zhàn)：AI軟件棧層次多、技術新，傳統(tǒng)安全工具和方法存在盲區(qū)，需要發(fā)展適應AI特性的新型安全分析技術。
- 數(shù)據(jù)與模型安全：訓練數(shù)據(jù)污染、模型竊取與逆向攻擊成為新的攻擊面，要求基礎軟件具備更強的數(shù)據(jù)溯源和模型保護能力。
- 合規(guī)與倫理挑戰(zhàn)：隨著全球對AI監(jiān)管的加強（如歐盟《人工智能法案》），基礎軟件開發(fā)必須內置可解釋性、公平性審計與合規(guī)性驗證接口。
- 人才缺口：兼具深厚AI技術理解與網絡安全實戰(zhàn)能力的“AI安全工程師”極為稀缺，成為產業(yè)發(fā)展的關鍵瓶頸。
為促進產、學、研、用協(xié)同，大會現(xiàn)場發(fā)布了《人工智能基礎軟件安全開發(fā)實踐指南（2024）》征求意見稿，并啟動了“AI安全開源組件共創(chuàng)計劃”，旨在聯(lián)合產業(yè)力量，共同構建更安全、可信的AI軟件開發(fā)環(huán)境。
“智見破境”2024網絡安全運營實戰(zhàn)大會的成功舉辦，標志著中國網絡安全產業(yè)正將戰(zhàn)略目光投向更深層的技術基礎。在人工智能定義軟件的新時代，確保AI基礎軟件的安全，已不僅僅是技術問題，更是關乎國家數(shù)字主權、經濟安全與社會穩(wěn)定的戰(zhàn)略議題。大會凝聚的共識與展示的實戰(zhàn)成果，將為各行各業(yè)安全地擁抱人工智能、筑牢智能時代的數(shù)字防線提供至關重要的思路與路徑。
