大模型應用面臨安全挑戰 齊向東建議五個關鍵筑牢AI安全底線

　　中新網福州4月29日電 (記者 龍敏)面對大模型應用的挑戰，全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東29日在參加第八屆數字中國建設峰會時指出，需抓住“接入放心用”“權限強管控”“嚴把內容關”“杜絕新隱患”“運營可閉環”五個關鍵，筑牢人工智能的安全底線，為千行百業抓住人工智能新機遇，吃下一顆“定心丸”。

　　安全也是硬道理

　　當前，人工智能大模型應用迎來大爆發，從直接部署的基本應用、特定場景的增強應用、垂直領域的專業應用，再到特定領域的深度應用，政企機構正在大模型的驅動下，煥發出更澎湃的生產力、創造力。

　　然而，新技術猶如一把雙刃劍，在帶來機遇的同時，也面臨著諸多挑戰。

　　在齊向東眼中，大模型應用的安全挑戰有三重。第一重挑戰是，“小數據”一失萬無，“小數據安全”成為數字經濟時代的核心關切。第二重挑戰是，大模型融通百業，“裸奔”上線極有可能引發業務停擺的鏈式危機。第三重挑戰是，對AI過度依賴，善惡真偽難辨別，一旦大模型決策失準會引發“蝴蝶效應”。

　　在數字經濟時代，數據如同驅動發展的“石油”，人工智能則是“發動機”。如今，借助人工智能大模型，企業通過對設計、生產等數據進行加工處理，形成精華“小數據”，這些“小數據”成為企業核心競爭力所在。齊向東指出，一旦“小數據”被竊取、泄露或篡改，企業多年積累的優勢將瞬間崩塌。

　　筑牢AI安全底線

　　面對這些挑戰，齊向東認為，要筑牢AI安全的“五個關鍵”。首先是接入放心用，構建大模型安全“紅域”形成多維度邊界隔離。奇安信創新提出了安全“紅域”概念，將大模型應用涉及的數據、算力、平臺、應用以及域內管理的終端及人員劃歸到專屬安全空間中進行防護，并在每個與大模型交互的接入點設置安全空間控制單元，通過多維度的邊界隔離，為大模型應用落地“強基礎、控權限、審數據、攔攻擊、清風險”。

　　其次是權限強管控，以用戶身份為新邊界開展網絡和數據安全防護。通過堡壘機、“零信任”等技術措施，對開發、訓練等相關特殊人員和終端進行增強式安全管控。

　　三是嚴把內容關，構建貫穿大模型全生命周期的內容安全治理機制。齊向東表示，通過強化監測審計，實現對大模型的核心數據管控。

　　四是杜絕新隱患，以實戰為導向加強大模型應用安全評估。通過實戰化評估方法，對大模型安全、大模型內容安全、智能體安全、大模型組件安全以及大模型運行環境安全等方向進行全面檢測評估，驗證安全策略有效性；構建縱深防御與監測技術能力，降低大模型應用的數據泄露風險與業務中斷風險。

　　五是運營可閉環，做到對安全威脅的實時監測和應急處置。齊向東表示，奇安信推出AISOC，把AI的能力嵌入到研判、調查等安全運營工作，實現了大運營與AI的有機結合。面對人工智能落地應用帶來的多重安全挑戰，要用AI對抗AI，增補面向大模型攻擊及異常行為的檢測手段，實時監測針對大模型的攻擊行為，并實現高效攔截，形成安全運營的閉環。

　　齊向東說，“我相信，把握好這五個關鍵，一定能夠確保人工智能大模型應用安全落地，發揮出驅動數字經濟發展的正向價值。”(完)