人工智能(AI)技術(shù)在重塑全球產(chǎn)業(yè)格局的同時，也引發(fā)了從底層技術(shù)到全球應用層面的多維安全風險。本文以2025年至今與AI安全相關(guān)的國家政策、國際治理實踐及智庫報告為研究對象，梳理全球AI安全風險圖譜，提出技術(shù)與規(guī)則雙輪驅(qū)動的治理趨勢，為全球AI安全治理提供參考。
全球AI安全風險圖譜
當前，AI安全風險已從單純的技術(shù)層面，延伸至個人、產(chǎn)業(yè)、國家、國際各個層面。技術(shù)層面的風險是底層安全風險，AI技術(shù)不僅提升了“釣魚”詐騙、身份冒用、漏洞挖掘、惡意軟件攻擊等傳統(tǒng)網(wǎng)絡安全威脅的危害性與隱蔽性，還催生了數(shù)據(jù)投毒、提示注入、敏感信息竊取等一系列新型安全風險；個人層面風險體現(xiàn)在深度偽造濫用引發(fā)的隱私侵害，生成式AI技術(shù)導致未經(jīng)同意的偽造內(nèi)容制作與傳播成為全球性社會問題；產(chǎn)業(yè)層面風險來源于AI對產(chǎn)業(yè)發(fā)展的威脅，生成式AI大幅降低了網(wǎng)絡犯罪的技術(shù)門檻，并可能引發(fā)金融、能源等產(chǎn)業(yè)的系統(tǒng)性風險；國家層面風險聚焦主權(quán)安全，國家關(guān)鍵基礎(chǔ)設(shè)施易淪為AI驅(qū)動型網(wǎng)絡攻擊的靶標，AI核心技術(shù)的外部依賴也會對國家主權(quán)安全形成潛在威脅；國際層面風險則包括“數(shù)字鴻溝”“AI軍備競賽”等隱患。
技術(shù)賦能：全球AI安全防控技術(shù)體系構(gòu)建
全球主要國家和組織的AI安全技術(shù)布局
美國從硬件、基礎(chǔ)設(shè)施和前沿技術(shù)層面鞏固國家AI安全。在硬件層面，《贏得人工智能競賽：美國人工智能行動計劃》強調(diào)恢復本土半導體制造產(chǎn)業(yè)，保障AI算力硬件安全；在基礎(chǔ)設(shè)施層面，美國提出建立“高安全數(shù)據(jù)中心技術(shù)標準”，確保敏感數(shù)據(jù)處理設(shè)施能夠抵御高級網(wǎng)絡攻擊；在前沿技術(shù)層面，《特朗普總統(tǒng)的美國網(wǎng)絡戰(zhàn)略》主張盡快推廣生成式和代理式人工智能用于網(wǎng)絡防御。
歐盟加強算力基礎(chǔ)設(shè)施與數(shù)據(jù)資源建設(shè)，以維護AI主權(quán)安全。歐盟《人工智能大陸行動計劃》提出，建立至少19個AI工廠和5個專注前沿模型訓練的AI超級工廠，推動未來5~7年內(nèi)數(shù)據(jù)中心容量增長兩倍，為AI安全夯實算力基礎(chǔ)。歐盟還頒布《數(shù)據(jù)聯(lián)盟戰(zhàn)略》，推動專業(yè)數(shù)據(jù)實驗室的設(shè)立，以高質(zhì)量數(shù)據(jù)支撐AI系統(tǒng)安全運行。
與此同時，其他國家也積極開展AI安全技術(shù)探索。新加坡升級推出“全球AI保障沙盒”，將AI大模型的數(shù)據(jù)泄露、提示注入攻擊等前沿風險納入監(jiān)管研究范疇，為AI安全測試提供可控環(huán)境；韓國個人信息保護委員會于2025年8月發(fā)布《生成式人工智能開發(fā)與應用個人數(shù)據(jù)處理指南》，明確規(guī)定生成式AI從開發(fā)到應用全生命周期中各個階段應采取的基本安全措施；馬來西亞目前正推動出臺AI網(wǎng)絡安全指南，旨在構(gòu)建自主AI安全技術(shù)生態(tài)。
智庫聚焦的AI安全前沿技術(shù)方向
蘭德公司在《先進人工智能時代的網(wǎng)絡安全致勝經(jīng)濟學》報告中強調(diào)，應積極構(gòu)建適配網(wǎng)絡安全需求的AI技術(shù)生態(tài)。具體而言，將研發(fā)部門輸出的專用算法、訓練框架等關(guān)鍵技術(shù)成果，通過標準化接口、開源工具等形式向應用層開放；建設(shè)異構(gòu)計算資源池、可信數(shù)據(jù)平臺及低代碼開發(fā)環(huán)境等規(guī)模化、易接入的應用基礎(chǔ)設(shè)施，以此大幅降低技術(shù)使用門檻，賦能更多領(lǐng)域網(wǎng)絡安全防護場景。
Gartner《2026年網(wǎng)絡安全六大趨勢的預測》與谷歌《2026AI智能體趨勢報告》提出，AI智能體具備“推理—行動—觀察—調(diào)整”閉環(huán)能力，可推動安全運營從傳統(tǒng)的“被動響應”向“主動防御”升級，增強網(wǎng)絡防御能力，但同時也會增加身份注冊與管理、憑證自動化管理、基于策略的授權(quán)機制等安全風險。
美國安全與新興技術(shù)中心在《預測人工智能對網(wǎng)絡攻防平衡的影響》報告中指出：一方面，攻擊者可以利用AI技術(shù)對傳統(tǒng)攻擊溯源信號(如代碼編寫風格、語言特征等)進行隱匿，大幅提升攻擊溯源的難度；另一方面，防御一方也可借助AI對攻擊者的網(wǎng)絡行為模式、基礎(chǔ)設(shè)施特征等多維度信息開展深度分析，以強化自身的攻擊溯源能力。
規(guī)則界定：全球AI安全規(guī)則體系構(gòu)建與實踐
國家和組織層面AI安全規(guī)則體系建立
美國從“戰(zhàn)略、立法、行政令”角度多管齊下完善AI安全規(guī)則體系?！短乩势湛偨y(tǒng)的美國網(wǎng)絡戰(zhàn)略》《贏得人工智能競賽：美國人工智能行動計劃》提出將AI安全納入國家網(wǎng)絡安全戰(zhàn)略體系；出臺美國聯(lián)邦層面首個針對人工智能的監(jiān)管法案——《刪除法案》，明確深度偽造內(nèi)容的發(fā)布標準、平臺義務與違法處罰；發(fā)布關(guān)于加強國家網(wǎng)絡安全的行政令，要求將AI軟件漏洞管理納入機構(gòu)間協(xié)調(diào)機制。
歐盟以《人工智能法案》為核心，發(fā)布配套指南和行動計劃。作為《人工智能法案》的實施細則，歐盟相繼發(fā)布了《人工智能系統(tǒng)定義指南》《高風險人工智能系統(tǒng)嚴重事件報告配套指南》，意圖建立AI系統(tǒng)早期風險預警機制；出臺《通用人工智能實踐準則》，要求通用AI模型提供商建立嚴格的風險評估機制；《人工智能大陸行動計劃》從算力基礎(chǔ)設(shè)施、數(shù)據(jù)資源、人才培養(yǎng)、監(jiān)管優(yōu)化等方面制定配套規(guī)則，構(gòu)建AI技術(shù)全生命周期合規(guī)體系。
其他國家聚焦具體安全風險制定精準防控政策。英國政府將使用深度偽造技術(shù)制作并傳播色情內(nèi)容的行為認定為刑事犯罪；馬來西亞將出臺新版網(wǎng)絡犯罪法案，將AI詐騙、深度偽造、虛假信息傳播等新興威脅納入管控范圍；韓國政府發(fā)布《生成式人工智能開發(fā)與應用個人數(shù)據(jù)處理指南》，針對生成式AI應用中的個人信息保護問題，明確各開發(fā)階段的法律標準和安全保障要求。
國際層面AI安全的規(guī)則協(xié)同實踐
全球性規(guī)則協(xié)同以聯(lián)合國為核心，突出“包容性治理”。2025年，聯(lián)合國大會通過決議設(shè)立AI獨立國際科學小組，將開發(fā)安全、可靠且值得信賴的人工智能系統(tǒng)列為工作重點之一；聯(lián)合國人工智能向善峰會聯(lián)合主席發(fā)表聲明，提出AI治理在安全標準和算力治理領(lǐng)域的發(fā)展愿景，引領(lǐng)全球AI安全治理方向。
區(qū)域性規(guī)則協(xié)同各有側(cè)重。《亞太經(jīng)合組織人工智能倡議(2026—2030)》提出加強AI應用中的信任與安全，各經(jīng)濟體應制定相關(guān)政策保護企業(yè)和個人免受數(shù)字威脅；《金磚國家領(lǐng)導人關(guān)于人工智能全球治理的宣言》將數(shù)字主權(quán)和發(fā)展權(quán)作為核心要素，明確各國均有權(quán)制定契合自身的安全監(jiān)管框架；全球61家數(shù)據(jù)保護監(jiān)管機構(gòu)聯(lián)合發(fā)布《關(guān)于人工智能生成圖像與隱私保護的聯(lián)合聲明》，關(guān)注AI生成圖像的隱私安全風險，明確開發(fā)運營機構(gòu)的法律義務。
國際峰會聚焦細分領(lǐng)域AI安全風險。2025年巴黎人工智能行動峰會首次將AI的能源消耗問題納入國際規(guī)則討論，明確可持續(xù)發(fā)展的規(guī)則導向；第47屆全球隱私大會簽署《構(gòu)建可信數(shù)據(jù)治理框架以推動創(chuàng)新型隱私保護人工智能發(fā)展聯(lián)合聲明》，倡導將數(shù)據(jù)保護原則嵌入人工智能設(shè)計環(huán)節(jié)，構(gòu)建可信治理框架；2026年印度人工智能影響力峰會倡導建立貫穿人工智能全生命周期的政策監(jiān)管框架，推動建設(shè)可信AI共享平臺。
雙輪協(xié)同：全球AI安全治理趨勢
在國家層面，技術(shù)布局與規(guī)則制定協(xié)同推進，力爭實現(xiàn)“技術(shù)定標、規(guī)則兜底”。將“安全設(shè)計”理念納入技術(shù)研發(fā)的規(guī)則體系，明確AI技術(shù)研發(fā)、應用的安全標準與底線要求，將成熟的AI安全檢測等技術(shù)納入行業(yè)標準與法律條款，進行規(guī)則固化。例如，美國將AI軟件漏洞管理納入機構(gòu)間協(xié)調(diào)機制，既推動了漏洞檢測技術(shù)的研發(fā)，又用規(guī)則明確了技術(shù)應用的要求。
在國際層面，技術(shù)共享與規(guī)則對話協(xié)同發(fā)展，力爭實現(xiàn)“技術(shù)普惠、規(guī)則共商”。通過全球AI治理對話機制共商通用AI安全規(guī)則，聚焦深度偽造、數(shù)據(jù)隱私保護、AI失控防范等共性問題，探索形成國際規(guī)則共識。針對各類風險，推動技術(shù)靶向防控與規(guī)則精準監(jiān)管相結(jié)合，實現(xiàn)“一風險一防控方案”。對于個體風險，通過深度偽造識別技術(shù)實現(xiàn)靶向防控；對于技術(shù)風險，通過漏洞發(fā)現(xiàn)、數(shù)據(jù)保護等技術(shù)實現(xiàn)防控，同時通過技術(shù)標準和行業(yè)規(guī)則明確研發(fā)與應用要求。
以技術(shù)賦能防控，以規(guī)則界定邊界，技術(shù)與規(guī)則雙輪驅(qū)動是全球AI安全治理發(fā)展趨勢。產(chǎn)業(yè)各方應推動AI技術(shù)在安全的前提下實現(xiàn)創(chuàng)新發(fā)展，最終構(gòu)建起安全、可信、包容的人工智能發(fā)展生態(tài)。
