AI安全行業(yè)發(fā)展分析： 業(yè)內(nèi)探索增強(qiáng)技術(shù)與應(yīng)用創(chuàng)新能力新路徑

• 方蔓桃 2024年1月8日 來源：百度 1055 67
• 繁體

AI安全是指在人工智能技術(shù)的開發(fā)、應(yīng)用和管理過程中，保障人工智能系統(tǒng)的可靠性、可控性、可信賴性和可預(yù)測性，防止人工智能系統(tǒng)被惡意攻擊、篡改或誤用的一系列安全措施和技術(shù)。AI安全涉及數(shù)據(jù)安全、算法安全、系統(tǒng)安全、網(wǎng)絡(luò)安全等多個(gè)方面，旨在確保人工智能系統(tǒng)的安

一、AI安全行業(yè)概述

人工智能(AI)已經(jīng)在全球范圍內(nèi)對各個(gè)行業(yè)產(chǎn)生了深遠(yuǎn)影響，但隨著其應(yīng)用的廣泛，AI安全問題也逐漸凸顯。AI安全旨在保護(hù)人工智能系統(tǒng)的數(shù)據(jù)、算法和基礎(chǔ)設(shè)施，防止其受到惡意攻擊和誤用。隨著AI在金融、醫(yī)療、交通等關(guān)鍵領(lǐng)域的深入應(yīng)用，AI安全的重要性日益提升。

AI安全是指在人工智能技術(shù)的開發(fā)、應(yīng)用和管理過程中，保障人工智能系統(tǒng)的可靠性、可控性、可信賴性和可預(yù)測性，防止人工智能系統(tǒng)被惡意攻擊、篡改或誤用的一系列安全措施和技術(shù)。AI安全涉及數(shù)據(jù)安全、算法安全、系統(tǒng)安全、網(wǎng)絡(luò)安全等多個(gè)方面，旨在確保人工智能系統(tǒng)的安全、可靠和可控。

網(wǎng)絡(luò)空間安全如何快速適應(yīng)新形勢，更好地服務(wù)于國家需求、社會(huì)需求，是當(dāng)前我國網(wǎng)絡(luò)空間學(xué)科發(fā)展需要深入研究、科學(xué)規(guī)劃的重大問題。

中國科學(xué)院院士尹浩在主題報(bào)告中指出，“5G網(wǎng)絡(luò)與垂直行業(yè)業(yè)務(wù)應(yīng)用深度融合后，新業(yè)務(wù)、新技術(shù)、新場景的特征帶來了新的安全挑戰(zhàn)。如部分行業(yè)對5G融合應(yīng)用安全的風(fēng)險(xiǎn)意識不足，安全需求不明確、解決方案碎片化，行業(yè)安全需求與5G網(wǎng)絡(luò)安全供給能力映射關(guān)系不清晰等”。對此，他認(rèn)為需要進(jìn)一步提升邊緣計(jì)算、網(wǎng)絡(luò)切片、網(wǎng)絡(luò)開放、邊界防護(hù)等5G融合應(yīng)用關(guān)鍵技術(shù)安全，增強(qiáng)安全技術(shù)與應(yīng)用的創(chuàng)新能力，準(zhǔn)確識別垂直行業(yè)安全需求，制定定制化的安全服務(wù)能力，形成標(biāo)桿化的安全解決方案推廣應(yīng)用。

二、AI安全市場規(guī)模

AI安全常見的分類方式是按照攻擊方式分類，可以分為數(shù)據(jù)安全、算法安全、系統(tǒng)安全和網(wǎng)絡(luò)安全等多個(gè)方面。數(shù)據(jù)安全涉及數(shù)據(jù)的保護(hù)和隱私保護(hù)，算法安全涉及算法的安全性和可靠性，系統(tǒng)安全涉及系統(tǒng)的安全性和可控性，網(wǎng)絡(luò)安全涉及網(wǎng)絡(luò)的安全性和可靠性。另一種常見的分類方式是按照攻擊目標(biāo)分類，可以分為數(shù)據(jù)安全、模型安全、系統(tǒng)安全和行為安全等多個(gè)方面。數(shù)據(jù)安全涉及數(shù)據(jù)的保護(hù)和隱私保護(hù)，模型安全涉及模型的安全性和可靠性，系統(tǒng)安全涉及系統(tǒng)的安全性和可控性，行為安全涉及系統(tǒng)的行為安全和可預(yù)測性。此外，AI安全還可以按照攻擊主體分類，分為內(nèi)部攻擊和外部攻擊;按照攻擊時(shí)間分類，分為預(yù)防性安全和應(yīng)急性安全。

從下游客戶分布來看，據(jù) IDC 預(yù)測，中國網(wǎng)絡(luò)安全終端行業(yè)客戶結(jié)構(gòu)相對穩(wěn)定，其中政府、 金融和電信行業(yè)占比最大;預(yù)計(jì)到 2026 年，三者合計(jì)支出規(guī)模將超 192.2 億美元，占比超 中國網(wǎng)絡(luò)安全總支出的 60%。我們認(rèn)為，中國網(wǎng)安行業(yè)客戶主要分布在政府、金融、電信 等關(guān)鍵領(lǐng)域，該類型客戶受政策驅(qū)動(dòng)因素影響相對較大。近年來，國家對于網(wǎng)絡(luò)安全重視程 度顯著提升，行業(yè)整體投入有望逐漸加大。

據(jù)市場研究報(bào)告，全球AI安全市場規(guī)模在持續(xù)增長。由于數(shù)據(jù)泄露、網(wǎng)絡(luò)攻擊等安全事件的頻發(fā)，企業(yè)對AI安全的需求逐漸增強(qiáng)。預(yù)計(jì)未來幾年，AI安全市場將以年復(fù)合增長率(CAGR)的態(tài)勢持續(xù)擴(kuò)大。

AI安全行業(yè)發(fā)展歷程可追溯至AI技術(shù)的初期探索，起初，人們主要關(guān)注AI的性能提升和應(yīng)用拓展，對安全性問題關(guān)注較少。隨著深度學(xué)習(xí)的興起和AI應(yīng)用的蓬勃發(fā)展，人們開始認(rèn)識到AI系統(tǒng)面臨的安全挑戰(zhàn)日益嚴(yán)重。2010年后，隨著對抗性攻擊和隱私泄露等問題的出現(xiàn)，AI安全逐漸成為學(xué)術(shù)界和產(chǎn)業(yè)界關(guān)注的熱點(diǎn)。政府和組織開始制定相關(guān)政策和法規(guī)，推動(dòng)AI安全的研究和實(shí)踐。近年來，AI安全行業(yè)快速發(fā)展，涌現(xiàn)出眾多專業(yè)公司和研究機(jī)構(gòu)，致力于開發(fā)AI安全技術(shù)、解決隱私問題、應(yīng)對對抗性攻擊，以確保AI技術(shù)的穩(wěn)健應(yīng)用和可持續(xù)發(fā)展。

三、AI安全市場分析

競爭格局：目前，AI安全市場呈現(xiàn)多頭競爭的格局，既有大型的科技公司如谷歌、微軟、IBM等，也有專業(yè)的AI安全公司如Deepfence、Clarifai等。這些公司在數(shù)據(jù)保護(hù)、威脅檢測、隱私保護(hù)等方面各有千秋。

用戶需求：企業(yè)用戶對AI安全的需求主要集中在數(shù)據(jù)保護(hù)、算法加固和基礎(chǔ)設(shè)施防護(hù)等方面。同時(shí)，隨著無代碼/低代碼開發(fā)的興起，用戶對簡單易用的AI安全工具也提出了需求。

技術(shù)趨勢：目前，AI安全技術(shù)主要包括深度學(xué)習(xí)模型保護(hù)、對抗性攻擊與防御、隱私保護(hù)等方面。未來，隨著技術(shù)的進(jìn)步，AI安全將更加重視預(yù)防措施，例如通過無監(jiān)督學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)提高系統(tǒng)的自適應(yīng)能力

2022年我國AI安全行業(yè)市場規(guī)模約為633.24億元，同比增長4.25%。預(yù)計(jì)未來三年，我國AI安全行業(yè)市場規(guī)模將保持超過10%的年復(fù)合增長率，到2025年市場規(guī)模將達(dá)到930億元。

2022年我國AI安全行業(yè)頭部企業(yè)市場份額排名前五的企業(yè)分別是：百度、阿里巴巴、騰訊、華為和小米，它們的市場份額分別為18.2%、16.7%、14.8%、13.7%和10.8%。，2023年H1我國網(wǎng)絡(luò)安全市場頭部企業(yè)市場份額排名前五的企業(yè)分別是：奇安信、北京君正、芯原股份、四維圖新和芯片巨頭。

從產(chǎn)品的形態(tài)來看，網(wǎng)絡(luò)安全產(chǎn)品可分為硬件、軟件、服務(wù)三大類。目前，國內(nèi)網(wǎng)絡(luò)安全的 主要產(chǎn)品仍以硬件為主。根據(jù) IDC數(shù)據(jù)顯示，2020 年，安全硬件在中國整體網(wǎng)絡(luò)安全支出 中仍占據(jù)主導(dǎo)地位，占比高達(dá)47.2%;安全軟件支出占比為 20.8%，安全服務(wù)支出占比為 32%。

看未來發(fā)展趨勢，伴隨云計(jì)算的快速發(fā)展，我國網(wǎng)絡(luò)安全市場的軟件化趨勢在不斷增強(qiáng)。據(jù) IDC 預(yù)測，2021-2026 年期間，安全軟件市場規(guī)模將以 25%的復(fù)合增速快速增長，安全軟 件子市場中的信息和數(shù)據(jù)安全軟件(Information and Data Security Software)，網(wǎng)絡(luò)安全軟 件(Network Security Software)，安全分析、情報(bào)、響應(yīng)和編排(SAIRO)有望成為高速增長的主要技術(shù)領(lǐng)域，其中信息和數(shù)據(jù)安全軟件作為軟件最大的子市場，將以 29.9%的五年 CAGR 引領(lǐng)軟件市場增長;安全硬件市場規(guī)模將保持 17.0%的復(fù)合增速;安全服務(wù)市場將 保持 21.6%的復(fù)合增速，其中托管安全服務(wù)(MSS)將達(dá)到 34.0%的五年復(fù)合增速。據(jù) IDC 預(yù)測，2026 年安全軟件市場將占國內(nèi)網(wǎng)絡(luò)安全市場總支出的 40%。

今年以來，以ChatGPT為代表的人工智能技術(shù)迅速發(fā)展，使人驚呼“未來已來”。當(dāng)前，人工智能技術(shù)正廣泛應(yīng)用于金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域，對經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界帶來巨大機(jī)遇。同時(shí)，也不能忽視其蘊(yùn)含的潛在風(fēng)險(xiǎn)挑戰(zhàn)，很可能在不久的將來深刻改變現(xiàn)有國家安全格局。數(shù)據(jù)投毒”風(fēng)險(xiǎn)?！皵?shù)據(jù)投毒”是指在人工智能訓(xùn)練數(shù)據(jù)中投放惡意數(shù)據(jù)，干擾數(shù)據(jù)分析模型正常運(yùn)行的行為。在智能汽車系統(tǒng)中“投毒”，可能導(dǎo)致交通事故;在輿論宣傳中“投毒”，一些負(fù)面思想可以更加隱蔽地滲透到群眾思想觀念中。一方面，人工智能可被用在致命性自主武器(LAW)上，通過自主識別攻擊目標(biāo)、遠(yuǎn)程自動(dòng)化操作等，隱藏攻擊者來源、建立對抗優(yōu)勢;另一方面，人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接，讓軍事行動(dòng)針對性更強(qiáng)、目標(biāo)更明確、打擊范圍更廣。

四、AI安全市場挑戰(zhàn)

目前，網(wǎng)絡(luò)安全服務(wù)市場主要由安全咨詢服務(wù)、IT 安全教育與培訓(xùn)服務(wù)、托管安全服務(wù)、安 全集成服務(wù)四個(gè)子市場構(gòu)成。 安全咨詢服務(wù)：屬于專業(yè)服務(wù)的范疇，主要包括安全戰(zhàn)略與規(guī)劃、合規(guī)與審計(jì)等多個(gè)咨詢類 別; IT 安全教育與培訓(xùn)服務(wù)：IT 安全教育與培訓(xùn)服務(wù)是一套教育活動(dòng)和過程，主要包括企業(yè)級 培訓(xùn)服務(wù)、教育認(rèn)證、高校教育等子市場; 安全托管服務(wù)(MSS)：安全托管服務(wù)指服務(wù)提供商通過安全運(yùn)營中心(SOC)進(jìn)行全天候 遠(yuǎn)程管理或監(jiān)控的 IT 安全服務(wù)。目前，除駐場類的安全服務(wù)外，遠(yuǎn)程托管服務(wù)效率更高、 成本更低，倍受中小企業(yè)青睞。未來，“駐場+遠(yuǎn)程”的云地結(jié)合模式有望成為主流。2021 年，我國托管安全服務(wù)市場規(guī)模較 2020 年實(shí)現(xiàn)了 61.2%的同比增長;

安全集成服務(wù)：安全集成服務(wù)指服務(wù)提供商通過規(guī)劃、設(shè)計(jì)、實(shí)施、項(xiàng)目管理四個(gè)步驟形成 完整安全解決方案的服務(wù)，其涉及系統(tǒng)和應(yīng)用程序的定制化開發(fā)、集成企業(yè)打包的安全硬件、 軟件服務(wù)等; 據(jù) IDC 報(bào)告顯示，2021 年中國 IT 安全服務(wù)市場廠商整體收入約 28.61 億美元(約合 184.6 億元人民幣)，廠商收入規(guī)模較 2020 年同比增長 41.7%。

AI安全面臨的主要挑戰(zhàn)包括對抗性攻擊、數(shù)據(jù)泄露和模型竊取等。這些挑戰(zhàn)需要強(qiáng)大的技術(shù)能力去解決。

另外，隨著AI應(yīng)用的普及，相關(guān)的法規(guī)政策也在不斷完善。企業(yè)需要關(guān)注法規(guī)變化，避免在AI應(yīng)用中觸犯法律紅線。

由于AI安全是一門交叉學(xué)科，人才短缺是行業(yè)面臨的一大挑戰(zhàn)。企業(yè)需積極培養(yǎng)和引進(jìn)跨領(lǐng)域的專業(yè)人才。

報(bào)告顯示，18-25歲的網(wǎng)絡(luò)安全從業(yè)者占比達(dá)到31.4%，成為網(wǎng)絡(luò)安全從業(yè)者的中流砥柱。而僅僅在兩年前的2021年，這一數(shù)據(jù)僅為3.2%。三年來，Z世代迅速成長為“網(wǎng)絡(luò)安全衛(wèi)士”的主力。

此外，31-40歲的網(wǎng)絡(luò)安全從業(yè)者仍是占比最高的群體，占比達(dá)到35.2%，但已遠(yuǎn)低于2022年的50.8%和2021的59.7%。26-30歲的從業(yè)者占比為20.8%，40歲以上占比12.6%。網(wǎng)絡(luò)安全從業(yè)者逐漸年輕化，更多的年輕從業(yè)者涌入該行業(yè)，為行業(yè)的未來發(fā)展注入了新鮮的活力。

目前，我國網(wǎng)絡(luò)安全人才培養(yǎng)加快。截至2023年3月，國內(nèi)已有80所高校開設(shè)網(wǎng)絡(luò)空間安全專業(yè)，132所高校開設(shè)信息安全專業(yè)，2所高校開設(shè)保密技術(shù)專業(yè)，17所高校開設(shè)信息對抗技術(shù)專業(yè)，28所高校開設(shè)網(wǎng)絡(luò)安全與執(zhí)法專業(yè)。同時(shí)，我國各高校正在逐步加強(qiáng)網(wǎng)絡(luò)安全高層次人才培養(yǎng)力度。

2023年，受AI技術(shù)爆發(fā)的影響，智能化網(wǎng)絡(luò)安全應(yīng)用成為新熱點(diǎn)。今年創(chuàng)新沙盒公布的十強(qiáng)企業(yè)中，有三家是通過智能技術(shù)應(yīng)用來提升網(wǎng)絡(luò)安全能力，應(yīng)用方向分別為智能SOC、智能網(wǎng)絡(luò)攻防和智能數(shù)據(jù)治理與隱私安全。

在網(wǎng)絡(luò)安全行業(yè)，AI正在成為重要的輔助工具。報(bào)告顯示，目前全球有340萬網(wǎng)絡(luò)安全職位正在招聘但未能找到相應(yīng)人才。同時(shí)，報(bào)告通過問卷調(diào)研調(diào)查顯示，73%的網(wǎng)絡(luò)安全從業(yè)者每周工作時(shí)間超40個(gè)小時(shí)。其中，33.8%的從業(yè)者每周工作41-50小時(shí)，22.2%每周工作51-60小時(shí)。因工作性質(zhì)原因，網(wǎng)絡(luò)安全從業(yè)者需要時(shí)刻保持警惕，隨時(shí)應(yīng)對可能或已經(jīng)發(fā)生的網(wǎng)絡(luò)安全漏洞和風(fēng)險(xiǎn)，因此工作強(qiáng)度較高，加班情況較為普遍。

五、AI安全未來展望

《中華人民共和國數(shù)據(jù)安全法》于2021年9月開始實(shí)施，該法律規(guī)定，開展數(shù)據(jù)活 動(dòng)，應(yīng)當(dāng)遵守法律、法規(guī)、尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實(shí) 守信，旅行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會(huì)責(zé)任，不得危害國家安全、公共利益，不 得損害個(gè)人、組織的合法權(quán)益。該法律為我國數(shù)據(jù)安全領(lǐng)域的基礎(chǔ)性法律，其完善 了國家數(shù)據(jù)安全工作體制機(jī)制，標(biāo)志著我國在數(shù)據(jù)安全領(lǐng)域有法可依，為各行業(yè)數(shù) 據(jù)安全提供監(jiān)管依據(jù)。

數(shù)據(jù)安全是以數(shù)據(jù)為中心的安全體系。數(shù)據(jù)安全主要產(chǎn)品包括：數(shù)據(jù)安全治理、分類分級、 個(gè)人隱私保護(hù)、數(shù)據(jù)庫安全、數(shù)據(jù)脫敏等。同時(shí)，《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法 律的出臺也將驅(qū)動(dòng)我國數(shù)據(jù)安全市場的發(fā)展。我們認(rèn)為，數(shù)據(jù)安全相關(guān)的體系建設(shè)與規(guī)劃、 數(shù)據(jù)分類分級等咨詢服務(wù)有望迎來黃金發(fā)展期。 數(shù)說安全研究院指出，2021 年我國數(shù)據(jù)安全市場規(guī)模約為 53 億元，同比增長 30.7%。

面對人工智能技術(shù)發(fā)展帶來的新機(jī)遇和新挑戰(zhàn)，如何應(yīng)對人工智能風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動(dòng)，有效保障國家安全，是全球國家安全治理的重要議題。10月18日，習(xí)近平總書記在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布，中方將提出《全球人工智能治理倡議》。《倡議》圍繞人工智能發(fā)展、安全和治理三個(gè)方面系統(tǒng)闡述了人工智能治理的中國方案。我們要保持戰(zhàn)略定力，增強(qiáng)戰(zhàn)略信心，統(tǒng)籌人工智能發(fā)展與安全，穩(wěn)妥應(yīng)對各種風(fēng)險(xiǎn)挑戰(zhàn)，為人工智能注入更多“安全基因”。　　近年來，隨著人工智能技術(shù)的快速發(fā)展，AI安全問題日益突出，各國政府紛紛出臺政策加強(qiáng)AI安全監(jiān)管。我國政府也高度重視AI安全問題，出臺了一系列政策和措施，以保障AI安全和可控。其中，2022年國務(wù)院發(fā)布的《新一代信息技術(shù)產(chǎn)業(yè)發(fā)展規(guī)劃(2021-2025年)》明確提出要加強(qiáng)AI安全監(jiān)管，強(qiáng)化AI安全技術(shù)研發(fā)和應(yīng)用，加強(qiáng)AI安全風(fēng)險(xiǎn)防范。此外，工信部、公安部等部門也發(fā)布了一系列政策和指導(dǎo)意見，要求加強(qiáng)AI安全管理和監(jiān)管，推動(dòng)AI安全技術(shù)研發(fā)和應(yīng)用，提升AI安全保障能力。

支持以人工智能技術(shù)防范人工智能風(fēng)險(xiǎn)，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用，貫徹敏捷治理和多維治理原則，積極構(gòu)建多方參與的人工智能治理體系。

國家安全機(jī)關(guān)將強(qiáng)化科技賦能、數(shù)字賦能，不斷推進(jìn)國家安全體系和能力現(xiàn)代化，為應(yīng)對人工智能的風(fēng)險(xiǎn)挑戰(zhàn)筑牢國家安全屏障。

未來幾年，AI安全市場將持續(xù)增長。隨著技術(shù)的進(jìn)步和法規(guī)的完善，AI安全將更加重視預(yù)防措施，實(shí)現(xiàn)從被動(dòng)防御向主動(dòng)預(yù)防的轉(zhuǎn)變。同時(shí)，隨著AI應(yīng)用的深入，AI安全的需求將更加廣泛和多樣化，為行業(yè)發(fā)展提供更多機(jī)遇。企業(yè)需抓住機(jī)遇，加強(qiáng)技術(shù)創(chuàng)新和人才培養(yǎng)，以應(yīng)對日益嚴(yán)峻的AI安全挑戰(zhàn)。

未來，隨著信息安全的邊界不斷延伸，AI安全行業(yè)產(chǎn)業(yè)需求將持續(xù)增長。我國AI安全行業(yè)市場規(guī)模持續(xù)增長，AI安全行業(yè)年復(fù)合增長率達(dá)到14.57%，市場規(guī)模從402.5億元增長至528.4億元。

AI安全行業(yè)研究報(bào)告旨在從國家經(jīng)濟(jì)和產(chǎn)業(yè)發(fā)展的戰(zhàn)略入手，預(yù)測未來業(yè)務(wù)的市場前景，以幫助客戶撥開政策迷霧，尋找行業(yè)的投資商機(jī)。AI安全行業(yè)報(bào)告在大量的分析、預(yù)測的基礎(chǔ)上，研究了行業(yè)今后的發(fā)展與投資策略，為企業(yè)在激烈的市場競爭中洞察先機(jī)，根據(jù)AI安全行業(yè)市場需求及時(shí)調(diào)整經(jīng)營策略，為戰(zhàn)略投資者選擇恰當(dāng)?shù)耐顿Y時(shí)機(jī)和公司領(lǐng)導(dǎo)層做戰(zhàn)略規(guī)劃提供了準(zhǔn)確的AI安全行業(yè)市場情報(bào)信息及科學(xué)的決策依據(jù)。

AI安全市場調(diào)研如何?未來該行業(yè)市場機(jī)會(huì)在哪?更多行業(yè)具體詳情可以點(diǎn)擊查看中研普華產(chǎn)業(yè)研究院的報(bào)告《2022-2027年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報(bào)告》。

• 相關(guān)深度報(bào)告REPORTS

  

  2022-2027年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報(bào)告

  AI安全行業(yè)研究報(bào)告中的AI安全行業(yè)數(shù)據(jù)分析以權(quán)威的國家統(tǒng)計(jì)數(shù)據(jù)為基礎(chǔ)，采用宏觀和微觀相結(jié)合的分析方式，利用科學(xué)的統(tǒng)計(jì)分析方法，在描述行業(yè)概貌的同時(shí)，對AI安全行業(yè)進(jìn)行細(xì)化分析，重點(diǎn)企業(yè)...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡