AI安全市場(chǎng)前景如何 AI安全行業(yè)市場(chǎng)發(fā)展分析2023

• 方蔓桃 2023年4月25日 來源：百度 521 28
• 繁體

日前，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《征求意見稿》)公開征求意見，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估和算法備案。從去年紅極一時(shí)的AI繪畫到近期備受關(guān)注的ChatGPT，人工智能生成內(nèi)容(以下簡(jiǎn)稱“AIGCA

AI安全市場(chǎng)前景如何 ?我國(guó)人工智能產(chǎn)業(yè)正在與實(shí)體經(jīng)濟(jì)深度融合，成為經(jīng)濟(jì)社會(huì)發(fā)展新的增長(zhǎng)引擎。國(guó)家先后出臺(tái)《新一代人工智能發(fā)展規(guī)劃》《科技部關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場(chǎng)景的通知》等政策，助力人工智能產(chǎn)業(yè)發(fā)展。中國(guó)信通院測(cè)算，2022年我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元，同比增長(zhǎng)18%。據(jù)預(yù)測(cè)，到2030年，我國(guó)人工智能產(chǎn)業(yè)規(guī)模將達(dá)到1萬(wàn)億元。

日前，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《征求意見稿》)公開征求意見，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估和算法備案。從去年紅極一時(shí)的AI繪畫到近期備受關(guān)注的ChatGPT，人工智能生成內(nèi)容(以下簡(jiǎn)稱“AIGC”)熱度不減。然而，伴隨著AIGC應(yīng)用的不斷落地，其暴露出來的數(shù)據(jù)安全、隱私保護(hù)等問題也日益顯現(xiàn)。

據(jù)中研普華產(chǎn)業(yè)研究院出版的《2022-2027年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》統(tǒng)計(jì)分析顯示：

AI安全行業(yè)市場(chǎng)分析

信息技術(shù)推動(dòng)了萬(wàn)物互聯(lián)，也極大地推動(dòng)世界向更高效、環(huán)保、便捷的方向前進(jìn)。特別是大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、人工智能等信息技術(shù)迅速發(fā)展，與實(shí)體經(jīng)濟(jì)各行業(yè)領(lǐng)域進(jìn)行深入交叉融合。

隨著人工智能技術(shù)在金融場(chǎng)景的應(yīng)用不斷深化，數(shù)據(jù)、算法與應(yīng)用層的安全可控問題逐漸凸顯。當(dāng)前數(shù)據(jù)安全問題仍然十分嚴(yán)峻，特別是信息惡意獲取、篡改、偽造和亂用，成本級(jí)低，大規(guī)模的數(shù)據(jù)泄漏時(shí)有發(fā)生，數(shù)據(jù)安全應(yīng)得到全世界的廣泛關(guān)注。

2022年全球人工智能收入預(yù)計(jì)同比增長(zhǎng)19.6%，達(dá)到4328億美元，包括軟件、硬件和服務(wù)。預(yù)計(jì)2023年可突破5000億美元大關(guān)。

AIGC是基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的人工智能技術(shù)。據(jù)Gartner預(yù)測(cè)，到2025年，AIGC將占所有生成數(shù)據(jù)的10%。

由于AIGC技術(shù)需要大量的數(shù)據(jù)來進(jìn)行訓(xùn)練和優(yōu)化，以ChatGPT為例，GPT3直接把數(shù)據(jù)模型參數(shù)量從15億提升到1750億，接近了人腦中神經(jīng)連接的數(shù)量水平。然而，海量的數(shù)據(jù)也暴露出了更大的數(shù)據(jù)安全風(fēng)險(xiǎn)。

研報(bào)指出，生成型人工智能可能在獲取數(shù)據(jù)時(shí)侵犯知識(shí)產(chǎn)權(quán)，在數(shù)據(jù)獲取與保存上存在一定法律風(fēng)險(xiǎn)，生成內(nèi)容被濫用可能帶來巨大的伴生風(fēng)險(xiǎn)。

在人工智能軟件分支行業(yè)，人工智能應(yīng)用程序占2021年上半年支出的47%，其次是人工智能系統(tǒng)基礎(chǔ)設(shè)施軟件(35%)。在增長(zhǎng)方面，人工智能平臺(tái)預(yù)計(jì)表現(xiàn)最佳，五年復(fù)合增長(zhǎng)率為34.6%。增長(zhǎng)最慢的部分是人工智能系統(tǒng)基礎(chǔ)設(shè)施軟件，其五年復(fù)合增長(zhǎng)率為14.1%。

在AI應(yīng)用程序分支，AI ERM預(yù)計(jì)在未來幾年內(nèi)保持最快的增長(zhǎng)速度。人工智能生命周期軟件五年年均復(fù)合增長(zhǎng)率為38.9%。

數(shù)據(jù)、算力、算法和知識(shí)、運(yùn)用、理論六個(gè)要素彼此依賴，共同構(gòu)成了我國(guó)人工智能2.0發(fā)展的新生態(tài)。其中，數(shù)據(jù)的地位不言自明。

然而，在人工智能不斷走入人們的工作和生活場(chǎng)景時(shí)，數(shù)據(jù)的采集、存儲(chǔ)和應(yīng)用也越來越面臨諸多風(fēng)險(xiǎn)。概括來說，數(shù)據(jù)安全問題體現(xiàn)在五個(gè)方面：可復(fù)制、易泄露、來源廣、危害大、監(jiān)管難，這是由數(shù)據(jù)的特性決定的。

在具體危害表現(xiàn)上，一方面，最常見的是對(duì)數(shù)據(jù)保密性的侵害，如在金融領(lǐng)域，通過網(wǎng)絡(luò)竊取人工智能系統(tǒng)用戶的交易賬單、理財(cái)情況來了解其個(gè)人資產(chǎn)狀況和基于在線行為的支付意愿，從而快速有效地定位金融詐騙的受害者和目標(biāo)群體;或是通過各種網(wǎng)絡(luò)漏洞，竊取大量用戶的指紋、虹膜、面孔、身形等個(gè)人隱私信息數(shù)據(jù)用于犯罪;也有一些手機(jī)應(yīng)用軟件違法違規(guī)收集用戶個(gè)人信息等用于商業(yè)目的。

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革正在萌發(fā)，在5G、大數(shù)據(jù)、云計(jì)算、深度學(xué)習(xí)等新技術(shù)的共同驅(qū)動(dòng)下，人工智能(AI)作為新型基礎(chǔ)設(shè)施的重要戰(zhàn)略性技術(shù)加速發(fā)展，并與社會(huì)各行各業(yè)創(chuàng)新融合，引發(fā)鏈?zhǔn)阶兏铩Ｌ貏e是在網(wǎng)絡(luò)空間安全防護(hù)領(lǐng)域，人工智能在威脅識(shí)別、態(tài)勢(shì)感知、風(fēng)險(xiǎn)評(píng)分、惡意檢測(cè)、不良信息治理、騷擾詐騙電話檢測(cè)、灰黑產(chǎn)識(shí)別等方面有其獨(dú)特的價(jià)值和優(yōu)勢(shì)，應(yīng)用需求呈現(xiàn)跨越式發(fā)展，產(chǎn)生了顯著的溢出效應(yīng)。

AI安全行業(yè)市場(chǎng)發(fā)展前景分析

作為數(shù)字時(shí)代“抵御風(fēng)險(xiǎn)”的關(guān)鍵能力，AI安全可信技術(shù)的研究和應(yīng)用，將被廣泛地應(yīng)用于反欺詐、反洗錢、反賭博、數(shù)字身份識(shí)別、企業(yè)聯(lián)合風(fēng)控等領(lǐng)域，極大地助力企業(yè)提升風(fēng)險(xiǎn)控制能力。

AI安全作為新型基礎(chǔ)設(shè)施的重要戰(zhàn)略性技術(shù)加速發(fā)展，并與社會(huì)各行各業(yè)創(chuàng)新融合，引發(fā)鏈?zhǔn)阶兏?。特別是在網(wǎng)絡(luò)空間安全防護(hù)領(lǐng)域，人工智能在威脅識(shí)別、態(tài)勢(shì)感知、風(fēng)險(xiǎn)評(píng)分、惡意檢測(cè)、不良信息治理、騷擾詐騙電話檢測(cè)、灰黑產(chǎn)識(shí)別等方面有其獨(dú)特的價(jià)值和優(yōu)勢(shì)，應(yīng)用需求呈現(xiàn)跨越式發(fā)展，產(chǎn)生了顯著的溢出效應(yīng)。

目前隱私計(jì)算技術(shù)提供方的商業(yè)模式主要分為平臺(tái)建設(shè)與數(shù)據(jù)運(yùn)營(yíng)兩大類。在未來，平臺(tái)建設(shè)不僅可以在現(xiàn)有的金融、通信、政務(wù)等核心行業(yè)的基礎(chǔ)上繼續(xù)擴(kuò)大，也可以在醫(yī)療、能源、交通等創(chuàng)新領(lǐng)域進(jìn)行拓展。對(duì)于數(shù)據(jù)運(yùn)營(yíng)而言，從傳統(tǒng)數(shù)據(jù)集或API調(diào)用轉(zhuǎn)向隱私計(jì)算模式進(jìn)行升級(jí)改造將是未來的發(fā)展趨勢(shì)。根據(jù)這兩類商業(yè)模式的相關(guān)數(shù)據(jù)進(jìn)行測(cè)算，預(yù)計(jì)到2025年我國(guó)隱私計(jì)算市場(chǎng)規(guī)模將達(dá)到百億元。

2023年1月10日，360天樞智庫(kù)、天津智慧城市數(shù)字安全研究院、網(wǎng)絡(luò)空間國(guó)際治理研究中心三方聯(lián)合發(fā)布《全球人工智能安全治理》報(bào)告，報(bào)告站在全球視角的宏觀高度縱覽、分析和解讀人工智能安全治理問題，提出人工智能發(fā)展面臨十大安全挑戰(zhàn)，旨在探索既能發(fā)揮人工智能技術(shù)效益，又能控制其安全風(fēng)險(xiǎn)和負(fù)面影響的治理之道，是中國(guó)學(xué)術(shù)界和產(chǎn)業(yè)界對(duì)人工智能發(fā)展與安全的一次思想碰撞與深度探索，對(duì)人工智能安全治理具有積極指導(dǎo)意義。

在人工智能加速智能化變革的同時(shí)，針對(duì)人工智能的倫理規(guī)范、風(fēng)險(xiǎn)框架、以及治理理念和模式的探索成為各國(guó)學(xué)術(shù)界和政策界的重點(diǎn)工作。360首席安全官、天津智慧城市數(shù)字安全研究院院長(zhǎng)杜躍進(jìn)稱，人工智能作為中、美、歐等國(guó)家或地區(qū)都在積極發(fā)展的關(guān)鍵新興技術(shù)，其在發(fā)展過程中所產(chǎn)生的安全挑戰(zhàn)也更為復(fù)雜多元，世界主要國(guó)家和地區(qū)已經(jīng)將安全治理列為各自人工智能戰(zhàn)略的優(yōu)先事項(xiàng)。

目前，各國(guó)普遍關(guān)注的人工智能安全問題共十類，包括網(wǎng)絡(luò)安全問題、企業(yè)合規(guī)問題、可解釋性問題、隱私安全問題、聲譽(yù)和倫理問題、未來勞動(dòng)力問題、公平性問題、人身安全問題、社會(huì)穩(wěn)定問題、以及國(guó)家安全問題。而以上挑戰(zhàn)映射到人工智能的研發(fā)和應(yīng)用過程，又可以劃分為人工智能自身安全、衍生安全、以及人工智能賦能安全等核心安全挑戰(zhàn)。

在國(guó)家層面，需要進(jìn)一步強(qiáng)化相關(guān)政策引導(dǎo)和立法規(guī)范。中國(guó)信息經(jīng)濟(jì)學(xué)會(huì)副理事長(zhǎng)、廣州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授齊佳音表示，《征求意見稿》為AIGC的研發(fā)和應(yīng)用第一次立了規(guī)矩，使得AIGC的研發(fā)和應(yīng)用有了規(guī)制框架，對(duì)于規(guī)范和引導(dǎo)這一領(lǐng)域的發(fā)展具有十分重要的積極作用。

報(bào)告顯示，作為一種數(shù)字技術(shù)，人工智能“雙刃劍”特征明顯，不僅自身存在數(shù)字安全威脅和隱患，隨著人工智能工程化、場(chǎng)景化、平臺(tái)化落地不斷加快，人工智能安全需求已經(jīng)超越單純技術(shù)范疇。面對(duì)日趨復(fù)雜的安全挑戰(zhàn)，人工智能安全治理難以一蹴而就，只有在實(shí)踐中不斷摸索，才能將人工智能安全風(fēng)險(xiǎn)遏制在可控范圍。

報(bào)告對(duì)各國(guó)人工智能安全治理模式進(jìn)行了深入剖析，針對(duì)上述問題，報(bào)告主要發(fā)現(xiàn)：美國(guó)流派在人工智能安全治理上采取的手段是在人工智能技術(shù)部署、使用與監(jiān)測(cè)的全過程中都進(jìn)行驗(yàn)證與監(jiān)管，建立與之配套的規(guī)范體系;歐盟流派則更寄希望于運(yùn)用監(jiān)管框架與信任體系來對(duì)人工智能的安全進(jìn)行規(guī)制，其規(guī)制更傾向于人權(quán)方向;相較美國(guó)與歐盟，中國(guó)流派的人工智能安全治理致力于形成內(nèi)含研發(fā)、管理和應(yīng)用的全流程安全保障體系，涵蓋基礎(chǔ)框架研制、基本安全原則、供應(yīng)鏈管理實(shí)踐指南、安全服務(wù)能力、應(yīng)用領(lǐng)域的標(biāo)準(zhǔn)研制等各個(gè)方面。

隨著AI安全行業(yè)競(jìng)爭(zhēng)的不斷加劇，大型企業(yè)間并購(gòu)整合與資本運(yùn)作日趨頻繁，國(guó)內(nèi)外優(yōu)秀的AI安全企業(yè)愈來愈重視對(duì)行業(yè)市場(chǎng)的分析研究，特別是對(duì)當(dāng)前市場(chǎng)環(huán)境和客戶需求趨勢(shì)變化的深入研究，以期提前占領(lǐng)市場(chǎng)，取得先發(fā)優(yōu)勢(shì)。正因?yàn)槿绱?，一大批?yōu)秀品牌迅速崛起，逐漸成為行業(yè)中的翹楚。中研普華利用多種獨(dú)創(chuàng)的信息處理技術(shù)，對(duì)AI安全行業(yè)市場(chǎng)海量的數(shù)據(jù)進(jìn)行采集、整理、加工、分析、傳遞，為客戶提供一攬子信息解決方案和咨詢服務(wù)，最大限度地降低客戶投資風(fēng)險(xiǎn)與經(jīng)營(yíng)成本，把握投資機(jī)遇，提高企業(yè)競(jìng)爭(zhēng)力。

本報(bào)告利用中研普華長(zhǎng)期對(duì)AI安全行業(yè)市場(chǎng)跟蹤搜集的一手市場(chǎng)數(shù)據(jù)，同時(shí)依據(jù)國(guó)家統(tǒng)計(jì)局、國(guó)家商務(wù)部、國(guó)家發(fā)改委、國(guó)務(wù)院發(fā)展研究中心、行業(yè)協(xié)會(huì)、中國(guó)行業(yè)研究網(wǎng)、全國(guó)及海外專業(yè)研究機(jī)構(gòu)提供的大量權(quán)威資料，采用與國(guó)際同步的科學(xué)分析模型，全面而準(zhǔn)確地為您從行業(yè)的整體高度來架構(gòu)分析體系。讓您全面、準(zhǔn)確地把握整個(gè)AI安全行業(yè)的市場(chǎng)走向和發(fā)展趨勢(shì)。

未來行業(yè)市場(chǎng)發(fā)展前景和投資機(jī)會(huì)在哪?欲了解更多關(guān)于行業(yè)具體詳情可以點(diǎn)擊查看中研普華產(chǎn)業(yè)研究院的報(bào)告《2022-2027年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》。報(bào)告對(duì)行業(yè)相關(guān)各種因素進(jìn)行具體調(diào)查、研究、分析，洞察行業(yè)今后的發(fā)展方向、行業(yè)競(jìng)爭(zhēng)格局的演變趨勢(shì)以及技術(shù)標(biāo)準(zhǔn)、市場(chǎng)規(guī)模、潛在問題與行業(yè)發(fā)展的癥結(jié)所在，評(píng)估行業(yè)投資價(jià)值、效果效益程度，提出建設(shè)性意見建議，為行業(yè)投資決策者和企業(yè)經(jīng)營(yíng)者提供參考依據(jù)。

• 相關(guān)深度報(bào)告REPORTS

  

  2022-2027年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告

  AI安全行業(yè)研究報(bào)告中的AI安全行業(yè)數(shù)據(jù)分析以權(quán)威的國(guó)家統(tǒng)計(jì)數(shù)據(jù)為基礎(chǔ)，采用宏觀和微觀相結(jié)合的分析方式，利用科學(xué)的統(tǒng)計(jì)分析方法，在描述行業(yè)概貌的同時(shí)，對(duì)AI安全行業(yè)進(jìn)行細(xì)化分析，重點(diǎn)企業(yè)...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡