AI安全行業(yè)分析2024：AI安全風(fēng)險(xiǎn)陡增迅速成全球業(yè)界共識(shí)

• 陳觀秋 2024年1月19日 來(lái)源：北京商報(bào) 中新網(wǎng) 百度 1437 95
• 繁體

近年來(lái)，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險(xiǎn)，數(shù)字安全風(fēng)險(xiǎn)進(jìn)入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險(xiǎn)陡增迅速成為全球業(yè)界的一致共識(shí)，AI安全成為主流的安全關(guān)切，并逐漸形成了一個(gè)新的安全技術(shù)研究領(lǐng)域

人臉識(shí)別、語(yǔ)音識(shí)別、智能算法推送……當(dāng)前，人工智能(AI)技術(shù)加速融入社會(huì)生活，2023年年初，ChatGPT更是以其豐富的知識(shí)與出色的自然語(yǔ)言交互能力，引起了現(xiàn)象級(jí)的關(guān)注。伴隨著智能產(chǎn)業(yè)的蓬勃發(fā)展，各式各樣的海量數(shù)據(jù)也在人們的生活中被大量收集、存儲(chǔ)和利用。數(shù)據(jù)安全和隱私保護(hù)問(wèn)題由此成為人工智能系統(tǒng)在開(kāi)發(fā)和應(yīng)用中面臨的嚴(yán)峻挑戰(zhàn)。

AI安全風(fēng)險(xiǎn)陡增迅速成全球業(yè)界共識(shí)

近年來(lái)，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險(xiǎn)，數(shù)字安全風(fēng)險(xiǎn)進(jìn)入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險(xiǎn)陡增迅速成為全球業(yè)界的一致共識(shí)，AI安全成為主流的安全關(guān)切，并逐漸形成了一個(gè)新的安全技術(shù)研究領(lǐng)域。

隨著人工智能發(fā)展加速，由此引發(fā)的問(wèn)題逐漸擺上臺(tái)面。

AI技術(shù)的應(yīng)用給我們帶來(lái)了許多便利，但同時(shí)也引來(lái)了一系列的安全隱患。AI安全工作組的成立加強(qiáng)對(duì)AI技術(shù)安全的研究和防護(hù)，保障人們?cè)谑褂肁I技術(shù)時(shí)的安全和隱私。

2023年6月，歐洲議會(huì)通過(guò)了《AI法案》授權(quán)草案，草案內(nèi)容包括用于監(jiān)督人工智能基礎(chǔ)模型的分級(jí)管理辦法。

2023年10月，由中國(guó)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)組織，面向社會(huì)公開(kāi)征求《生成式人工智能服務(wù)安全基本要求》意見(jiàn)。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計(jì)劃。

2023年11月，英國(guó)全球第一屆人工智能安全峰會(huì)在英國(guó)召開(kāi)，與會(huì)各國(guó)討論了當(dāng)下全球人工智能治理的問(wèn)題。中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)參會(huì)并在峰會(huì)開(kāi)幕式上發(fā)表講話，并在會(huì)后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關(guān)于有必要監(jiān)管AI發(fā)展的全球聲明”。

斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報(bào)告》中提到，對(duì)127個(gè)國(guó)家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過(guò)成為法律的數(shù)量，從2016年的僅1個(gè)增長(zhǎng)到2022年的37個(gè)。該報(bào)告對(duì)自2016年以來(lái)81個(gè)國(guó)家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。

據(jù)中研產(chǎn)業(yè)研究院《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》分析：

事實(shí)上，為了應(yīng)對(duì)AI安全風(fēng)險(xiǎn)，我國(guó)從業(yè)機(jī)構(gòu)已經(jīng)開(kāi)始探索安全科技以加強(qiáng)AI技術(shù)的潛在風(fēng)險(xiǎn)研判和防范。例如，2023年9月，螞蟻集團(tuán)推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測(cè)平臺(tái)“蟻鑒2.0”和大模型風(fēng)險(xiǎn)防御平臺(tái)“天鑒”，為大規(guī)模AI模型的安全保障帶來(lái)了全新的突破。

談及安全科技在防范AI風(fēng)險(xiǎn)方面的實(shí)際價(jià)值，螞蟻集團(tuán)副總裁、大安全事業(yè)群總裁趙聞飆指出，安全科技具有“壓艙石”與“助燃劑”的兩重價(jià)值?！皦号撌敝傅氖鞘刈〖夹g(shù)的安全底線，防御外部風(fēng)險(xiǎn)隱患，讓技術(shù)“難作惡”，支撐數(shù)字社會(huì)穩(wěn)步運(yùn)行;“助燃劑”則體現(xiàn)在提高技術(shù)的安全上限，降低技術(shù)運(yùn)行的成本，讓產(chǎn)業(yè)煥發(fā)新機(jī)，讓更多人受益。

呂鵬認(rèn)為，人工智能和安全科技將是未來(lái)有且只有的兩項(xiàng)通用技術(shù)，人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù)，能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進(jìn)一步實(shí)現(xiàn)智能化，成為未來(lái)的“發(fā)動(dòng)機(jī)”;而安全科技將作為“方向盤(pán)”，始終將各種新興科技控制在向善的道路。

我國(guó)安全科技市場(chǎng)處于爆發(fā)式增長(zhǎng)階段

近年來(lái)，我國(guó)安全科技市場(chǎng)處于爆發(fā)式增長(zhǎng)階段，涌現(xiàn)出了一大批新的安全技術(shù)，包括了區(qū)塊鏈、隱私計(jì)算、對(duì)抗智能、量子計(jì)算等前沿技術(shù)。根據(jù)2023年7月IPRdaily發(fā)布的《安全科技專(zhuān)利報(bào)告》顯示，中國(guó)是全球安全科技發(fā)明專(zhuān)利最大布局國(guó)家，專(zhuān)利申請(qǐng)數(shù)為第二名美國(guó)的2.23倍;安全科技專(zhuān)利申請(qǐng)數(shù)前十名的申請(qǐng)主體中，中國(guó)企業(yè)占七席，螞蟻集團(tuán)、華為公司、騰訊集團(tuán)位居前三。

1月18日，中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院聯(lián)合螞蟻集團(tuán)在京對(duì)外發(fā)布《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》。

中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院執(zhí)行院長(zhǎng)呂鵬在發(fā)布報(bào)告時(shí)表示，數(shù)字化安全風(fēng)險(xiǎn)進(jìn)入了快迭代、高智能、全覆蓋的新格局。尤其2022年底AI大模型橫空出世，大大推進(jìn)了深度智能時(shí)代的到來(lái)，對(duì)安全局面的影響也是顛覆性的。在這樣的大背景下，提高社會(huì)對(duì)于安全科技的認(rèn)知、重視與參與，非常有必要，這也是報(bào)告的核心議題。

報(bào)告提出，未來(lái)，安全科技將成為社會(huì)的“公共品”，是技術(shù)向善的關(guān)鍵保障，盡早對(duì)它進(jìn)行投入，將有助于掌握新興技術(shù)發(fā)展與產(chǎn)業(yè)迭代的主動(dòng)權(quán)。

報(bào)告對(duì)中國(guó)AI安全行業(yè)的內(nèi)外部環(huán)境、行業(yè)發(fā)展現(xiàn)狀、產(chǎn)業(yè)鏈發(fā)展?fàn)顩r、市場(chǎng)供需、競(jìng)爭(zhēng)格局、標(biāo)桿企業(yè)、發(fā)展趨勢(shì)、機(jī)會(huì)風(fēng)險(xiǎn)、發(fā)展策略與投資建議等進(jìn)行了分析，并重點(diǎn)分析了我國(guó)AI安全行業(yè)將面臨的機(jī)遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點(diǎn)擊查看中研普華研究報(bào)告《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》。

• 相關(guān)深度報(bào)告REPORTS

  

  2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告

  隨著AI安全行業(yè)競(jìng)爭(zhēng)的不斷加劇，大型企業(yè)間并購(gòu)整合與資本運(yùn)作日趨頻繁，國(guó)內(nèi)外優(yōu)秀的AI安全企業(yè)愈來(lái)愈重視對(duì)行業(yè)市場(chǎng)的分析研究，特別是對(duì)當(dāng)前市場(chǎng)環(huán)境和客戶(hù)需求趨勢(shì)變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡