國家網(wǎng)信辦：生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估

• 吳澳燕 2023年4月13日 來源：互聯(lián)網(wǎng) 537 29
• 繁體

《征求意見稿》要求，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！墩髑笠庖姼濉分赋觯瑖抑С秩斯ぶ悄芩惴?、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)。

國家網(wǎng)信辦：生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估

4月11日，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(簡稱《征求意見稿》)公開征求意見，其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估。

《征求意見稿》要求，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》強(qiáng)調(diào)，提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息。提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制，及時處置個人關(guān)于更正、刪除、屏蔽其個人信息的請求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個人隱私、商業(yè)秘密，或者不符合本辦法要求時，應(yīng)當(dāng)采取措施，停止生成，防止危害持續(xù)。

根據(jù)中研普華產(chǎn)業(yè)研究院發(fā)布的《2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告》顯示：

伴隨元宇宙技術(shù)的發(fā)展和產(chǎn)業(yè)數(shù)字化升級，數(shù)字人正在成為下一代互聯(lián)網(wǎng)的基礎(chǔ)設(shè)施。與此同時，AI的應(yīng)用場景也愈加豐富。人工智能生產(chǎn)數(shù)字內(nèi)容(AIGC)風(fēng)潮漸盛，應(yīng)用前景廣闊，具有內(nèi)容生產(chǎn)能力的數(shù)字人將在未來的數(shù)字化應(yīng)用場景下占據(jù)更大優(yōu)勢。

AIGC即AI Generated Content，是指利用人工智能技術(shù)來生成內(nèi)容，AIGC也被認(rèn)為是繼UGC、PGC之后的新型內(nèi)容生產(chǎn)方式，AI繪畫、AI寫作等都屬于AIGC的分支。

未來5年，AI繪畫在圖像內(nèi)容生成領(lǐng)域的滲透率將達(dá)到10%-30%，市場規(guī)模超600億元的新興市場將吸引更多企業(yè)和資本，創(chuàng)造更大的市場價值。

AI繪畫行業(yè)發(fā)展如何

最初，AIGC可生成的內(nèi)容形式以文字為主，經(jīng)過2022年指數(shù)級的發(fā)展增速，目前，除了AI繪圖，AIGC技術(shù)可生成的內(nèi)容形式已經(jīng)拓展到了包括文宇、圖像、視頻、語音、代碼、機(jī)器人動作等多種內(nèi)容形式。2022年也因此被稱為“AIGC元年”。紅杉資本9月份發(fā)布的一篇文章提到，生成式AI，讓機(jī)器開始大規(guī)模涉足知識類和創(chuàng)造性工作，這涉及數(shù)十億人的工作，未來預(yù)計能夠產(chǎn)生數(shù)萬億美元的經(jīng)濟(jì)價值。

AIGC在消費(fèi)互聯(lián)網(wǎng)、產(chǎn)業(yè)互聯(lián)網(wǎng)和社會價值領(lǐng)域持續(xù)產(chǎn)生變革性影響，目前的爆發(fā)點(diǎn)主要是在內(nèi)容消費(fèi)領(lǐng)域，已經(jīng)呈現(xiàn)百花齊放之勢。AIGC生成的內(nèi)容種類越來越豐富，而且內(nèi)容質(zhì)量也在顯著提升，產(chǎn)業(yè)生態(tài)日益豐富。AIGC有望成為新型的內(nèi)容生產(chǎn)基礎(chǔ)設(shè)施，塑造數(shù)字內(nèi)容生產(chǎn)與交互新范式，持續(xù)推進(jìn)數(shù)字文化產(chǎn)業(yè)創(chuàng)新。AIGC還將作為生產(chǎn)力工具，不斷推動聊天機(jī)器人、數(shù)字人、元宇宙等領(lǐng)域發(fā)展。

從發(fā)展歷程來看，我國AI繪畫產(chǎn)業(yè)的發(fā)展以核心技術(shù)的突破為依托。尤其是近五年來，行業(yè)進(jìn)入快速發(fā)展時期，其標(biāo)志就是眾多關(guān)鍵技術(shù)全面到位。比如在2017年，AI圖像生成、自動生成唇形視頻、圖像高清化、圖像編輯、圖像風(fēng)格遷移、wavnet語音合成等技術(shù)快速發(fā)展，就為AI內(nèi)容創(chuàng)作等多個領(lǐng)域奠定了基礎(chǔ)。近幾年來，從預(yù)訓(xùn)練語言模型、生成式對抗網(wǎng)絡(luò)，越來越多核心技術(shù)得到突破。

目前來說，AI繪畫市場的核心用戶中超8成依然來自興趣用戶，除了大學(xué)生作為市場主體之外，包括產(chǎn)品設(shè)計師、工業(yè)設(shè)計師、視覺設(shè)計師、插畫師、游戲原畫師在內(nèi)的專業(yè)級用戶，數(shù)量占市場用戶規(guī)模的20%左右。

盡管產(chǎn)業(yè)概念不斷升溫，用戶規(guī)模持續(xù)擴(kuò)容，但國內(nèi)AI繪畫依然處于起步階段，AI繪畫創(chuàng)作的內(nèi)容還是以簡單的圖片內(nèi)容為主，距離“解放內(nèi)容生產(chǎn)力”的行業(yè)目標(biāo)還有一定的距離。尤其是在技術(shù)、產(chǎn)品和場景領(lǐng)域，行業(yè)還存在很多短板，要想實(shí)現(xiàn)大規(guī)模商業(yè)化推廣，還需要解決一系列問題。

比如在成本方面，現(xiàn)有AI繪畫工具在生成高清圖片素材時，訓(xùn)練的時間及服務(wù)開銷非常大，這直接影響了市場推廣。再說產(chǎn)品效果方面，AI繪畫對于文本的標(biāo)準(zhǔn)要求很高，制作高質(zhì)量的AI作品并不容易，其業(yè)務(wù)價值、藝術(shù)價值也需要專業(yè)評估和考驗(yàn)。此外，現(xiàn)階段AI繪畫在版權(quán)歸屬、素材審核等方面還存在問題，AI“入侵”藝術(shù)創(chuàng)作領(lǐng)域等問題的爭議依然存在。對于內(nèi)容創(chuàng)作者以及產(chǎn)業(yè)鏈相關(guān)企業(yè)來說，如何在保證產(chǎn)品效果的基礎(chǔ)上實(shí)現(xiàn)差異化發(fā)展商業(yè)化落地，將成為產(chǎn)業(yè)高質(zhì)量發(fā)展的關(guān)鍵。

目前，通過深度學(xué)習(xí)和圖像處理技術(shù), AI已經(jīng)在圖像識別、圖像合成、人臉識別、視頻分析、語音識別等多個領(lǐng)域都取得了巨大進(jìn)步。隨著深度學(xué)習(xí)技術(shù)的快速應(yīng)用，將給人工智能帶來更大的想象空間，尤其是在圖像識別、視頻分析等領(lǐng)域，將會有巨大的進(jìn)步。但在 AI繪畫方面, AI還需要不斷的探索，提升效率，從而滿足更多領(lǐng)域的需求。

更多行業(yè)詳情請點(diǎn)擊中研普華產(chǎn)業(yè)研究院發(fā)布的《2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告》。

• 相關(guān)深度報告REPORTS

  

  2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告

  AI的繪畫原理是類似于人類的寫生，不過這里所說的“AI”不是普通的 AI,而是“AI+ CAD”。在傳統(tǒng)的 CAD軟件中, CAD是用來繪畫的，在 CAD軟件中，模型首先被輸入到電腦中，在電腦中通過投影...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡