周鴻祎：人工智能可以被污染 也叫“數(shù)據(jù)投毒”

• 2018年11月9日 YangJinZhu來源：DONEWS 691 40
• 繁體

• 

  在機遇與挑戰(zhàn)中把握IT咨詢行業(yè)趨勢，才能從中取勢得到更好的發(fā)展！

  IT咨詢也可稱為信息化咨詢，它是對企業(yè)進行一次全方位的系統(tǒng)改造，主要涉及企業(yè)管理模式設計、業(yè)務流程重組、信息化解決方案設計與管理軟件系統(tǒng)的實施應用。隨著國內(nèi)經(jīng)濟的發(fā)展，IT咨詢市場發(fā)展...

“人工智能在給我們帶來賦能的同時，自身的安全問題被忽視了，當前人工智能本質(zhì)上是數(shù)據(jù)智能，要防止數(shù)據(jù)投毒?！?1月8日，周鴻祎在烏鎮(zhèn)互聯(lián)網(wǎng)大會上重申了對未來網(wǎng)絡安全的謹慎態(tài)度。

“人工智能在給我們帶來賦能的同時，自身的安全問題被忽視了，當前人工智能本質(zhì)上是數(shù)據(jù)智能，要防止數(shù)據(jù)投毒。”11月8日，周鴻祎在烏鎮(zhèn)互聯(lián)網(wǎng)大會上重申了對未來網(wǎng)絡安全的謹慎態(tài)度。

人工智能在此次大會上依然是熱詞，有專家預測稱，2030年之前全球會有萬億計的智能設備連到互聯(lián)網(wǎng)上。隨著人工智能技術(shù)的發(fā)展，軟件定義一切，萬物皆要互聯(lián)，網(wǎng)絡安全也將產(chǎn)生巨大的威脅。

周鴻祎表示，人工智能是大數(shù)據(jù)訓練出來的，訓練的數(shù)據(jù)可以被污染，也叫“數(shù)據(jù)投毒”。比如，通過給智能汽車輸入“污染”過的訓練樣本，就可以把“禁止通行”的交通標志牌識別為“可以通行”，從而造成交通事故和人員傷亡。與此同時，人工智能識別數(shù)據(jù)的傳感器也可以被干擾。同樣是智能汽車，用激光筆對著無人駕駛車的激光雷達晃一晃，車就可能瞬間停下來，被后車追尾。另外，周鴻祎還表示，人工智能內(nèi)部復雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過，通過這種方式，家里的智能音響甚至可以變成竊聽器。

未來的世界是一個被軟件吞噬，充滿漏洞的世界，沒有固若金湯的防線。對網(wǎng)絡安全而言，同樣需要借助人工智能、大數(shù)據(jù)和云計算這些新技術(shù)的力量。在昨天的領(lǐng)先成果發(fā)布會上，360推出的“安全大腦”獲得世界互聯(lián)網(wǎng)領(lǐng)先科技成果獎。360“安全大腦”就是借助人工智能技術(shù)，依靠大數(shù)據(jù)偵測，從浩如煙海的數(shù)據(jù)中尋找蛛絲馬跡，識別異常的訪問和行為，然后進行溯源，最后交給安全專家進行決策。

另外，周鴻祎進一步解釋說，習主席提出沒有網(wǎng)絡安全就沒有國家安全，未來的軍事網(wǎng)絡、工業(yè)網(wǎng)絡，國防工業(yè)、政府網(wǎng)絡和個人網(wǎng)絡的安全實際是一個整體。這要求我們要用國家級的視野看待網(wǎng)絡安全，每個國家都要建自己國家級的網(wǎng)絡安全大數(shù)據(jù)系統(tǒng)，擁有國家級的視野，國家級的數(shù)據(jù)，最后才能真正抵御國家級的攻擊。

我們推出的360安全大腦嚴格來說，并不是市場行為，而是國家行為。我們愿意把自己的經(jīng)驗、數(shù)據(jù)、技術(shù)、能力開放出來，與安全公司一起合作，把安全大腦本身的核心技術(shù)和大數(shù)據(jù)打造好，成為很多安全公司背后的賦能者，在國內(nèi)真正把一個大的生態(tài)做起來，大家合作把安全大腦打造成國之重器。

在此次大會上，沈南鵬也發(fā)表了相同的觀點。他介紹，中國的風險投資過去20年投的最多是電子商務，但過去45年，美國紅杉投資最多的是安全領(lǐng)域。他還建議需要把更多的資源和產(chǎn)業(yè)重心放在安全領(lǐng)域中，未來的智能產(chǎn)品越來越豐富和復雜的時候，相應的安全產(chǎn)品也要能夠跟上去。

延伸閱讀

推薦閱讀

猜您喜歡