多位科技大佬聯(lián)名承諾：不發(fā)展致命性人工智能武器系統(tǒng)

• 2018年7月19日 FanTianQing來源：鳳凰資訊 327 14
• 繁體

• 

  2018-2023年中國金融IT技術(shù)應(yīng)用行業(yè)深度研究與投資發(fā)展前景預(yù)測報告

  金融IT技術(shù)應(yīng)用研究報告對金融IT技術(shù)應(yīng)用行業(yè)研究的內(nèi)容和方法進行全面的闡述和論證，對研究過程中所獲取的金融IT技術(shù)應(yīng)用資料進行全面系統(tǒng)的整理和分析，通過圖表、統(tǒng)計結(jié)果及文獻資料，或以縱...

特斯拉創(chuàng)始人埃隆·馬斯克領(lǐng)銜的美國科技圈大佬們簽署了一份協(xié)議，承諾不會發(fā)展致命的人工智能武器系統(tǒng)。

多位科技大佬聯(lián)名承諾，不發(fā)展致命性人工智能武器系統(tǒng)。

特斯拉創(chuàng)始人埃隆·馬斯克領(lǐng)銜的美國科技圈大佬們簽署了一份協(xié)議，承諾不會發(fā)展致命的人工智能武器系統(tǒng)。7月18日，外媒報道稱，這是全球研究者和企業(yè)家非官方聯(lián)盟的最新舉措，反對人工智能技術(shù)的不當(dāng)擴張。

協(xié)議警告，使用人工智能的武器系統(tǒng)“無需人工干預(yù)就能選定目標(biāo)”，這造成了道德上和實操上的威脅。協(xié)議的簽署方認(rèn)為，從道德上來說，取走一條人命的決定，“絕不應(yīng)該委托給機器”，從實操方面來看，這種武器的擴散將“危害每個國家和個體的穩(wěn)定”。

該協(xié)議于當(dāng)天在瑞典斯德哥爾摩舉行的2018國際人工智能聯(lián)合會議（International Joint Conference on Artificial Intelligence）上發(fā)布，由生命未來研究所（Future of Life Institute，F(xiàn)LI）起草。

生命未來研究所是一個研究與推廣機構(gòu)，致力于降低人類面臨的風(fēng)險，尤其是人工智能技術(shù)開發(fā)過程中的可能出現(xiàn)的風(fēng)險。該研究所此前已經(jīng)發(fā)布了一些文件，號召聯(lián)合國對致命自主武器（lethal autonomous weapons，LAWS）設(shè)立新規(guī)。此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會參與開發(fā)此類技術(shù)。

除了 SpaceX和特斯拉CEO埃隆·馬斯克，簽署協(xié)議的知名科技界人士還包括，創(chuàng)造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯(lián)合創(chuàng)始人Shane Legg，Mustafa Suleyman和Demis Hassabis；通訊軟件Skype創(chuàng)始人Jaan Tallinn，以及其他世界最權(quán)威和前沿的人工智能研究者。

據(jù)報道，少數(shù)公司的技術(shù)，以及如何向政府機構(gòu)和執(zhí)法團體提供這些技術(shù)，面臨強烈爭議，于是這項協(xié)議應(yīng)運而生。谷歌就曾向美國軍方提供人工智能科技，幫助他們在無人機影像中標(biāo)記需要額外人工檢查的內(nèi)容。類似地，亞馬遜由于向執(zhí)法機關(guān)分享其面部識別技術(shù)而招致批評，微軟也因向美國移民和海關(guān)執(zhí)法局（Immigration and Customs Enforcement，ICE）提供相關(guān)服務(wù)而遭到抗議。

在遭受猛烈抨擊之后，谷歌推出了新準(zhǔn)則，作為公司研發(fā)人工智能技術(shù)的道德指導(dǎo)。準(zhǔn)則中稱，不會將人工智能設(shè)計或應(yīng)用于武器、監(jiān)視或“其目的違反了廣為接受的國際法和人權(quán)準(zhǔn)則”的技術(shù)。微軟也發(fā)布聲明稱，其與美國移民和海關(guān)執(zhí)法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識別技術(shù)。微軟也在號召美國國會對面部識別技術(shù)進行監(jiān)管。

2015年，馬斯克為生命未來研究所的一個研究項目捐助了1000萬美元，該項目專注于確保人工智能會有益于人類。2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來研究所遞交給聯(lián)合國的信件上簽名，尋求對自主武器系統(tǒng)的立法。

延伸閱讀

推薦閱讀

猜您喜歡