如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問題。當(dāng)前，甄別和控制網(wǎng)絡(luò)虛假信息傳播已經(jīng)成為一個(gè)世界性話題。虛假信息不僅令我國網(wǎng)絡(luò)空間深受其擾，一些西方國家也日益意識到它的危害。去年美國大選中，不同利益集團(tuán)相互指責(zé)和控訴對方制造和傳播虛假信息，吃相難看，顏面盡失。

虛假信息及低俗內(nèi)容，在互聯(lián)網(wǎng)環(huán)境中跨地域大規(guī)?？焖賯鞑サ默F(xiàn)象，主要出現(xiàn)在擁有海量用戶的互聯(lián)網(wǎng)應(yīng)用平臺產(chǎn)生以后。每個(gè)用戶都可以在這個(gè)平臺上發(fā)布信息，并在平臺內(nèi)部和平臺之間快速傳播信息。在一定的利益動機(jī)和社會心理機(jī)制作用下，一些平臺用戶試圖發(fā)布虛假信息及低俗內(nèi)容謀取各種利益。由于這類信息和內(nèi)容往往流傳甚快甚廣，使得社會原有的甄別及防范機(jī)制難以及時(shí)做出反應(yīng)。

對于這一新問題，有多種解決思路。比較傳統(tǒng)的方法，諸如提高公眾傳播素養(yǎng)，更多發(fā)揮傳統(tǒng)媒體把關(guān)功能，加大對虛假信息及低俗內(nèi)容發(fā)布者的處罰力度，加重平臺責(zé)任等。

互聯(lián)網(wǎng)企業(yè)的反應(yīng)，卻是更多地借助技術(shù)手段。如臉譜推出“事實(shí)核查工具”，邀請用戶通過下拉菜單將他們看到的可疑新聞報(bào)道在該平臺上進(jìn)行標(biāo)記。第三方事實(shí)核查人員隨后分析標(biāo)出的報(bào)道，并判定其為真實(shí)報(bào)道還是虛假新聞;谷歌新聞實(shí)驗(yàn)室發(fā)起成立了一個(gè)名為“FDN”的新聞學(xué)術(shù)和技術(shù)聯(lián)盟，研究方向主要是社交媒體新聞的原創(chuàng)判斷和真實(shí)性認(rèn)證。我國的互聯(lián)網(wǎng)平臺也作出了多方努力。例如，北京字節(jié)跳動科技公司在“今日頭條”平臺上，依靠人工智能技術(shù)，模仿人腦機(jī)制，對低俗圖片的攔截率較之前純?nèi)斯r截提高了73.71%;針對“標(biāo)題黨”現(xiàn)象，一些網(wǎng)站構(gòu)建了“人工+機(jī)器”的模式構(gòu)建防火墻，對敏感詞、標(biāo)題黨和虛假信息進(jìn)行技術(shù)性攔截。

然而，一些業(yè)界人士擔(dān)心人工智能無法處理復(fù)雜的價(jià)值判斷問題，也有互聯(lián)網(wǎng)人士認(rèn)為算法沒有價(jià)值觀。其實(shí)，人工智能的算法本身就是根據(jù)特定領(lǐng)域的規(guī)律和規(guī)則制定的，在這些規(guī)律和規(guī)則中，就蘊(yùn)含著價(jià)值選擇與判斷。在確立模型并不斷學(xué)習(xí)之后，執(zhí)行算法的機(jī)器完全能夠具有超越人腦的能力，這在不久前圍棋的人機(jī)大戰(zhàn)中已經(jīng)得以驗(yàn)證。

如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問題。

首先，我們需要更全面地梳理和分析產(chǎn)生虛假和低俗內(nèi)容的利益結(jié)構(gòu)和動機(jī)，分析各類利益主體制造和傳播虛假及低俗內(nèi)容的行為特點(diǎn)，如謀求政治利益和謀求經(jīng)濟(jì)利益的行為主體，在制造和傳播虛假及低俗內(nèi)容的行為方面有哪些異同。通過這些分析，為建立模型提供依據(jù)。

其次，可以通過對網(wǎng)絡(luò)平臺上虛假及低俗內(nèi)容傳播者生產(chǎn)的內(nèi)容進(jìn)行文本分析，對其傳播行為進(jìn)行跟蹤研究，以掌握其心理特征及行為特征，支持識別模型的構(gòu)建。

此外，還可以通過對人們網(wǎng)絡(luò)信息接收和接受的心理特征及行為的分析，建立模型，探索如何通過算法干預(yù)這一過程，阻斷虛假及低俗內(nèi)容的傳播，減低其傳播效果。