如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點研究的問題

　　當(dāng)前，甄別和控制網(wǎng)絡(luò)虛假信息傳播已經(jīng)成為一個世界性話題。虛假信息不僅令我國網(wǎng)絡(luò)空間深受其擾，一些西方國家也日益意識到它的危害。去年美國大選中，不同利益集團相互指責(zé)和控訴對方制造和傳播虛假信息，吃相難看，顏面盡失。

　　虛假信息及低俗內(nèi)容，在互聯(lián)網(wǎng)環(huán)境中跨地域大規(guī)?？焖賯鞑サ默F(xiàn)象，主要出現(xiàn)在擁有海量用戶的互聯(lián)網(wǎng)應(yīng)用平臺產(chǎn)生以后。每個用戶都可以在這個平臺上發(fā)布信息，并在平臺內(nèi)部和平臺之間快速傳播信息。在一定的利益動機和社會心理機制作用下，一些平臺用戶試圖發(fā)布虛假信息及低俗內(nèi)容謀取各種利益。由于這類信息和內(nèi)容往往流傳甚快甚廣，使得社會原有的甄別及防范機制難以及時做出反應(yīng)。

　　對于這一新問題，有多種解決思路。比較傳統(tǒng)的方法，諸如提高公眾傳播素養(yǎng)，更多發(fā)揮傳統(tǒng)媒體把關(guān)功能，加大對虛假信息及低俗內(nèi)容發(fā)布者的處罰力度，加重平臺責(zé)任等。

　　互聯(lián)網(wǎng)企業(yè)的反應(yīng)，卻是更多地借助技術(shù)手段。如臉譜推出“事實核查工具”，邀請用戶通過下拉菜單將他們看到的可疑新聞報道在該平臺上進行標(biāo)記。第三方事實核查人員隨后分析標(biāo)出的報道，并判定其為真實報道還是虛假新聞；谷歌新聞實驗室發(fā)起成立了一個名為“FDN”的新聞學(xué)術(shù)和技術(shù)聯(lián)盟，研究方向主要是社交媒體新聞的原創(chuàng)判斷和真實性認(rèn)證。我國的互聯(lián)網(wǎng)平臺也作出了多方努力。例如，北京字節(jié)跳動科技公司在“今日頭條”平臺上，依靠人工智能技術(shù)，模仿人腦機制，對低俗圖片的攔截率較之前純?nèi)斯r截提高了73.71%；針對“標(biāo)題黨”現(xiàn)象，一些網(wǎng)站構(gòu)建了“人工+機器”的模式構(gòu)建防火墻，對敏感詞、標(biāo)題黨和虛假信息進行技術(shù)性攔截。

　　然而，一些業(yè)界人士擔(dān)心人工智能無法處理復(fù)雜的價值判斷問題，也有互聯(lián)網(wǎng)人士認(rèn)為算法沒有價值觀。其實，人工智能的算法本身就是根據(jù)特定領(lǐng)域的規(guī)律和規(guī)則制定的，在這些規(guī)律和規(guī)則中，就蘊含著價值選擇與判斷。在確立模型并不斷學(xué)習(xí)之后，執(zhí)行算法的機器完全能夠具有超越人腦的能力，這在不久前圍棋的人機大戰(zhàn)中已經(jīng)得以驗證。

　　如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點研究的問題。

　　首先，我們需要更全面地梳理和分析產(chǎn)生虛假和低俗內(nèi)容的利益結(jié)構(gòu)和動機，分析各類利益主體制造和傳播虛假及低俗內(nèi)容的行為特點，如謀求政治利益和謀求經(jīng)濟利益的行為主體，在制造和傳播虛假及低俗內(nèi)容的行為方面有哪些異同。通過這些分析，為建立模型提供依據(jù)。

　　其次，可以通過對網(wǎng)絡(luò)平臺上虛假及低俗內(nèi)容傳播者生產(chǎn)的內(nèi)容進行文本分析，對其傳播行為進行跟蹤研究，以掌握其心理特征及行為特征，支持識別模型的構(gòu)建。

　　此外，還可以通過對人們網(wǎng)絡(luò)信息接收和接受的心理特征及行為的分析，建立模型，探索如何通過算法干預(yù)這一過程，阻斷虛假及低俗內(nèi)容的傳播，減低其傳播效果。