澎湃新聞記者 虞涵棋 實習生 黃赟

　　人工智能現(xiàn)在的寫作能力雖然還不至于寫出世界名著，但足以掩藏住機器的痕跡，混淆普通人的視線。最重要的是，AI可以批量生產(chǎn)文本，炮制假新聞，快速刷評論。該如何揪出冒充人類的AI呢？哈佛大學和麻省理工學院- IBM沃森人工智能實驗室(MIT-IBM Watson AI Lab)的研究人員想到了用AI識別AI。

　　他們開發(fā)了一種叫做“巨型語言模型測試器”（GLTR）的新工具，用于識別人工智能生成的文本。其辨別原理基于：人工智能是利用文本中的統(tǒng)計模式來自動生成文本的，而不考慮單詞和句子的實際含義。也就是說，如果一篇文章中的用詞都是可預(yù)測的，該文章就極可能是由人工智能寫的，而GLTR可以標注出文章用詞是否可預(yù)測。

　　開發(fā)最厚的盾，就要用最強的矛來測試。前一陣子，埃隆·馬斯克參與創(chuàng)立的AI研究機構(gòu)OpenAI推出了一種算法，可以自動生成真實度極高的段落。只要在該算法的“學習模式”中輸入海量數(shù)據(jù)，該算法就可以統(tǒng)計詞頻，組合高頻詞，生成新的段落。而哈佛大學的團隊正是用Open AI公開發(fā)布的代碼為基礎(chǔ)，發(fā)明了GLTR。

　　GLTR可以根據(jù)詞頻，標明最可能出現(xiàn)的單詞搭配。最易預(yù)測的單詞是綠色的，較難預(yù)測的是黃色和紅色的，最難預(yù)測的是紫色的。當對Open AI編寫的算法所生成的文字進行測試后，發(fā)現(xiàn)大部分單詞都可預(yù)測，而人類寫出的新聞和科學摘要文字搭配更多樣。

　　那么，什么樣的用詞才是AI無法模仿的“人來之筆”呢？澎湃新聞記者將《哈姆雷特》中膾炙人口的段落放進該工具中檢索。

　　可以看到，莎翁的手筆確實不是AI能輕易揣摩的，短短的片段中就出現(xiàn)了20多處標紫。第一處標紫的“暴虐”雖非多么生僻的詞匯，但用來修飾“命運”卻并不常見。在AI眼中，這種搭配猶能體現(xiàn)出“人性之光”。

　　GLTR的研究人員讓哈佛的學生分別在不使用GLTR，和使用GLTR的時候，判斷文本是否是人工智能生成的。實驗結(jié)果表明，在不使用GLTR時，織田萊香學生們只能識別出一半的虛假文本，而看到GLTR所做的標注后，他們可以識別出72%的虛假文本。Sebastian Gehrmanns是一位參與GLTR發(fā)明的博士生，織田萊香他表明：“我們的目標是建立一個人類和人工智能協(xié)作的體系�！�

　　《麻省理工科技評論》對此評價道，現(xiàn)在自動生成的假消息越來越多，這種AI工具或許能有效打擊機器制造的假新聞，假視頻和灌水評論。

本文地址：http://www.help-services.cn/info/2019/07/3117421411.html