9月15日消息，《連線(xiàn)》網(wǎng)站撰文指出，Facebook名為Rosetta的人工智能技術(shù)平?？煞治鰯凳畠|張包含文本的圖像，能夠分析表情包，但它能像人類(lèi)那樣理解表情包的內涵嗎?

　　以下是文章主要內容：

　　每天都有數十億的文本帖子、照片和視頻被上傳到社交媒體上，這是人類(lèi)審核員無(wú)法全面篩選的一個(gè)信息量級。因此，Facebook和YouTube等公司長(cháng)期以來(lái)一直依賴(lài)人工智能來(lái)幫助解決垃圾郵件和色情內容等問(wèn)題。

　　不過(guò)，對于機器來(lái)說(shuō)，審核像白人至上主義的表情包這樣的東西可能更具挑戰性，因為這項任務(wù)需要同時(shí)處理幾種不同的視覺(jué)元素。自動(dòng)化系統需要檢測和“讀取”疊加在照片上的文字，并分析圖像本身。表情包也是一種復雜的文化產(chǎn)物，很難脫離語(yǔ)境去理解。盡管它們帶來(lái)了挑戰，但一些社交平臺已經(jīng)在使用人工智能來(lái)分析表情包，其中包括社交網(wǎng)絡(luò )巨頭Facebook。Facebook本周分享了它如何使用一種名為Rosetta的工具來(lái)分析包含文本的照片和視頻的細節。

　　Facebook表示，它已經(jīng)在使用Rosetta來(lái)自動(dòng)檢測違反其仇恨言論政策等規定的內容。該公司本周還宣布，在該工具的幫助下，它正在擴大其第三方事實(shí)核查的努力，納入照片和視頻，而不僅僅是基于文本的文章。Rosetta將自動(dòng)檢查包含文本的圖像和視頻是否曾被標記為錯誤，從而幫助完成審查。

　　Rosetta通過(guò)將光學(xué)字符識別(OCR)技術(shù)與其他機器學(xué)習技術(shù)相結合來(lái)處理照片和視頻中的文本。首先，它使用OCR來(lái)識別文本在表情包或視頻中的位置。你可能以前用過(guò)類(lèi)似OCR的東西;它可以讓你快速瀏覽紙質(zhì)表單，并將其轉換為可編輯的文檔。該自動(dòng)化程序知道文本塊的位置，并能將它們與你應該簽名的地方區分開(kāi)來(lái)。

　　一旦Rosetta知道文本在哪里，Facebook就會(huì )使用一個(gè)神經(jīng)網(wǎng)絡(luò )來(lái)轉錄文本并理解其含義。然后，它可以將文本傳輸到其它的系統，比如一個(gè)檢查表情包是否與已經(jīng)被揭穿的病毒騙局有關(guān)的系統。

　　Rosetta的研究人員表示，該工具現在可以實(shí)時(shí)從公開(kāi)上傳到Facebook的每張圖片中提取文本，并且可以“閱讀”多種語(yǔ)言的文本，包括英語(yǔ)、西班牙語(yǔ)、德語(yǔ)和阿拉伯語(yǔ)。(Facebook表示，Rosetta不會(huì )用于掃描用戶(hù)在時(shí)間軸上私密分享的圖像或私信。)

　　Rosetta可以分析包含多種文本形式的圖像，比如抗議標識、餐廳菜單、店面等的照片。在Facebook工作的軟件工程師維斯瓦納斯·西瓦庫馬爾(Viswanath Sivakumar)在一封電子郵件中說(shuō)，這個(gè)工具既能識別景觀(guān)中的文本(比如街道標識)，也能識別表情包——但后者更具挑戰性。他寫(xiě)道，“在主動(dòng)檢測仇恨言論和其他違反政策內容的情況下，分析表情包式的圖像是一項更加復雜的人工智能挑戰。”

　　西瓦庫馬爾指出，與人類(lèi)不同，人工智能通常需要看到成千上萬(wàn)個(gè)例子才能學(xué)會(huì )完成復雜的任務(wù)。但是，即便是對于Facebook而言，表情包方面的例子也不是無(wú)窮無(wú)盡的，而且在不同的語(yǔ)言上收集足夠多的例子也很困難。尋找高質(zhì)量的訓練數據是人工智能研究的一個(gè)持續性挑戰。數據通常需要花費大量的功夫來(lái)進(jìn)行手工標記，而且許多數據庫都受到版權法的保護。

　　為了訓練Rosetta，Facebook的研究人員使用了在網(wǎng)站上公開(kāi)發(fā)布的含有某種文本形式的圖片，以及它們的標注和發(fā)布地點(diǎn)信息。他們還創(chuàng )建了一個(gè)程序來(lái)生成額外的示例，這種做法的靈感來(lái)自于牛津大學(xué)的一個(gè)研究團隊在2016年設計的一種方法。這意味著(zhù)整個(gè)過(guò)程在某種程度上是自動(dòng)化的：一個(gè)程序自動(dòng)地產(chǎn)生表情包，然后另一個(gè)程序試圖分析它們。

　　不同的語(yǔ)言還給Facebook的人工智能團隊帶來(lái)了其它的挑戰。例如，研究人員必須找到一種變通方法來(lái)使得Rosetta能夠用于阿拉伯語(yǔ)等語(yǔ)言。阿拉伯語(yǔ)從右到左閱讀，與英語(yǔ)等其他語(yǔ)言相反。Rosetta倒著(zhù)“閱讀”阿拉伯語(yǔ)，經(jīng)過(guò)處理后，Facebook將那些字符顛倒過(guò)來(lái)。研究人員在他們的博客中寫(xiě)道：“這個(gè)技巧的效果出奇的好，讓我們有了一個(gè)統一的模型，它既適用于從左到右的語(yǔ)言，也適用于從右到左的語(yǔ)言。”

　　雖然自動(dòng)化系統在內容審核方面非常有用，但它們并不總是萬(wàn)無(wú)一失的。例如，騰訊的微信絡(luò )使用兩個(gè)不同的算法來(lái)過(guò)濾圖像，多倫多大學(xué)公民實(shí)驗室的一個(gè)研究團隊成功地騙過(guò)了它們。第一個(gè)算法是基于OCR的程序，會(huì )過(guò)濾含有特定話(huà)題文本的照片，而另一個(gè)算法則會(huì )審查那些看起來(lái)與中國政府可能創(chuàng )建的黑名單相似的照片。

　　研究人員能夠通過(guò)改變圖像的屬性，比如顏色或方向，輕易地避開(kāi)微信的過(guò)濾器。雖然Facebook的Rosetta更加先進(jìn)，但可能也不是完美無(wú)缺;該系統可能會(huì )受困于難以閱讀的文本或扭曲的字體。所有的圖像識別算法也仍然可能會(huì )受到對抗性的例子的影響，那些經(jīng)過(guò)輕微改動(dòng)的圖像在人類(lèi)看來(lái)是一樣的，但會(huì )導致人工智能陷入混亂。

　　在對特定種類(lèi)的內容的審核方面，Facebook和Twitter、YouTube和Reddit等其他的平臺在多個(gè)國家都面臨著(zhù)巨大的壓力。周三，歐盟提出了一項新的法規，要求社交媒體公司在接到通知后一小時(shí)內刪除恐怖分子的帖子，否則將面臨罰款。Rosetta和其他類(lèi)似的自動(dòng)化工具已經(jīng)在幫助Facebook和其他平臺在德國等地遵守類(lèi)似的法律。

　　它們在那方面也做得更好了：兩年前，Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)曾說(shuō)，Facebook的人工智能系統只能主動(dòng)捕捉到該公司所刪除內容的一半左右;人們必須先要標記其余要刪除的內容?，F在，Facebook表示，它的人工智能工具可以檢測到幾乎100%的垃圾郵件、99.5%的恐怖內容和86%的暴力圖片。YouTube等其他平臺在利用自動(dòng)內容檢測系統上也取得了同等程度的成功。

　　然而，這些喜人的數字并不意味著(zhù)像Rosetta這樣的人工智能系統是完美的解決方案，尤其是當涉及到更微妙的表達形式的時(shí)候。與餐館菜單不同的是，如果不知道表情包的發(fā)布背景，就很難理解它的含義。這就是為什么有很多網(wǎng)站在致力于解釋它們。表情包通常描述的是圈內笑話(huà)，或者是針對特定的網(wǎng)絡(luò )亞文化。人工智能仍然不能像人類(lèi)那樣理解表情包或視頻。就目前而言，Facebook仍需要依靠人工審核員來(lái)決定是否應該刪除某個(gè)表情包。
　?。?a href="http://www.lsbmaoyi.com/">邯鄲小程序開(kāi)發(fā)）