12月2日消息，隨著直播行業(yè)的興起，很多涉嫌違規(guī)的內容在屏幕前大肆傳播，為了篩除這些不良視頻，F(xiàn)acebook公司打算運用人工智能來對內容加以監(jiān)控。

Facebook公司應用型機器學習部主管華金·坎德拉(Joaquin Candela)說，該公司正在研究如何自動篩選視頻流中的不良信息，逐漸運用人工智能(AI)對內容加以監(jiān)控。

從刪除一張標志性的越戰(zhàn)落體照片引發(fā)國際社會的強烈反對，到允許虛假新聞在其網(wǎng)站上傳播，這家社交媒體公司今年已經(jīng)因內容尺度爭議多次成為輿論聚焦中心。

在歷史上，F(xiàn)acebook主要依賴用戶舉報有攻擊性的帖子，然后由該公司員工對照“社區(qū)標準”進行二次核查。針對特別棘手的內容問題，如果可能需要調整政策，則由公司高層管理人員決定。

坎德拉告訴記者，F(xiàn)acebook越來越多地使用人工智能技術來地不良內容加以甄別。它是“一種算法，可發(fā)現(xiàn)裸露、暴力，或者不符合我們政策的事情，”他說。

路透社在今年六月報道，該公司一直致力于使用自動化技術標識極端分子的視頻內容。

Facebook表示，它還使用自動化技術來處理每周數(shù)以百萬計的報告、識別重復報告，并與對相關主題有研究的專業(yè)人員對標記內容追根溯源。

首席執(zhí)行官馬克·扎克伯格在十一月表示，F(xiàn)acebook將把自動化作為識別假新聞計劃的一部分。在11月8日美國大選前，F(xiàn)acebook用戶看到一些虛假新聞報道，例如錯誤地宣稱教皇方濟各(Pope Francis) 支持唐納德·特朗普，一名負責調查民主黨候選人希拉里·克林頓的聯(lián)邦特工的尸體被發(fā)現(xiàn)等。

然而，該公司認為，確定一條特定的評論存在惡意或恐嚇意圖，還需依照上下文語境。

Facebook人工智能研究室主任Yann LeCun拒絕就使用AI檢測假新聞一事發(fā)表評論，但他表示，一般的新聞帖改進方法都涉及到過濾和審查、表達自由和禮貌真實之間的權衡問題。

“無論我們是否開發(fā)人工智能這些問題都會存在，”LeCun說。“我不知道怎樣做才算取舍得當。”

現(xiàn)在，這套自動化系統(tǒng)也正在Facebook Live中進行測試，這是一項為用戶提供流媒體視頻直播的視頻服務。

采用人工智能技術標識視頻直播仍處于研究階段，并面臨兩個挑戰(zhàn)，坎德拉說。“其一，你的計算機視覺算法必須速度很快，我認為我們可以做到這一點。其次，必須設定與用戶觀賞習慣相一致的優(yōu)先次序，要有一位了解我們政策的專家，將其落到實處。”