Facebook利用AI偵測自殺傾向

根據國際衛生組織(WHO)的資料,每40秒就有一起自殺事件在地球上的某處發生,甚至在15至29歲年齡的族群,第二大致死因正是自殺。這些用戶中,部分會在自殺前到社群媒體上,透露自己想輕生的念頭,有鑑於此,Facebook除了鼓勵親友進行舉報之外,也藉由人工智慧(AI)技術偵測Facebook上的所有內容,把可疑的內容提供給地方當局,希望能防止遺憾發生。

     

Facebook在今年(2017年)3月時開始在美國,測試這套軟體,採用的是「模式識別」(pattern recognition)技術來偵測站上的貼文、留言、影片與實況轉播內容,檢查是否含有輕生念頭,當偵測到關鍵字句,如「我想死」、「我討厭我的人生,我想自殺」等,其他留言像是「你還好嗎?」、「需要幫忙嗎?」也都屬於重要指標,就會把這些用戶標記起來,轉發給內部的社群營運部門,透過員工在第一時間過濾並查驗,若發現確實有自殺傾向,Facebook就會通知當地官方機構前往關心。

Facebook的社群經營團隊甚至在全球部署了數千名人力,專門審核有關臉書內容的各種舉報,其中有一組人馬接受過自殺與自殘的特殊訓練,可在必要時提供援助,在5月時,Facebook更增聘3,000多人負責監控,這樣的AI查驗系統,比其他用戶回報消息的檢查速度快上30%,而光在10月中,Facebook就透過AI系統,發現100個想輕生案例,Facebook於11/27宣布,將把此AI系統從美國擴展到全球,但是唯獨歐盟被排除其外,主要原因是受限於當地的資料保護及隱私法令。  

回上一頁

延伸閱讀



留言


Copyright © Institute For Information Industry 財團法人資訊工業策進會 數位服務創新研究所 登載的內容係屬本會版權所有
地址:105台北市民生東路四段133號8樓 電話:02-66072000