傷人的話別打出來！防網路霸凌利用Kindly找出不當用辭

蔡雨臻
2020-12-20

人工智慧
產業動態
AI、網路霸凌
1076
分享

　　青少年的成長過程中，除了生理健康的維護外，心理方面的建設也十分重要，特別是處於校園環境之中，如何培養對於霸凌行為的敏感度更是一大命題。數位原生世代的學子生活中伴隨著電玩、網路、電視等媒介長大，智慧型手機也是人手一機，人與人的互動方式逐漸被社群媒體(如：LINE、臉書、IG)取代。缺乏面對面交流的練習，也較不易拿捏言語的輕重而無意間傷害他人。

　　既然電腦、手機這樣的媒介已然深植於生活，不如就好好善用它！藉由資訊承載工具裡AI的幫助，能強化對於霸凌行為的敏感度，甫獲時代雜誌選為年度風雲兒童拉奧（Gitanjali Rao），研發了名為Kindly的網路服務(Web API Service)，能偵測溝通中產生的網路霸凌(Cyberbully)訊息。

　　除了網路服務，Kindly目前開發了手機應用程式及Chrome擴充功能，借助人工智能技術，來檢測網路霸凌的早期跡象。至於Kindly如何運作，拉奧在簡介影片中提到，Kindly服務使用Microsoft Cognitive Service做為文字處理與分析引擎。她先在後端設定多種惡意詞語，當使用者於電腦或手機中輸入文字，程式會先送到後端由AI分析文字惡意程度與整段文字的情感是否會傷害他人，藉此判斷是否該彈出提醒視窗，給使用者修改、思考的機會。

圖片來源：Kindly官方影片

圖1 Kindly概念圖

　　拉奧認為這樣的設計重點在給予思考的機會，青少年成長過程中難免有不知拿捏言詞使用的輕重，因而帶給接受訊息者不舒服的感受，Kindly能夠在溝通過程中指出其中的偏差、不當用詞，給年輕的使用者一個停頓並思考的機會，以改進下一次的溝通內容。

圖片來源：Kindly官方影片

圖2 Kindly功能展示，當使用者使用不當詞彙時，便會跳出提醒視窗

　　Kindly目前仍在測試階段，未來應該還會就用戶隱私、AI靈敏度、使用者體驗等方面作出改進。

　青少年面對學業壓力，且多半時間身處在校園中，的確會有家長或老師難以察覺的幽微角落，因霸凌產生的生理或心理壓力，既便揮別青年時期也可成為終身的陰影，有些應用是以心理諮詢的方式，例如英國一款手機應用程式 FOR ME，是以心理諮詢的方式出發，使用者以日記方式記錄自己的心理狀態，並提供心理諮詢師線上受理；而拉奧的發想則回歸到使用者角度，讓心思尚未成熟的青年審慎思考用語的輕重，借助AI並應用於資訊載具，進而減少虛擬社群中的霸凌行為。