機器磚塊AI語音審核成效顯著 但人類審核仍更勝一籌

大型遊戲創作平台《機器磚塊》已運用機器學習AI技術開展語音聊天審核工作長達一年之久。鑒於該平台擁有龐大的兒童使用者群體，公司始終將審核工作視為重中之重。在近日舉行的GDC 2024遊戲開發者大會上，《機器磚塊》公司高級技術總監Kiran Bhat和語音安全負責人Hannes Heikinheimo透露，儘管AI審核成效顯著，但在某些情況下，人工審核仍具有不可替代的優勢。

Bhat在演講中指出：“即時監控語音並非易事，因為這不僅需要識別語音內容，還需捕捉說話者的語氣和強度，從而準確判斷某段話是否帶有惡意。”他進一步解釋道，“上下文訊息同樣是判斷話語是否冒犯的關鍵因素，這使得問題變得更為複雜。”

為應對這些挑戰，公司採用了將違規內容劃分為4個主要類別的策略，並發現85%的違規內容均屬於這些類別，且“絕大多數”可通過50個關鍵詞進行捕捉。Bhat表示：“若能涵蓋這些類別的前50個關鍵詞，審核工作便已相當到位。”

語音安全負責人Heikinheimo則強調了AI監管所取得的令人矚目的成果：經過一年的運行，該系統已覆蓋31個國家和地區，且每段“活躍聊天時間”的違規舉報數量減少了一半。他提到，AI的一個顯著優勢在於其無情感且不會疲憊，因此在處理“非常明顯的違規情況”時，機器比人類更為高效和穩定。然而，他也承認，在理解意圖和進行判斷方面，“人類仍強於機器”。

Heikinheimo解釋道：“在處理那些可能接近判定邊緣的情況，或在資料稀缺、機器學習系統難以充分訓練的罕見情況下，人類審核員的表現仍更為出色。”

來源：遊俠網