如何科學地遮蔽遊戲中的噴子

多人遊戲中玩家互噴的現象始終難以杜絕。育碧一直在努力遏制《彩虹6號：圍攻》中的這種現象，Valve試圖遮蔽或封禁《Dota 2》的噴子玩家，EA也刪除了旗下游戲裡數以千計的素材，目的是營造一個更和諧的環境。如今，一家波士頓軟體公司推出了一款工具，或許能幫助開發商在這方面取得長足進步。

這款工具名為ToxMod，會利用機器學習來識別聯網對戰中某些玩家的噴子言論。按照工具開發者的說法，它可以識別語音規律，通過觀察聲波來分辨哪些玩家正在爆粗口，他們說了些什麼、說話的方式，並且能實時用“嘟嘟聲”替代髒話。

在Modulate公司，兩位聯合創始人邁克·帕帕斯（Mike Pappas）和卡特·霍夫曼（Carter Huffman）構思了ToxMod的概念。帕帕斯和霍夫曼是在麻省理工學院學習物理學時認識的——由於解決問題的方式非常互補，他倆決定共同創辦一家公司。




“作為核心玩家，我倆從一開始就想做跟遊戲相關的事情。我們想到了《堡壘之夜》所獲得的成功、可定製皮膚，以及所有能提升玩家沉浸感、幫助玩家表達自己的工具。”

起初，Modulate打算開發“語音皮膚”讓玩家來改變聊天時的聲音。但經過與遊戲開發者的廣泛溝通，他們發現許多工作室都在想方設法讓玩家在進行語音聊天時感到更安全。為了遠離網路噴子，很多人根本不願戴耳機。

怎樣才能提升語音聊天時的安全感？語音皮膚確實可以讓玩家隱瞞自己的年齡、性別、種族或可能導致被人騷擾的任何其他資訊，但帕帕斯表示，Modulate還有更遠大的計劃，那就是使用機器學習技術，針對語音聊天問題構建一套“全面的解決方案”。




“很多遊戲工作室問，你們能實時遮蔽髒話嗎？或者能不能檢測到某個玩家正在騷擾其他人，並向我們的團隊發出警報？”

基於公司既有技術，Modulate開發了ToxMod。這款工具使用AI來掃描人聲的波形，不僅能分辨出玩家正在說什麼，還能判斷說話的方式。藉助一種複雜演算法，ToxMod能夠分清人類語音的細微差別，檢測出有攻擊性的聲波峰值，並立即做出響應。

帕帕斯表示，ToxMod的SDK允許開發商將這項技術直接整合到遊戲中。大部分語音過濾操作都在客戶端進行，如有必要，工作人員也可以標記和處理處於“灰色地帶”的語音。隨著時間推移，ToxMod的AI會變得越來越智慧，無需人工干預。開發商還可以對ToxMod進行自定義調整，選擇適當閾值，以適應其遊戲和玩家們的特定需求。

“你會將哪種程度的暴力言論視為一種潛在威脅？如果你正在玩《使命召喚》，也許覺得無所謂，除非玩家的言論特別極端。但如果你玩的是更強調社交性的《機器磚塊》（Roblox），這無論如何都是個問題。”

另外，ToxMod還可以被用作一種預測工具。它既能分析玩家語音，又會觀察遊戲內正在發生的事，從而快速判斷玩家是否會在某些特定情況下變得更有可能說髒話，例如連續輸掉幾局比賽。這意味著ToxMod可以向遊戲的配對伺服器提供建議，預防出現可能導致玩家失控罵街的情況。




“假設一名玩家連續輸了5局比賽，特別沮喪，然後跟幾名技術一般的女玩家組隊，在比賽中又快輸了，那麼他會不會說一些性別歧視的話？”帕帕斯解釋道，“這種現象糟糕嗎？當然。因為幾名女玩家遭到了辱罵，我們需要立即制止……但考慮到那名玩家情緒失控的原因，他也許不應該因為這件事就被封號30天。”

“相反，如果我們知道你已經連輸幾局，很憤怒，那麼我們也許應該建議配對系統：‘嘿，給這傢伙安排幾名經驗更豐富的隊友帶帶他，不然他極有可能沖人發火。’”

每款遊戲及其玩家社群都有特定需求，Modulate宣稱可以與開發商合作，幫助他們對軟體進行有針對性的微調。據帕帕斯透露，Modulate一直在與由Epic Games、EA、拳頭遊戲、Roblox、暴雪和育碧等遊戲發行商組成的公平遊戲聯盟（Fair Play Alliance）溝通，希望能幫助更多遊戲營造和諧健康的社群環境。

“我們想完善語音聊天功能。”帕帕斯說，“我們不但開發了一套工具，還可以與遊戲公司合作，真正幫助他們塑造玩家的語音聊天體驗。”

“任何一家遊戲開發商都可以使用ToxMod，並立即檢視其處理的所有音訊。技術已經準備就緒。我們正在努力邀請首批開發商將它整合到遊戲中，所以對我們來說，2021年肯定讓人興奮。”

原文標題：《ToxMod uses AI to bleep out abusive language in live voice chat》
原作者：Ian Boudreau
譯者：等等
來源：觸樂
地址：http://www.chuapp.com/article/287697.html【編譯自pcgamesn.com】