Boj proti toxicitě ve hrách pro více hráčů zůstává pro vývojáře stále bolestí hlavy: Ubisoft se již roky snaží snížit toxicitu hráčů v Rainbow Six Siege, Valve se pokusil omezit a zakázat toxické hráče Dota 2 a EA stáhla ze svých her tisíce aktiv naděje na podporu pozitivnějšího prostředí. Nyní vývojář softwaru z Bostonu spustil nástroj, který by mohl pomoci dosáhnout významného pokroku.
Nástroj se nazývá ToxMod a je to software, který využívá umělou inteligenci strojového učení k identifikaci toxické komunikace během online her. ToxMod rozpoznává vzory řeči, dívá se na křivky, aby neříkal jen to, co hráči říkají, ale jak to říkají – a může „vyznít“ urážlivý jazyk naživo.
Koncept ToxModu vyrostl z práce Mikea Pappase a Cartera Huffmana a jejich společnosti Modulate, kterou založili po setkání při studiu fyziky na MIT. Pappas říká, že se setkali u tabule, aby vyřešili fyzikální problém, a rychle se rozhodli začít spolu podnikat poté, co viděli, že k problémům přistupují doplňujícím způsobem.
"Jako skvělí hráči byla hra od začátku naší prioritou," říká Pappas. "Když jsme tam začali přemýšlet o aplikacích, mysleli jsme na úspěch Fortnite a přizpůsobitelných skinů a všech těchto nástrojů pro větší ponoření a expresivitu do her."
Jejich první velkou myšlenkou bylo vytvořit skiny pro hlasy hráčů: „kosmetická“ vylepšení, která by hráči mohli použít ke změně způsobu, jakým znějí v hlasovém chatu. Pappas ale říká, že když konzultovali vývojáře her ohledně používání hlasových skinů, opakovaně slyšeli, jak se studia snaží najít způsoby, jak zvýšit bezpečnost hráčů pomocí hlasového chatu - toxicita. Jim zabránila chtít si vzít helmu. .
To vedlo Modulate k hledání způsobů, jak využít technologii strojového učení, kterou navrhl, aby se více hráčů cítilo online bezpečněji. Používání hlasových vzhledů by někomu mohlo umožnit utajit jejich věk, pohlaví, etnický původ nebo cokoli jiného, co by z něj mohlo učinit cíl online obtěžování. Pappas řekl, že Modulate chtěl myslet ve větším, ale chtěli vytvořit „úplné řešení tohoto problému s hlasovým chatem“.
"Jedna velká věc, která se objevila v našich rozhovorech ve studiu, byly otázky typu, mohl bys přísahat živě?" on říká. "Nebo byste mohli zjistit, jestli někdo někoho obtěžuje, a upozornit na to náš tým?"
Přečtěte si více: Jak je Sea of Thieves již od konstrukce protijedové
Pomocí technologie, kterou již vybudoval, vyvinul Modulate ToxMod, který pomocí AI skenuje křivky hlasu a dokáže nejen říci, co hráči říkají, ale jak to říkají. Algoritmus je dostatečně propracovaný, aby identifikoval nuance v lidské řeči, detekoval vrcholy agresivity a odpovídajícím způsobem reagoval za běhu.
ToxMod SDK umožňuje vývojářům integrovat technologii přímo do jejich her, přičemž většina filtrování probíhá na straně klienta, vysvětluje Pappas. Další vrstva filtrování se odehrává na straně serveru, zde může být řeč „šedé oblasti“ označena a v případě potřeby zpracována lidským moderátorem, ale postupem času se AI ToxMod naučí zvládat stále více případů bez potřeby lidského zásahu. Vývojáři mohou přizpůsobit ToxMod specifickým potřebám svých her a komunit a vybrat vhodné prahové hodnoty pro dané prostředí a publikum.
„Jak dobře kvalifikujete násilnou řeč jako potenciální hrozbu?“ Pokud hrajete Call of Duty, možná to není tak velký problém, pokud to není extrémně vážné, “říká Pappas. „Zatímco pokud hrajete Roblox, může to být problém bez ohledu na to.“
ToxMod funguje také jako prediktivní nástroj a může také spravovat reputaci hráče. Zkoumá, co se ve hře děje, a také řeč, kterou analyzuje, což mu umožňuje poměrně rychle určit, zda se hráč stane za určitých okolností náchylnějším k toxickému chování, jako je řada ztrát nebo týmový útok. To znamená, že může vydávat doporučení serverům pro vytváření zápasů ve hře, což může zabránit tomu, aby k těmto okolnostem vůbec došlo.
Ve své frustraci začnou říkat sexistické věci. Je to špatné? Absolutně. Zatím to chceme ještě nahlásit.
„Opravdu chceme zjistit, jestli někdo prohrál posledních pět zápasů a je super, super frustrovaný a dává se dohromady s několika ženami, které jsou ve hře nové a jsou frustrované. že hru prohrají, začnou říkat sexistické věci,“ říká Pappas. "Je to špatné? Absolutně. Stále to chceme prozatím označit, protože tyto ženy nyní procházejí špatným obdobím a my s tím nyní musíme absolutně přestat. Ale pokud jde o dopady na tohoto herce, nesmíte dostat ban na 30 dní.
„Místo toho jsme se mohli dozvědět, že jsi se zhoršil opravdu rychle, a tak když jsi prohrál posledních pár kol, možná bychom měli poradit systému tvorby zápasů:„ Hej, hoď toho chlapa kost. “, Dejte mu zkušenější spoluhráče za aby vyhrál, aby zůstal v jakémsi emočním stavu, kdy neriskuje vyhodit lidi do vzduchu.
Každá hra a její herní komunita je jedinečný případ se specifickými potřebami a Pappas říká, že ToxMod může spolupracovat s vývojáři na vyladění softwaru tak, aby tyto požadavky splňoval. Modulate ještě není připraven oznámit formální partnerství, ale jedná s členy Aliance Fair Play, koalice vydavatelů a vývojářů her, kteří se zavázali podporovat zdravé komunity. Tato skupina zahrnuje Epic Games, EA, Riot, Roblox, Blizzard a Ubisoft.
"Chceme opravit hlasový chat," řekl Pappas. "Můžeme zasáhnout a poskytnout jim nejen nástroj, ale také s nimi spolupracovat a říci, že máme tuto sadu nástrojů, která nám umožňuje skutečně utvářet váš zážitek z hlasového chatu, tak, jak jej potřebujete, a umožňuje vám skutečně ujistěte se, že celkově to bude bohatý zážitek, jaký by měl být. "
Další informace o ToxModu najdete na oficiálním webu Modulate a Pappas říká, že je dnes připraven k uvedení na trh. Modulate oficiálně spustil nástroj 14. prosince.
"ToxMod může zítra zapojit jakýkoli vývojář her a mohou začít sledovat jakýkoli zvuk, který zpracovávají," říká. "Technologie je připravena." Usilovně pracujeme na tom, abychom některé z těchto počátečních integrací zavedli - takže to bude určitě vzrušující rok.
