Name: Tremplin Numérique
Price range: $$$

Sommaire

Points clés à retenir

Les communautés de jeux en ligne ne parviennent souvent pas à faire en sorte que les joueurs se sentent en sécurité et inclus en raison de lobbies toxiques de chat textuel et vocal.
La modération du chat par l'IA signale les comportements potentiellement toxiques afin qu'ils puissent être examinés et traités par une équipe de modérateurs humains.
La modération du chat vocal par l'IA est déjà utilisée dans des jeux multijoueurs populaires comme
Appel du devoir
,
Parmi nous,
et
GTA en ligne

Passer du temps dans un salon de jeu ou dans une discussion peut être terrible. Certaines communautés sont devenues toxiques, éloignant les joueurs du jeu avant même qu’ils n’y entrent. Certains éditeurs pensent que l’IA pourrait être la solution pour rendre leurs jeux accessibles à tous les joueurs.

Le jeu a un problème de toxicité

Je viens du milieu des joueurs de la vieille école, donc la plupart de mes années de formation ont été consacrées à jouer à des jeux solo ou à des compétitions sur canapé sur une console. Les trash talks étaient à l'ordre du jour, mais vous connaissiez vos limites lorsque vous étiez sur le canapé à côté de vos amis, et personne n'a jamais pris les trash talks personnellement. Internet a changé tout cela.

Bien que vous puissiez jouer à des jeux multijoueurs locaux avec Steam, vous jouerez généralement en ligne dans un lobby. Si vous jouez à des jeux de tir multijoueurs en ligne comme Valorant ou Appel du devoirvous vous rendrez vite compte de l’ampleur du problème de toxicité auquel sont confrontés de nombreux tireurs en ligne. Les données de 2022 ont montré que Appel du devoir était probablement le plus toxique de toutes les bases de fans, ce qui donnait au jeu une mauvaise image aux yeux des nouveaux fans. Le jeu a également un historique notoire de comportements nuisibles, y compris la tristement célèbre tendance du « swatting » d'il y a quelques années.

Activision, les éditeurs de Appel du devoirn’en étaient pas satisfaits et ont décidé qu’il était temps de changer les choses.

Les joueurs recherchent depuis longtemps des jeux non toxiques. Cependant, la plupart des sociétés de jeux ne savent pas comment résoudre le problème de la toxicité parmi leurs bases de joueurs. Appel du devoir a récemment mis en œuvre un système qui utilise l'IA pour détecter les comportements toxiques dans les lobbies et gérer les joueurs promouvant des comportements négatifs dans leur base de joueurs. Les résultats ont été étonnamment efficaces.

Comment l’IA gère les joueurs toxiques

Vous êtes donc dans un lobby de jeu, et un gars vous prend au visage avec des propos trash. Cela finit par aboutir à un langage dégoûtant, puis à des insultes. Vous signalez le gars, mais vous ne savez même pas si quelque chose sera fait à ce sujet.

C’est la réalité de nombreux espaces de jeux en ligne de nos jours. Selon Activision, plus de quatre millions de comptes ont été sanctionnés en janvier 2024 pour comportement toxique, mais ce comportement persiste.

L'ancienne approche d'Activision ne fonctionnait pas, alors ils ont décidé de changer de vitesse.

La société s'était auparavant associée à Community Sift pour la modération textuelle, ce qui semblait bien fonctionner. Cependant, dans les lobbies basés sur console, la plupart des communications se font via la voix et une modération basée sur la voix est nécessaire. C'est là qu'intervient le modérateur de chat vocal basé sur l'IA de l'entreprise.

Le modérateur, connu sous le nom de ToxMod, appartient à la société Modulate.ai et dispose de beaucoup de pouvoir au sein du Appel du devoir écosystème. ToxMod utilise les nuances de voix, les modèles de discours, les accents et d'autres éléments pour déterminer si l'utilisateur dit quelque chose de toxique aux autres membres du lobby. Le modérateur peut émettre des avertissements et signaler les comptes des joueurs pour qu'ils soient appliqués et bannis par des humains.

Quels jeux exécutent actuellement le modérateur de chat AI ?

Des titres comme Parmi nous et Grand Theft Auto en ligne ont tous deux implémenté le modérateur de chat AI. GTA en ligne les joueurs ont expérimenté pour la première fois les tests bêta de ToxMod en décembre 2023, mais de nombreux utilisateurs étaient préoccupés par leur vie privée. Rockstar, l'éditeur du jeu, a déclaré aux joueurs qu'ils testaient simplement le système et envisageraient de le mettre en œuvre en 2024. À ce jour, cependant, il n'y a pas eu beaucoup de mises à jour sur la modération de l'IA.

Parmi nous a également implémenté le système dans sa version VR en avril 2024. Ces jeux populaires ont rendu ToxMod très populaire pour traiter les discours douteux et garder les lobbies de jeux acceptables pour tout le monde. C'est un pas en avant pour aider les jeux multijoueurs en ligne à se débarrasser de leur passé toxique et à devenir plus accessibles à un plus grand nombre de personnes.

Ce qui est signalé et ce qui va bien

Selon ToxMod, le modérateur vocal IA utilise des signaux émotionnels pour déterminer si quelque chose d'offensant a été dit. Cependant, il utilise également les réponses du chat pour identifier les déclarations offensantes.

Le système est conçu pour que les humains aient le dernier mot puisque ToxMod envoie des journaux détaillés de la conversation audio au modérateur humain, qui peut ensuite émettre une interdiction s'il constate que la conversation enfreint le code de conduite. Il s'agit d'un outil de signalement, conçu pour aider à localiser le problème, plutôt que d'un système de modération entièrement automatisé.

Alors pourquoi ToxMod est-il si important s'il existe déjà des moyens permettant aux utilisateurs de soumettre des rapports sur les joueurs toxiques ? Le problème d'Activision est que l'accès à l'écran de rapport fait sortir les joueurs du jeu. Lorsque cela se produit, ils sont moins susceptibles de vouloir continuer à jouer. L'automatique de ToxMod maintient les joueurs immergés en réalisant le rapport à leur place.

Beaucoup d'entre nous sont habitués à simplement couper le son aux joueurs problématiques et à continuer, tandis que ToxMod veille à ce qu'un rapport soit établi afin que l'instigateur puisse être traité.

Comment ToxMod a-t-il aidé Call of Duty ?

Bien qu'il soit facile de supposer qu'un modérateur vocal IA pourrait créer des jeux comme Appel du devoir moins toxique, avoir des faits concrets est bien mieux. Dans ce cas, Activision estime qu'il y avait jusqu'à 50 % de chat vocal toxique en moins en Amérique du Nord pour les titres C.tout Duty: Modern Warfare III et Appel du devoir : zone de guerre. La même source évoque une réduction de 8 % des récidivistes et une réduction globale de 25 % de la toxicité sur la plateforme.

D'après les chiffres, il est évident que ToxMod a eu un impact positif sur l'écosystème de chat. Néanmoins, cela doit être pris avec des pincettes. La modération vocale de l'IA a tendance à avoir des problèmes avec certains accents régionaux, il est donc essentiel qu'un humain émette les interdictions pour éviter tout problème.

Malgré tout, certains joueurs sont mécontents d’avoir été sanctionnés pour cause de chat vocal. Aussi efficace que soit la modération vocale de l’IA, des erreurs peuvent toujours être commises. Nous pensons que c'est une excellente année pour découvrir le nouveau Appel du devoirsurtout avec la toxicité réduite.

Construire l'avenir du jeu que nous voulons

L'intelligence artificielle a de nombreuses utilisations, depuis la génération d'images puissantes sur votre PC jusqu'à son utilisation comme entraîneur personnel. Il est tout à fait naturel que quelqu'un trouve un moyen de modérer les conversations vocales offensantes dans les jeux multijoueurs pour en faire une atmosphère plus accueillante.

J'aimerais voir une communauté de jeu multijoueur où les gens se soutiennent et n'abusent pas des autres joueurs par préjugés. Il y a un moment et un lieu pour parler de trash, mais il y a une ligne où cela devient méchant et abusif.

Si les modérateurs de chat vocal IA sont le moyen de nous amener à un endroit où le jeu est à nouveau amusant, je suis tout à fait favorable à sa mise en œuvre.