EA constate une réduction notable du contenu haineux sur ses plateformes.
Nous savons depuis des années que les jeux en ligne peuvent être un champ de mines de toxicité et de harcèlement, en particulier pour les femmes. Et bien que les outils de modération existent depuis presque aussi longtemps, ce n’est que depuis quelques années que nous avons commencé à voir les principales sociétés de jeux reconnaître vraiment leur responsabilité et leur pouvoir. non seulement pour arrêter ce comportement, mais pour créer de manière proactive des espaces positifs.
Le mois dernier, nous avons vu Riot Games et Ubisoft s’associer à un tel projet, et Xbox a également récemment commencé à proposer des données sur les problèmes de modération. Mais une entreprise qui promeut publiquement cette stratégie depuis quelques années est EA, à travers son programme Positive Play.
Le programme Positive Play est réalisé par Chris Bruzzo, directeur de l’expérience chez EA. Il travaille dans l’entreprise depuis huit ans et demi et a assumé ce nouveau rôle après six ans en tant que directeur marketing d’EA. C’est alors qu’il occupait encore cet ancien poste que lui et l’actuel CMO David Tinson ont entamé les discussions qui ont conduit à Positive Play chez EA.
« David et moi avons parlé pendant de nombreuses années de la nécessité d’engager la communauté sur cette question et de lutter contre la toxicité dans les jeux et certaines des choses vraiment difficiles qui se produisaient dans les communautés sociales qui se sont rapidement développées dans ou autour des jeux », déclare Bruzzo. « Ainsi, il y a quelques années [en 2019]nous avons organisé un sommet à l’E3 et avons commencé à parler de la responsabilité collective des sociétés de jeux vidéo et de tous les autres, des joueurs et de toutes les personnes impliquées pour lutter contre les comportements haineux et la toxicité dans les jeux. »
Lancement du jeu positif
Le sommet Building Healthy Communities d’EA a réuni des créateurs de contenu de 20 pays, des employés d’EA et des experts tiers dans les communautés en ligne et la toxicité. Il y a eu des discussions et des tables rondes, ainsi que des occasions de fournir des commentaires sur la façon d’aborder les questions soulevées.
Bruzzo dit qu’avant et après le sommet, il est devenu très clair pour lui que les femmes avaient une « expérience généralement mauvaise » dans les jeux sociaux. Si elles révélaient leur sexe ou si leur voix était entendue, les femmes signalaient souvent avoir été harcelées ou intimidées. Mais la réponse du sommet l’a convaincu qu’EA pouvait faire quelque chose à ce sujet. C’est ainsi qu’est né le Positive Play.
recherché Rachel Franklin, ancienne directrice de Maxisqui était parti pour Meta (alors Facebook) en 2016 pour être leur responsable de la VR sociale, où Bruzzo dit avoir malheureusement acquis une expérience pertinente supplémentaire en la matière.
« Si vous voulez trouver un environnement plus toxique qu’une communauté de jeu, rendez-vous dans une communauté de VR sociale », explique Bruzzo. « Parce que non seulement il y a la même quantité de toxicité, mais mon avatar peut venir directement sur le visage de votre avatar, et cela crée un tout autre niveau de ne pas se sentir en sécurité ou inclus. »
Avec Franklin à la barre en tant que vice-président senior du jeu positif d’EA, le groupe s’est mis au travail. En 2020, ils ont publié la Positive Play Charter, qui est un aperçu des choses à faire et à ne pas faire en matière de jeu social dans les jeux EA. Ses piliers incluent le traitement des autres avec respect, le maintien de l’équité, le partage de contenu équitable et le respect des lois locales, et il stipule que les joueurs qui ne respectent pas ces règles peuvent voir leur compte EA interdit. Aussi basique que cela puisse paraître, Bruzzo dit que c’est un cadre avec lequel EA peut intensifier la modération des mauvais comportements, ainsi que commencer à créer de manière proactive des expériences qui sont plus susceptibles d’être progressives et positives.
L’armée de la modération
En ce qui concerne la modération, Bruzzo dit qu’ils ont essayé de permettre aux joueurs de repérer plus facilement les problèmes dans les jeux EA, et qu’à chaque fois Les agents d’IA sont davantage utilisés et améliorés pour identifier les modèles de mauvaise conduite et émettre des avertissements automatiquement. Bien sûr, ils ne peuvent pas entièrement compter sur l’IA : de vraies personnes doivent toujours examiner les valeurs rares ou aberrantes et prendre les bonnes décisions.
Comme exemple de la façon dont l’IA facilite le processus, Bruzzo indique les noms des joueurs. Les noms des joueurs sont l’un des problèmes de toxicité les plus courants qu’ils rencontrent., il est dit. S’il est assez facile d’entraîner l’IA à interdire certains mots inappropriés, les joueurs qui veulent se conduire mal utilisent des symboles ou d’autres astuces pour contourner les filtres d’interdiction. Mais avec l’IA, ils sont de mieux en mieux en mesure d’identifier et de prévenir ces solutions. L’été dernier, dit-il, ils ont analysé 30 millions de noms de clubs Apex Legends lors de leurs contrôles d’IA et supprimé 145 000 qui étaient en infraction. Aucun humain ne pourrait le faire.
Et ce n’est pas qu’une question de noms. Depuis le lancement de l’initiative Positive Play, Bruzzo dit qu’EA surveille des réductions mesurables du contenu haineux sur leurs plateformes.
Au moment où votre expression commence à empiéter sur la capacité d’une autre personne à se sentir en sécurité… c’est le moment où votre capacité à le faire disparaît.
« L’une des raisons pour lesquelles nous sommes dans une meilleure position que les plateformes de médias sociaux est que nous ne sommes pas une plateforme de médias sociaux », dit-il. « Nous sommes une communauté de personnes qui se réunissent pour s’amuser. Ce n’est donc pas vraiment une plate-forme pour tous les discours politiques. Ce n’est pas une plate-forme où vous pouvez parler de tout ce que vous voulez… Au moment où votre expression commence à empiéter sur une autre la capacité d’une personne à se sentir en sécurité et incluse ou à faire en sorte que l’environnement soit équitable et que tout le monde s’amuse, c’est là que votre capacité à le faire disparaît. Allez le faire sur une autre plateforme. C’est une communauté de personnes, de joueurs qui se réunissent pour s’amuser. Cela nous donne de grands avantages en termes d’avoir des paramètres très clairs. afin que nous puissions imposer des conséquences et réaliser de réels progrès matériels dans la réduction des comportements perturbateurs« .
Cela couvre le texte, mais qu’en est-il du chat vocal ? Je demande à Bruzzo comment EA gère cela, car il est beaucoup plus difficile de modérer ce que les gens se disent via des communications vocales sans violer les lois sur la confidentialité liées aux conversations enregistrées.
Bruzzo admet que c’est plus difficile. Il dit qu’EA reçoit beaucoup d’aide de propriétaires de plates-formes comme Steam, Microsoft, Sony et Epic chaque fois que le chat vocal est hébergé sur leurs plates-formes, car les deux sociétés peuvent apporter leurs outils. Mais pour l’instant, la meilleure solution reste malheureusement que les joueurs bloquent, coupent le son ou partent de communications toxiques.
« Dans le cas de la voix, la chose la plus importante et la plus efficace à faire aujourd’hui est de s’assurer que le joueur a un accès facile pour éteindre les choses », dit-il. « C’est le mieux que nous puissions faire. »
Une autre façon dont EA travaille pour réduire la toxicité dans ses jeux peut sembler un peu tangentielle : ils interdisent agressivement les tricheurs.
« Nous avons constaté que lorsque les jeux sont bogués ou contiennent des tricheurs, alors lorsqu’il n’y a pas de bon anti-triche ou lorsque l’anti-triche est à la traîne, en particulier dans les jeux de compétition, l’une des causes profondes d’un grand pourcentage de Toxicité c’est quand les joueurs ont l’impression que l’environnement n’est pas juste », explique Bruzzo. « Qu’ils ne peuvent pas rivaliser équitablement. Et ce qui se passe, c’est que cela les met en colère. Parce que tout à coup, vous vous rendez compte qu’il y en a d’autres qui enfreignent les règles et que le jeu ne contrôle pas ce comportement. Mais vous aimez ce jeu et vous avez passé une beaucoup de temps et d’énergie dessus. C’est très ennuyeux. Donc nous avons donné la priorité à la lutte contre les tricheurs comme l’un des meilleurs moyens de réduire la toxicité dans les jeux. »
Bon jeu
Ce que Bruzzo veut transmettre, c’est que L’élimination de la toxicité est aussi importante que la promotion de la positivité. Et ce n’est pas comme si je travaillais à partir de zéro. Aussi omniprésents et mémorables que puissent être les mauvais comportements dans les jeux, la grande majorité des sessions de jeu ne sont pas toxiques. Au pire, ils sont neutres, et souvent ils sont déjà positifs sans aucune aide supplémentaire d’EA.
« Moins de 1 % de nos sessions de jeu se terminent par un joueur qui en signale un autre », dit-il. « Nous avons des centaines de millions de personnes qui jouent à nos jeux, donc c’est toujours énorme, et nous pensons… nous devons nous mettre au travail maintenant parce que l’avenir du divertissement est interactif… Mais il est important de se rappeler que 99 sessions sur 100 n’obligent pas un joueur à signaler une faute« .
Jusqu’à présent en 2022, le commentaire textuel le plus courant chez les joueurs est « gg ».
« Et une autre chose que je regardais l’autre jour dans Apex Legends, jusqu’à présent en 2022, le commentaire textuel le plus courant parmi les joueurs est en fait » gg « . Ce n’est pas » Je te déteste « . Ce n’est pas un blasphème, pas même quelque chose de compétitif C’est « bon jeu » Et en fait, « merci ». Apex Legends à lui seul a utilisé « merci » plus d’un milliard de fois en 2022.
« Et la dernière chose que je vais dire, c’est que lorsque nous avertissons les gens qu’ils ont franchi la ligne, qu’ils ont enfreint une règle ou fait quelque chose de nuisible, 85% des personnes que nous avertissons ne récidivent plus. Cela me donne de l’espoir. »
C’est cet esprit de positivité que Bruzzo espère nourrir à l’avenir. Je lui demande à quoi ressemblera l’initiative Positive Play d’EA dans dix anss’il continue à réussir.
« J’espère que nous avons dépassé le problème numéro un d’essayer de supprimer le contenu haineux et toxique, et maintenant nous parlons de la façon de rendre les jeux aussi inclusifs que possible. Je pense dans dix ans, nous verrons des jeux avec des commandes adaptatives et même avec différents modes de démarrage et différents serveurs pour différents styles de jeu. Nous verrons l’explosion de la création et les joueurs créeront des choses, pas seulement des cosmétiques, mais des objets jouables dans…