Les acteurs de la voix disent que cela devrait être traité comme une “infraction”, mais Nexus Mods dit que les mods générés par l’IA ne sont pas contraires aux règles.
La scène de modding prédominante de Bordeciel est célèbre dans l’industrie du jeu vidéo pour avoir prolongé la durée de vie de l’un des meilleurs jeux bethesda. Mais en ce moment, le paysage du modding est entouré de controverses en raison de la montée en puissance de Clips vocaux générés par l’IA dans des mods basés sur de vrais acteurs de la voix de Skyrim. Si cela ne soulève pas suffisamment de questions éthiques, certains des mods comportent Performances vocales érotiques IAce qui provoque des réactions et des protestations dans la communauté des doubleurs.
JeuxRadar a d’abord signalé ce problème, ce qui l’a porté à l’attention de Nexus Mods, un distributeur de mods qui héberge plusieurs des Mods Skyrim porno en question. Quand IGN a contacté Nexus Mods Pour commenter cette histoire, une porte-parole s’est simplement limitée à la politique actuelle du site sur le contenu de l’IA, qui se lit en partie : “Contenu de mod généré par l’IA Ce n’est pas contraire à nos règlesmais peut être supprimé si nous recevons une plainte crédible d’un créateur/titulaire de droits concerné”.
L’utilisateur de Twitter @ Robbie92_ a souligné la pratique de Clonage de voix IA dans la scène de modding de Skyrim à la fin du mois dernieret marqué plusieurs acteurs de la voix affectés. Robbie a déclaré que les performances vocales des acteurs étaient principalement introduites dans un outil de clonage d’IA appelé ElevenLabsqui a généré les voix de l’IA utilisées dans le contenu explicite.
Avec l’essor du clonage de voix par IA, les acteurs de la voix sont abusés par les communautés de modding. En tant que membre de la scène du modding de Skyrim, je suis profondément préoccupé par la pratique consistant à utiliser le clonage de voix par IA pour créer et distribuer du contenu pornographique deepfake non consensuel. pic.twitter.com/ySUFqrtjH0
– Robbie (@Robbie92_) 1 juillet 2023
“Je suis un membre de longue date et je suis profondément préoccupé par la communauté mod de la série de jeux The Elder Scrolls”Robbie a écrit. “Je pense que la création et la distribution de faux porno est manifestement mauvais, et que nous, en tant que communauté, avons la responsabilité d’agir. ».
Les réponses au tweet original de Robbie sont pleines de commentaires des acteurs de la voix concernés qui réagissent en apprenant que leur voix a été utilisée pour du contenu porno AI sans votre consentement. De nombreux acteurs de la voix ont été surpris lorsqu’ils ont découvert ce sujet pour la première fois, et l’acteur de la voix Richard Epcar a écrit : “Que diable?!”
C’est quoi la merde ?!
—Richard Epcar (@RichardEpcar) 4 juillet 2023
Robbie a également partagé un document google contenant une liste de noms et de liens de divers mods qui utilisent le clonage de voix AI. Robbie a écrit que les liens ne sont accessibles qu’avec un compte actif sur Mods Nexuscar ils sont étiquetés comme NSFW.
Cette liste, bien que non exhaustive, compte environ 100 liens vers les mods NSFW listé dans Nexus Mods. Au moment de la rédaction de cet article, les créateurs ont déjà masqué de nombreux mods, avec le message : “Le mod a (possible) problèmes d’autorisations que l’auteur s’emploie à résoudre”. Cependant, de nombreux liens sont encore entièrement accessibles.
Los “problèmes d’autorisations possibles” deviennent évidents au fur et à mesure que vous approfondissez Conditions d’utilisation d’ElevenLabspuisque quiconque a utilisé le générateur de voix pour créer des mods NSFW Skyrim a violé une partie de l’accord d’utilisation.
“En téléchargeant des fichiers sur nos services, vous confirmez que vous êtes le propriétaire de ces fichiers ou que vous disposez des droits et autorisations nécessaires pour utiliser ces fichiers. Vous ne pouvez télécharger des fichiers que si vous cochez une case le confirmant“, décrit le site Web d’ElevenLabs. “Par exemple, si vous téléchargez l’enregistrement vocal de quelqu’un sur nos services, vous confirmez que vous avez l’autorisation du propriétaire de la voix pour cloner et synthétiser votre voix. Vous êtes seul responsable de la sécurisation de ces droits et autorisations.”.
IGN a contacté ElevenLabs pour un commentaire.
Comment les mods porno Deepfake de Skyrim impactent les acteurs de la voix
Lorsqu’un moddeur utilise des lignes générées par l’IA à partir d’un véritable acteur vocal, cela peut avoir un impact significatif sur le intégrité professionnelle et santé mentaleil de l’acteur IGN a parlé à quelques acteurs de la voix qui ont travaillé sur The Elder Scrolls Online de la façon dont les Deepfakes (en particulier ceux de nature explicite) sont affectant leurs pairs. Bien qu’aucun des acteurs de la voix à qui nous avons parlé n’ait été spécifiquement répertorié dans le document sur l’acteur de la voix concerné, les deux ont un aperçu précieux de ce que cela signifie. situation pour l’industrie.
Abbaye Veffer elle a fait du travail vocal pour la récente extension d’ESO, Necrom, et a été très franche sur les réseaux sociaux concernant la controverse sur les mods de Skyrim. Dans un courriel à IGN, Veffer a partagé sa position sur les mods.
“Je pense que l’utilisation de la synthèse d’IA pour le clonage vocal non consensuel et mods/deepfakes de NSFW Ils devraient être vus pour la violation qu’il s’agit.”Veffer a écrit. “À mon avis, cela devrait être traité comme quelque chose qui s’apparente à du porno de vengeance. C’est un problème réfléchi enraciné dans le fait que les auteurs jouent avec dynamique de puissance et ils veulent un semblant de contrôle aux dépens de quelqu’un d’autre, c’est-à-dire des acteurs dont ils peuvent dire qu’ils sont fans”.
Veffer a exprimé sa frustration que les personnes qui fabriquent les mods ne les considèrent pas comme nuisibles et ne comprends pas les implications. Il n’a pas tardé à souligner que les fans peuvent ne pas voir que la création de contenu comme celui-ci se fait au détriment d’une personne réelle, et que les acteurs de la voix ne sont pas si influent ou intouchable Comment les fans peuvent-ils penser ?
Je pense que l’utilisation de la synthèse d’IA pour le clonage de voix non consensuel et les mods/deepfakes NSFW devrait être considérée comme la violation qu’elle est.
“En raison d’idées fausses courantes sur la salaires des acteurs, de nombreux utilisateurs sans instruction peuvent penser que nous sommes tous équipés d’avocats coûteux qui peuvent nous sauver en un clin d’œil. Ils supposent également que ces parodies d’IA ne mettront pas en péril nos emplois, mais c’est c’est complètement faux. La plupart des acteurs de la voix ne sont pas riches et la sécurité d’emploi n’existe pas vraiment dans cette industrie. Nous sommes tous dans le même bateau, et tous nous méritons d’être protégés contre les abus de l’IA“.
IGN s’est également entretenu avec Kyle McCarley, un autre acteur vocal de TESO qui s’oppose à l’utilisation abusive des acteurs vocaux dans les projets générés par l’IA. Dans une déclaration à IGN, McCarley a déclaré que “les conséquences de cette technologie n’est pas contrôlée Ils sont carrément horribles”puis a expliqué les dommages causés aux acteurs de la voix.
“Si les fans créent des mèmes dans lesquels nos voix disent des choses que nous n’avons pas ditescela peut absolument nuire à nos opportunités d’emploi si ces contrefaçons sont assez bonnes pour convaincre nos employeurs.”a déclaré McCarley. “No somos dueños de los derechos de los personajes que representamos, nuestros empleadores sí. Muchos de ellos, comprensiblemente, no quieren que ‘usemos’ esos personajes para decir cosas sin su autorización, como tampoco queremos que la gente use nuestras voces para decir esas Choses… Notre image publique pourrait être ternie par un troll nous forçant à dire des choses flagrantes, et ce genre de choses peut être presque impossible à récupérer, non seulement financièrement, mais aussi mentalement et émotionnellement.”.
Quant à ce qui peut être fait, McCarley et Veffer conviennent que le la législation est le seul moyen pour protéger les acteurs des deepfakes de l’IA, et que les acteurs indépendants ne pourront pas arrêter ça tout seul à long terme.
McCarley a également noté la négociations SAG-AFTRA en cours et les studios hollywoodiens, où le syndicat du divertissement fait pression pour des protections contre les employeurs qui utiliser la technologie de l’IA sans autorisation et/ou paiement supplémentaire.
“C’est pourquoi nous avons désespérément besoin d’un législation au niveau fédéral, d’établir un contrôle des entreprises qui développent cette technologie et de réglementer la manière dont tant les entreprises privées en question que le grand public peuvent l’utiliser. Et puis appliquer ces règles avec une forte des mesures qui punissent ceux qui les violent… Tout ce qu’un acteur individuel peut faire à ce stade, c’est essayer de contacter la personne qui utilise le modèle et demandez-lui poliment d’arrêterce qui va évidemment générer des résultats mitigés”.