Finji, éditeur de jeux indépendants acclamés tels que Nuit dans les bois oui Tunique et développeur de Par la route oui Juin habitueldéclare que Tik Tok a utilisé l’intelligence artificielle générative pour modifiez vos annonces sur la plateforme sans autorisation, et envoyer ces publicités à ses utilisateurs à l’insu de Finji, y compris une publicité qui a été modifiée en inclure un stéréotype raciste et sexualisé d’un des personnages de Finji.
Cela a été souligné pour la première fois par Rebekah Saltsman, PDG et co-fondatrice de Finji, sur Bluesky, où elle partage une capture d’écran d’un message d’une autre marque qui semblait vivre la même chose, disant : « Si vous voyez des publicités Finji qui ne ressemblent pas à celles de Finji, envoyez-moi une capture d’écran.
Juin habituel
Selon Saltsman, parlant avec JeuxPourTous, le compte officiel TikTok de Finji publie des publicités pour ses jeux vidéo, mais “L’IA est complètement désactivée.” L’équipe a appris que Des publicités IA ont été créées à votre insu grâce aux commentaires sur les réseaux sociaux sur de vraies publicités Finji d’utilisateurs préoccupés par ce qu’ils voyaient. Saltsman a réussi à obtenir des captures d’écran des membres de l’audience montrant les publicités incriminées, ce qui l’a amenée à signaler le problème au support TikTok.
Les publicités originales en question semblent être des vidéos faisant la promotion des jeux Finji, l’une montrant divers jeux et une autre axée sur Juin habituel. Les versions « améliorées » de l’IA, qui apparaissent sur TikTok comme si elles étaient publiées directement depuis le compte officiel Finji, semblent être constituées de diaporamas plutôt que de vidéos, selon plusieurs commentaires sur les deux publicités. Finji a envoyé des captures d’écran JeuxPourTous soumises par des utilisateurs qui prétendent avoir vu la version IA de ces publicités. Alors que plusieurs des images améliorées par l’IA semblent relativement inédites par rapport à leurs homologues officielles, l’une des images vues par JeuxPourTous est visiblement modifié.
L’image incriminée montre une version modifiée de la pochette officielle, dont la version originale est visible dans l’image ci-dessus. Dans la version apparemment éditée par l’IA, la protagoniste June (au centre de l’image ci-dessus) apparaît seule, mais l’image s’étend jusqu’à ses chevilles. Elle est représentée avec un bas de bikini, des hanches et des cuisses incroyablement larges et des bottes qui arrivent au-dessus de ses genoux, ce qui semble évoquer un stéréotype néfaste. Ceci est extrêmement différent de la représentation réelle de juin dans le jeu :
JeuxPourTous a examiné une conversation entre le compte officiel de Finji et le service client de TikTok, y compris une partie de la discussion dans laquelle l’agent d’assistance a confirmé que Finji avait désactivé l’option « Smart Creative » de TikTok.
« Smart Creative » est essentiellement une fonctionnalité de TikTok qui utilise l’IA générative pour créer plusieurs versions d’annonces créées par les utilisateurs. Ainsi, si une entreprise crée une annonce A avec une image A et un texte A, et une annonce B avec une image B et un texte B, l’IA générative mélangera et fera correspondre ces éléments dans différentes combinaisons pour tester quelles versions des annonces fonctionnent le mieux auprès des utilisateurs, puis affichera les meilleures plus fréquemment.
Il existe également une fonctionnalité appelée « Automatiser la création », qui utilise l’IA pour « optimiser automatiquement » les éléments de la publicité, tels que « l’amélioration » des images, de la musique, de l’audio et d’autres composants pour rendre la publicité censée être plus attrayante pour le public.
Saltsman confirme que Finji a désactivé les deux options et a montré des captures d’écran du backend de TikTok de plusieurs des publicités en question pour corroborer cela.
L’éditeur précise également que Vous ne pouvez pas afficher ou modifier les versions générées par l’IA de ses propres publicités, et n’en est conscient que par le biais de nombreux commentaires sur les publicités, ainsi que par les utilisateurs de son Discord officiel signalant le problème et partageant des captures d’écran. Saltsman dit qu’il soupçonne qu’il pourrait y avoir au moins une autre publicité inappropriée générée par l’IA qui circule, sur la base de commentaires sur un autre personnage de Juin habituel, Frankie, mais elle ne peut pas voir elle-même les modifications et ne peut donc pas les confirmer. Saltsman ajoute qu’il a depuis mis fin aux campagnes publicitaires en question, estimant que c’était le seul moyen d’arrêter la circulation des images apparemment modifiées par l’IA.
Dans cette même conversation avec l’assistance, l’agent TikTok n’a pas pu trouver de solution immédiate pour Finji. À un moment donné, l’agent suggère que l’une des annonces de Finji utilisait par inadvertance la fonctionnalité de création automatisée, ce à quoi Finji répond : « Je n’ai jamais activé cette fonctionnalité » et demande à l’agent de confirmer que l’option n’a pas été activée pour les annonces susmentionnées.
Plus tard dans la conversation, l’agent a déclaré : « J’examine toutes les causes possibles de ce phénomène, mais d’après la vérification, tous les paramètres sont clairs et le contenu généré par l’IA ne doit pas être inclus. » L’agent a proposé « d’ouvrir un ticket » pour une enquête plus approfondie, mais a ignoré les demandes répétées de Finji de partager un calendrier pour savoir quand ils pourraient répondre au ticket.
Le cercle de soutien de l’enfer
Depuis cet incident, le personnel de Finji a fait des efforts pour effectuer un suivi et obtenir des réponses, mais a été rejeté à plusieurs reprises par le support de TikTok. Il a envoyé des captures d’écran à JeuxPourTous de tous les messages envoyés à TikTok et leurs réponses.
La conversation précédente a eu lieu le 3 février. Le 6 février, après un message de suivi de Finji pour demander une mise à jour, l’assistance TikTok Ads a répondu comme suit :
“Après avoir examiné les créations, nous ne voyons aucune indication que des ressources générées par l’IA ou des formats de diaporama sont utilisés. Il est confirmé que les deux publicités sont des créations vidéo extraites directement de votre bibliothèque de créations/publications TikTok, et les créations apparaissent inchangées au niveau de l’annonce. Il n’y a aucune preuve que le système a ajouté du contenu généré par l’IA ou assemblé automatiquement des éléments de diaporama. (L’accent est mis sur TikTok.)”
Un représentant de Finji a répondu le même jour avec la capture d’écran de l’annonce incriminée (que Finji avait déjà envoyée lors de la demande d’assistance initiale) et a demandé à TikTok de faire remonter le problème, provoquant la réponse suivante de TikTok :
“Nous reconnaissons l’accueil favorable des preuves que vous nous avez fournies et comprenons la gravité de vos préoccupations. Sur la base des documents et du contexte que vous avez partagés, nous reconnaissons que Cette situation pose des problèmes importantsy compris l’utilisation non autorisée de l’IA, la sexualisation et la fausse représentation de ses personnages, et les dommages commerciaux et de réputation qui en résultent pour son studio.
Nous voulons qu’il soit clair que Nous ne nous demandons pas si cela s’est produit. Nous comprenons que vous avez fourni de la documentation et que le public commente les publicités corroborent davantage leurs affirmations. Cette affaire sera immédiatement transmise à un examen plus approfondi au niveau le plus élevé approprié.
Nous lançons une escalade interne pour garantir que ce problème doit être étudié de manière approfondieet nous nous efforcerons de les mettre en contact avec un haut représentant qui a le pouvoir de traiter la situation et de discuter des prochaines étapes vers sa résolution.
Le 10 février, n’ayant reçu aucune autre réponse ni contacté par un « haut représentant », Finji a de nouveau demandé quel était le statut de la contravention. Vous avez reçu un message contenant les éléments suivants :
“Nous comprenons à quel point il était surprenant de voir du contenu généré par l’IA ou créé automatiquement apparaître dans vos annonces, en particulier lorsque vous ne vous attendiez à aucun changement dans vos créations.
Voici ce qui s’est passé et pourquoi ils ont vu ces éléments : Votre campagne a récemment inclus une annonce utilisant un format d’annonce de catalogue conçu pour démontrer les avantages en termes de performances de la combinaison d’éléments carrousel et vidéo dans les campagnes de vente. Cela fait partie d’une initiative visant à aider les annonceurs comme vous à obtenir de meilleurs résultats avec moins d’efforts. Les campagnes qui utilisent ces éléments mixtes observent généralement une augmentation de 1,4x du ROAS (retour sur les dépenses publicitaires), et nous voulions nous assurer que eu accès à cette amélioration possible. (L’accent est mis sur TikTok.)”
Le message d’assistance décrivait ensuite les améliorations supposées obtenues avec un format d’annonce sur catalogue, suivi d’une offre de demander à être ajouté à une « liste d’exclusion » pour lequel l’approbation « n’est pas garantie ».
Finji répond, naturellement assez bouleversé à ce stade, exigeant de savoir. Pourquoi n’a-t-il pas été mis en contact avec un haut représentant ?pourquoi le « REPRÉSENTATION SEXUALISÉE, RACISTE ET SEXISTE du travail du studio »(souligné par Finji), pourquoi l’entreprise ne peut pas suivre les versions des publicités générées par l’IA, pourquoi elles ont été incluses sans le consentement de l’entreprise et pourquoi TikTok ne peut pas garantir une exclusion.
Tik Tok répond à nouveau, déclarant que la réponse la plus récente envoyée provenait en fait de leur équipe d’escalade et que Finji ne serait pas contactée par un « représentant principal » parce que la personne à qui elle parlait « est l’équipe interne de plus haut niveau disponible pour ce type de problèmes ». Le représentant a poursuivi en disant que l’équipe d’escalade j’avais déjà fait le point sur la situation et que « leurs conclusions ont été incluses dans la réponse précédente » et que les commentaires « ont été pris au sérieux ». Il note que Finji avait été inclus dans « une initiative automatisée plus large » et conclut que l’équipe d’escalade « avait déjà fourni ses conclusions…