Le filtre de beauté Bold Glamour de Tiktok inquiète les experts en intelligence artificielle face à la réalité

Nov 18, 2023

Un effet spécial en temps réel a inondé TikTok ces dernières semaines, ciselant les mentons, repulpant les lèvres et servant des contours de maquillage à la Kardashian pour toute personne possédant un smartphone. Alors qu'il est présenté comme un filtre de beauté remarquablement convaincant, les chercheurs en IA affirment que l'effet ne laisse aucun indice sur sa présence, lui donnant une capacité sans précédent à manipuler les gens à l'intérieur et à l'extérieur d'une application qui a suscité l'examen minutieux des gouvernements du monde entier.

Bold Glamour, qui a été téléchargé plus de 16 millions de fois depuis sa sortie le mois dernier, offre l'un des effets les plus convaincants que toute personne possédant un smartphone peut utiliser pour créer une version améliorée ou un avatar d'elle-même en temps réel, selon des créateurs de filtres indépendants , chercheurs et technologues créatifs.

Contrairement aux autres filtres photo, Bold Glamour ne faiblit pas lorsqu'il y a trop de mouvement ou si une main passe devant le visage de l'utilisateur. Il modifie les visages en temps réel et il n'y a pas de faux cils errants. Les utilisateurs se tirent les joues et tirent les sourcils parce qu'ils ne peuvent pas croire ce qu'ils voient.

La porte-parole de TikTok, Alexa Youssefian, a refusé de discuter de la technologie derrière le filtre, mais les utilisateurs et les chercheurs disent que le filtre lit les tons de peau des gens, le sexe perçu et la couleur des cheveux, puis détermine la quantité de maquillage, de remplissage des lèvres et de raffermissement de la peau à appliquer pour un certain SoCal regard d'influenceur. Et l'IA peut être à l'origine de ce processus.

"On dirait que le filtre a utilisé le visage de Kylie Jenner comme modèle pour un algorithme d'apprentissage automatique, puis a mélangé son visage au mien", a déclaré Laura Gouillon, une créatrice de filtres de médias sociaux, au Washington Post.

L'effet est probablement l'apprentissage des techniques de maquillage, a-t-elle déclaré. "Dans les filtres de beauté précédents, un maillage du visage était superposé sur le visage d'un utilisateur, donc si une main ou des cheveux couvraient le visage, l'effet brillait", a déclaré Gouillon. "Ce filtre utilise probablement la technologie d'apprentissage automatique pour mélanger ces fonctionnalités sur votre visage."

Hany Farid, professeur d'informatique à l'Université de Californie à Berkeley, a déclaré que le filtre utilise probablement "l'IA générative", une technologie qui étudie des millions d'images et d'échantillons de texte, souvent extraits du Web, pour créer de nouvelles images ou mots. (Farid a été membre du conseil consultatif sur le contenu de TikTok de 2020 à 2022.)

Luke Hurd, qui crée des filtres Snapchat et Instagram, a tweeté que l'effet Bold Glamour utilise l'apprentissage automatique.

"Ils utilisent quelque chose appelé Generative Adversarial Network", a-t-il déclaré. "Ils prennent une image de l'utilisateur, puis la comparent à un ensemble de données d'autres images, puis redessinent votre visage, pixel par pixel, sur la sortie de votre flux de caméra."

L'accessibilité du filtre est ce qui le distingue des précédents moyens de manipulation visuelle, a déclaré Halsey Burgund, technologue créative en résidence au MIT Open Documentary Lab.

Comment essayer la nouvelle technologie d'IA dont tout le monde parle

"La capacité de se manipuler de manière crédible, et bientôt les autres, dans les vidéos est devenue banalisée [grâce à cet effet], et c'est le véritable saut", a-t-il déclaré. "Cette technologie a vécu dans des laboratoires, des entreprises et dans des environnements plus ésotériques sur le Web pendant un certain temps, mais maintenant tout le monde peut le faire gratuitement et voir comment cela fonctionne."

Les vidéos avec Bold Glamour peuvent être publiées sur Internet sans étiquette signifiant que l'utilisateur a appliqué l'effet hyperréaliste, et les chercheurs ont averti qu'il deviendra de plus en plus difficile de croire ce qui est réel en ligne.

"L'effet Bold Glam est un signe que très bientôt, la technologie qui crée des deepfakes pourra également être généralisée", a déclaré Memo Akten, professeur d'art et de design informatiques à l'Université de Californie à San Diego. "Cela ne signifie pas que la technologie sera publiée, c'est juste que c'est un signe qu'elle peut être publiée."

Les deepfakes sont des vidéos ou d'autres médias qui utilisent l'intelligence artificielle pour montrer des gens faisant des choses qui ne se sont jamais vraiment produites.

Big Tech avançait prudemment sur l'IA. Puis vint ChatGPT.

Les vidéos Bold Glamour sur TikTok sont divulguées avec une balise directement sur la vidéo pour la transparence de l'utilisateur, mais cette balise disparaît si les vidéos sont déplacées en dehors de l'application.

Le porte-parole de la société, Youssefian, a refusé de répondre aux préoccupations concernant l'étiquette d'avertissement déposant les vidéos exportées vers d'autres applications. "TikTok ne peut parler que de l'expérience des utilisateurs sur TikTok", a-t-elle déclaré.

La société mère de TikTok, ByteDance, fait l'objet d'un examen minutieux depuis des années, craignant que la collecte de données de la société chinoise ne constitue une menace pour la sécurité.

Récemment, les gouvernements américain, canadien et autres ont exigé que les employés fédéraux suppriment TikTok des appareils gouvernementaux, invoquant des inquiétudes concernant une surveillance potentielle. Au moins 28 États américains ont interdit l'application sur les appareils gouvernementaux en raison de risques non spécifiés pour les données sensibles et confidentielles. Un groupe bipartisan de sénateurs a présenté mardi un projet de loi qui donnerait au département américain du Commerce le pouvoir d'interdire TikTok ou d'autres applications basées dans des pays étrangers.

Mercredi, l'attachée de presse de la Maison Blanche, Karine Jean-Pierre, a déclaré que l'administration Biden avait des "préoccupations" concernant la sécurité nationale en ce qui concerne ByteDance.

Outre les préoccupations technologiques soulevées par le filtre, Bold Glamour peut également contribuer à un sentiment d'inadéquation et à des attentes irréalistes chez les utilisateurs, en particulier les adolescents et les autres jeunes, a déclaré Linda Charmaraman, chercheuse principale aux Wellesley Centers for Women.

La norme de beauté sans pores et à l'aérographe qu'elle pousse est loin de la norme du monde réel sans des milliers de dollars de chirurgie plastique et de maquillage.

"Les filtres de beauté utilisés sans supervision puis intériorisés par les plus jeunes sont inquiétants", a déclaré Charmaraman. "Le filtre Bold Glam est très réaliste, et il est moins évident qu'il s'agisse d'un filtre. Et c'est pourquoi il pourrait être préjudiciable à l'estime de soi des jeunes utilisateurs, en particulier les femmes."

Les gens ont posté des réactions choquées sur la "bonne peur" de l'effet Bold Glamour ; certains ont dit que l'effet leur donnait l'impression qu'ils devraient auditionner pour la modélisation, et d'autres ont plaisanté en disant que le filtre avait l'air si réel qu'il devrait être illégal. "Je ressemble à une personne complètement différente", a écrit un utilisateur de TikTok.

Les applications améliorent les visages et filtrent les apparences depuis des années, mais cela semblait "ludique", a déclaré Akten. L'effet Bold Glamour, a-t-elle dit, semble "de mauvais augure".

"C'est un pas vers le monde que nous avons vu dans les films de science-fiction où nous ne pouvons plus dire ce qui est réel", a déclaré Akten. "En conséquence, nous ne saurons plus quoi croire ni à qui faire confiance."

Heather Kelly et Tony Romm ont contribué à ce rapport.