“Je pense que j’ai une image de moi assez décente, mais j’ai regardé les images et je me suis dit:” Pourquoi ai-je l’air si bien? “”, A déclaré James, un streamer Twitch qui a refusé de donner son nom de famille pour garder son social présence médiatique distincte de son travail quotidien. “Je pense que cela a rasé beaucoup de mes aspérités.”
Lensa, une application de montage photo et vidéo de Prisma Labs, existe depuis 2018, mais ses téléchargements dans le monde entier ont explosé après le lancement de sa fonction “avatars magiques” fin novembre, selon la société d’analyse Sensor Tower. L’application a enregistré 4 millions d’installations au cours des cinq premiers jours de décembre, contre 2 millions en novembre, atteignant le sommet des classements dans les magasins d’applications Apple et Google. Les consommateurs ont dépensé 8,2 millions de dollars dans l’application au cours de cette période de cinq jours, rapporte Sensor Towers.
L’application est basée sur un abonnement et coûte 35,99 $ par an, avec un supplément de 3 $ à 12 $ pour les packs d’avatars. Téléchargez huit à 10 photos de vous-même avec votre visage remplissant la majeure partie du cadre et personne d’autre sur la photo, et Lensa utilisera les photos pour former un modèle d’apprentissage automatique. Ensuite, le modèle génère des images basées sur votre visage dans différents styles artistiques comme “anime” ou “princesse féerique”.
Certaines personnes se sont émerveillées de voir à quel point les portraits semblaient flatteurs ou précis. D’autres ont partagé des images déformées avec des traits du visage déformés ou des membres sortant de leur tête, un résultat contre lequel Lensa met en garde pendant le processus de téléchargement.
La tendance a également soulevé des inquiétudes quant à l’équité des images générées par l’IA, les effets sur les artistes professionnels et le risque d’exploitation sexuelle. Voici tout ce que vous devez savoir avant de télécharger.
Lensa appartient à Prisma Labs, basé à Sunnyvale, en Californie, qui fabrique également l’application Prisma qui utilise l’IA pour dupliquer des photos dans divers styles artistiques. Le PDG de Prisma Labs Andrey Usoltsev et le co-fondateur Alexey Moiseenkov travaillaient pour le géant russe de la technologie Yandex, selon leurs profils LinkedIn.
Comme son concurrent Facetune, Lensa est livré avec une collection d’outils de montage photo et vidéo qui font tout, du remplacement de votre salon encombré par une toile de fond artistique à la suppression des poches sous vos yeux.
Lensa s’appuie sur un modèle d’apprentissage automatique gratuit appelé Stable Diffusion, qui a été formé sur des milliards de combinaisons d’images et de textes extraites d’Internet. Lorsque vous téléchargez vos photos, l’application les envoie vers son stockage en nuage et crée un modèle d’apprentissage automatique individualisé juste pour vous. Ensuite, ce modèle crache de nouvelles images à votre image.
Les images me ressembleront-elles ?
Ça dépend. Certains utilisateurs à la peau foncée disent avoir vu plus de problèmes et de distorsions dans leurs avatars que leurs amis à la peau claire, renforçant les préoccupations de longue date concernant l’équité dans l’imagerie par IA. Les Asiatiques et les personnes qui portent le hijab se sont également rendus sur Twitter pour partager des inexactitudes dans leurs portraits d’IA.
Usoltsev n’a pas répondu aux préoccupations concernant la prétendue tendance de l’application à angliciser les résultats et a renvoyé le Washington Post à une FAQ publiée sur le site Web de Prisma Labs.
En raison du manque de représentation des personnes à la peau foncée à la fois dans l’ingénierie de l’IA et dans les images de formation, les modèles ont tendance à faire moins bien en analysant et en reproduisant des images de personnes à la peau foncée, explique Mutale Nkonde, fondateur de l’organisation de justice algorithmique AI for the People. Dans les scénarios où la reconnaissance faciale est utilisée pour l’application de la loi, par exemple, cela crée des opportunités effrayantes de discrimination. La technologie a déjà contribué à au moins trois arrestations injustifiées d’hommes noirs.
Il existe également un potentiel de préjudice à Lensa, a noté Nkonde. D’après ce qu’elle a vu, les résultats de l’application pour les femmes tendent vers “une fille blanche chaude générique”, a-t-elle déclaré.
“Cela peut être très préjudiciable à l’estime de soi des femmes et des filles noires”, a-t-elle déclaré. «Les femmes noires regardent cela et se disent: ‘Huh. J’adore l’image. Ne me ressemble pas. Qu’est-ce qui se passe avec ça?
Parce que Lensa vous permet de choisir le sexe de votre avatar – y compris une option pour non binaire – certaines personnes trans ont célébré l’opportunité de voir une version d’eux-mêmes affirmant leur genre.
Trans peeps : si vous faites le truc de Lensa, prenez un tas de vieilles photos de votre adolescence et de votre pré-transition, entrez votre sexe réel dans l’invite et exécutez-les via l’application.
Vous obtiendrez un tas d’images de vous jeune comme le vrai vous : pic.twitter.com/5CBGRGkpfA
— Juni (@beloved_june) 4 décembre 2022
Dois-je m’inquiéter pour la vie privée ?
Prisma Labs indique que Lensa ne partage aucune donnée ou information tirée de vos photos avec des tiers, bien que sa politique de confidentialité lui laisse la possibilité de le faire.
Il indique également qu’il utilise uniquement les photos que vous fournissez pour générer des avatars et supprime chaque lot de photos, ainsi que le modèle d’apprentissage automatique formé à partir de vos images, une fois le processus terminé.
Prisma Labs n’utilise pas les photos ou les modèles individualisés pour former un réseau de reconnaissance faciale, a déclaré Usoltsev. Il a refusé de dire si Prisma Labs stocke des données basées sur vos photos, mais a déclaré que la société gardait le “minimum”.
Le véritable problème de confidentialité avec Lensa vient d’un angle différent. La collection géante d’images utilisées pour entraîner l’IA, appelée LAION, a été extraite d’Internet sans grande discrétion, selon les experts en IA. Cela signifie qu’il inclut des images de personnes qui n’ont pas donné leur consentement. Un artiste a même trouvé photos de son dossier médical privé dans la base de données. Pour vérifier si des images qui vous sont associées ont été utilisées pour former un système d’IA, visitez HaveIBeenTrained.com. (Ce moteur n’enregistre pas vos recherches d’images.)
Il y a aussi le potentiel d’exploitation et de harcèlement. Les utilisateurs peuvent télécharger des photos de n’importe qui, pas seulement d’eux-mêmes, et les portraits féminins de l’application sont souvent nus ou présentés dans des poses sexuelles. Cela semble également arriver aux images d’enfants, bien que Lensa affirme que l’application est réservée aux personnes de 13 ans et plus.
« Le modèle Stable Diffusion a été formé sur du contenu Internet non filtré. Cela reflète donc les biais que les humains incorporent dans les images qu’ils produisent », a déclaré Lensa dans sa FAQ.
Pourquoi y a-t-il eu des réactions négatives de la part des artistes numériques ?
Certains créateurs ont adopté avec empressement l’imagerie par IA. Mais alors que les avatars de Lensa ont pris le contrôle des flux de médias sociaux, de nombreux artistes numériques ont supplié les gens de réfléchir à deux fois avant de donner de l’argent à l’application. Les “styles” de Lensa sont basés sur de l’art réel de vraies personnes, disent les artistes, et ces professionnels ne sont pas rémunérés.
“Personne ne comprend vraiment qu’un programme prenant l’art de tout le monde et générant ensuite de l’art conceptuel affecte déjà nos emplois, en fait”, a déclaré Jon Lam, un artiste de l’histoire de la société de jeux vidéo Riot Games.
L’apprentissage automatique recrée des motifs dans les images, et non des œuvres d’art individuelles, a déclaré Lensa dans sa FAQ.
Mais Lam a déclaré que des amis avaient perdu leur emploi après que des employeurs aient utilisé leurs créations pour former des modèles d’IA – les artistes eux-mêmes n’étaient plus nécessaires aux yeux des entreprises, a-t-il déclaré. Dans de nombreux cas, LAION a gratté des images sous copyright, a-t-il dit, et Prisma Labs profite du travail de la vie des artistes sans leur consentement. Certains créateurs ont même trouvé à quoi ressemblent les signatures d’artistes à l’intérieur des images générées sur Lensa.
“Les détails perçus comme des signatures sont observés dans des styles qui imitent des peintures”, lit-on dans la FAQ de Lensa. “Ce sous-ensemble d’images, le plus souvent, est accompagné d’approbations par l’auteur de l’œuvre.”
Si vous voulez des illustrations de vous-même qui soutiennent les artistes traditionnels, trouvez quelqu’un de local ou recherchez sur un site comme Etsy et commandez un portrait, a suggéré Lam.
“Je vois un très mauvais avenir si nous ne maîtrisons pas cette chose maintenant”, a-t-il déclaré. “Je ne veux pas que cela se produise, pas seulement pour les artistes, tout le monde est concerné par cela.”