Devriez-vous utiliser Lensa AI, l’application de portrait « magique » ?

L’auto-flatterie pousse l’IA dans le courant dominant. Mais devriez-vous rejoindre les milliers de personnes qui expérimentent le portrait par IA ? Cette nouvelle tendance, rendue possible par une application appelée Lensa AI, soulève des questions très difficiles sur l’artisanat, le consentement et les préjugés.

Comment fonctionne l’IA de Lensa ?

Développée par Prisma Labs, l’application Lensa AI (iOS/Android) lancée en 2018 propose plusieurs fonctionnalités de retouche photo. Il s’agit essentiellement d’un outil d’embellissement de photos. Il rend vos selfies plus jolis en appliquant des filtres et en supprimant les « imperfections ».

Mais la dernière version de Lensa AI inclut quelque chose appelé « Magic Avatars ». Cette fonctionnalité vous permet de commander jusqu’à 200 portraits générés par l’IA dans une variété de styles. Tout ce que vous avez à faire est de partager 10 à 20 images de votre visage et de débourser quelques dollars. Les résultats, comme vous pouvez le constater, sont assez impressionnants.

Très bien, les gars, amusons-nous ! @MKBHD, nous avons généré des avatars IA qui semblaient trop cool pour ne pas être partagés. Si vous les aimez, n’hésitez pas à les utiliser. Et les gars, faites-nous savoir qui nous devrions faire ensuite ! pic.twitter.com/9CMtEZDqG5

– Laboratoires Prisma (@PrismaAI) 25 novembre 2022

Désormais, ces « Magic Avatars » ne sont pas générés par une IA propriétaire. Vous payez en fait Prisma Labs pour générer des portraits à l’aide de Stable Diffusion, un modèle d’apprentissage automatique open source. L’application Lensa AI est un intermédiaire et un conservateur, mais c’est plus facile que de gérer vous-même Stable Diffusion.

Stable Diffusion est formé sur des millions d’images accessibles au public. C’est pourquoi il peut imiter des dizaines de styles artistiques, y compris le manga, la science-fiction, le pop art et le portrait traditionnel. (En termes extrêmement simples, Lensa AI combine vos selfies avec existant art. La réalité est un peu plus compliquée, car des centaines d’images peuvent contribuer à un portrait résultant.)

Si vous souhaitez essayer l’outil « Magic Avatars » de Lensa AI, vous pouvez installer l’application sur iOS et Android et dépenser quelques dollars pour la fonctionnalité. Au minimum, vous pouvez commander 50 portraits pour 2 $. Mais la plupart des gens paient 4 $ pour les 200 portraits maximum, car seule une poignée d’images produites par cette IA sont réellement utiles ou attrayantes.

Les préoccupations en matière de droit d’auteur et de confidentialité sont réelles

L’outil « Magic Avatars » génère des images via Stable Diffusion, un modèle d’apprentissage automatique formé sur des images accessibles au public. Ces images proviennent sans consentement et il n’y a aucun moyen pour une personne, un artiste ou une entreprise de se retirer de l’ensemble de données.

Évidemment, cela soulève des préoccupations à la fois pour la vie privée et le droit d’auteur. Un individu peut ne pas vouloir que ses selfies soient inclus dans l’ensemble de données de l’IA – c’est effrayant ! Et alors que Prisma Labs gagne de l’argent, de nombreux artistes craignent que leur travail ne profite au compte bancaire de quelqu’un d’autre. Cela n’aide pas que les générateurs d’images IA, qui sont rapides et bon marché, menacent la sécurité d’emploi des artistes professionnels.

Il y a aussi la crainte que quelqu’un puisse transférer vos selfies dans Lensa AI, produisant des illustrations de votre visage sans votre permission. Ceci est important pour une raison que nous soulignerons plus tard.

Je les recadre pour des raisons de confidentialité/parce que je n’essaie pas d’appeler qui que ce soit. Ce sont tous des portraits de Lensa où les restes mutilés de la signature d’un artiste sont encore visibles. C’est le reste de la signature de l’un des multiples artistes qu’il a volé.

Un 🧵 https://t.co/0lS4WHmQfW pic.twitter.com/7GfDXZ22s1

– Lauryn Ipsum (@LaurynIpsum) 6 décembre 2022

Voici le problème; les lois et réglementations actuelles ne définissent pas le fonctionnement des ensembles de données d’apprentissage automatique. Nous ne savons pas si ce contenu viole les règles de confidentialité ou de droit d’auteur. Et pour cette raison, vous auriez beaucoup de mal à plaider la violation du droit d’auteur devant les tribunaux. Les images produites par Stable Diffusion contiennent des traces des styles des artistes, des contenus originaux et signatures (ou des filigranes), mais ils n’ont pas l’air identique à toutes les images existantes.

Du bon côté, des sociétés bien connues avancent légèrement dans ce domaine. Ils sont ouvertement préoccupés par la façon dont l’IA peut conduire à une violation du droit d’auteur. Par exemple, Getty Images refuse de toucher à l’IA tant que les règles ne sont pas mieux définies, et Shutterstock adopte une approche unique pour garantir que les artistes du monde réel soient payés.

Des dizaines d’entreprises auraient pu inventer des «avatars magiques», mais peu sont prêtes à prendre le risque. Même si vous ne voyez pas Lensa AI comme une préoccupation pour la confidentialité ou le droit d’auteur, il est clair que ce sujet finira par atterrir sur les bureaux des législateurs.

Où vont vos données ?

Nous partageons souvent des selfies sur Instagram ou Facebook sans sourciller. Mais lors de l’utilisation d’une application étrange comme Lensa AI, certaines personnes se tendent. Comment cette entreprise utilisera-t-elle vos photos et cela conduira-t-il à une violation de votre vie privée ?

Eh bien, selon les conditions de service, les photos téléchargées sur Lensa AI sont converties en données pour former un modèle d’apprentissage automatique. Les images réelles sont supprimées, tandis que les informations telles que la position et l’orientation des traits du visage sont conservées. De plus, les images prises avec une caméra selfie iPhone (qui utilise la technologie TrueDepth pour cartographier votre visage) peuvent inclure des données telles que la topologie du visage.

Notez que Lensa AI est également une application d’embellissement de photos. Et lors de la lecture des conditions d’utilisation, il est souvent difficile de savoir si Prisma Labs fait référence à ses fonctionnalités d’embellissement ou « Magic Avatar ». Donc, malheureusement, je ne suis pas tout à fait sûr des détails derrière cette information. (Cela dit, le TOS indique explicitement que les selfies « Magic Avatar » contribuent à la formation de Stable Diffusion, et que ces selfies sont supprimés une fois que l’IA a généré ses images.)

vous pouvez leur demander de supprimer toutes vos données personnelles en envoyant un e-mail à : mailto:privacy@lensa-ai.com
3. Si vous téléchargez l’une des images sur les réseaux sociaux, vous leur avez donné la permission de les utiliser dans la publicité. Vous pouvez annuler l’autorisation en envoyant un e-mail à : contact@lensa-ai.com

– Chanda Prescod-Weinstein (@IBJIYONGI) 4 décembre 2022

Étant donné que cette IA est formée sur des photos accessibles au public, la confidentialité des utilisateurs peut ne pas être une préoccupation majeure pour certaines personnes. Après tout, si vous téléchargez une tonne de selfies sur Facebook ou Instagram, votre visage peut déjà être inclus dans l’ensemble de données. (De plus, si vous êtes un fan de l’IA, vous serez peut-être heureux de contribuer vos données faciales.)

Mais certaines personnes ont une présence limitée en ligne. La confidentialité n’a pas de prix, et si vous avez fait du bon travail en gardant votre visage hors d’Internet, je vous suggère d’éviter Lensa AI. Après tout, nous ne savons pas vraiment où finiront ces données.

Si vous avez testé Lensa AI et souhaitez supprimer vos informations de son ensemble de données, contactez privacy@lensa-ai.com. Notez que, selon les CGU, Lensa AI n’est pas obligée de supprimer les données à votre demande.

Lensa AI peut biaiser vers le biais

Comme pour toutes les technologies, Stable Diffusion et Lensa AI sont vulnérables aux biais. Certaines personnes pensent que cela signifie « l’IA est une fanatique », ce qui est drôle (mais techniquement faux). L’intelligence artificielle n’est qu’un algorithme, et elle est conçue par des humains à l’aide d’un fouillis de données.

Cela devient évident lorsque vous faites défiler Portraits Lensa AI d’inconnus. L’IA a la mauvaise habitude de sexualiser les femmes, probablement en raison des images incluses dans son ensemble de données (je suppose que le fanart softcore constitue une bonne partie de l’ensemble de données). Pour être clair, je n’essaie pas de passer pour un prude, cette IA vraiment a un faible pour les gros seins, et comme Tech Crunch rapports, il crache parfois du porno.

L’IA se débat également avec la race. Il existe plusieurs rapports de femmes asiatiques qui ont constaté que l’IA diminuait ou modifiait leurs traits du visage – comme décrit par un utilisateur, le résultat est « biaisé pour être plus d’Asie de l’Est.” Encore une fois, cela est probablement dû à l’ensemble de données, qui peut inclure trop d’illustrations de fanart (qui se concentrent généralement sur les styles, les idéaux et les tendances japonais).

Maintenant, ce n’est pas seulement un inconvénient offensif. C’est un problème qui pourrait facilement conduire à des abus. Qu’est-ce qui empêche quelqu’un de prendre vos photos, de les transférer dans Lensa AI et de produire des images pornographiques ou racistes ? Est-ce quelque chose que nous devons poser à propos de chaque générateur d’images AI ?

Devriez-vous utiliser l’IA Lensa ?

Comme pour toutes les technologies émergentes, la génération d’images IA est un sac mélangé. Des outils comme Lensa AI peuvent produire des portraits incroyables pour un prix très bas. C’est plus rapide, plus pratique et plus accessible que n’importe quel artiste du monde réel, mais cette commodité peut avoir un coût.

Malheureusement, nous ne pouvons pas attendre à temps pour voir l’impact de cette technologie. Nous ne savons pas comment cela affectera les artistes, les particuliers ou les entreprises. Et du point de vue de la confidentialité, eh bien, pouvez-vous penser à une seule façon dont quelqu’un pourrait utiliser vos données faciales ? Ce manque de connaissances peut être très préoccupant.

L’utilisation de Lensa AI est un choix personnel, bien sûr. Et je ne reproche à personne d’avoir testé cette technologie. C’est intéressant, excitant et souvent très flatteur. Mais les inconvénients potentiels de cette tendance ne doivent pas être ignorés.