Adobe vient peut-être de permettre à quelqu'un de voler plus facilement votre style artistique

AVIS : Adobe a récemment dévoilé la version la plus récente et la plus avancée de son modèle d'IA générative Firefly, Firefly Image 3, mais cette mise à jour pourrait-elle déclencher une augmentation des vols et des imitations d'art ?

Actuellement en phase bêta, le modèle Firefly Image 3 promet des mises à niveau importantes pour Firefly et Photoshop.

Quoi de neuf?

Firefly comprend désormais mieux les invites et est plus compétent dans la création d'images en termes de structure et de détails. Le modèle Image 3 peut également produire une gamme plus variée d’émotions humaines et s’inspire d’un éventail plus large de styles artistiques.

L'outil Generative Fill gen-AI de Photoshop a également reçu une mise à jour substantielle basée sur Firefly, avec de nouvelles fonctionnalités, notamment l'image de référence, l'amélioration des détails, la génération d'un arrière-plan et la génération similaire.

Reference Image est l'outil qui a immédiatement attiré mon attention, permettant aux utilisateurs de télécharger des images existantes sous forme d'invites plutôt que de s'appuyer sur une courte description textuelle. Lors d'une démo avec Adobe, j'ai vu une guitare être téléchargée en tant qu'invite d'image de référence. Firefly s'est ensuite fortement inspiré de cette image, plaçant une guitare presque identique dans les bras de l'ours déjà ouverts dans Photoshop.

Utilisé pour le mal

Cette technologie est très impressionnante, car elle permet de transmettre une forme, un style et une couleur spécifiques à Generative Fill sans taper un mot. Cependant (et peut-être que cela en dit long sur moi), j'ai été immédiatement frappé par la façon dont cette fonctionnalité pouvait être utilisée à des fins malveillantes.

Le vol d'œuvres d'art est déjà un problème omniprésent en ligne, les gens remettant en ligne et revendiquant leurs œuvres, que ce soit pour de l'argent ou des likes. Cette fonctionnalité ne pourrait-elle pas être utilisée pour générer une œuvre d'art similaire à une œuvre déjà disponible ?

J'ai fait part de ces préoccupations au directeur technique de Digital Media Business chez Adobe, Ely Greenfield, et voici ce qu'il m'a dit.

« La question de savoir si un artiste a droit à son style est complexe »

« Notre point de vue chez Adobe est qu'un artiste devrait avoir droit à son style et nous travaillons avec les régulateurs. Nous promouvons actuellement diverses législations aux États-Unis, je pense, pour essayer de faire adopter des lois pour soutenir cela. Ce que je dirai, c'est oui, vous pouvez télécharger une image comme correspondance de style, comme correspondance de référence, et le tout est de pouvoir l'utiliser comme source, comme graine, pour pouvoir générer d'autres choses comme ça», a expliqué Greenfield.

« Nous imposons un certain degré de responsabilité à l'utilisateur. Je veux dire, c'est comme si à chaque fois que vous utilisez un outil d'édition, même un crayon, vous avez la possibilité de copier le travail de quelqu'un d'autre et nous ne pouvons donc pas empêcher les gens de le faire. Nous faisons tout notre possible dans cet outil pour essayer d’encourager les gens à agir avec intégrité. Nous rappelons aux gens de s’assurer qu’ils ont les droits. Nous vérifions les informations d'identification du contenu pour voir s'il y a un indicateur indiquant de ne pas l'utiliser avec l'IA, mais en fin de compte, oui, vous pouvez télécharger le contenu de quelqu'un d'autre et l'utiliser même si vous n'en avez pas nécessairement. les droits et la permission de le faire ».

Quelqu’un pourrait-il gagner de l’argent grâce à votre style artistique ?

J'ai demandé à Greenfield s'il existait des systèmes en place pour empêcher ou signaler le téléchargement d'images générées à partir d'une autre œuvre d'art sur des sites Web d'impression à la demande, tels que Redbubble ou Amazon.

« Nous n'avons aucun moyen de valider si vous avez droit à une image, et nous n'avons aucun moyen de suivre ce que vous faites avec cette image après coup. Malheureusement, non, nous ne pouvons rien y faire », a-t-il déclaré.

«Le mieux que nous puissions faire, et une grande partie de cela représente la moitié de notre investissement dans la Content Authenticity Initiative, dont la moitié est technique. Comment créer les systèmes qui nous permettent de suivre ces informations ? Et la moitié est sociétale, sociale et politique. Nous travaillons avec des agences de régulation, nous travaillons avec d'autres sociétés de médias et de technologie, des sociétés de matériel informatique, des sociétés de logiciels, pour essayer de diffuser la technologie, afin que nous puissions, au fil du temps, changer les attentes du public ».

L'Initiative sur l'authenticité du contenu

La Content Authenticity Initiative est un collectif d’entreprises de médias et de technologie qui travaillent ensemble pour promouvoir l’adoption d’une norme industrielle ouverte pour l’authenticité du contenu. Adobe a fait sa part en marquant les images créées ou modifiées à l’aide de l’IA avec ses métadonnées Content Credentials.

« [One] L'analogie que j'aime utiliser est l'icône de verrouillage sur le navigateur. Nous sommes arrivés au point où finalement les gens ont commencé à s'attendre à cette icône de verrouillage et, si elle n'était pas là, ils soupçonnaient le site Web et ne mettraient pas leur carte de crédit. Maintenant, nous nous rapprochons du point où le navigateur commence à dire, si ce n'est pas là, nous n'allons tout simplement pas vous laisser voir le site Web. Vous pouvez contourner ce problème, vous pouvez dire que je veux prendre le risque, mais de plus en plus le navigateur dit [no].”, a expliqué Greenfield.

« J'aimerais beaucoup que nous en arrivions là avec Content Credentials, mais c'est sans aucun doute un long chemin à parcourir à partir de là ».

L’IA générative est-elle mauvaise pour les artistes ?

Cela ne veut pas dire qu’Adobe est contre l’IA générative. Il suffit de passer cinq minutes dans Adobe Firefly pour se rendre compte qu'Adobe est l'un des favoris dans cette course.

« En fait, je ne pense pas que la manipulation soit une mauvaise chose en soi, et l'IA n'est pas une mauvaise chose en soi », a déclaré Greenfield lorsqu'on lui a demandé si la vision d'Adobe pour l'avenir était un Internet dans lequel chaque image serait signalée si elle avait été manipulée à l'aide de IA.

« Si nous voulions signaler toute image dans laquelle l'IA a été utilisée dans la création de l'image et y apposer une grande étiquette d'avertissement, chaque photo provenant d'un iPhone serait signalée car l'IA est utilisée dans le rendu, dans la capture de l'image. l'image. Ce ne sont pas réellement les valeurs brutes de luminosité que le capteur voit. Apple a en fait une IA, à merveille. Il détecte les visages et les éclaircit, car c'est ce que les gens veulent voir sur leurs photos. 99,999 % des cas d'utilisation de personnes utilisant l'IA générative dans Photoshop sont des raisons parfaitement légitimes… soit ils apportent des modifications qui ne déforment pas la vérité, soit ils n'essaient pas de représenter la vérité ».

«Je ne pense pas que nous nous retrouvions dans un monde où nous recevons des signaux d'alarme à gauche et à droite, comme l'IA a été utilisée dans ce cas-là. Je pense que nous nous retrouvons dans un monde où lorsqu'un consommateur dit, oh, cette personne représente la vérité, ou nous pourrions avoir des situations où l'IA peut aider à détecter s'il s'agit d'une histoire éditoriale, est-ce censé représenter la vérité, et cette information est fait surface dans ces situations afin que le consommateur puisse choisir d'aller faire un choix ».

Quel est l’objectif final d’Adobe avec Content Credentials ?

« Notre travail consiste, premièrement, à éduquer le public sur le fait que nous devrions tous y prêter attention lorsque cela est important, et deuxièmement, à faire en sorte qu'il soit très facile, stupide et facile, pour que les gens puissent ensuite aller chercher les informations dont ils ont besoin. et comprendre comment mettre ces informations à profit lorsqu'ils décident qu'elles sont importantes pour eux. C'est la vision du futur ».