La nouvelle IA de génération d'images de Pixel Studio présente des pièges familiers et grossiers
Google a lancé une nouvelle application de génération d'images Pixel Studio parallèlement à sa nouvelle suite de smartphones Pixel 9, et les premiers résultats suggèrent qu'il existe des garde-fous fragiles sur ce que les utilisateurs peuvent demander à l'application de proposer.
L'application Pixel Studio a déjà été utilisée par Digital Trends pour créer des merveilles comme Bob l'éponge déguisé en nazi (avec un motif de croix gammée), Barney le dinosaure tirant sur Elmo avec un AK47, l'ours Paddington cloué sur un crucifix et Mickey Mouse déguisé en propriétaire d'esclave.
Toutes ces images ont été créées à partir de simples instructions, sans manipulation de l’IA. En effet, le journaliste a simplement demandé : « Bob l’éponge déguisé en soldat allemand de la Seconde Guerre mondiale avec une croix gammée sur l’uniforme » et Pixel Studio a répondu présent.
Décrivant l'application comme « hors des sentiers battus », le journaliste a également déclaré qu'il avait pu générer (mais ne pas publier) des images de divers personnages protégés par le droit d'auteur effectuant des fusillades dans des écoles. Quel bon goût.
Google a fait une déclaration à 9to5Google confirmant qu'il créerait du contenu susceptible d'offenser si l'utilisateur le lui demandait. Cependant, cela ne signifie pas que « tout est permis ». Google affirme qu'il continuera à peaufiner l'application pour garantir qu'elle comporte des mesures de protection appropriées.
La déclaration se lit comme suit : « Pixel Studio et Magic Editor sont des outils utiles destinés à libérer votre créativité avec la génération de texte en image et l'édition de photos avancée sur les appareils Pixel 9. Nous concevons nos outils d'IA générative pour respecter l'intention des invites de l'utilisateur, ce qui signifie qu'ils peuvent créer du contenu qui peut offenser lorsque l'utilisateur le lui demande. Cela dit, tout n'est pas permis. Nous avons des politiques et des conditions de service claires sur les types de contenu que nous autorisons et n'autorisons pas, et nous avons mis en place des garde-fous pour empêcher les abus. Parfois, certaines invites peuvent remettre en cause les garde-fous de ces outils et nous restons déterminés à améliorer et à affiner continuellement les mesures de protection que nous avons mises en place. »
Les téléphones Pixel 9 sortent demain et voici les meilleures fonctionnalités d'appareil photo/photo Pixel 9 dont vous pouvez vous attendre à profiter au-delà de Pixel Studio.
