Le meilleur outil pour détecter les images et vidéos de l’IA n’est pas celui que vous pensez
Internet regorge d’images et de vidéos IA, à tel point qu’il est désormais difficile de faire confiance à tout ce que vous voyez en ligne. C'est là qu'interviennent les détecteurs d'IA, séparant les faits des invites… n'est-ce pas ?
Malheureusement, il n’existe tout simplement aucun moyen fiable de détecter les images ou vidéos générées par l’IA.
Sommaire
Détecter le contenu généré par l’IA est plus facile à dire qu’à faire
Il existe toutes sortes d’outils de détection d’IA, mais aucun d’entre eux n’est garanti. En fait, les détecteurs d'IA sont si peu fiables que l'AI Resource Hub du MIT propose un guide complet pour conseiller les enseignants sur la manière de résoudre le problème. Bien qu’il s’agisse principalement de texte, d’images et de vidéo, les détecteurs ne s’en sortent pas beaucoup mieux.
L'IA générative est une course aux armements, dans laquelle des entreprises comme Google et OpenAI consacrent d'énormes quantités de ressources à la création de meilleurs modèles capables de générer des créations plus réalistes. Ces entreprises travaillent à résoudre certains des signes révélateurs qui permettent de distinguer facilement les médias générés. La technologie s’améliore constamment, même si les choses ne s’accélèrent plus au rythme où elles l’étaient autrefois.
Il semble exister autant d’outils pour détecter le contenu généré par l’IA que pour le créer. Pire encore, rien de tout cela ne fonctionne avec un quelconque degré de certitude. Vous pouvez mettre cela à l’épreuve avec vos propres créations générées par l’IA.
Pour ce test, j'ai généré une « image réaliste d'une plage par temps nuageux » en utilisant Gemini et le modèle de génération d'images Nano Banana de Google. C’est l’un des meilleurs modèles du marché, mais son utilisation reste gratuite. Depuis que Gemini m'a donné une image carrée, j'ai décidé de la recadrer rapidement à l'aide d'une application de retouche d'image pour obtenir un rapport hauteur/largeur 16:9 moins évident. Enfin, j'ai déposé l'image dans PicScrubber pour supprimer toutes les métadonnées révélatrices de l'image (un processus qui se produit lorsque vous téléchargez des images sur la plupart des plateformes).
Voici ma triste vue sur la mer :
J'ai déposé cela dans un seul outil de détection, et pourriez-vous examiner cela :
Fort de mon succès, j’en ai essayé un autre :
Encore une fois, pour la chance :
Vos yeux sont les meilleurs détecteurs d'IA
Le fait est que je ne reproche pas vraiment aux détecteurs d’IA de ne pas pouvoir détecter que mon image a été générée par l’IA. J'irais jusqu'à dire que la plupart des gens ne penseraient pas non plus que c'est généré par l'IA, d'autant plus que j'ai choisi une scène aussi sans vie. On pourrait dire que les choses seraient un peu plus évidentes si j’avais choisi quelque chose de plus farfelu.
En regardant l’image, vous pourriez penser que quelque chose se passe lorsque vous voyez la vague se briser sur la droite. Est-ce que les vagues se brisent comme ça ? Et ces (vraisemblablement) mouettes dans le ciel, elles ont l’air un peu placées au hasard. Quoi qu’il en soit, ce n’est pas le faux le plus facile à repérer au monde.
Il y a certaines choses que vous pouvez rechercher et certaines questions que vous voudrez peut-être vous poser lorsque vous tombez sur des médias dont vous soupçonnez qu'ils ne sont pas authentiques, mais il est plus difficile que jamais d'être vraiment confiant.
Il peut être facile de manquer les signes les plus évidents du contenu généré par l'IA en arrière-plan lorsque vous vous concentrez sur le premier plan. Jetez un œil à l’arrière-plan et recherchez les éléments qui ne sont pas à leur place. Des gens avec des visages bizarres, des fenêtres avec un nombre de carreaux incohérent, des bâtiments et des arbres qui n'ont aucun sens.
L'image est-elle teintée d'orange ? ChatGPT génère de nombreuses images avec une lueur orange. Nettoyer cela dans la publication est assez trivial, mais de nombreux utilisateurs négligent de le faire. Parallèlement, certains modèles génératifs ont des styles distincts et reconnaissables. La police de ChatGPT est assez reconnaissable une fois qu'on a vu quelques créations, par exemple, tout comme son style d'illustration générique « bande dessinée ».
Lorsqu’il s’agit d’« art », comme dans les créations d’IA se faisant passer pour des créations d’auteurs humains, ce que vous devriez rechercher, c’est des décisions délibérées. Des lignes qui semblent déplacées, des feuilles d'un arbre qui ne se connectent à rien, des « lignes directrices » au crayon qui n'ont aucun sens (comme si elles avaient été ajoutées après coup).
Demandez-vous si un artiste choisirait de mettre la plume sur papier et de produire ces détails, même s'ils semblent insignifiants. Tout le monde n'est pas un artiste doué, mais les « œuvres d'art » générées par ces modèles sont généralement destinées à démontrer leur compétence.
Si je pouvais résumer tout cela en un mot, ce serait « vibrations ».
Entraînez-vous à mieux identifier les images et vidéos générées par l'IA
Puisque vous ne pouvez pas compter sur les services de détection d’IA, même ceux qui disposent d’un forfait premium, vous devez tirer vos propres conclusions. Si vous êtes comme moi, vous voudrez peut-être en faire un petit jeu. et apprenez les signes révélateurs en même temps. Plus vous jouez, plus vous apprenez.
Il existe des sous-reddits comme r/isthisAI et r/RealOrAI où les membres de la communauté publient des vidéos et des images pour essayer de déterminer si le contenu est réel ou non. Une fois que vous aurez consulté suffisamment de ces articles, vous commencerez à comprendre certaines des choses mentionnées dans la section précédente.
Si bon nombre de ces messages sont de véritables demandes, d’autres sont délibérément conçus pour susciter des discussions. De nombreux utilisateurs génèrent des images et les publient, puis indiquent si l'image est réelle ou non.
Si vous voulez faire défiler sans fin un tas d'images et de vidéos générées par l'IA sur les réseaux sociaux, autant apprendre quelque chose en même temps, n'est-ce pas ?
Cela fait un moment que nous n'avons pas étudié les moyens de repérer les images de l'IA et les signes révélateurs de la vidéo générée par l'IA, en particulier avec l'évolution si rapide de la technologie.
Vous cherchez un exemple plus utile de technologie d’IA ? Donnez un tourbillon à NotebookLM.
