Google a fait un détecteur d'IA, mais vous ne pouvez pas l'utiliser

Les détecteurs d'IA, bien qu'une fonctionnalité potentiellement utile, sont actuellement un gâchis. Des outils comme Zerogpt aiment faire beaucoup de faux positifs et de faux négatifs. Pourtant, le besoin d'un détecteur d'IA réellement fiable est réel, et c'est pourquoi les efforts continuent d'être faits dans cette direction. Google a le sien, bien que vous ne puissiez pas encore l'utiliser.

Google vient d'annoncer le détecteur synthétique, un nouveau portail de vérification conçu pour identifier le contenu créé à l'aide de ses outils d'intelligence artificielle, tels que Gemini, le modèle de génération d'images Imagen ou le modèle de génération de vidéo VEO. Le détecteur synthétique fonctionne en numérisant les supports téléchargés pour un filigrane numérique imperceptible, également nommé Synthed. Google a développé cette technologie de filigrane pour intégrer directement dans le contenu généré par ses modèles d'IA, y compris les Gémeaux (texte et multimodal), Imagen (Images), Lyria (Audio) et Veo (vidéo). Selon l'entreprise, plus de 10 milliards de contenus ont déjà été fastidieux à l'aide de ce système. Il s'agit donc d'un outil fabriqué par Google qui recherche ce filigrane et vous dit si quelque chose est généré par AI-AI ou non.

Lorsque vous téléchargez un fichier – qu'il s'agisse d'une image, d'une piste audio, d'une vidéo ou d'un document texte – au portail de détecteur synthétique, il cherche à voir si ce filigrane intégré est présent. Et si c'est le cas, le portail indiquera que le contenu est probablement généré par l'IA et, dans certains cas, met en évidence des parties spécifiques où le filigrane est détecté le plus bien. D'une part, dans les fichiers audio, il peut souligner les segments contenant le filigrane, et pour les images, il peut indiquer des domaines où la signature numérique est probablement présente.

Ce que je n'aime toujours pas à ce sujet, c'est qu'il semble toujours faire beaucoup de suppositions. Le détecteur peut être «incertain» de certaines parties, ce qui n'est pas un bon présage pour une méthode de filigrane soi-disant fiable qui peut résister aux modifications et modifications. Tout comme il peut être sûr de certains bits, il pourrait détecter un filigrane là où il n'y en a pas, ou il pourrait manquer de détecter quelque chose généré par AI. Je dirais que ce serait plus sujet aux faux positifs que les faux négatifs, mais les faux positifs peuvent toujours être un problème. Je suis sûr que cela continuera d'être amélioré, cependant. Un outil de première partie comme celui-ci pourrait être le moyen le plus fiable en ce moment pour savoir si quelque chose a été généré par AI, mais je ne dirais pas qu'il y a encore une méthode 100% fiable et à l'épreuve des balles pour les attraper tous.

Ce détecteur se déroule actuellement sur quelques personnes de manière précoce, et il sera suivi d'un déploiement limité pour les journalistes, les professionnels des médias et les chercheurs via une liste d'attente.