Les scientifiques peuvent repérer les Deepfakes avec un nouvel outil d’IA –
Merci à un nouvel outil IA créé par des informaticiens au Université de Buffalo, nous pouvons désormais repérer les deepfakes de style portrait avec une précision de 94%. Comment l’outil fait-il cela? En analysant les modèles de réflexion de la lumière observés sur chacune des cornées de la personne photographiée, qui devraient se ressembler, et non pas différer.
Les cornées ont une surface semblable à un miroir qui devrait avoir une forme de réflexion similaire causée par l’éclairage de la pièce ou de la zone dans laquelle elles se trouvent. Sur de vraies photos, les yeux auront toujours un motif de réflexion presque identique. Pourtant, deepfake images — qui sont créées par réseaux antagonistes génératifs (GAN) – ne parviennent généralement pas à synthétiser avec précision la ressemblance et à la place génèrent des réflexions uniques et incohérentes sur chaque cornée, parfois même avec des emplacements incohérents.
L’outil IA, alors, cartographie le visage, scanne les yeux et analyse le reflet dans chaque œil. Il génère ensuite un score de métrique de similarité qui détermine la probabilité que l’image soit un véritable deepfake. Plus le score est bas, plus la possibilité qu’une image soit un deepfake est élevée. L’outil s’est avéré efficace lors de la numérisation de deepfakes sur Cette personne n’existe pas, un site Web rempli d’images de fausses personnes utilisant l’architecture StyleGAN2.
Cependant, les scientifiques qui ont créé l’outil ont noté qu’il présentait certaines limites, dont la principale est qu’il repose sur le fait qu’une source de lumière réfléchie est visible dans les deux yeux. Si quelqu’un clignote ou clignote, cela ne fonctionnera probablement pas; ce ne sera pas non plus le cas si le sujet est partiellement tourné et ne regarde pas directement l’appareil photo, car il ne s’est avéré efficace que sur les images de portrait. De plus, toute personne suffisamment compétente dans Photoshop peut être en mesure de supprimer ces incohérences, ce qui rendrait probablement l’outil d’IA inutile.
Malgré ces limites, l’outil marque toujours un grand pas en avant pour ce type de technologie. Il ne détruit pas les deepfakes sophistiqués de si tôt, mais il peut en repérer les plus simples et jeter les bases d’une technologie de détection plus puissante à l’avenir pour accompagner nos capacités actuelles de détection. l’audio et vidéo deepfakes.
via Le prochain Web
