L'IA a un nouvel obstacle: la journée des imbéciles d'avril

L'IA n'est aussi « intelligente » que les informations qu'elle est fournies, et nous avons vu les inconvénients de la majorité de ces informations rampées sur Internet. Mais que se passe-t-il lorsque l'IA rencontre des articles qui sont intentionnellement faux? Eh bien, plus de la même chose.

Ce n'est pas un mystère qu'il y a beaucoup de fausses informations sur Internet pour que l'IA puisse se nourrir. Comme, beaucoup. Cependant, toutes ces fausses informations ne sont pas présentées comme de vrais faits. Des publications telles que L'oignon Spécialiser dans l'écriture de satire et de faux articles intentionnellement ridicules. Le jour des imbéciles d'avril, Internet est inondé encore plus de ce type de contenu, ce qui présente un problème pour l'IA.

Le journaliste Ben Black a écrit une histoire le jour des Fools d'avril en 2020 à propos de CWMBRAN, sa ville du sud du Pays de Galles, établissant un record du monde Guinness pour avoir le plus de points ronds par kilomètre carré. Ben a ajouté un avertissement plus tard dans la journée pour clarifier l'histoire était une blague, mais cela n'a pas empêché une autre publication de le récupérer comme un reportage. Malgré la réalisation de l'histoire, l'article est toujours disponible en ligne aujourd'hui.

Sautez cinq ans jusqu'au jour du poisson d'avril 2025 et Ben se met à Google pour rechercher son ancienne histoire. Et voilà, il trouve que sa blague est transmise par l'aperçu de l'IA de Google comme un fait réel, citant des calculs inventés d'un résident inventé de la ville.

De toute évidence, cela présente un certain nombre de problèmes extrêmement concernant. Comme mentionné, Ben a ajouté une clause de non-responsabilité explicite sur l'article indiquant qu'il s'agissait d'une histoire de fous d'avril. Mais cet avertissement n'a jamais atteint la publication qui couvrait l'histoire originale, et c'est de là que Google a tiré les informations.

Il n'y a rien de dangereux dans cet exemple particulier, mais cela montre à quel point l'IA peut être due à penser que quelque chose est un fait réel. L'IA n'a pas la capacité de comprendre la différence entre une histoire vraie et une fausse histoire présentée comme vraie pour une blague. Bien sûr, il est possible de lister les sites de satire et de parodie noire, mais ils ne les obtiendront jamais tous, et cela ne tient pas compte des publications authentiques de s'amuser le jour du poisson d'avril.

Voici ce que Ben avait à dire sur la situation:

C'est vraiment effrayant que quelqu'un en Écosse puisse google « les routes au Pays de Galles et rencontrer une histoire qui n'est tout simplement pas vraie. Ce n'est pas une histoire dangereuse, mais cela montre comment les fausses nouvelles peuvent facilement se propager même si c'est à partir d'une source d'information de confiance. Même si je l'ai changé tout le même jour, cela montre que l'Internet peut faire sa propre chose. C'est tout simplement fou.

En mars, le Tow Center for Digital Journalism a mené une étude qui a mis huit moteurs de recherche d'IA populaires grâce à des tests complets. Dans l'ensemble, ils ont constaté qu'ils citent des sources d'information incorrectes plus de 60% du temps. Les pires délinquants étaient « en toute confiance » et « partiellement incorrects », jusqu'à 76%. Certains avaient tort de 90% du temps, même lorsqu'ils traitaient des publications avec lesquelles il avait des partenariats officiels.

Tout cela est au sommet de Google en disant aux gens de mettre de la colle sur la pizza et de fabriquer des informations sur la vie des gens. Peu importe combien de fois ces entreprises disent que ces situations sont une petite fraction des résultats, nous ne pouvons ignorer qu'elles se produisent.