L'IA générative pourrait rendre les vieux livres papier plus précieux que jamais

L’IA générative, que vous l’aimiez ou non, est là pour rester. Cela signifie que de nombreux contenus sont générés par ces systèmes logiciels et inondent Internet. Le Web n’a jamais été la source d’informations la plus concrète, mais si les choses continuent comme elles le sont, les sources d’informations imprimées sur papier datant d’avant le déluge de l’IA pourraient devenir une ressource inestimable.

L'IA invente beaucoup trop de choses

Pourquoi l'IA générative est-elle une menace pour l'information ? La réponse est simple : l'IA générative « hallucine ». C'est le cas lorsque le logiciel propose une réponse qui semble tout à fait plausible et sûre d'elle, mais qui est fausse à 1000 %. Les systèmes d'IA comme ChatGPT peuvent produire des milliers et des milliers de mots par minute, et à moins que la qualité de ces résultats ne soit contrôlée par un expert, un certain pourcentage de ces résultats sera un non-sens convaincant.

Bien sûr, les êtres humains sont tout aussi doués pour publier des absurdités convaincantes sur Internet, mais il y a une limite à la quantité de texte que les humains peuvent générer. Je suis un écrivain professionnel en ligne et, au mieux, je peux écrire 5 000 mots par jour. Un LLM pourrait faire dix fois plus sans effort.

Internet est inondé de contenu IA

Les gens se sont tournés vers la technologie de l’IA générative comme une traînée de poudre dans un champ aride. Originality AI mène actuellement une étude pour estimer combien de résultats d’une recherche Google sont générés par l’IA, et jusqu’à présent, ce chiffre a culminé à un peu moins de 14 %. Je suis convaincu qu’au cours des prochaines années, le pourcentage de ce que vous lisez sur Internet sera de plus en plus généré par l’IA sans qu’un expert humain ne vérifie le texte. Je pense également que les estimations actuelles sont probablement inférieures à la réalité, car la détection de texte par l’IA ne fonctionne tout simplement pas.

Ce qui rend la situation encore pire, c'est que même si vous disposez d'un expert humain pour éditer, relire et réviser ce qui ressort d'un LLM, ces experts doivent s'appuyer sur des sources. Dans mon propre travail, je dois utiliser des sources en ligne parce que je ne peux pas tout savoir ou me souvenir de tout. Si ces sources sont entachées d'absurdités, cela signifie que je cours le risque de diffuser sans le savoir de fausses informations.

Les livres créés par l'IA sont un fléau

L’écriture est un travail difficile et chronophage. Ce qui vous prend quelques minutes ou quelques heures à lire, prend des heures, des jours, des mois ou des années à un être humain pour l’écrire. Mais avec l’avènement de l’IA générative, pratiquement n’importe qui peut produire des textes à une vitesse littéralement inhumaine. Il n’est donc pas surprenant que des livres générés par l’IA inondent les boutiques en ligne comme Amazon. Ce n’est pas seulement ennuyeux, cela peut être tout simplement dangereux. Par exemple, les livres générés par l’IA sur la cueillette de champignons peuvent amener les gens (ce qui n’est en aucun cas confirmé) à manger des champignons vénéneux. Même les revues scientifiques ne sont pas à l’abri.

Les documents imprimés pré-ChatGPT pourraient valoir leur pesant d'or

Ce qui m’amène à une conclusion surprenante : les livres pré-IA valent potentiellement leur pesant d’or. Ce sont des archives physiques permanentes de la connaissance humaine avant qu’elle ne soit corrompue par des générateurs de texte IA. Un étalon-or à l’aune duquel mesurer les prétentions des LLM et des auteurs humains. En particulier, tout écrit sur des sujets scientifiques, médicaux, d’ingénierie ou autres sujets similaires serait d’une importance cruciale. Les archives historiques sont peut-être tout aussi importantes. Pouvez-vous imaginer un avenir où nous croirions à une chronologie historique inventée par des systèmes d’IA bâclés ?

La préservation en ligne est tout aussi importante

Si le papier peut être une protection pour nos informations les plus précieuses, nous pouvons faire la même chose avec des copies électroniques de médias pré-IA. Il est simple de créer un hachage d'une copie « maîtresse » de ces documents pour s'assurer qu'aucun mot ni aucune lettre n'a été modifié. Ainsi, les éventuelles erreurs présentes dans ces textes sont des erreurs humaines, et nous pouvons connaître la provenance et le processus éditorial de chacun de ces textes.

Avec l’essor des images et des vidéos générées par l’IA, on peut en dire autant. Les disques physiques peuvent devenir essentiels à préserver, et la même conservation numérique pourrait être appliquée.

Je suis la dernière personne à être contre les avantages potentiels que diverses technologies d'IA peuvent nous offrir. En même temps, je détesterais que la somme de connaissances humaines que nous avons passé des milliers d'années à créer soit corrompue en un clin d'œil par une IA à moitié conçue. Alors, accrochez-vous à cette encyclopédie !