Les chercheurs créent des scientifiques en IA, et cela se passe mieux que prévu

Les chercheurs développent une IA capable de formuler des hypothèses, de réaliser des expériences et de rédiger des articles de recherche de manière indépendante. J’ai toujours pensé que l’IA fonctionne mieux comme un outil pour les humains plutôt que comme un substitut aux humains, mais ce scientifique en IA semble avoir du potentiel.

La différence entre les scientifiques utilisant l'IA, les scientifiques en IA et les scientifiques en IA

Il existe de nombreux exemples récents de scientifiques utilisant l’IA, mais mon préféré s’est produit pour la première fois au MIT en 2019, où une IA a été formée sur 1 700 médicaments approuvés par la FDA et 800 produits naturels, qui étaient tous des antibiotiques ou avaient des propriétés antibactériennes. L’IA a analysé une bibliothèque de 6 000 composés pour en identifier un ayant des propriétés similaires. C’est ce qui s’est produit. L'antibiotique Halicin a été découvert. En 2023, la même équipe a découvert un deuxième antibiotique capable de combattre le SARM résistant aux antibiotiques.

Habituellement, le terme scientifique en IA fait référence à un scientifique expert dans tous les aspects ou un aspect spécifique de la technologie de l'IA, comme les modèles de grand langage ou les réseaux de neurones artificiels. De manière déroutante, le terme « scientifique IA » désigne également une nouvelle IA qui fonctionne comme un scientifique. Jusqu’à présent, ce scientifique en IA étudie uniquement les modèles d’IA, ce qui signifie qu’il correspond aux deux définitions d’un scientifique en IA.

Le scientifique de l'IA

La société japonaise Sakana AI finance un laboratoire à l’Université de la Colombie-Britannique et à l’Université d’Oxford pour développer un scientifique en IA capable d’effectuer seul l’ensemble du processus scientifique. Il est conçu pour étudier la littérature scientifique afin de formuler une hypothèse, de réaliser des expériences, de rédiger un document de recherche et d'évaluer par les pairs ses propres travaux par rapport à la littérature scientifique originale avec laquelle il a commencé.

Afin de réduire les erreurs, l’équipe de l’Université de la Colombie-Britannique a développé un processus étape par étape que l’IA doit suivre. Le scientifique en IA effectue des recherches sur un modèle d’IA ou un type d’IA et formule plusieurs hypothèses sur ce qui pourrait améliorer l’IA. Il note les idées de recherche en fonction de « leur intérêt, leur nouveauté et leur faisabilité ». Après avoir choisi une hypothèse, il revérifie la base de données de la littérature pour s'assurer qu'il s'agit d'une idée nouvelle et originale. L’IA utilise ensuite un programme d’assistant de codage pour exécuter son code afin de tester l’hypothèse tout en prenant des notes de recherche. Il détermine si des expériences de suivi sont nécessaires et rédige le document de recherche.

La dernière étape consiste à évaluer le document de recherche et à le rejeter s’il contient des informations fabriquées ou des hallucinations qui tourmentent fréquemment les modèles d’IA. Un chercheur a admis qu’ils n’avaient réussi à réduire les hallucinations qu’à dix pour cent. « Nous pensons que dix pour cent est probablement inacceptable. »

Inconvénients potentiels

Le biais de popularité est un problème courant dans les modèles d’IA, et les chercheurs l’ont également constaté chez les scientifiques en IA. Il peut donner la priorité à un domaine d’étude qui a déjà été étudié de manière approfondie ou surévaluer les théories qui disposent du plus grand nombre de données.

Pour les humains, l’IA peut sembler avoir une pensée innovante car elle est capable d’évaluer un problème sans intuition ni expérience préalable qui ferait obstacle à des solutions originales. Un physicien étudiant les particules quantiques dans la lumière se demandait depuis des semaines comment observer un phénomène quantique particulier. Soupçonnant que leur propre intuition le gênait, il a décidé de former une IA pour travailler sur le problème, et celle-ci a conçu une expérience en quelques heures. L’expérience s’est avérée plus tard couronnée de succès.

Cependant, ce même manque d’intuition et d’expérience peut interférer avec l’interprétation des résultats. Des chercheurs de l'UBC relient les conclusions maladroites du scientifique en IA à celles de jeunes doctorants connus pour s'accrocher à des brins de paille ou deviner les implications de leurs résultats.

Il existe également des préoccupations éthiques concernant le développement des scientifiques en IA. À qui serait attribué le mérite du travail d’un scientifique en IA ou, à l’inverse, qui assumerait la responsabilité des erreurs, du plagiat ou de l’altération des données ?

Quel est le but de la science ?

Les scientifiques du MIT ont découvert deux nouveaux antibiotiques utilisant l’IA dans l’espoir qu’ils pourraient combattre les bactéries nuisibles aux humains. Les météorologues utilisent l’IA pour mieux prédire les conditions météorologiques dangereuses. Les neuroscientifiques utilisent l’IA pour prédire la mort cellulaire dans l’espoir de la prévenir un jour. L’IA entre les mains des scientifiques a déjà conduit à de nouvelles découvertes et la promesse de bien d’autres à venir.

Je soutiens pleinement la création d’un scientifique en IA, mais je soupçonne que ses plus grandes réalisations ne seront pas réalisées de manière indépendante. Il travaillera en collaboration avec une équipe de scientifiques humains qui ouvriront la voie pour fournir les questions auxquelles il doit répondre et guider ses recherches vers une application productive.