Je suis vraiment inquiet que les gens invoquent l'IA pour gagner des arguments en ligne

Il ne fait aucun doute que l'accès public à des chatbots d'IA sophistiqués aurait des effets profonds sur la société, à la fois positifs et négatifs. Il n'a pas fallu longtemps pour que les gens commencent en fonction des robots d'IA pour des choses qu'ils ne devraient pas, et maintenant je le vois se répandre sur les réseaux sociaux.

Que ce soit sur Facebook, Instagram, X ou la section des commentaires des articles en ligne, vous verrez des gens publier des commentaires écrits par l'IA, ou utilisez des informations fournies par l'IA, et c'est quelque chose qui m'inquiète profondément.

Les gens utilisent l'IA pour gagner des arguments en ligne

Chaque fois que je conteste X de nos jours, je vois inévitablement les gens se mettre dans les arguments les uns avec les autres. Jusqu'à présent, si normal pour Internet. Ce qui n'est pas si normal, c'est la petite prière électronique pour la sagesse qui s'éteint maintenant au moins toutes les trois ou quatre réponses – @ grok.

Le marquage du chat-chat AI de X agit comme une invite et est un moyen rapide et facile d'invoquer le bot pour répondre à votre question. Vous pouvez donc vous demander si le post ci-dessus est vrai ou si quelqu'un a raison. Alternativement, vous verrez des captures d'écran publiées de chats avec des bots comme Chatgpt et Claude. Publié comme preuve à l'appui des points que quelqu'un essaie de faire ou de réfuter les points de son interlocuteur.

Cela signifie qu'ils ne savent pas à quel point les robots AI sont peu fiables

En tant que personne qui utilise quotidiennement les chatbots d'IA et surveille de près son développement et ses capacités, je trouve cela épouvantable. Je n'utiliserais jamais, jamais les informations fournies par l'un de ces chatbots textuellement comme source de quoi que ce soit. Pour résumer les informations vérifiées? Bien sûr. Pour mettre en place des aperçus qui me pointent vers des sources originales? Certainement.

Mais c'est pas ce qui se passe sur les réseaux sociaux. Je vois que les utilisateurs sur ces sites se remettent à l'IA et acceptent simplement tout ce qu'il dit. Même si les informations sont clairement incorrectes à première vue. Regardez ce résultat de référence de précision SimpleQA du site d'Openai.

Le meilleur résultat est pour GPT-4O avec un accès Web à 90%. Cela semble bien, mais je vérifierais certainement chaque réclamation pour tout ce qui avait 10% d'inexactitude! Pour les modèles que les gens sont plus susceptibles d'utiliser, comme GPT-4.5 ou 4O, le score de précision est modérément meilleur ou pire que 50%, avec 63% et 38% respectivement. Encore plus pertinent, la BBC a constaté que les chatbots d'IA sont médiocres pour résumer avec précision et présenter les événements actuels. Après l'évaluation, 51% des réponses données par les différentes IA testées avaient des « inexactitudes importantes », selon l'étude

Ainsi, la commodité d'avoir l'IA répond rapidement avec des informations lors d'un argument en ligne est de loin contre les chances que cette information ait la précision d'un retournement de pièces!

Veuillez ne pas utiliser l'IA comme source principale

Peut-être arrivera-t-il un jour où les chatbots d'IA seront aussi dignes de confiance que des institutions comme l'Associated Press, mais ce jour n'est pas aujourd'hui et il est difficile de voir que cela est vrai de sitôt. Même si ces robots étaient précis à 99%, vous devrez toujours vérifier toutes les réclamations faites à l'aide d'une source tierce.

Je vous suppose donc pratiquement de ne pas utiliser la sortie directe d'un chatbot comme munitions pour toute sorte de discussion en ligne. Au mieux, vous ne vous donnerez que l'air idiot; Au pire, vous pourriez répartir une désinformation dangereuse. C'était un problème assez important avant Les robots AI sont devenus monnaie courante, vous pouvez donc imaginer à quel point la situation est désordonnée maintenant.

Si vous utilisez les versions Web compatibles avec le Web de ces robots AI, n'oubliez pas d'ajouter une demande à votre invite pour des sources. Vérifiez ensuite les sources que l'IA cite d'abord, avant d'utiliser davantage ces informations. Ne vous sentez pas confiant simplement parce que l'IA fournit une source, car ils peuvent même halluciner des liens de site Web, des noms de source ou une déformation de ce que dit cette source.

Une grande partie de ce que les bots de l'IA produisent ont le placage de l'autorité et de la légitimité, mais si vous y appliquez une sorte de pensée critique, elle s'effondre rapidement.

Repousser les personnes utilisant l'IA comme source en ligne

Même si vous n'utilisez pas l'IA comme source dans les discussions, vous allez rencontrer beaucoup de gens en ligne qui le font. Dans la plupart des cas, je soupçonne qu'ils n'auront aucune idée que ces robots ne sont pas fiables et que leurs réponses nécessitent une vérification minutieuse. Donc, si quelqu'un essaie de vous contrer avec l'ancien « @grok » ou avec des captures d'écran de Chatgpt, vous devriez repousser.

Expliquez clairement que les chatbots d'IA ne sont pas une source d'information légitime et une source importante de désinformation à la place. Si les gens peuvent défier Wikipedia en tant que source (qui a une page de conversation éditoriale transparente que tout le monde peut lire), ils devraient absolument contester l'utilisation de l'IA dans toute discussion en ligne.

Je comprends qu'il peut se sentir bien de taguer dans un coéquipier de l'IA pour aider à renforcer vos points, mais dans ce match, certains participants trichent probablement, et vous ne voulez pas être pris en place.