Qu'est-ce que le codage d'ambiance et pourquoi est-il risqué?

Sommaire

Toggle

Résumé

• Le codage de l'ambiance permet à quiconque de créer un logiciel sans comprendre le code, éliminant les obstacles à l'entrée.

• Les applications codées par Vibe présentent des risques en raison des problèmes potentiels de qualité et de cybersécurité qui peuvent manquer.

• Les modèles de grandes langues nécessitent une supervision humaine en raison des inexactitudes potentielles dans la génération de code.

Tout le monde peut apprendre à coder, mais le codage est difficile. Grâce à la puissance de l'IA, vous pouvez simplement obtenir un chatbot pour écrire le code pour vous, mais est-ce une bonne idée?

Bienvenue dans le monde du «codage d'ambiance», où n'importe qui peut créer des logiciels, et peu importe si vous ne comprenez pas réellement le code lui-même. Est-ce génial, ou est-ce vraiment un énorme problème?

Qu'est-ce que le « codage d'ambiance »

Le terme « codage d'ambiance » est essentiellement l'argot pour créer du code logiciel informatique en disant simplement à une IA ce que vous voulez que le code fasse, et le logiciel le crachant pour vous. Ensuite, vous compilez le code, exécutez l'application et si tout semble bon, vous l'appelez un jour et partagez votre logiciel.

Il ne s'agit pas de connaissances techniques exactes, mais de « l'ambiance » que vous recherchez, je suppose. En d'autres termes, les personnes qui vibraient le codage sont effectivement dans la position d'un client expliquant à un développeur de logiciels ce qu'il veut. C'est juste qu'ils ont remplacé le développeur de logiciels humains par une IA.

Plus de gens créent des logiciels avec l'IA. C'est bien, non?

Bien que la messagerie de « Learn to Code » s'est répandue depuis des années maintenant, la vérité est que si beaucoup de gens aimeraient créer des logiciels, ils n'ont ni le temps d'apprendre, ni les ressources pour embaucher quelqu'un qui peut coder. C'est donc un nombre important de personnes qui ont des idées d'applications ou d'autres logiciels, mais sans aucun moyen de faire d'eux une réalité.

Donc, d'un point de vue, le codage d'ambiance est assez génial. Cela signifie que, tout comme la génération d'images de l'IA, la barrière à l'entrée a été tombée dans le sol pour quelque chose qui prendrait généralement des années de pratique et d'études à faire. Vous pouvez faire valoir qu'il s'agit d'une démocratisation de la création de logiciels.

Il tombe également à peu près dans la ligne avec le développement de la programmation au fil des décennies. Au début, les programmeurs ont dû travailler dans le code machine brut, puis dans le langage d'assemblage, ce qui est plus facile à comprendre pour les humains, mais toujours assez proche du code machine en fonction.

Plus tard, les langues de codage de haut niveau ont frappé un terrain d'entente entre quelque chose qui pourrait être facilement traduit en code machine et une langue humaine comme l'anglais. Des langues comme C ou Python peuvent sembler cryptiques à première vue, mais elles ont une syntaxe beaucoup plus proche du côté humain du spectre et représentent un énorme bond envers la facilité de fabrication de logiciels.

Alors, toi pourrait Voir l'ambiance codant comme l'évolution naturelle de la traduction du langage humain à la machine, qui est une belle idée en théorie, mais présente quelques problèmes.

Les applications codées par Vibe peuvent être dangereuses

Voici la chose – si vous n'avez aucun moyen d'évaluer la qualité de votre code, cela pourrait avoir toutes sortes de problèmes auxquels vous êtes tout simplement inconscient. Même si vous testez le code largement et utilisez l'IA pour corriger itérativement les bogues et les problèmes que vous trouvez, vous ne savez toujours pas si le code est réellement bon ou non. Suit-il de bonnes pratiques pour la cybersécurité? A-t-il un défaut évident qu'un codeur humain repérerait en un instant? Peut-être plus important encore, y a-t-il une question pas si évidente que seul un codeur humain expérimenté allait horaire?

C'est une chose d'ambiance de coder un petit jeu amusant pour vos enfants ou pour vos projets de bricolage personnels, mais si vous essayez de faire des logiciels que vous souhaitez publier, ou même vendre, les pièges sont nombreux.

Les LLM sont toujours risquées à moins que vous ne soyez un expert en matière

En raison de la façon dont les modèles de langue importants fonctionnent, il y a toujours une chance que cela fasse une erreur ou même de faire des choses qu'il ne devrait pas. En ce qui concerne le code informatique, même un LLM fiable à 99% et correct créera toujours des problèmes importants lorsque vous avez des centaines ou des milliers de lignes de code. Pire encore, si vous demandez à un LLM d'évaluer ce code, en partie, il le fera incorrectement pour les mêmes raisons.

Ce n'est qu'un symptôme d'un problème avec les LLM dans l'ensemble. Si vous êtes un expert en matière, un LLM peut être un booster de productivité puissant et profond. Ainsi, un codeur ACE peut désormais simplement passer son temps à déboguer que 1% du code qui est faux, au lieu d'écrire les 99% qui sont principalement du travail d'affiche. Pour quelqu'un comme ça, un assistant de codage LLM est la meilleure chose qui lui soit jamais arrivée.

Pour quelqu'un qui ne savait pas comment déboguer du code, ou pour quelqu'un qui essaie d'utiliser un LLM dans un sujet dont il ne sait rien, c'est un piège mortel où vous ne savez pas ce que vous ne savez pas.

Il devrait toujours y avoir un codeur humain dans la boucle

Je pense que cela est généralement vrai pour tout travail effectué par un LLM, mais vous avez toujours besoin d'un expert humain dans la boucle pour vérifier le travail effectué par un LLM. Que ce soit le codage ou la rédaction d'un document de recherche. Les LLM ne seront jamais à 100% dignes ou fiables, et tout nombre inférieur à 100% signifie que vous avez besoin d'une vérification humaine de cette sortie.

Cela ne signifie pas que les LLM sont inutiles ou qu'ils ne révolutionneront pas ce que nous pouvons faire ou à quelle vitesse nous pouvons le faire, cela signifie simplement que nous devrons toujours le superviser avec compétence. Donc, malheureusement, vous devrez toujours apprendre à coder. Il n'y a aucun moyen de contourner cela.