L’accord OpenAI pour iOS 18 est un signal d’alarme et Apple le sait

AVIS : Apple rendant les fonctionnalités iOS 18 basées sur OpenAI « opt-in » reconnaîtrait le risque géant qu'il prend en se mettant au lit avec une entreprise déterminée à gagner la course aux armements en matière d'IA.

Apple demanderait le consentement exprès des utilisateurs d'iPhone avant d'autoriser l'utilisation d'outils d'IA génératifs tiers dans iOS 18. Selon un rapport de Mark Gurman de Bloomberg, que nous avons détaillé plus tôt cette semaine, certaines des nouvelles fonctionnalités d'IA vont être « opt-in » plutôt que d’être poussé à bout comme de nouveaux outils indispensables pour tous.

Et pour cause.

Alors que les efforts d'Apple pour revigorer et redémarrer Siri avec l'intelligence artificielle restant en retard, de l'avis de tous, le fabricant d'iPhone se lancerait dans le lit avec OpenAI pour combler le vide. Peut-être temporairement.

Nous devons encore voir à quel point l’intégration sera étroite et quels garde-fous seront en place. Par exemple, cela sera-t-il très différent d'avoir ChatGPT comme application autonome sur l'App Store ? Ou s’agira-t-il d’une définition du système d’exploitation comme Copilot dans Windows 11 ?

Ces réponses devraient arriver la semaine prochaine à la WWDC. Quoi qu’il en soit, intégrer une application tierce d’une telle ampleur dans l’écosystème iOS n’est pas une décision anodine.

Appelez cela un cheval de Troie, dormant avec l'ennemi, le serpent dans le jardin d'Eden, ou un idiome de votre choix, c'est apparemment quelque chose dont les personnalités clés d'Apple se méfient, selon les rapports de Gurman. Certains craignent de lâcher un « chatbot malveillant » et d’autres ont une « aversion philosophique » à l’idée d’avoir un chatbot tiers intégré dans iOS.

En s'associant à ChatGPT pour alimenter certaines de ses nouvelles fonctionnalités d'IA, Apple est conscient du risque qu'il prend, mais ressent apparemment le besoin de le prendre.

Ses concurrents, Google, Samsung, Microsoft et les fabricants de puces comme Qualcomm, plongent tête première dans l'ère de l'IA des smartphones et des ordinateurs portables et il semble qu'il n'y ait pas de retour en arrière (jusqu'à ce que les produits inévitables pour « ça me dégoûte, comment puis-je l'éviter ») ?' les gens dans quelques années).

Apple a toujours fait les choses à son rythme et a publié ses grandes refontes à un moment qu'il juge approprié pour sa clientèle. Cependant, la direction du voyage n'est qu'un sens et il se peut qu'Apple (certainement selon les rapports internes fiables de Mark Gurman) ne pense pas qu'il puisse être en retard pour cette fête.

L'alliance annoncée pourrait avoir d'énormes conséquences et il est loin d'être garanti qu'elles soient positives.

La lettre de Scarlett

Il existe beaucoup de scepticisme et de méfiance du public à l'égard d'OpenAI, une aversion intense à l'égard du talent de ChatGPT à rendre superflues des professions créatives entières, des craintes quant à la façon dont ses LLM sont formés sur des données que des personnes n'auraient peut-être pas donné l'autorisation d'utiliser à cette fin, la façon dont les éditeurs et d'autres sont vendre pour aider à cette formation et à la sécurité des demandes une fois qu'elles quittent l'appareil et se dirigent vers le cloud.

Au-delà des arguments sur sa technologie, OpenAI en soi n’est pas un bastion de stabilité. La situation compliquée de l'année dernière, lorsque les poursuites ont licencié le PDG Sam Altman, qui avait accepté de rejoindre Microsoft avant que tout ne soit réglé. On n’a pas l’impression que ce soit une entreprise sur un pied d’égalité. Et, pour une entité qui pourrait définir l’avenir de la relation de l’humanité avec la technologie, cela ne nous remplit pas de confiance.

La récente controverse très publique sur l’utilisation de la voix de Scalett Johannson, comme quelque chose qui pourrait mettre les gens à l’aise avec l’utilisation de l’IA, a eu exactement l’effet inverse.

L’actrice a déclaré : « Il m’a dit qu’il pensait qu’en exprimant le système, je pourrais combler le fossé entre les entreprises technologiques et les créatifs et aider les consommateurs à se sentir à l’aise avec le changement sismique concernant les humains et l’IA. Il a dit qu’il pensait que ma voix réconforterait les gens.

Il n’est pas surprenant que ce genre de sentiment dégoûte les gens. Lorsqu'elle a dit non, Altman est allé de l'avant et a utilisé quelqu'un dont la voix ressemblait à la sienne, pour le dire très gentiment.

Il ne sort pas de la situation, qui aurait pu être la première fois que beaucoup de gens entendent parler d'OpenAI, ressemblant à une personne digne de confiance. Au lieu de cela, il fait des comparaisons avec Miles Dyson – l'ambitieux programmeur du Skynet induisant l'apocalypse dans l'histoire de Terminator 2.

La peur n’est pas non plus simplement une panique morale extérieure. Cette semaine encore, des employés actuels et anciens ont dénoncé l'absence de contrôle et les risques sérieux posés par les technologies. Ils ont également déploré leur capacité à parler ouvertement des dangers en raison de NDA serrées.

Dans une lettre ouverte, les employés ont déclaré : « Les sociétés d’IA ont de fortes incitations financières pour éviter une surveillance efficace, et nous ne pensons pas que des structures de gouvernance d’entreprise sur mesure soient suffisantes pour changer cela.

« Nous comprenons également les risques sérieux posés par ces technologies » avant de déclarer que les entreprises « n'ont actuellement que de faibles obligations de partager certaines de ces informations avec les gouvernements, et aucune avec la société civile. Nous ne pensons pas qu’on puisse compter sur eux pour le partager volontairement.

Coupable par association

Si les pratiques d'OpenAI débouchent sur de plus grandes controverses, Apple sera considéré comme coupable par association, surtout si des incidents surviennent via le matériel Apple. Comme le dit le proverbe, si vous vous couchez avec un chien, vous pouvez vous réveiller avec des puces. C'est pourquoi Apple rendrait ces fonctionnalités « opt-in » – pour garantir que les utilisateurs ont activement accepté de les utiliser.

Apple a la réputation durement gagnée de placer la confidentialité au premier plan de sa proposition technologique. Il déclare depuis longtemps qu'il s'agit d'une entreprise de matériel informatique et non d'une entreprise de données et qu'elle a mis en place des pratiques pour garantir que vos données ne seront pas exploitées. Sa vaste clientèle lui fait largement confiance.

Il s’agit d’une course aux armements technologiques très importante. Cela se produit très rapidement, sans aucune faille de sécurité. Apple, parmi toutes les entreprises, conclure un tel accord avec OpenAI semble précipité et anti-Apple.

Apple a continuellement intégré des outils tiers tout au long de l’ère de l’iPhone pour combler les lacunes des produits qu’elle développait ou n’avait pas de skin dans le jeu. Google Maps, par exemple, était un incontournable intégré avant Apple Maps. La recherche Google est le fournisseur par défaut de la recherche dans Safari depuis des années. YouTube était également intégré à iOS.

Peut-être que cela ne m'inquiéterait pas autant, ainsi que d'autres, si Apple prévoyait une intégration avec Google Gemini, comme cela aurait également été envisagé, plutôt qu'OpenAI ?

Non pas que Google soit angélique, mais il y a là une familiarité pour les utilisateurs qui pourraient être sceptiques, et un respect mutuel et une relation longue et fructueuse entre les deux parties qui vont au-delà de la rivalité entre iPhone et Android. Mieux vaut Le Diable, vous savez, peut-être.

Nous attendrons de voir comment cela se déroulera à la WWDC et une fois intégré dans iOS 18, mais pour le moment, une alliance OpenAI et Apple est un signal d'alarme géant.