Je ne suis pas sûr de faire confiance à l'IA d'Apple dans ma vie numérique

L'impressionnante gamme de fonctionnalités et de fonctions améliorées par l'intelligence artificielle d'Apple arrive sur iOS 18, mais cette technologie nécessite un accès sans entrave à de nombreuses données personnelles. Dans un monde où les failles de sécurité et la collecte de données sont monnaie courante, cela m'inquiète.

La promesse de l'intelligence d'Apple

« L'intelligence d'Apple va transformer une grande partie de ce que vous faites avec votre iPhone », a déclaré Craig Federighi, vice-président senior de l'ingénierie logicielle, lors de l'événement Apple Glowtime en septembre 2024. Le système est conçu pour servir de « système d'intelligence personnelle » pour les appareils iPhone, iPad et Mac, en utilisant un modèle de langage propriétaire à grande échelle qui exploite mon données personnelles à exploiter.

« Vous pourrez réécrire des notes rédigées à la hâte pour en faire une invitation à un dîner soignée, ajuster le ton de ce message Slack à votre patron pour qu'il paraisse un peu plus professionnel, ou relire votre dernière critique sur Goodreads avant de la publier à vos collègues rats de bibliothèque », a déclaré Federighi.

L’agent IA pourra interagir avec mes données à la fois sur les applications système et tierces, notamment Mail, Notes, Safari et Pages, et générer des images à partir d’invites textuelles en langage naturel. Apple Intelligence est « ancrée dans vos informations personnelles et votre contexte, avec la capacité de récupérer et d’analyser les données les plus pertinentes de vos applications, ainsi que de référencer le contenu de votre écran », a déclaré Federighi lors de la WWDC en juin.

Il peut générer des images et des emojis personnalisés, rechercher des images et des fichiers à l'aide d'invites en langage naturel, résumer les notifications et les e-mails, et toute une série d'autres tâches qui, selon Apple, rationaliseront mes tâches numériques quotidiennes.

Je veux dire, oui, ce truc est cool et c'est probablement l'avenir, mais je ne suis pas sûr qu'il se soit suffisamment avéré fiable pour justifier d'accorder à Apple ce degré d'accès à mes données. Alors qu'avant, Apple hébergeait simplement mes données sur l'appareil et sur iCloud, maintenant, il veut vraiment faire des choses avec, et ça me rend nerveux.

Apple Intelligence veut tout savoir sur moi

Apple présente Intelligence comme un agent global pour iOS 18, capable de fonctionner sur plusieurs applications pour simplifier ma vie numérique. Grâce à Apple Intelligence, Siri est repensé comme un assistant plus performant et plus intelligent. « Siri pourra exploiter votre contexte personnel pour vous aider de manières qui vous sont propres, comme en faisant apparaître la recommandation de l'émission télévisée que votre frère vous a envoyée le mois dernier », a déclaré Federighi.

Je suis tout à fait pour les automatisations qui peuvent me faire gagner du temps et des efforts, mais je ne suis pas particulièrement à l'aise avec les outils qui peuvent halluciner non seulement en surveillant mes données en temps réel mais aussi de manière indépendante par intérim sur ces données.

Je ne crains pas qu'Apple ne réveille Skynet ou ne fasse naître HAL, remarquez bien : nous ne sommes pas encore assez près de l'AGI pour nous inquiéter de choses de cette nature. Je suis toutefois méfiant quant à l'étendue et à la profondeur des données personnelles requises pour activer ces fonctionnalités, ainsi que quant à la manière dont ces données sont transmises et traitées.

Le secteur de l'IA générative n'a pas ce que l'on pourrait appeler une réputation exemplaire en matière de sécurisation des données des utilisateurs. OpenAI, qui s'associe à Apple pour intégrer ChatGPT aux fonctionnalités de Siri, a été piraté à plusieurs reprises depuis le lancement de son chatbot en novembre 2022, ce qui a entraîné des fuites de données.

NVIDIA, qui fabrique les GPU les plus recherchés du secteur de l'IA, a également fait de même. De plus, une étude récente de HiddenLayer a révélé que 77 % des entreprises interrogées ont signalé des failles de sécurité dans leurs systèmes d'IA au cours de l'année écoulée.

Mon numéro de sécurité sociale flotte déjà dans la brise, je ne suis pas pressé de voir le reste de mes données personnelles le rejoindre.

Comment Apple protège les données des utilisateurs dans le cloud

Apple a le mérite d'avoir une réputation bien méritée en matière de sécurité des données. Les violations de données sont extrêmement rares et lorsqu'elles se produisent, comme lors du piratage d'iCloud en 2014, Apple n'a pas tardé à renforcer ses vulnérabilités. Pour Apple Intelligence, les requêtes sont principalement traitées sur l'appareil. Cela limite considérablement les voies et moyens par lesquels mes données personnelles peuvent être divulguées.

S'il n'est transmis nulle part, il existe très peu de moyens par lesquels des parties non autorisées peuvent y accéder, en dehors de l'exploration physique de mon téléphone, de l'installation de logiciels malveillants ou de la réalisation d'attaques par canal auxiliaire.

L'entreprise a également développé une infrastructure de données personnalisée massive, baptisée Private Cloud Compute (PCC), pour gérer et protéger les données utilisateur téléchargées pour les requêtes qui ne peuvent pas être résolues sur l'appareil. Comme l'explique un article de blog d'Apple de juin, Apple Intelligence évaluera si une requête utilisateur donnée peut être traitée sur l'appareil et, si ce n'est pas le cas, l'IA « peut s'appuyer sur Private Cloud Compute, qui enverra uniquement les données pertinentes pour la tâche à traiter sur les serveurs Apple Silicon ». Les données envoyées au PCC ne sont pas stockées et ne sont pas accessibles par Apple et, par extension, par les forces de l'ordre, les pirates informatiques ou d'autres acteurs malveillants.

« Ces données ne doivent jamais être accessibles à quiconque autre que l'utilisateur, pas même au personnel d'Apple, pas même pendant le traitement actif », ont écrit les chercheurs d'Apple dans une étude publiée en juin. Les données ne peuvent pas être conservées une fois la requête terminée. « En d'autres termes, nous voulons une forme solide de traitement des données sans état où les données personnelles ne laissent aucune trace dans le système PCC. »

Les chercheurs notent que, si des applications comme iMessage peuvent offrir un chiffrement de bout en bout, ce n'est pas le cas du PCC, « car le calcul en cloud privé doit pouvoir accéder aux données de la requête de l'utilisateur pour permettre à un modèle de base plus important de les satisfaire ». Au lieu de cela, ils ont conçu le système pour qu'il soit incapable de conserver les données de l'utilisateur une fois la requête terminée, en utilisant « une garantie exécutoire que le volume de données est effacé de manière cryptographique à chaque redémarrage du processeur Secure Enclave du nœud PCC ».

« Nous avons commencé par définir notre objectif : comment étendre au cloud les garanties de confidentialité que nous avons établies avec le traitement sur l'appareil de l'iPhone. C'était notre mission », a déclaré Federighi à Wired. « Il a fallu des avancées à tous les niveaux pour y parvenir, mais ce que nous avons fait, c'est atteindre notre objectif. Je pense que cela établit une nouvelle norme pour le traitement dans le cloud dans l'industrie. »

Aucun système n’est parfait

Il est difficile d’ignorer ce niveau de confiance, surtout lorsque la conformité au système est imposée par des moyens techniques plutôt que par des politiques facilement contournables. Cependant, aucune entreprise n’est infaillible, et certainement pas aucun modèle d’IA qui a été construit à ce jour.

Même avec les garanties de confidentialité des données d'Apple, je reste sceptique quant au fait de pouvoir générer des emojis et de me rappeler les noms de mes connaissances (à la Bella Ramsey) qui offrent suffisamment de valeur pour justifier la mise à niveau vers le nouveau système d'exploitation compatible Ai ou même l'achat d'un nouvel iPhone, mais ce n'est que moi.

En fin de compte, la décision d'adopter ou non Apple Intelligence dépendra de votre niveau de confort individuel en matière de confidentialité des données et du degré de confiance que vous accordez à l'engagement d'Apple à protéger ces données.