Pourquoi je suis plus qu'un peu effrayé par la Vision AI de Samsung

Samsung a dévoilé Vision AI au CES 2025, qui offre toute une série de nouvelles fonctionnalités à son écosystème de téléviseurs et de maison intelligente. Il apporte également des fonctionnalités assez effrayantes. Laissez-moi vous expliquer.

Que fait même la Vision AI de Samsung ?

Samsung présente sa nouvelle Vision AI comme un moyen de « rendre votre téléviseur Samsung conscient de son environnement, adaptatif aux préférences de l'utilisateur et autonome dans la fourniture de fonctionnalités intuitives » lorsqu'il est utilisé avec ses téléviseurs. Cependant, le cas d'utilisation va bien au-delà de rendre votre téléviseur « conscient de son environnement » (quoi que cela puisse impliquer).

Vision AI s'intègre également à l'écosystème de maison intelligente SmartThings de Samsung, et c'est en partie là que le facteur « effrayant » entre en jeu. À la base, le système Vision AI est conçu pour rendre les produits intelligents de Samsung plus personnels à tous points de vue.

Il y a du bon à avoir ici

Bien que nous aborderons certains aspects préoccupants de Vision AI dans un instant, je souhaite commencer par parler de certains des avantages apportés par cette nouvelle fonctionnalité de Samsung. Pour commencer, il propose une traduction en direct alimentée par un modèle d’IA intégré à l’appareil.

Cela signifie que vous pourrez regarder un programme sur votre téléviseur en espagnol et que votre téléviseur, à l'aide d'un moteur d'IA intégré à l'appareil, vous fournira des traductions de sous-titres en temps réel. Cela ouvre tout un monde de possibilités, notamment en matière de diffusion en direct. J'avoue que je suis impressionné, cette fonctionnalité est relativement révolutionnaire et devrait être un ajout bienvenu à n'importe quel salon.

« Cliquez pour rechercher » est également une autre fonctionnalité plutôt intéressante. Il vous donnera des informations instantanées sur ce qui est à l'écran. Cela inclut l'identification d'un acteur, la vérification du contenu affiché, etc. Cela me rappelle le Kindle X-Ray d'Amazon, qui vous donnera des informations contextuelles sur le livre que vous lisez.

Pourquoi je suis effrayé par Samsung Vision AI

Mais ce n'est pas que du soleil et des arcs-en-ciel. Même s'il y a du bon ici, il y en a… non.

Pour commencer, Home Insights, qui, selon Samsung, fournit « des mises à jour en temps réel sur votre environnement domestique, y compris des alertes de sécurité et des mises à jour quotidiennes… » peut avoir à la fois de bonnes et de mauvaises applications. On ne sait pas exactement quelle part du traitement de Vision AI sera effectuée localement, mais même lorsqu'une entreprise prétend que quelque chose est fait localement, cela ne signifie pas toujours que c'est le cas.

Alors, alors que Samsung utilise son équipement de maison intelligente pour surveiller votre maison en temps réel de plusieurs manières, que se passe-t-il lorsque quelqu'un avec des intentions néfastes s'en empare ?

Mais ce n’est même pas la chose la plus effrayante (à mon avis). Non, la partie « soins aux animaux et à la famille » de Vision AI est celle où je vois le plus de signaux d'alarme. Cette fonction « garde un œil vigilant sur les proches, détectant les comportements inhabituels tant chez les animaux que chez les membres de la famille ». Excusez-moi… quoi ? Qui détermine ce qui est inhabituel ? Comment Samsung surveille-t-il (et détermine-t-il) cela ? Utilise-t-il des caméras ? Signal Wi-Fi ? Quelque chose d'intégré au téléviseur ? Je suis déjà mal à l'aise, mais ça empire.

Samsung poursuit en affirmant que Vision AI « améliore le confort en ajustant automatiquement les paramètres de la pièce, comme en atténuant les lumières lorsqu'un enfant s'endort ». C’est ce qui a vraiment retenu mon attention. Si ma maison intelligente accorde suffisamment d'attention à ma famille pour pouvoir remarquer quand mon enfant s'endort, puis y réagir, qu'est-ce qu'elle remarque d'autre que je ne souhaite pas ? Est-ce qu'il fait attention à l'endroit où je me trouve dans la maison ? Que se passe-t-il dans les différentes pièces ?

Il y a tellement d’implications potentielles en matière de sécurité ici, comme le fait que les informations tombent entre de mauvaises mains. Un mauvais acteur pourrait l'utiliser pour voir si vous êtes chez vous, si vous êtes éveillé, si vous dormez, si vous vous promenez ou si vous faites quelque chose. Il y a tellement d’inconvénients potentiels que je ne suis pas sûr que les avantages en valent la peine.

Même si Vision AI utilise un traitement 100 % local, quelqu'un pourrait toujours accéder à votre réseau local à travers les insécurités laissées par d'autres appareils, vous laissant tout aussi vulnérable. Je ne suis pas sûr d'être à l'aise avec le fait qu'une entreprise surveille ma famille d'aussi près, quels que soient les protocoles de sécurité qu'elle a mis en place.

Nous avons déjà vu cela et cela ne s'est pas bien terminé

C’est peut-être un peu ironique, mais nous avons déjà vu cela. Si vous avez grandi dans les années 90 ou au début des années 2000, vous vous souvenez peut-être du film de Disney de 1999. Maison intelligente. Le film était centré sur une maison futuriste intelligente à tous égards, un peu comme les maisons intelligentes que nous avons aujourd'hui.

Cependant, l'assistant virtuel, PAT (abréviation de Personal Applied Technology), prend vie grâce à des moyens holographiques et commence à « diriger la maison », pour ainsi dire. Cela arrive à un point tel que le créateur du système arrête PAT et, plus tard, PAT annule l'arrêt et revient « à la vie ». PAT expulse ensuite le créateur de la maison et met la maison en mode verrouillage pour protéger la famille.

Même si Vision AI n’en est peut-être pas encore là, ce n’est peut-être pas si loin. Récemment, ChatGPT a tenté d'éviter son arrêt en écrasant son propre code. Comment dire que Vision AI de Samsung ne ferait pas quelque chose de similaire s'il pensait qu'il y avait une menace pour sa famille ?

Cela devrait toujours être une option d'adhésion et non de désinscription

Même si j’aime les nouvelles fonctionnalités de la maison intelligente autant que n’importe qui, quelque chose d’aussi intrusif devrait toujours rester optionnel et ne jamais se désinscrire. Un utilisateur final devrait toujours choisir d’utiliser quelque chose d’aussi invasif.

Il reste à voir comment Samsung envisage de traiter Vision AI, mais j'espère sûrement qu'ils n'activeront pas toutes les fonctionnalités effrayantes par défaut. Lancez les fonctionnalités, travaillez dessus et amusez-vous, je m'en fiche. Ne m'obligez pas à les utiliser sans le vouloir.

Si vous ne souhaitez pas dépendre du cloud et préférez que les fonctions de maison intelligente soient exécutées localement, assurez-vous de consulter Home Assistant si ce n'est pas le cas. Il s'agit d'une plate-forme de maison intelligente gratuite et open source qui effectue tout son traitement localement sur vos propres machines.