TikTok utilise désormais l’IA pour les violations des utilisateurs – voici ce que cela signifie pour vous

TikTok utilisera l’IA pour aider à supprimer le contenu violant sur sa plate-forme, mais est-ce suffisant ? Nous avons demandé à trois experts de se prononcer.

TikTok évolue, la plateforme n’a plus que quatre ans mais elle compte plus d’un milliard d’utilisateurs et est disponible dans plus de 150 pays. Il a même battu Youtube, Instagram, WhatsApp et Facebook Messenger en termes de téléchargements, accumulant 33 millions en un seul trimestre en 2019, selon Sensor Tower.

Donc, même si vous n’êtes pas sur TikTok, il est probable qu’au moins une personne que vous connaissez le soit. Lisez la suite pour découvrir comment la plate-forme cherche à devenir plus sûre pour ses utilisateurs et ce que les experts pensent des changements récents.

Que fait TikTok pour assurer la sécurité de ses utilisateurs ?

TikTok a récemment annoncé qu’il commencerait à utiliser la technologie pour supprimer automatiquement certains types de contenu non conforme qui seraient identifiés lors du téléchargement, en plus du contenu supprimé manuellement par son équipe de sécurité.

TikTok affirme que l’automatisation sera réservée aux catégories de contenu où sa technologie est la plus précise et commencera par les violations concernant la sécurité des mineurs, la nudité des adultes, les activités sexuelles, les contenus violents et graphiques et les activités illégales et les biens réglementés.

La société affirme également qu’elle essaiera de continuer à améliorer la précision de la technologie pour éviter les suppressions incorrectes. Cependant, les créateurs peuvent faire appel directement de la suppression de leur vidéo s’ils estiment que cela a été fait de manière si injuste.

Le nouveau système compte les violations commises par un utilisateur, en notant la gravité et la fréquence de toutes les violations. L’utilisateur sera informé des conséquences, qui peuvent être trouvées dans la section Mises à jour du compte dans sa boîte de réception.

La première violation d’un utilisateur entraînera un avertissement, sauf si la violation est une politique de tolérance zéro, auquel cas il sera banni. Après la première violation, l’utilisateur verra son compte suspendu pendant 24 à 48 heures, selon la gravité, après quoi il ne pourra pas télécharger de vidéo, commenter ou modifier son profil.

Après plusieurs violations, l’utilisateur sera informé que son compte est sur le point d’être banni, et si le comportement persiste, le compte sera définitivement supprimé.

L’automatisation est-elle plus efficace pour supprimer le contenu non conforme ?

« Oui. Avant cela, les modérateurs humains devaient confirmer une violation avant que quelque chose ne soit supprimé. Les humains sont lents et la main-d’œuvre est limitée, ce qui peut permettre à un contenu en infraction de se propager avant qu’il ne soit supprimé, ou de ne pas être supprimé du tout », a déclaré Paul Bischoff, défenseur de la confidentialité chez Comparitech, à Trusted Reviews.

« TikTok supprime le goulot d’étranglement humain des cas plus clairs dans lesquels ses systèmes automatisés sont raisonnablement confiants qu’une violation s’est produite. »

Un système d’IA serait capable de fonctionner plus rapidement qu’une équipe humaine, et Chris Hauk pense également que les systèmes automatisés sont plus précis.

« Les systèmes automatisés ne sont pas sujets à l’erreur humaine ou à la fatigue. Un système automatisé peut fonctionner 24h/24 et 7j/7 pour supprimer un élément de contenu en infraction. Les systèmes automatisés ne sont pas non plus susceptibles de supprimer (ou de ne pas supprimer) un élément de contenu, simplement à cause de l’opinion d’un humain sur ce qui peut ou non être en violation des normes », a expliqué Chris Hauk, Consumer Privacy Champion chez Pixel Privacy, a expliqué aux avis de confiance.

L’IA supprimera-t-elle également accidentellement le contenu non-violent ?

« Inévitablement, ce sera le cas. Il y aura certainement des problèmes de démarrage qui feront passer certains contenus violents et provoqueront également des faux positifs. Il faudra du temps pour que les algorithmes de TikTok soient suffisamment raffinés pour éviter que ce contenu vidéo ne soit mal classé », a déclaré Tom Gaffney, consultant en sécurité pour F-Secure, à Trusted Reviews.

« À plus long terme, il sera intéressant de voir comment le contenu est classé dans différentes régions. Dans ce cas, la politique a été expérimentée en utilisant des sujets américains et canadiens, mais les normes sociales diffèrent dans le monde entier, il y aura donc des erreurs. J’ai de la sympathie pour TikTok à ce sujet car il s’agit d’une entité commerciale à qui l’on demande de « surveiller » le contenu Internet », a poursuivi Gaffney.

Il n’est pas inhabituel pour une plate-forme de médias sociaux d’utiliser l’IA pour aider à supprimer le contenu abusif ou offensant, The Verge a rapporté l’utilisation par Facebook de l’IA pour trier le contenu pour une modération plus rapide en 2020.

Cependant, en raison du fait que le système automatisé est relativement nouveau pour TikTok, Bischoff a convenu que la plate-forme pourrait avoir du mal à identifier correctement le contenu digne d’être supprimé.

« Il est inévitable qu’un système automatisé comme celui-ci identifie parfois à tort quelque chose comme une violation. Dans le nouveau système, le contenu peut être supprimé sans surveillance humaine. TikTok essaiera de minimiser les faux positifs dans une mesure raisonnable et autorisera toujours les appels de suppressions automatiques », a expliqué Bischoff.

On pense qu’il faudra « enseigner » au système ce qu’il doit et ne doit pas supprimer, bien que ces systèmes ne soient pas toujours parfaits. Pendant la pandémie, YouTube s’est rendu coupable d’avoir supprimé du contenu vidéo qui n’allait pas à l’encontre de la politique de l’entreprise, car les mesures de protection du personnel signifiaient que l’IA n’était pas aidée par un examen humain, comme l’a rapporté Tech Crunch.

Que peuvent faire les utilisateurs pour éviter de voir du contenu non conforme ?

« TikTok propose un certain nombre d’outils pour aider les parents à limiter l’exposition des enfants à la vue du contenu. Les parents peuvent s’assurer que les enfants utilisent les paramètres d’âge appropriés sur l’application ou, pour une meilleure protection, utilisent la « fonction de couplage », qui permet aux parents des contrôles plus précis », a expliqué Gaffney à Trusted Reviews.

Hauk affirme également que signaler le contenu avec lequel vous ne souhaitez pas interagir aidera l’algorithme à mieux comprendre vos préférences et ce qui devrait et ne devrait pas être autorisé sur le site.

« [Users should] signaler un contenu qui, selon eux, viole les normes de la communauté de la plate-forme. Bien que le contenu ne puisse pas être immédiatement supprimé, les rapports aident le système automatisé à apprendre et à s’améliorer », a déclaré Hauk.

Un utilisateur peut signaler des vidéos et des comptes sur TikTok en suivant ces instructions :

Pour signaler une vidéo sur TikTok :

• Accédez à la vidéo que vous souhaitez signaler
• Appuyez sur le bouton Partager
• Sélectionnez Signaler et suivez les instructions fournies à l’écran

Pour signaler un compte sur TikTok :

• Accédez au profil que vous souhaitez signaler
• Appuyez sur les trois points en haut à droite de l’écran pour voir plus d’options
• Appuyez sur le bouton Signaler
• Sélectionnez Signaler un compte parmi les options
• Suivez les instructions à l’écran pour décrire le problème

TikTok devrait-il en faire plus ?

« Alors que tous les réseaux sociaux devraient être préoccupés par les contenus violents, ils doivent faire attention à ne pas restreindre la liberté d’expression. Les mesures de protection peuvent rapidement se transformer en censure si la suppression de contenu n’est pas effectuée de manière équitable et sans préjudice », a commenté Hauk.

Bischoff a également affirmé que le nouveau système de suspension devrait être efficace, même si les utilisateurs suspendus ou bannis créaient un autre compte.

«Les suspensions sont efficaces dans certains cas et sont un élément nécessaire pour empêcher les gens d’abuser de la plate-forme. Même si quelqu’un pouvait simplement créer un nouveau compte, il lui faudrait quand même reconstruire sa base d’abonnés », a expliqué Bischoff.

TikTok n’a commenté aucune fonctionnalité qui suspendrait ou interdirait des comptes liés les uns aux autres, cependant, un utilisateur devrait reconstruire ses abonnés s’il choisissait de créer un autre compte après avoir été suspendu.

« C’est une très bonne étape proactive de TikTok, les plaçant devant de nombreuses autres sociétés de médias sociaux. Peut-être que la question devrait être « que devraient faire les gouvernements pour permettre à toutes les sociétés de médias sociaux d’offrir des services similaires ? » », a poursuivi Gaffney.

« TikTok a pris une longueur d’avance ici, mais c’est un peu fou que nous demandions à des sociétés commerciales de décider quel contenu est sûr sur Internet. »

Cependant, Gaffney a également fait valoir que davantage pourrait être fait pour aider à protéger les jeunes utilisateurs de la plate-forme, étant donné que le principal groupe démographique de TikTok a moins de 34 ans, avec 32,5% des utilisateurs âgés de 10 à 19 ans, selon des statistiques récentes.

« Et un commentaire général de ce côté, c’est une bonne décision de TikTok, pour les utilisateurs et pour ses relations publiques, mais il reste encore beaucoup de chemin à parcourir en matière de confidentialité. Les conditions générales d’utilisation sont assez opaques et il existe un certain nombre de bonnes études montrant que sa collecte de données dépasse même celle d’autres sociétés de médias sociaux », a expliqué Gaffney.

« Bien que ce dernier point soit discutable, il s’agit certainement d’une application qui dresse le profil de notre jeunesse. S’il voulait aller plus loin, pourquoi ne pas garantir de ne pas collecter de données d’utilisateur personnellement identifiables pour les moins de 18 ans et leur permettre de faire l’expérience d’Internet sans être commercialisé ?

Si vous êtes préoccupé par votre empreinte en ligne, consultez nos choix pour le meilleur VPN, qui vous aidera à rester à l’abri des attaques externes et à garder toutes vos données cryptées afin que vous soyez invisible lorsque vous naviguez sur le Web.