Microsoft limite l’accès à certains de ses services d’IA
L’intelligence artificielle détient l’avenir de la technologie, mais entre de mauvaises mains, elle peut causer des problèmes à beaucoup. C’est pourquoi Microsoft a annoncé quelques changements dans sa norme d’IA responsable, où il a introduit une nouvelle politique d’accès limité. Dans certains messages du 21 juin, la société a déclaré qu’elle supprimerait et limiterait désormais l’accès à certains de ses services utilisant l’IA. En particulier, ces changements de politique affecteront le service de reconnaissance faciale Azure Face de Microsoft et Custom Neural Voice.
L’une des caractéristiques qui seront grandement affectées par ce changement est la technologie controversée d’analyse faciale conçue pour déduire l’état émotionnel d’un individu et reconnaître différents attributs humains, tels que le sexe, l’âge, le sourire, la pilosité faciale, les cheveux et le maquillage. Microsoft affirme que cette décision est intervenue après quelques inquiétudes concernant la confidentialité et l’absence de consensus scientifique concernant la définition du concept d ‘«émotion».
« Nous avons collaboré avec des chercheurs internes et externes pour comprendre les limites et les avantages potentiels de cette technologie et naviguer dans les compromis », a déclaré Sarah Bird, chef de produit du groupe principal d’Azure AI. « Dans le cas de la classification des émotions en particulier, ces efforts ont soulevé des questions importantes sur la confidentialité, l’absence de consensus sur une définition des » émotions « et l’incapacité de généraliser le lien entre l’expression faciale et l’état émotionnel dans les cas d’utilisation, les régions et les données démographiques ». . L’accès de l’API aux capacités qui prédisent les attributs sensibles ouvre également un large éventail de façons dont ils peuvent être utilisés à mauvais escient, notamment en soumettant les gens à des stéréotypes, à la discrimination ou à un déni injuste de services.
A ce titre, la société annoncé qu’il a déjà rendu la capacité de détection d’attribut indisponible le 21 juin pour les nouveaux clients, alors qu’elle sera interrompue pour les clients actuels le 30 du même mois. Néanmoins, Microsoft affirme qu’il « reconnaît que ces fonctionnalités peuvent être utiles lorsqu’elles sont utilisées pour un ensemble de scénarios d’accessibilité contrôlée ». Avec cela, il fait une exception pour offrir en permanence ces capacités dans applications conçues pour les personnes handicapéescomme Voir l’IA.
D’autre part, Microsoft limitera l’accès à ses services de reconnaissance faciale dans Azure Face API, Computer Vision et Video Indexer à ceux qui en feront la demande. Dans le cadre de la politique d’accès limité introduite par Microsoft, les clients devront satisfaire aux conditions d’utilisation et d’éligibilité des clients afin d’avoir accès aux opérations. Les clients actuels auront un an (jusqu’au 30 juin 2023) pour postuler et être approuvés pour la poursuite des services de reconnaissance faciale. Pendant ce temps, d’autres capacités de détection faciale utilisées pour détecter le flou, l’exposition, les lunettes, la pose de la tête, les points de repère, le bruit, l’occlusion et la boîte englobante du visage resteront disponibles sans application. Selon Bird, ce nouveau processus aidera Microsoft « à ajouter une couche supplémentaire de contrôle à l’utilisation et au déploiement de la reconnaissance faciale pour garantir que l’utilisation de ces services s’aligne sur la norme d’IA responsable de Microsoft et contribue à l’utilisateur final de grande valeur et aux avantages sociétaux. ”
Enfin, la fonction Custom Neural Voice de Microsoft sera également confrontée à certaines restrictions pour la protéger contre une éventuelle utilisation abusive. « En nous appuyant sur ce que nous avons appris de Custom Neural Voice, nous appliquerons des contrôles similaires à nos services de reconnaissance faciale », écrit Natasha Crampton, responsable de l’IA, dans un communiqué séparé. article de blog. « Après une période de transition pour les clients existants, nous limitons l’accès à ces services aux clients et partenaires gérés, limitons les cas d’utilisation à des cas acceptables prédéfinis et tirons parti des contrôles techniques intégrés aux services. »
