Amazon teste une fonctionnalité vocale Alexa cauchemardesque
Dans une démonstration très courte et bizarre, Amazon a montré comment Alexa peut imiter la voix d’un parent mort pour lire des histoires au coucher ou accomplir d’autres tâches impliquant une « empathie de type humain ». La fonctionnalité est encore expérimentale, mais selon Amazon, Alexa n’a besoin que de quelques minutes d’audio pour se faire passer pour la voix de quelqu’un.
La démonstration a été nichée au milieu de la conférence annuelle re:MARS d’Amazon, une réunion de l’industrie qui se concentre sur l’apprentissage automatique, l’exploration spatiale et d’autres choses captivantes. Dedans, un jeune enfant demande à Alexa si grand-mère sait lire Le magicien d’Oz— le locuteur répond en conséquence en utilisant une voix de synthèse.
« Au lieu de la voix d’Alexa lisant le livre, c’est la voix de la grand-mère de l’enfant », a déclaré Rohit Prasad, scientifique en chef d’Amazon pour Alexa AI, à une foule silencieuse après la démo.
Prasad souligne que « nous sommes si nombreux à avoir perdu quelqu’un que nous aimons » à cause de la pandémie, et affirme que la synthèse vocale de l’IA peut « faire durer leurs souvenirs ». C’est évidemment une idée controversée – c’est moralement discutable, nous ne savons pas comment cela pourrait avoir un impact sur la santé mentale, et nous ne savons pas jusqu’où Amazon veut pousser la technologie. (Je veux dire, puis-je utiliser la voix d’un parent décédé pour la navigation GPS ? Quel est le but ici ?)
La technologie de synthèse vocale avancée d’Amazon est également préoccupante. Auparavant, Amazon duplique les voix de célébrités comme Shaquille O’Neal en utilisant plusieurs heures de contenu enregistré professionnellement. Mais la société affirme désormais qu’elle peut copier une voix avec seulement quelques minutes d’audio. Nous avons déjà vu comment la technologie de synthèse vocale peut aider à la fraude et au vol, alors que se passe-t-il ensuite ?
Nous ne savons pas si Amazon lancera un jour cette fonction de synthèse vocale sur ses haut-parleurs intelligents. Mais les deepfakes audio sont fondamentalement inévitables. Ils représentent déjà une part importante de l’industrie du divertissement (voir Top Gun : Maverick par exemple), et Amazon n’est qu’une des nombreuses entreprises qui essaient de cloner des voix.
Source : Amazon via The Verge
