Alexa a poussé un enfant à s’électrocuter

Les parents remettent en question la nature adaptée aux enfants des haut-parleurs intelligents d’Amazon après qu’Alexa a « mis au défi » une fille de dix ans de mettre un sou dans une prise de courant. Heureusement, la mère de l’enfant a surpris Alexa en train de donner des instructions pour ce «défi», qu’Amazon a rapidement supprimé des résultats de recherche d’Alexa.

Lorsque vous posez une question à Alexa, il effectue une recherche Bing et présente automatiquement la « meilleure » réponse qu’il peut trouver. Dans ce cas, une fille de dix ans a demandé à Alexa un « défi » après avoir suivi des défis d’éducation physique adaptés aux enfants sur YouTube. Le haut-parleur intelligent a obtenu un résultat de recherche pour le TikTok Penny Challenge, dans lequel les enfants tirent une fiche à mi-chemin d’une prise et touchent un sou à ses broches pour créer des étincelles d’électricité.

Salut. Nous sommes désolés d’entendre cela ! Veuillez nous contacter directement via le lien suivant afin que nous puissions approfondir cette question avec vous : https://t.co/YlLYrTtGzy. Nous espérons que cela aide. -Daragh

– Aide Amazon (@AmazonHelp) 27 décembre 2021

Alexa attribue ce défi à un article sur Our Community Now. Ironiquement, cet article met en garde parents que le TikTok Penny Challenge tuera leur enfant, lui retirera le bras ou déclenchera un incendie dans une maison. Alexa n’a pas compris le contexte de cet article et a présenté les instructions mortelles du Penny Challenge sans aucun avertissement.

Il est clair qu’Amazon doit améliorer la fonctionnalité de recherche d’Alexa – c’est plus qu’un simple problème de sécurité ; Alexa est vraiment nulle pour répondre aux questions de base. Mais cet incident spécifique pourrait (Probablement) être évité en réglant un haut-parleur intelligent Echo en mode Édition pour enfants. Alexa n’extrait les résultats de recherche des sources approuvées qu’en mode enfants et filtre automatiquement certaines langues et certains sujets.

Cela dit, les parents ne sont pas à blâmer lorsque leur haut-parleur intelligent Alexa dit à un enfant de faire quelque chose de dangereux. C’est la responsabilité d’Amazon ; les familles doivent avoir l’esprit tranquille lorsqu’elles installent une enceinte Echo dans leur maison, même si cette enceinte est réglée sur le mode « adulte ».