Alexa, el asistente digital por voz de Amazon, cometió un error bastante curioso (y alarmante) con un niño pequeño, a quien le propuso sugerencias de contenidos porno cuando el menor le pidió sus canciones favoritas. Y esto es solo un ejemplo de lo que puede ocurrir cuando un asistente de voz no reconoce bien las palabras que acabas de decir…
Porno en vez de canciones infantiles para un niño
Parece que hay que tener mucho cuidado si dejamos que los más pequeños de la casa utilicen un asistente de voz, sobre todo si no este no tiene ningún tipo de control o filtro de contenidos, o alguna protección para menores. Así lo ha demostrado esta familia con un vídeo en YouTube en el que aparece el niño luchando por hacerse entender con Alexa, el asistente de Amazon, en un dispositivo Amazon Echo.
El niño pide repetidamente al asistente que reproduzca una de sus canciones favoritas, y al principio Alexa responde que no reconoce su petición. Pero al cabo de un rato llega la sorpresa definitiva, y es que la voz de Amazon detecta que el niño ha solicitado escuchar un canal de porno y comienza a reproducirlo, mientras los padres gritan alarmados pidiendo a Alexa que pare. Eso sí: entre sus gritos de alarma no pueden evitar reírse a carcajadas, sin creer lo que está pasando.
Amazon Echo, los asistentes de voz y el control parental
Aunque gran parte de dispositivos y de aplicaciones cuentan con sistemas de control parental para evitar que los niños puedan acceder a contenidos pornográficos o inadecuados para ellos por otros motivos (por ejemplo, series o películas donde se muestra violencia extrema). Pero en el caso del altavoz Amazon Echo, que muchos padres utilizan para facilitar la organización en casa con niños pequeños, parece que el asistente Alexa ha ido mucho más allá de los límites esperados.
Desde la empresa Amazon, un portavoz ha confirmado que ya están trabajando para desarrollar controles parentales y de contenido mucho más estrictos para evitar que se vuelvan a repetir situaciones como esta en el futuro.
Como curiosidad, merece la pena destacar que ya ha habido padres que han expresado quejas y preocupaciones sobre Alexa anteriormente. En concreto, muchos consideran que el asistente de voz tiene una tolerancia infinita ante los insultos o «malos modales» de los usuarios, lo que podría estar fomentando el desarrollo de conductas bruscas y maleducadas entre los niños. Los menores se dan cuenta de que pueden hablar como quieran al asistente de Amazon y, aun así, conseguir lo que quieren (que se apaguen las luces de casa o que se reproduzca una canción que quieren escuchar).
En cualquier caso, todos esos detalles se pueden arreglar con mejoras en el asistente de voz, y probablemente Amazon seguirá actualizando constantemente los parámetros de Alexa para que la experiencia de uso siga mejorando y para que no haya sorpresas desagradables cuando los niños usen los dispositivos de la compañía.