Un nuevo escándalo salpica a los altavoces inteligentes. En este casi a los Echo de Amazon. Según ha publicado Bloomberg, Amazon tiene una serie de trabajadores que se dedican a escuchar las conversiones con Alexa. La finalidad de este trabajo es ayudar al sistema de aprendizaje automático con las frases o expresiones más complicadas. Esto se realiza, como es lógico, para mejorar la calidad de las respuestas y la interacción con el asistente de Amazon. Sin embargo, vuelve a poner en duda la privacidad que nos ofrecen este tipo de dispositivos.
Según ha publicado Bloomberg, Amazon tiene miles de empleados repartidos por el mundo dedicados a mejorar el reconocimiento de voz de Alexa. Este equipo de personas tiene acceso a algunas grabaciones de voz de clientes reales. Estas grabaciones se transcriben, se anotan y luego se vuelven a almacenar en el software del dispositivo. La asistencia humana se utiliza para mejorar el asistente, ya que el sistema de aprendizaje automático tiene sus limitaciones. Por ejemplo, las frases confusas, los acentos de cada demarcación, las palabras menos correctas o las expresiones regionales pueden ser un problema para el sistema automático.
Aunque de momento es necesario, Amazon trabaja en un sistema que pueda funcionar de forma totalmente autónoma. El sistema de autoaprendizaje de Alexa va mejorando y ahora es capaz de revisar el contexto de la conversación para comprender mejor los comandos. De hecho, algunos responsables de la compañía comentaron hace unas semanas que la idea es pasar de un modelo de aprendizaje supervisado a uno que no deba supervisarse.
La intervención humana provoca serias dudas sobre la privacidad
Al parecer, Bloomberg entrevistó siete fuentes relacionadas con el programa de escucha. Según estas fuentes, cada trabajador de Amazon con esta tarea analiza unos 1.000 clips de audio durante su turno. Los trabajadores reconocieron que la mayoría del contenido no tiene demasiada importancia, ya que suelen ser expresiones comunes, nombres de artistas o contenido vanal.
Sin embargo, algunos reconocen haber escuchado clips más sensibles. Desde a una mujer cantando en la ducha hasta a un niño gritando. Incluso han llegado a tener que escuchar audios que podrían constituir un delito, como una posible agresión sexual. En estos casos, según los trabajadores, Amazon les dijo que no era responsabilidad de la compañía intervenir.
En declaraciones a Bloomberg, Amazon comentó que la cantidad de conversaciones que escucha su equipo humano es una muestra extremadamente pequeña. Además aseguran que tienen estrictas garantías técnicas y operativas, así como una política de tolerancia cero para el abuso de su sistema. Según la compañía, los empleados que escuchan estos clips no pueden identificar al usuario que ha hecho esas grabaciones. Esta información es confidencial y Amazon utiliza la autenticación de múltiples factores para restringir el acceso.
No obstante, desde Bloomberg aseguran que vieron una captura de pantalla, proporcionada por uno de los revisores, en la que se ve que las grabaciones enviadas a los revisores no tienen el nombre completo y la dirección del usuario, pero están asociadas con un número de cuenta, así como con el nombre del usuario y el número de serie del dispositivo.
¿Qué hace la competencia?
Si lo comparamos con la competencia, Apple asegura que la intervención humana para mejorar su asistente se limita a analizar grabaciones que carecen de información personal. Además dicen que se almacenan durante seis meses y se vinculan a un identificador aleatorio. Los auditores de Google, sin embargo, solo pueden acceder a un archivo de audio que ha sido distorsionado. Al menos estas son las versiones oficiales de las compañías.
Vía | Bloomberg
