Amazon Echo, uno de los dispositivos que interactúan con el asistente virtual Alexa. Foto: Fabian Hurnaus/Pexels
stop

Miles de empleados de Amazon alrededor del mundo escuchan las conversaciones recogidas por Alexa sin que los consumidores se enteren

Barcelona, 11 de abril de 2019 (11:27 CET)

La comodidad de los asistentes personales potenciados (al parecer solo en parte) por la inteligencia artificial tienen un precio: mientras haya situaciones en las que la tecnología necesite la guía de humanos, los empleados de las tecnológicas que las desarrollan tendrán que escuchar. Esto sucede con el asistente de voz Alexa, de Amazon, según fuentes cercanas a la compañía.

El miedo a que alguien esté escuchando las conversaciones con Alexa no es infundado. Miles de personas de todo el mundo están contratados por Amazon para ayudar a mejorar Alexa en sus interacciones con humanos por medio de los altavoces Echo para el hogar. Su trabajo consiste en escuchar partes de grabaciones aleatorias que realiza el asistente virtual.

Para cualquier persona interesada mínimamente en el desarrollo de la inteligencia artificial a través del aprendizaje automático puede parecer evidente que la tecnología necesita un empujón humano, para conseguir la perfección anhelada. Pero este detalle queda enterrado en la letra pequeña de los términos de servicio de Alexa y Echo, y el consumidor promedio no lo sabe.

Bloomberg contactó con algunos de los empleados de Amazon que se dedican a escuchar los audios aleatorios que Alexa graba alrededor del mundo. El medio explicó que la tecnológica, en sus materiales de marketing y privacidad, no explica de forma explícita a los consumidores que hay humanos escuchando algunas conversaciones recogidas por el asistente virtual.

"Usamos las solicitudes a Alexa para capacitar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural", dice Amazon en los materiales.

Amazon: el aprendizaje supervisado de Alexa

Este proceso es conocido en la industria como "aprendizaje supervisado". No es exclusivo de Amazon, pues los asistentes de voz de Apple, Facebook y Google también tiran del método, siempre en aras de depurar el sistema. Los oídos y ojos de los trabajadores de estas empresas encargados con la tarea ayudan a los asistentes a entender ambigüedades o contrastar diferencias regionales, por ejemplo.

Las grabaciones de Alexa pueden incluir características que ayuden a identificar biográficamente a quien habla con el asistente virtual y se desconoce durante cuánto tiempo se guardan estas conversaciones en los servidores de Amazon, o si la información guardada puede llegar a manos de actores externos o ser mal utilizada por algún empleado.

De hecho, algunas de las fuentes anónimas que revelaron el asunto dijeron que algunas veces los mismos empleados de Amazon se comparten estos audios o los comentan entre ellos, especialmente si les parecen graciosos o embarazosos. Algunos recuerdan a clientes que han preguntado al asistente: "Alexa, ¿alguien nos está escuchando?".

Un portavoz afirmó que Amazon se toma en serio "la seguridad y privacidad de la información personal" de sus clientes. "Solo tomamos una muestra muy pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente", como por ejemplo "información que nos ayuda a capacitar nuestros reconocimientos de voz y comprensión del lenguaje natural".

“Tenemos estrictas garantías técnicas y operativas, y tenemos una política de tolerancia cero para el abuso de nuestro sistema. Los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta como parte de este flujo de trabajo. Toda la información se trata con alta confidencialidad", agregó el portavoz de Amazon.

El profesor especializado en privacidad en la Universidad de Michigan, Florian Schaub, dijo: "Creo que hemos sido condicionados para asumir que estas máquinas solo hacen aprendizaje automático mágico, pero la realidad es que hay un proceso manual involucrado".

Suscribir a boletines

Al suscribirte confirmas nuestra política de privacidad