Este es Norman, el "robot psicópata" creado en el MIT, entrenado con los contenidos de una de las peores esquinas de la Internet. Foto: MIT
stop

Norman "el robot psicótico" es el resultado de exponer inteligencia artificial a contenidos perturbadores de Internet

Alessandro Solís

Economía Digital

Este es Norman, el "robot psicópata" creado en el MIT, entrenado con los contenidos de una de las peores esquinas de la Internet. Foto: MIT

Barcelona, 07 de junio de 2018 (18:55 CET)

El Instituto Tecnológico de Massachusetts (MIT) ha desarrollado un algoritmo de inteligencia artificial influido únicamente por contenidos violentos de Internet. El resultado es Norman, un "robot psicópata" que pone sobre la mesa un tema delicado en el marco de la revolución tecnológica.

Desde luego que el MIT no pretende sacar a Norman al mundo real para ver cómo se comporta entre los humanos que desconocen su origen. Su objetivo era en cambio comprobar que los prejuicios éticos de los algoritmos de inteligencia artificial no son inherentes a la tecnología, sino que se deben al uso de datos sesgados.

"Norman nace del hecho de que los datos que se utilizan para enseñar a un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento", explican los investigadores del instituto en la web de presentación del robot.

¿Cómo lo hicieron?

Norman fue entrenado en los laboratorios del MIT para que consumiera grandes cantidades de contenido violento publicado en un subforo del portal web Reddit. La tarea que se le encomendó fue la de subtitular las imágenes que veía, en su mayoría relacionadas con sangre y muerte.

Tras exponerse a altas dosis de estas perturbadoras imágenes Norman (cuyo nombre está inspirado en el personaje de Alfred Hitchcock en la película de terror Psicosis) tuvo que someterse a una prueba llamada test de Rorschach.

Donde la inteligencia artificial estándar ve pájaros en la copa de un árbol, Norman ve a un hombre electrocutado

Inventada en 1921, la técnica de Rorschach consiste en mostrar imágenes con manchas de tinta que suelen ser ambiguas y simétricas. El paciente debe responder qué ve en cada imagen y el resultado se utiliza para evaluar su personalidad.

Así que cuando Norman llegó a esa etapa del estudio –después de haber conocido sólo violencia y sangre– sus respuestas fueron propias de un psicópata. Donde la inteligencia artificial estándar veía un grupo de pájaros sentados en la copa de un árbol Norman veía a un hombre electrocutado y a punto de morir.

Otro ejemplo fue una imagen que para la mayoría de personas se asemeja a una imagen en blanco y negro de un pájaro pequeño, pero que para Norman se trataba de un hombre pasado por una batidora de masa.

El MIT presenta al "robot psicópata" como un caso de estudio sobre los peligros de la inteligencia artificial

El sesgo de la inteligencia artificial ha levantado críticas contra firmas como Facebook y Google. Los robots que emplean estas compañías para determinadas tareas presentan prejuicios similares a los de los humanos que crean los contenidos de los cuales las máquinas aprenden.

Norman, el "robot psicópata", es un caso de estudio sobre "los peligros de la inteligencia artificial que sale mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático", según los investigadores del MIT.

Suscribir a boletines

Al suscribirte confirmas nuestra política de privacidad