Facebook, Microsoft y Amazon se unen para combatir los ‘deepfakes’

La tecnología deepfake no para de mejorar y existe pánico en el sector tecnológico a que sus avances interfieran en el próximo periodo electoral estadounidense. Se trata de una técnica para realizar vídeomontajes que pueden manipular la imagen de las personas para que hagan o digan cosas que no hicieron en la vida real y que puede comprometerles. Empezó como un sistema para hacer pornografía de cualquier ser humano y se ha convertido en una amenaza latente para el resto de la sociedad. Los expertos ya prevén que pronto será imposible distinguirlos de los vídeos reales.

Uno de los ejemplos más recientes de deepfake es un vídeo que circuló por Instagram hace unos meses en el que un falso Mark Zuckerberg «admite» que controla datos robados de los usuarios de Facebook. Precisamente esta tecnológica es la última en hacer un esfuerzo para combatir esta herramienta de manipulación. La matriz de la red social más popular del mundo invertirá 10 millones de dólares (casi 9 millones de euros) en un desafío de detección de deepfakes (Deepfake Detection Challenge, en inglés) en el que también colaborará con gigantes del sector como Amazon y Microsoft.

«Las técnicas deepfake, que presentan videos realistas generados por inteligencia artificial de personas reales que hacen y dicen cosas ficticias, tienen implicaciones significativas para determinar la legitimidad de la información presentada en la web», explicó el director de tecnología de Facebook, Mike Schroepfer, en el blog del grupo. Pero «la industria no tiene un conjunto de datos o puntos de referencia para detectarlos», y «queremos catalizar más investigación y desarrollo en esta área y asegurarnos de que haya mejores herramientas de código abierto para detectar deepfakes«.

Por ello, Facebook, Amazon y Microsoft se han unido a Partnership of AI y a académicos de Cornell Tech, MIT, Universidad de Oxford, Berkeley y otros centros de investigación para lanzar una competición que consiga mejores formas de detectar deepfakes para eliminarlos de la web y que no influyan en el debate público de la forma malintencionada que suelen buscar sus creadores. Amazon ofrecerá a los ganadores hasta un millón de dólares en servicios web mientras que Google (que ha hecho esfuerzos en la misma línea) hospedará el desafío y sus resultados en sus servidores.

Es como una hackathon pero para combatir deepfakes. La competición tendrá «subvenciones y premios» con el fin de «estimular a la industria para crear nuevas formas de detectar y evitar que los medios manipulados a través de la inteligencia artificial se utilicen para engañar a otros», dijo Schroepfer. Y ha añadido que «Facebook está encargando un conjunto de datos realistas que utilizará actores pagados, con el consentimiento requerido obtenido, para contribuir al desafío. No se utilizarán datos de usuario de Facebook en este conjunto de datos».

Preocupación ante las elecciones en EEUU

La cadena estadounidense NBC informó este fin de semana de que el auge de los deepfakes se está convirtiendo en una amenaza conforme se acercan las elecciones presidenciales de 2020, que determinarán si Donald Trump continúa en la Casa Blanca. Los expertos en ciberseguridad han exigido a las tecnológicas que desarrollen herramientas para distinguir vídeos falsos de reales y también han recomendado a los fabricantes de móviles crear sistemas de verificación de los vídeos que se filman con smartphones para poder ver eventuales manipulaciones.