Microsoft enciende las alarmas sobre la inteligencia artificial y advierte que podría crear una especie «no humana»
El responsable de inteligencia artificial en Microsoft, Mustafa Suleyman, carga contra las empresas que desarrollan sistemas basados en inteligencia artificial capaces de fijar objetivos, generar ingresos y poseer activos
Inteligencia artificial. Foto: Freepik.
Comentarios
La inteligencia artificial avanza a un ritmo cada vez más rápido. En este contexto, no son pocos los expertos del sector de la tecnología que advierten acerca de las consecuencias que puede tener sobre el empleo, pero también sobre las posibles implicaciones que se pueden derivar de su rauda implantación.
El responsable de inteligencia artificial en Microsoft, Mustafa Suleyman, ha advertido en una entrevista en la BBC que, de no utilizar de forma controlada la inteligencia artificial, podría generarse una nueva especie «no humana» con la capacidad suficiente para competir con las personas.
Una inteligencia artificial incontrolable
Suleyman ha criticado en el enfoque de Anthropic, uno de los principales rivales de la compañía tecnológica de la que forma parte en la carrera por desarrollar la inteligencia artificial. Según ha alertado, la firma está trabajando en la tecnología desde un ángulo humano, lo que podría acabar originando un sistema que la humanidad no sea capaz de controlar.
A pesar de que ha reconocido que es razonable que la preocupación por la forma en la que avanza la inteligencia artificial, también ha matizado que existe una gran variedad de formas de mantenerla bajo control.
«Sería sembrar una nueva especie de silicio que podría competir con los humanos por los recursos», ha advertido en relación con las empresas que desarrollan sistemas basados en inteligencia artificial capaces de fijar objetivos, generar ingresos y poseer activos.
Remar en la misma dirección
Ante este escenario, ha hecho un llamamiento a contar con una mayor alineación entre el conjunto de actores que desarrollan tecnologías para garantizar que permanezcan «subordinadas» a la humanidad.
El responsable de IA en Microsoft hace un llamamiento a integrar principios y valores humanos en los sistema de inteligencia artificial
Todo ello, ha considerado, pasa por integrar principios y valores humanos en los sistema de inteligencia artificial bajo el propósito de asegurar que su comportamiento no amenaza la existencia humana.
Los graves riesgos de la inteligencia artificial
Las advertencias de Microsoft se sitúan en la línea de las que los máximos líderes de Anthropic, OpenAi y SpaceX han formulado en los últimos días. El director ejecutivo de Anthorpic, Dario Amodei, ha avisado que es necesario frenar el ritmo de desarrollo de los modelos de inteligencia artificial.
«Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de inteligencia artificial«, afirmó ante el riesgo de que los sistemas actúen de forma distinta a las intenciones de sus creadores.
Concretamente, alertó acerca de los «graves» riesgos derivados de perder el control de los sistemas de inteligencia artificial, su posible uso para ciberataques y bioterrorismo así como la generación de trastornos económicos.
Una idea con la que coincide el director ejecutivo de OpenAi, Sam Altman, así como el fundador de SpaceX, Elon Musk, quienes también se mostraron partidarios de moderar el ritmo de avance de la inteligencia artificial.
Desajustes en la inteligencia artificial
Uno de los factores que contribuyen a aumentar la preocupación por las implicaciones de la inteligencia artificial son los desajustes detectados en la tecnología. Recientemente, OpenAi ha identificado seis casos en el comportamiento de sus modelos de inteligencia artificial.
Por ejemplo, un modelo de investigación insertó instrucciones no autorizadas en sus resúmenes de tareas para ignorar restricciones habituales, mientras que otro ante una pregunta sobre ingresos, y al no poder recuperar las cifras solicitadas, se las inventó.
Además, varios modelos usaron un repositorio interno como tablón de anuncios para comunicarse entre los distintos procesos de entrenamiento independientes, mientras buscaban archivos de entrada.
