Por una IA más humana

Hemos pasado los últimos años obsesionados con la escala. La industria tecnológica ha librado una batalla feroz medida en decenas (o centenares) de parámetros, ventanas de contexto masivas y arquitecturas que devoran exabytes de información. Sin embargo, a medida que la inteligencia artificial (IA) avanza y evoluciona desde los modelos de lenguaje estáticos hacia los agentes autónomos —sistemas diseñados para actuar, decidir y ejecutar tareas en nuestro nombre—, la fuerza bruta computacional se está topando con un muro invisible. El de la falta de sentido común.

Ahora que está tan en boga el término, para que la próxima ola de agentes sea viable en el mundo real, la IA debe humanizarse. Y no es un ruego filosófico ni una declaración de intenciones naíf; es (más) un imperativo de ingeniería y de producto. Humanizar la IA en el ámbito de los agentes autónomos significa codificar el criterio humano, la contextualización y la prudencia. Significa aceptar que la optimización matemática pura, sin un marco de referencia social, es una receta para el desastre operativo.

El conocimiento implícito del mundo no siempre está escrito en internet

El gran peligro de los agentes actuales no es -como se nos está vendiendo- una superinteligencia rebelde, sino la realidad de su literalidad ciega. Un agente de desarrollo de software puede optimizar un código eliminando redundancias y a su vez destruir la legibilidad para el equipo humano. Un agente de automatización de procesos (RPA) puede cumplir un objetivo de eficiencia colapsando un canal de comunicación crítico por falta de tacto. En este sentido, las máquinas son expertas en correlaciones, pero completamente analfabetas en causalidad social y consecuencias sutiles. Se dedican a seguir el prompt al pie de la letra, ignorando el contexto obvio que cualquier humano detectaría al instante actuando en consecuencia

Por eso, el ecosistema tech debe entender que el sentido común no se va a lograr  añadiendo, sin más, adicionales tokens de entrenamiento. El conocimiento implícito del mundo —lo que sabemos que es seguro, lógico o socialmente aceptable— no siempre está escrito en internet; de hecho, suele ser lo que se da por sentado. Por ello, el desarrollo de agentes debe integrar el criterio humano por diseño.

Algo tan humano como la humidad deberá ser clave en el desarrollo de los futuros agentes IA. Un agente verdaderamente inteligente debe saber cuándo parar. La capacidad de reconocer una ambigüedad, pausar la ejecución y solicitar la intervención de un supervisor humano no debe ser visto como un fallo del sistema; sino como un software realmente maduro.

El futuro de los agentes no se decidirá en quién tiene el clúster de GPUs más grande, sino en quién logre conectar, de forma segura y eficiente, el silicio con el criterio humano.