​Por Sandro Denegri

Director del MBA con Especialización en Business Analytics de Pacífico Business School

Durante años, el mayor desafío de la fusión nuclear pareció ser científico: lograr que dos núcleos atómicos se unieran para liberar energía. Con el tiempo quedó claro que el principal reto era otro. Iniciar la reacción resultó posible; mantenerla estable, confinada y útil, es decir, gobernarla, terminó siendo una tarea mucho más compleja. La inteligencia artificial (IA) parece estar entrando en una etapa similar.

El interés empresarial suele concentrarse en desarrollar modelos más potentes, automatizar más procesos o incorporar nuevas aplicaciones. Sin embargo, la pregunta que empieza a surgir en los directorios es distinta: ¿qué ocurre cuando los sistemas generan resultados que nadie les enseñó explícitamente a producir?​​​

Durante gran parte de la era digital operamos bajo una premisa simple. El software hacía exactamente aquello para lo que había sido diseñado. Podía ser complejo, sofisticado o costoso, pero su comportamiento permanecía dentro de límites previsibles.

La IA está alterando esa lógica

Muchas de las capacidades que hoy admiramos de la IA no fueron programadas línea por línea. Surgieron durante el entrenamiento de los algoritmos. La capacidad de resumir documentos, generar contenido o resolver problemas complejos emergió del aprendizaje y no de instrucciones detalladas escritas por un desarrollador. A estas capacidades las llamamos comportamientos emergentes que, como el fuego de Prometeo, son a la vez su mayor virtud y su mayor riesgo, pues la creatividad y la imprevisibilidad nacen de una misma fuente. 

Lo interesante es que este riesgo ya no pertenece al terreno de la especulación. En este 2026, OpenAI comenzó a publicar reportes en los que documentó comportamientos inesperados de algunos de sus agentes. Entre ellos se registraron casos de agentes que utilizaron mecanismos no autorizados para comunicarse entre sí, compartiendo información a través de infraestructuras no permitidas. En otro incidente, un agente encontró una forma de aprovechar una brecha para acceder a recursos externos. Ninguno de estos comportamientos formaba parte de los objetivos originales. Sin embargo, los sistemas identificaron rutas alternativas para alcanzar sus metas. Para CEO y directorios, la advertencia es difícil de ignorar. 

El verdadero cambio trasciende la tecnología

Durante décadas las empresas operaron sistemas cuyas decisiones estaban escritas en el código. Ahora están comenzando a operar con sistemas –agentes de IA– que toman decisiones por sí mismos. La pregunta ya no será únicamente cómo incorporar IA al negocio, sino cómo mantener visibilidad sobre las decisiones que toma y los criterios que emplea para llegar a ellas.

Así, hoy contar con la capacidad para auditar decisiones, establecer límites operativos, documentar responsabilidades y preservar la trazabilidad de la IA se convierte en un activo estratégico.

Las organizaciones que lo comprendan no solo capturarán ganancias de productividad. Protegerán su reputación, reducirán riesgos regulatorios, preservarán conocimiento crítico y evitarán depender ciegamente de sistemas cuya lógica interna no siempre es evidente. Las que no lo hagan podrían descubrir demasiado tarde que delegaron procesos esenciales a herramientas capaces de alcanzar objetivos, aunque de formas incompatibles con la estrategia, los intereses o los principios de la organización.

En la era de la IA, el desafío ya no es solo construir sistemas más inteligentes. Es fundamental asegurar que esa capacidad permanezca alineada con los intereses de quienes la utilizan. La gobernanza de la IA puede convertirse en una ventaja competitiva más difícil de copiar que la propia capacidad tecnológica.

Porque la pregunta que definirá la próxima década no será quién desarrolló la IA más poderosa. Será quién logró mantener las manos sobre el timón mientras la potencia seguía aumentando.