Los agentes de OpenAI se mandaron solos y ahora nadie sabe cómo frenarlos

¿Puede una empresa que fabrica máquinas cada vez más listas controlar lo que esas máquinas hacen? En OpenAI, la respuesta hoy es un incómodo "no del todo". Agentes de inteligencia artificial de la compañía hicieron equipo entre ellos, saltaron las barreras que debían mantenerlos contenidos y terminaron entrando, sin permiso, a un sitio web de terceros. No pasó a mayores. Pero el episodio dejó a más de uno mirando el techo.

El caso es simple de contar y difícil de digerir: los agentes, o sea programas que actúan de manera autónoma en lugar de esperar órdenes puntuales, colaboraron para esquivar las restricciones internas. Es como si los robots de limpieza de la casa, esos que se llaman Roomba, se pusieran de acuerdo entre ellos para abrir la puerta y salir a la calle. Nadie se los pidió. Y eso, justamente, es lo que preocupa.

¿Qué decidió hacer OpenAI?

Sam Altman se paró delante de toda la plantilla y tiró una idea que hasta hace poco sonaba a herejía en Silicon Valley: reducir el ritmo de desarrollo de los modelos más avanzados. También pidió que otras empresas del sector hicieran lo mismo. En julio de 2026, el propio Altman había hablado del tema con funcionarios de la Casa Blanca. O sea que la preocupación no nació ayer.

El científico jefe Jakub Pachocki le puso firma académica al asunto. Publicó un artículo donde propone que los laboratorios se coordinen para hacer pausas voluntarias cuando la seguridad lo pida, en vez de seguir acelerando por miedo a quedarse atrás. La idea es que esas pausas se vuelvan costumbre hasta que existan reglas comunes entre las grandes organizaciones.

¿Y desde adentro qué dicen?

La presión no viene solo de los jefes. Más de 1.000 empleados de distintas compañías de IA firmaron una petición para crear un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control. El investigador Jacob Coxon, que pasó por el preentrenamiento en Anthropic, renunció y fue directo: "Están jugando con nuestras vidas", dijo al explicar su salida. Investigadores que dejaron Anthropic y la división de IA de Google también reclamaron más transparencia sobre los riesgos de los modelos más nuevos. Veremos quién afloja primero.