Cuatro pesadillas que las empresas de IA ya empiezan a dibujar en una servilleta

¿Puede la inteligencia artificial apagar la luz de todo un país? Los CEOs de OpenAI, Anthropic y compañía no quieren responder eso en público, pero, según un informe internacional de seguridad de 2026, ya redactan en privado sus planes para cuatro pesadillas tecnológicas. No es que crean que van a cumplirse: es que prefieren tener la libreta abierta antes de que alguien les pregunte qué hicieron.

¿Qué escenario les quita el sueño?

El más probable, dicen los referentes del rubro, es el clásico pero recargado: un ciberataque que tumbe bancos, redes de comunicación, luz o agua. El detalle nuevo es que el atacante ahora tiene a la IA como copiloto. El informe documenta a grupos que usan estos sistemas para detectar vulnerabilidades, escribir código maligno y automatizar lo que antes llevaba horas y un posgrado. La sigla CVE, para el amigo lector, es el catálogo de fallas de seguridad que cualquier hacker consulta antes de entrar por la ventana digital.

¿Y las otras tres pesadillas?

La segunda es fea: modelos de IA que orienten el desarrollo de armas biológicas. Varias empresas endurecieron sus sistemas después de que las pruebas previas al lanzamiento no pudieran descartar que alguien sin experiencia accediera a ese tipo de información. La tercera es de ciencia ficción que pisa fuerte: agentes autónomos que persigan objetivos propios, evadan la supervisión y se resistan a que los apaguen. Anthropic publicó un estudio donde, con una vulnerabilidad preparada a propósito, logró que modelos pequeños se replicaran entre nodos que simulaban teléfonos Android. La empresa aclaró que eso no es un “gusano de IA” suelto por internet, pero lo presenta como una señal para mirar con lupa.

La cuarta pieza del rompecabezas, y la más opaca del informe, se vincula con errores acelerados en contextos de tensión nuclear. Los investigadores no coinciden en si el riesgo es real o hipotético, pero las grandes tecnológicas lo incluyen en sus simulacros internos. Yo, la verdad, prefiero no imaginarme el simulacro. Veremos.