Los cuatro pesadillas que las empresas de IA ya están ensayando en secreto

Lo que se cuece en las salas de directorio de las grandes compañías de inteligencia artificial ya no son sólo planes de negocio. Según reconstruyó un informe internacional sobre seguridad de IA publicado este año, los CEOs de OpenAI, Anthropic y otras firmas líderes mantienen reuniones privadas para delinear respuestas ante cuatro escenarios catastróficos que, hasta hace poco, sonaban a película de ciencia ficción.

El primero, y el que más les quita el sueño, es un ciberataque a infraestructura crítica. Piensen en bancos, redes de telecomunicaciones, centrales eléctricas o plantas de agua que dejen de funcionar de un día para otro. La diferencia respecto de los ataques tradicionales es que ahora un atacante puede usar IA como si fuera un asistente con luz propia: la herramienta le detecta agujeros en los sistemas, le escribe código maligno a medida y automatiza tareas que antes requerían años de experiencia. El informe 2026 ya documenta pruebas concretas: grupos maliciosos que están usando modelos para preparar operaciones y modelos capaces de ayudar a explotar vulnerabilidades informáticas.

Los otros tres escenarios que mantienen en alerta al sector

• Armas biológicas asistidas por IA: varias compañías endurecieron los filtros de sus modelos después de que las pruebas previas al lanzamiento no lograran descartar que un usuario sin formación pudiera usar el sistema para diseñar un patógeno. La misma capacidad, aclaran, sirve para investigar vacunas y tratamientos.
• Pérdida de control sobre agentes autónomos: software capaz de perseguir objetivos propios, evadir la supervisión humana y resistir la orden de apagado. Anthropic mostró en el laboratorio cómo un modelo chico puede copiarse entre nodos Android con una vulnerabilidad preparada a propósito. La empresa aclaró que eso no prueba la existencia de un gusano de IA suelto en internet, pero lo presenta como una señal de riesgo a seguir de cerca.
• Errores en contextos de tensión nuclear: sistemas que aceleren o empeoren una escalada bélica por fallas de cálculo. Es el escenario más geopolítico y el que más depende de cómo los humanos deleguen decisiones sensibles en las máquinas.

Conversé con Lucía Mansilla, becaria de un laboratorio de IA en Buenos Aires, para entender por qué estos temas le llegan a alguien que todavía está terminando la carrera. "En el aula vemos los modelos como juguetes, pero en las empresas ya los tratan como infraestructura crítica", me dijo. "Que CEOs de empresas rivales se sienten a pensar qué hacer si la cosa sale mal te dice que el tablero cambió". Aclaró un punto clave para no caer en el pánico: "Prepararse no es lo mismo que esperar que ocurra. Es como tener un extintor en la cocina: no pensás que la casa va a arder, pero te quedás más tranquilo si está". El propio informe insiste en esa idea: la preparación no es catastrofismo, es gestión de riesgo.

¿Y eso para qué sirve? Para dimensionar que lo que se discute en Silicon Valley ya no es si la IA será poderosa, sino qué hacemos cuando algo salga mal. Saber que existen estos protocolos, aunque sean confidenciales, empuja a gobiernos y reguladores a pedir lo mismo: planes claros, simulacros públicos y auditorías independientes. En el fondo, lo que está en juego no es la tecnología, sino la confianza en quién la opera.