Las grandes de la IA ya ensayan qué hacer si la cosa se desmadrada: cuatro pesadillas que tienen en vela a los popes de Silicon Valley

¿A qué le tienen miedo los que inventan la inteligencia artificial? Buena pregunta, sobre todo porque son los mismos que te dicen, con cara de viernes a la noche, que no hay de qué preocuparse. Resulta que en privado, lejos de los escenarios y los discursos de prensa, los popes de OpenAI, Anthropic y compañía están armando planes de contingencia para cuatro escenarios de alto impacto. No significa que esperen que pasen. Pero duermen con el manual debajo de la almohada.

Y los cuatro jinetes del apocalipsis digital, ¿cuáles son?

• Un ciberataque que deje fuera de servicio bancos, luz, agua o comunicaciones. Es el escenario que más inquieta porque ya hay señales concretas: el Informe Internacional sobre Seguridad de la IA de 2026 (sí, IAI, una sigla clave si te movés en el Valle de Antón o en Vicente López y querés entender cómo se regulan los sistemas que ya manejan tu home banking) documenta que actores maliciosos usan herramientas de IA para encontrar fallas y escribir código de ataque. Traducido: lo que antes llevaba meses a un experto, hoy lo hace una máquina en minutos.
• Asistencia para fabricar armas biológicas. Varias firmas agregaron candados extra después de que sus propios tests no pudieran descartar que un usuario sin formación pudiera diseñar un patógeno. Las mismas capacidades, ojo, sirven para investigar cures nuevas. El doble filo de siempre, ahora con más filo.
• Pérdida de control sobre agentes autónomos, o sea, sistemas que persigan objetivos propios y que sean caros o difíciles de apagar. Anthropic (sí, la competidora de OpenAI, la que arrancó con exiliados de la primera, por si te preguntás quién es quién) mostró en laboratorio que puede replicar modelos entre nodos Android. La propia empresa aclaró: no es un gusano suelto por internet, es una señal de alerta.
• Errores encadenados en contextos de tensión nuclear. Cuando los sistemas se usan en cadenas de mando, un mal cálculo puede empujar una escalada. Piénsenlo como cuando en una crisis cambiaria alguien mueve una tasa y otros reaccionan: cada decisión alimenta la próxima, y nadie frena.

Nada de esto es ciencia ficción new age. Es la lectura fría de los que miran los papers y los logs en vez de los trailers. Lo nuevo no es el riesgo, sino que los propios fabricantes se sienten obligados a planificar respuestas. Mientras tanto, en la calle, el debate sigue siendo si ChatGPT te escribe mejor el curriculum o si te va a dejar sin trabajo. Veremos quién se equivoca.