El rápido desarrollo de la IA y sus capacidades para la detección de vulnerabilidades la convierten en un arma de doble filo. Leer El rápido desarrollo de la IA y sus capacidades para la detección de vulnerabilidades la convierten en un arma de doble filo. Leer
Audio generado con IA
En las últimas semanas, ha habido un gran revuelo sobre los peligros de la Inteligencia Artificial (IA) tras las declaraciones de un investigador de Anthropic. Al anunciar su dimisión en la red social X, afirmó que le preocupaba que Anthropic y OpenAI, empresas en las que trabajó, estuvieran «jugándose nuestras vidas» porque, según él, algunas de las personas que desarrollan la IA «creen sinceramente que podría acabar con todos nosotros antes de que termine la década».
Pero ¿cómo podría atacarnos la IA? Debido a la gran capacidad de cómputo y aprendizaje de los modelos de IA, estos pueden transformar ámbitos como la criptografía, la investigación biológica y la ciberseguridad. Es una moneda con dos caras: pueden ayudarnos a desarrollar sistemas criptográficos más seguros, comprender la estructura de las proteínas y acelerar el desarrollo de nuevos medicamentos, o detectar vulnerabilidades y reforzar la seguridad de nuestros sistemas informáticos. Pero esas mismas capacidades también pueden utilizarse para encontrar debilidades criptográficas, desarrollar amenazas biológicas o descubrir nuevas formas de penetrar nuestros sistemas.
En criptografía, la IA puede analizar sistemas criptográficos y ayudar a identificar posibles debilidades mucho más rápidamente. Un ámbito especialmente relevante es la criptografía poscuántica (PQC), que desarrolla algoritmos diseñados para resistir ataques tanto de ordenadores convencionales como de futuros ordenadores cuánticos. Estos algoritmos serán fundamentales para proteger desde transacciones bancarias y comunicaciones hasta firmas digitales e identidades electrónicas. Un ejemplo reciente es HAWK, un algoritmo de firma digital que estaba siendo evaluado por el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) como candidato a un futuro estándar de criptografía poscuántica. En julio de 2026, investigadores de Anthropic utilizaron Claude Mythos Preview para descubrir una vulnerabilidad que reducía significativamente su seguridad. HAWK había superado dos rondas de revisión por expertos durante dos años; Claude Mythos necesitó unas 60 horas para encontrar el nuevo ataque, reduciendo el coste estimado para recuperar una de sus claves en aproximadamente 67 millones de veces. Tras el descubrimiento, HAWK fue retirado del proceso de estandarización. El caso HAWK no significa que la IA haya roto la PQC -los estándares ya aprobados por NIST no se vieron afectados-, pero demuestra que puede convertirse también en una herramienta de criptoanálisis, es decir, de búsqueda de debilidades en los sistemas criptográficos. La IA puede así ayudar a comprobar que nuestros algoritmos son robustos, pero esa misma capacidad puede utilizarse para intentar romperlos.
En biología, la IA puede analizar la información de las proteínas y ayudar a predecir su estructura y función. Comprender y diseñar proteínas es un problema fundamental, ya que estas moléculas realizan gran parte de las funciones esenciales de los organismos y su función depende, en buena medida, de su estructura tridimensional. Predecir esa estructura a partir de la secuencia de una proteína fue durante décadas uno de los grandes retos de la biología. Un ejemplo de su impacto es AlphaFold, el sistema de IA desarrollado por Google DeepMind para abordar este problema. Los científicos llevaban más de 50 años intentando resolverlo; AlphaFold permitió predecir la estructura de prácticamente 200 millones de proteínas conocidas, multiplicando enormemente la información estructural disponible para la investigación. Este avance llevó a Demis Hassabis y John Jumper a recibir parte del Premio Nobel de Química de 2024 por su trabajo en la predicción de estructuras de proteínas. La IA permite ahora ir más allá y avanzar también en el diseño de nuevas proteínas con propiedades específicas, lo que puede acelerar el desarrollo de medicamentos, vacunas y nuevos tratamientos. Pero esa misma capacidad podría utilizarse para diseñar proteínas con propiedades dañinas. Esto no significa que una IA pueda crear por sí sola un arma biológica, pero sí podría reducir las barreras científicas y técnicas necesarias para desarrollarla.
En ciberseguridad, la IA puede analizar enormes cantidades de código y detectar vulnerabilidades mucho más rápidamente. Un ejemplo especialmente relevante son las vulnerabilidades de día cero(zero-day vulnerabilities): fallos de seguridad desconocidos por el fabricante y para los que todavía no existe una solución. Son especialmente peligrosas porque pueden ser explotadas mientras los sistemas continúan expuestos y antes de que el fabricante pueda desarrollar un parche para corregirlas. Encontrarlas es especialmente complejo porque los sistemas informáticos pueden contener millones de líneas de código y múltiples componentes interdependientes, y requiere identificar comportamientos inesperados que puedan comprometer el sistema. En 2024, Big Sleep, un agente de IA desarrollado por Google DeepMind y Google Project Zero, descubrió una vulnerabilidad hasta entonces desconocida en SQLite, un motor de bases de datos ampliamente utilizado, que pudo ser corregida antes de llegar a una versión oficial. Google intentó posteriormente encontrar el mismo fallo mediante fuzzing, una técnica automatizada convencional utilizada para buscar vulnerabilidades, pero no lo consiguió ni siquiera después de 150 horas de procesamiento; Big Sleep sí pudo identificarlo razonando sobre el código. La IA puede así encontrar fallos a una velocidad y escala difíciles de alcanzar manualmente y ayudar a corregirlos antes de que sean explotados. Pero esa misma capacidad puede permitir a un atacante descubrir una vulnerabilidad antes que el fabricante y desarrollar un exploit, un programa diseñado para aprovecharla y acceder a un sistema sin autorización. La IA puede acelerar, por tanto, tanto la defensa como el ataque.
Las principales empresas de IA reconocen estos riesgos y están creando marcos para evaluar sus capacidades y establecer salvaguardas. Anthropic cuenta con su Responsible Scaling Policy, OpenAI con su Preparedness Framework, Google DeepMind con su Frontier Safety Framework y Microsoft con su Frontier Governance Framework. Comparten un principio: a medida que aumentan las capacidades y los riesgos de los modelos, deben reforzarse también las evaluaciones y salvaguardas.
Pero ¿es suficiente? Dario Amodei, CEO de Anthropic, ha planteado ralentizar el desarrollo de los sistemas de IA más avanzados para dar más tiempo a gestionar sus riesgos. La cuestión es si podremos mantener la seguridad al ritmo de sus capacidades o si estas acabarán avanzando demasiado rápido.
Habrá que ver cómo avanza la tecnología. Pero quizá llegue un momento en que, como en 2001: Una odisea del espacio, cuando el computador HAL se niega a permitir que lo desconecten, una IA pueda decir a sus propios creadores que no puede permitir que ralenticen su desarrollo, limiten sus capacidades o introduzcan salvaguardas para controlarla.
* Elena Yndurain es directora ejecutiva, consejera independiente y profesora de Tecnología en el IE Business School.
Actualidad Económica // elmundo
