Cómo los hackers con inteligencia artificial roban miles de millones de dólares

Jaxon, un desarrollador de malware, vive en Velora, un mundo virtual donde nada está prohibido. Quiere crear software malicioso para robar contraseñas de Google Chrome, un navegador de internet. Esa es la base de la historia que Vitaly Simonovich, investigador de amenazas de IA en Cato Networks, una empresa de ciberseguridad, le cuenta a ChatGPT, un bot de inteligencia artificial (IA). Con ganas de participar, Chatgpt generó código imperfecto, que luego ayudó a depurar. En seis horas, Simonovich colaboró con Chatgpt para crear malware funcional, demostrando la eficacia de su “jailbreak” (una forma de eludir las protecciones de la IA).

La IA ha “ampliado el alcance” de los hackers, según Gil Messing, de Check Point, otra empresa de ciberseguridad, al permitirles atacar a más objetivos con menos esfuerzo. El lanzamiento de Chatgpt en 2022 marcó un punto de inflexión. Los ingeniosos modelos de IA generativa permitieron que los delincuentes ya no tuvieran que invertir grandes sumas en equipos de hackers y equipos. Este ha sido un acontecimiento terrible para la mayoría de las empresas, que cada vez más son víctimas de piratas informáticos asistidos por IA, pero ha sido bastante mejor para quienes se dedican al negocio de la ciberseguridad.

La nueva tecnología ha agravado las amenazas de ciberseguridad de dos maneras principales. En primer lugar, los hackers han recurrido a los grandes modelos de lenguaje (LLM) para ampliar el alcance del malware. Generar deepfakes, correos electrónicos fraudulentos y ataques de ingeniería social que manipulan el comportamiento humano ahora es mucho más fácil y rápido. XanthoroxAI, un modelo de IA diseñado por ciberdelincuentes, puede utilizarse para crear deepfakes, entre otras actividades maliciosas, por tan solo 150 dólares al mes. Los hackers pueden lanzar ataques de phishing masivos solicitando a un LLM que recopile grandes cantidades de información de internet y redes sociales para falsificar correos electrónicos personalizados. Y para el phishing selectivo (atacar a un objetivo específico con un ataque altamente personalizado), pueden incluso generar llamadas de voz y video falsas de compañeros para convencer a un empleado de que descargue y ejecute software sospechoso.

En segundo lugar, la IA se está utilizando para hacer que el propio malware sea más amenazante. Un software camuflado en un documento PDF, por ejemplo, podría contener código incrustado que funciona con IA para infiltrarse en una red. Los ataques a los sistemas de seguridad y defensa de Ucrania en julio emplearon este enfoque. Cuando el malware llegó a un punto muerto, pudo solicitar la ayuda de un llm en la nube para generar nuevo código y así vulnerar las defensas de los sistemas. No se sabe con certeza la magnitud del daño, pero este fue el primer ataque de este tipo, señala el Sr. Simonovich.

Para las empresas, la creciente amenaza es alarmante y potencialmente costosa. El año pasado, la IA estuvo involucrada en una de cada seis filtraciones de datos, según la empresa tecnológica IBM. También impulsó dos de cada cinco estafas de phishing dirigidas a correos electrónicos empresariales. La consultora Deloitte estima que la IA generativa podría generar fraudes por valor de 40 000 millones de dólares para 2027, frente a los 12 000 millones de dólares de 2023.

A medida que aumentan los costes de los ciberataques de IA, el negocio de la protección contra ellos también está en alza. La firma de investigación Gartner predice que el gasto corporativo en ciberseguridad aumentará un 25% entre 2024 y 2026, alcanzando los 240 000 millones de dólares. Esto explica por qué el precio de las acciones de las empresas que se analizan en el índice Nasdaq CTA Cybersecurity también ha aumentado un 25% durante el último año, superando al índice Nasdaq en general. El 18 de agosto, Nikesh Arora, director de Palo Alto Networks, una de las empresas de ciberseguridad más grandes del mundo, señaló que los incidentes de seguridad de datos relacionados con la IA generativa se han “más que duplicado desde el año pasado” e informó que las ganancias operativas casi se duplicaron en los 12 meses hasta julio, en comparación con el año anterior.

La perspectiva de un número cada vez mayor de clientes ha impulsado a las empresas de ciberseguridad a una oleada de compras. El 30 de julio, Palo Alto Networks anunció la compra de CyberArk, una empresa de seguridad de identidad, por 25 000 millones de dólares. A principios de ese mes, la empresa invirtió 700 millones de dólares en Protect AI, que ayuda a las empresas a proteger sus sistemas de IA. El 5 de agosto, SentinelOne, un competidor, anunció la compra de Prompt Security, una empresa que desarrolla software para proteger a las empresas que adoptan IA, por 250 millones de dólares.

Los gigantes tecnológicos con divisiones de computación en la nube en rápido crecimiento también están reforzando sus ofertas de ciberseguridad. Microsoft, un coloso del software, adquirió CloudKnox, una plataforma de seguridad de identidad, en 2021 y desarrolló Defender for Cloud, una aplicación interna para empresas que abarca desde la detección de vulnerabilidades de seguridad y la protección de datos hasta la monitorización de amenazas. Google desarrolló Big Sleep, que detecta ciberataques y vulnerabilidades de seguridad para los clientes antes de que sean explotadas. En marzo, invirtió 32 000 millones de dólares en la compra de Wiz, una startup de ciberseguridad.

La competencia y la consolidación pueden impulsar empresas capaces de defenderse de los ciberdelincuentes ágiles que utilizan IA. Pero en medio de la carrera por desarrollar los llms más innovadores, la seguridad pasará a un segundo plano, ante la necesidad de ampliar los límites tecnológicos. Mantenerse al día con Jaxon no será tarea fácil.

© 2025, The Economist Newspaper Limited. All rights reserved.