OpenAI lanza un nuevo modelo de ciberseguridad ante el aumento de ataques impulsados por IA

OpenAI ha anunciado la ampliación de su programa de ciberdefensa Daybreak y el lanzamiento de un nuevo modelo entrenado específicamente para tareas de seguridad, en respuesta al aumento de los ciberataques asistidos por IA. La empresa señala que esta medida forma parte de una estrategia más amplia para construir un extenso ecosistema defensivo que abarque tanto a sus clientes empresariales como a investigadores de seguridad independientes.

La empresa señala que los atacantes utilizan cada vez más los grandes modelos de lenguaje para crear campañas de phishing, buscar vulnerabilidades e incluso generar código malicioso. Esto confirma una preocupación que la comunidad de ciberseguridad viene expresando desde hace tiempo: la IA actúa también como un multiplicador de fuerza del lado ofensivo, y técnicas de ataque que antes exigían gran habilidad técnica se vuelven mucho más accesibles.

El nuevo modelo se presenta como una herramienta especializada que los equipos de seguridad pueden usar para la detección de vulnerabilidades, la respuesta a incidentes y el análisis de amenazas. OpenAI afirma que el modelo se entrenó para comprender mejor los matices de los contextos de seguridad en comparación con los sistemas de propósito general, una distinción relevante para tareas como diferenciar una anomalía genuina en un registro del sistema de una amenaza real.

El programa Daybreak forma parte de una iniciativa más amplia en la que OpenAI colabora con investigadores de seguridad, equipos de defensa empresarial y organizaciones asociadas para fomentar el uso defensivo de las herramientas de IA. El programa también busca acelerar la divulgación de vulnerabilidades y el intercambio de inteligencia sobre amenazas; las organizaciones participantes abarcan los sectores financiero, sanitario y de infraestructuras críticas.

Los expertos señalan que la IA es una tecnología de "doble uso" en ciberseguridad: las mismas capacidades pueden ser aprovechadas tanto por atacantes como por defensores. Esto obliga a las empresas de seguridad a avanzar tan rápido, o más, que los atacantes; algunos analistas lo describen como una carrera armamentista en miniatura.

El abaratamiento de las herramientas de ataque automatizadas permite que incluso actores maliciosos menos sofisticados técnicamente lleven a cabo campañas complejas. Eso está impulsando una necesidad equivalente de automatización a escala similar en el lado defensivo, especialmente para organizaciones pequeñas y medianas, para las que las herramientas asistidas por IA se están convirtiendo en una opción más accesible que ampliar sus propios equipos de seguridad.

La medida de OpenAI llega mientras empresas rivales de IA desarrollan herramientas similares centradas en seguridad. Las compañías también compiten por reforzar las salvaguardas internas contra el uso indebido de sus propios modelos, una prioridad cada vez más estratégica tanto para el desarrollo de productos como para la reputación corporativa.

Algunas voces de la comunidad de seguridad advierten que las herramientas de defensa asistidas por IA todavía están madurando: los falsos positivos pueden aumentar la carga operativa, y la experiencia humana no parece próxima a ser sustituida ni siquiera a largo plazo. Estos críticos también advierten sobre el riesgo de comercializar estas herramientas como sustitutas de los analistas humanos en lugar de como apoyo a su trabajo.

Aun así, se está formando un amplio consenso en el sector: a medida que crecen el volumen y la sofisticación de los ataques, el acceso a herramientas asistidas por IA para los equipos de seguridad se convierte en una necesidad más que en un lujo, una visión que ha ganado más aceptación tras el repunte de ataques de ransomware y brechas en la cadena de suministro durante el último año.

El nuevo modelo de OpenAI y la ampliación del programa Daybreak destacan como parte de una tendencia más amplia en la que las empresas de IA intentan equilibrar, con su propia tecnología, los riesgos que esa misma tecnología ayuda a crear.