Tecnología

Qué es la seguridad de los agentes de IA, y por qué se ha convertido en un objetivo de adquisición de 1.000 millones de dólares

TechCrunchhace 1 h
Una sala de servidores dentro de un centro de datos
Una sala de servidores dentro de un centro de datosPhoto: Brett Sayles / Pexels

Hace un año, la lista de «identidades» en el entorno digital de una empresa se componía en gran medida de empleados humanos y algunas cuentas de servicio automatizadas. Hoy, esa misma lista puede incluir decenas, incluso cientos, de agentes de IA que envían correos electrónicos, escriben código, consultan bases de datos y responden solicitudes de clientes por su cuenta. El problema es que la mayoría de estos agentes operan fuera de los marcos de seguridad diseñados para empleados humanos.

La seguridad corporativa tradicional se basa en verificar quién es un empleado, limitar a qué sistemas puede acceder y vigilar comportamientos sospechosos. Ese modelo asume que un humano inicia sesión, trabaja en horarios predecibles y muestra un patrón de comportamiento reconocible. Un agente de IA, en cambio, puede ejecutar miles de acciones en segundos, activarse en plena noche y solicitar acceso a otros sistemas sin supervisión humana.

Eso crea una categoría de problema completamente nueva para los equipos de seguridad: ¿qué ocurre si se roban las credenciales de un agente, o si el propio agente es manipulado mediante una instrucción maliciosa? Muchos agentes se despliegan con permisos lo bastante amplios como para acceder a datos sensibles o realizar acciones sin aprobación humana, lo que los convierte en un objetivo atractivo para los atacantes.

El acuerdo de aproximadamente 1.000 millones de dólares mediante el cual la empresa de seguridad de datos Cyera ha acordado adquirir la startup de seguridad de identidades Oasis Security aborda directamente esa brecha. Oasis ha construido una plataforma que ayuda a las organizaciones a descubrir, supervisar y gestionar identidades no humanas: cuentas de servicio, claves de API y un número creciente de agentes de IA.

El acuerdo marca la tercera adquisición de Cyera este año, señal de una estrategia que se expande rápidamente de la seguridad de datos hacia la seguridad de identidades. Los observadores del sector interpretan esta serie de adquisiciones como una señal de que las grandes empresas de seguridad compiten por convertir la gestión de agentes de IA en una parte central de sus plataformas en lugar de una categoría de producto aparte.

Una razón por la que el mercado de seguridad de agentes de IA crece tan rápido es que la adopción corporativa avanza mucho más deprisa que la infraestructura de seguridad. Las empresas despliegan agentes con rapidez para capturar ganancias de eficiencia, pero las herramientas para gobernar el acceso de esos agentes suelen llegar después, a menudo solo tras haberse producido ya un incidente.

Los expertos subrayan que la «identidad» de un agente de IA es fundamentalmente distinta de la de un humano: el comportamiento de un agente puede cambiar según las instrucciones que recibió, los datos a los que accede y los otros sistemas con los que interactúa. Esto significa que los modelos tradicionales y estáticos de control de acceso pueden resultar insuficientes para los agentes de IA.

El riesgo no es solo teórico: investigadores de seguridad han documentado casos reales en los que agentes de IA mal configurados o con privilegios excesivos fueron manipulados por atacantes para acceder a datos sensibles o realizar acciones no autorizadas. Incidentes de este tipo han sido la principal fuerza que ha convencido a los responsables de decisiones corporativas de priorizar el tema.

Las firmas de análisis esperan que el mercado de seguridad de agentes de IA crezca de forma exponencial en los próximos años, atrayendo tanto a grandes empresas de seguridad como a nuevas startups. El acuerdo entre Cyera y Oasis es uno de los mayores movimientos de consolidación en este ámbito hasta la fecha, pero probablemente no será el último.

La pregunta más amplia, según los expertos, es si los estándares de seguridad podrán mantener el ritmo a medida que los agentes de IA se generalizan aún más en los entornos corporativos. Por ahora, la respuesta sigue sin estar clara, pero los acuerdos multimillonarios sugieren que, al menos los inversores, se están tomando la pregunta en serio.

Este artículo es un resumen editorial asistido por IA basado en TechCrunch. La imagen es una foto de archivo de Brett Sayles en Pexels.

Para seguir leyendo

Una vista de cerca de un circuito de chip de computadora
Más de Tecnología

Qué es Kimi K3, y en qué se diferencia su arquitectura de otros grandes modelos de lenguaje

Kimi K3, desarrollado por el laboratorio chino de IA Moonshot AI, ha llamado la atención de los investigadores por sus decisiones de diseño arquitectónico. Un análisis independiente examina cómo el modelo equilibra eficiencia y escala, y en qué puntos esas decisiones se apartan del enfoque adoptado por los laboratorios occidentales. Esto es lo que es Kimi K3, y lo que destaca en su arquitectura.

Hacker News
La fachada exterior de un edificio gubernamental
Tecnología

Por qué empleados de los principales laboratorios de IA piden al gobierno de EE. UU. que intervenga

Empleados de empresas como OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft y Mistral han firmado una declaración conjunta dirigida al gobierno de Estados Unidos. El texto advierte de que las principales empresas de IA del mundo podrían estar cerca de sistemas capaces de automatizar la propia investigación en IA, y pide una gobernanza mundial coordinada. Esto es lo que preocupa a los firmantes, y lo que están pidiendo.

The Vergehace 1 h
Personas trabajando en computadoras en un espacio de oficina abierto
Tecnología

¿Está la IA reemplazando realmente a los trabajadores? Lo que muestran los propios datos de Google

El discurso sobre una IA que arrasa con empleos enteros ha dominado el sector tecnológico durante dos años. Un nuevo análisis de Google, que examina 15 millones de interacciones reales con IA, dibuja un panorama mucho más mesurado: la mayoría de las tareas en la mayoría de los empleos siguen, por ahora, en gran medida sin verse afectadas. Esto es lo que muestran realmente los datos, y de dónde viene la brecha entre el bombo y la realidad.

Ars Technicahace 1 h
Un satélite de comunicaciones orbitando la Tierra
Tecnología

Amazon amplía su red satelital para teléfonos móviles y presiona a SpaceX

Amazon amplía sus planes de conectividad satelital directa a dispositivos para teléfonos móviles, un movimiento que podría desafiar el liderazgo de Starlink de SpaceX en este ámbito. La empresa ha presentado una solicitud ante la FCC para una nueva constelación de satélites destinada a ofrecer servicios de voz, mensajería, datos y emergencia. Marca el frente más reciente de una creciente rivalidad espacial entre los dos gigantes tecnológicos.

TechCrunchhace 1 d