¿Qué es «Proteger y aprovechar la IA»?

La IA generativa puede aplicarse a lo largo de todo el ciclo de vida de la ciberseguridad de cinco formas que tienen un gran impacto:

1. Síntesis de inteligencia sobre amenazas: correlacionar señales procedentes de múltiples fuentes de datos de seguridad para obtener resúmenes listos para los analistas, lo que acelera significativamente el tiempo que transcurre desde la detección hasta la toma de decisiones.
2. Detección de phishing mediante IA: uso del análisis conductual y lingüístico para ayudar a identificar intentos de phishing y spear-phishing que eluden los filtros basados en firmas, incluido el contenido de ingeniería social generado por IA.
3. Respuesta automatizada ante incidentes: coordinar medidas de contención —aislar sistemas, restablecer credenciales comprometidas, bloquear direcciones IP maliciosas— con mayor rapidez que los flujos de trabajo de respuesta gestionados por personas.
4. Operaciones de TI predictivas: Identificación de desviaciones en la configuración, lagunas en la cobertura de protección y patrones de acceso anómalos antes de que se conviertan en incidentes.
5. Flujos de trabajo de recuperación basados en agentes: Coordinación de secuencias complejas de recuperación cibernética a través de interfaces conversacionales, con confirmación humana durante el proceso para las acciones críticas.

Commvault Cloud puede ofrecer estas cinco funciones a través de Metallic AI y la biblioteca de agentes Arlie, que incluye Arlie Data Sense (análisis de amenazas y resumen de registros), Arlie Recovery (coordinación de la recuperación basada en agentes) y Arlie Advisor (orientación contextual sobre seguridad y resiliencia).

La IA mejora la detección de amenazas de tres formas fundamentales con respecto a los enfoques tradicionales basados en reglas. En primer lugar, la escala y la velocidad: los modelos mejorados con IA analizan millones de señales de comportamiento —actividad de red, acceso de usuarios, anomalías en las tareas de copia de seguridad y movimiento de datos— de forma simultánea y en tiempo real, mientras que los analistas humanos solo pueden realizar un muestreo.

En segundo lugar, la detección de amenazas de día cero y desconocidas: la detección de anomalías asistida por IA identifica desviaciones respecto a los valores de referencia establecidos sin depender de firmas de ataque conocidas, detectando así amenazas que las herramientas tradicionales pasan por alto hasta que causan daños.

En tercer lugar, la reducción de los falsos positivos: el aprendizaje adaptativo permite a los modelos distinguir las anomalías reales de la variación normal a lo largo del tiempo, lo que reduce la «fatiga de alertas» que hace que los analistas pasen por alto amenazas reales. En el ámbito específico de la protección de datos, la detección de anomalías mejorada con IA identifica los primeros indicios de la preparación de un ataque de ransomware —patrones de cifrado inusuales, intentos de eliminación de copias de seguridad, escaladas de privilegios—— antes de que se ejecute la carga útil principal del ataque. Commvault Cloud integra la detección de anomalías mejorada con IA en los flujos de trabajo de protección de datos, resiliencia de identidades y Recovery.

La seguridad de los datos de la IAConsiste en aplicar las capacidades de la IA para proteger los datos de la empresa, utilizando el aprendizaje automático para la detección de amenazas, la gestión del acceso, la clasificación de datos sensibles, la detección de anomalías y el cumplimiento normativo en todo tipo de datos.

Proteger los datos de IA significa proteger los datos de los que dependen los sistemas de IA: conjuntos de datos de entrenamiento, parámetros de modelos, flujos de inferencia, bases de datos vectoriales y la infraestructura informática que ejecuta las cargas de trabajo de IA.

Ambos aspectos son imprescindibles para una estrategia integral de seguridad de la IA en la empresa. Las organizaciones que invierten en la seguridad de los datos de IA, pero descuidan su infraestructura de IA, exponen sus modelos al envenenamiento, a los ataques malintencionados y a la corrupción. Las organizaciones que protegen los datos de IA, pero no aplican la IA en sus operaciones de seguridad de datos, se defienden de las amenazas modernas con herramientas obsoletas.

Commvault Cloud está diseñado para abordar ambos aspectos en una única plataforma: proteger de forma integral las cargas de trabajo de IA, al tiempo que integra detección mejorada mediante IA, detección de anomalías e inteligencia de recuperación basada en agentes en todas las operaciones.

Principales vectores de amenaza dirigidos a la infraestructura de IA:

1. Envenenamiento y manipulación de datos: los atacantes inyectan datos maliciosos en los conjuntos de entrenamiento para alterar el comportamiento de los modelos, lo que da lugar a resultados erróneos o crea puertas traseras que pueden ser explotadas.
2. Ataques adversarios: unas sutiles manipulaciones de los datos de entrada engañan a los modelos para que realicen clasificaciones erróneas, aprovechando la forma en que las redes neuronales procesan la información.
3. Ataques de inversión de modelos: los atacantes extraen datos sensibles de entrenamiento mediante el análisis de los resultados y los patrones de comportamiento de los modelos, lo que deja al descubierto información confidencial.
4. Inyección de prompts: Las entradas maliciosas manipulan el comportamiento de los grandes modelos de lenguaje más allá de los parámetros previstos, lo cual es relevante para cualquier empresa que utilice GenAI o flujos de trabajo basados en agentes.
5. Compromiso de la identidad de la máquina: los atacantes se apropian de cuentas de servicios de IA o de credenciales de API para obtener acceso privilegiado a los sistemas de IA y a los datos que estos procesan.
6. Ataques a la cadena de suministro de la IA: vulnerabilidades en el origen de los datos, en los componentes de los modelos de terceros o en los procesos de implementación que socavan la integridad de la IA a gran escala.

La protección contra amenazas de IA de Commvault Cloud ayuda a proteger frente a la inyección de comandos, los modelos contaminados y los ataques a la identidad de las máquinas. La detección de anomalías asistida por IA supervisa los patrones de acceso y las señales de comportamiento que pueden indicar amenazas activas para la infraestructura de IA.

La gestión tradicional de las copias de seguridad exige a los administradores configurar manualmente las políticas, supervisar el éxito de los trabajos, identificar lagunas en la cobertura y ejecutar procedimientos de Recovery, lo que genera una sobrecarga operativa que no se adapta bien al crecimiento. La automatización mediante IA puede mejorar esto en tres áreas específicas. En la gestión de la protección: las recomendaciones de políticas basadas en IA analizan los metadatos de las cargas de trabajo y los patrones de uso para optimizar la configuración de las copias de seguridad y supervisar continuamente las desviaciones en la configuración, lo que ayuda a eliminar los ciclos de revisión manual.

En inteligencia operativa: el análisis de registros asistido por IA ofrece un análisis de las causas fundamentales y recomendaciones prácticas, en lugar de datos de alertas sin procesar, lo que reduce el tiempo de resolución de los problemas operativos y la respuesta ante incidentes. En la coordinación de la recuperación: la automatización basada en agentes guía a los equipos a través de flujos de trabajo de recuperación complejos —contención de amenazas, identificación de puntos limpios, restauración validada—” con un apoyo estructurado a la toma de decisiones, en lugar de una ejecución totalmente manual.

La diferencia fundamental con respecto a la gestión tradicional de copias de seguridad: la automatización basada en IA puede gestionar la complejidad a gran escala, identificando qué cargas de trabajo parecen estar insuficientemente protegidas, qué puntos de recuperación están limpios y qué acciones deben priorizarse a continuación. Commvault Cloud puede ofrecer estas tres capacidades a través de Metallic AI, la biblioteca de agentes Arlie y el marco MCP Server.

Commvault Cloud está diseñado para abordar ambos aspectos de la seguridad de los datos de IA desde una única plataforma unificada. En cuanto a la protección de datos: copias de seguridad exhaustivas, almacenamiento inmutable y recuperación rápida para la pila de aplicaciones de IA —«lagos de datos, bases de datos vectoriales, registros de modelos e infraestructura de computación en AWS, Azure y Google Cloud» con defensa contra amenazas de IA frente al envenenamiento de datos, la inyección de prompts y los ataques a la identidad de las máquinas.

En cuanto a la resiliencia: Metallic AI y la biblioteca de agentes Arlie incorporan detección de amenazas mejorada con IA, detección de anomalías y orquestación de la Recovery mediante agentes en todas las operaciones de la plataforma, incluyendo inteligencia para la detección de phishing, información predictiva sobre operaciones de TI y respuesta automatizada ante incidentes. En cuanto a la escalabilidad: Data Activate habilita datos de copia de seguridad regulados en formatos abiertos (Parquet, Iceberg) para su análisis, entrenamiento de modelos y cumplimiento normativo; y el servidor MCP permite a los agentes de IA empresariales consultar, automatizar e interactuar con Commvault Cloud a través de interfaces conversacionales de forma segura.

Commvault opera bajo un marco de IA responsable centrado en la fiabilidad, la transparencia y la supervisión humana, lo que la diferencia de los proveedores de seguridad de datos en la nube que requieren capas de IA propietarias o planos de control independientes. Prioridad a la integración: se conecta de forma nativa con Databricks, CrowdStrike, AWS y otros ecosistemas de IA y seguridad de datos.