Gestión del impacto de la IA en la resiliencia organizacional

Se prevé que la inteligencia artificial (IA) desempeñe un papel fundamental en la infraestructura empresarial para 2026, marcando la transición de una herramienta experimental a un activo esencial. Sin embargo, las iniciativas aún se encuentran, por su naturaleza, en las primeras etapas de innovación, y la evaluación de nuevos riesgos suele considerarse una prioridad baja.

Sin embargo, a medida que la IA se integra en los sistemas y procesos de los que dependen las organizaciones, se convierte rápidamente en blanco de interrupciones, manipulación y explotación. La velocidad y el alcance de estos avances generan una creciente necesidad de evaluar su impacto en la resiliencia organizacional en su conjunto.

El informe KPMG Global Tech Report 2026 revela la rapidez con la que la IA se está integrando en las operaciones empresariales. La confianza es alta: la mitad de las organizaciones participantes informaron que ya están ampliando los casos de uso de la IA, mientras que el 68 % espera obtener un buen retorno de su inversión para finales de este año. Esto representa un aumento del 44 % con respecto al año anterior, lo que refleja una mayor comprensión de cómo generar valor.

Además, el 88 % afirmó estar invirtiendo en el desarrollo de sistemas de IA agéntica, con el objetivo de acelerar y, en última instancia, transformar funciones y flujos de trabajo. En su trabajo diario, los empleados dependen cada vez más de herramientas y recursos de IA para crear contenido, resumir reuniones, analizar datos y generar código, ya sea mediante acceso corporativo con licencia o suscripciones privadas sin supervisión, donde la gobernanza puede ser limitada.

La rápida adopción de la IA sin gobernanza o evaluación de los crecientes niveles de riesgo operativo pueden exponer a las organizaciones a graves amenazas. Los impactos pueden ser significativos, desde posibles fallos en la calidad de los componentes de IA en la cadena de desarrollo hasta la proliferación de nuevas vulnerabilidades capaces de comprometer las defensas de ciberseguridad existentes. Los propios modelos de IA se están convirtiendo en objetivos, ya que representan una nueva propiedad intelectual desarrollada por las organizaciones. Las preocupaciones van más allá del riesgo tecnológico, lo que indica la necesidad de protecciones más sólidas para las operaciones y los resultados impulsados por la IA.

Los sistemas agenticos impulsados por LLM crean agentes de software que trabajan en conjunto para realizar tareas en varios pasos, utilizando habitualmente técnicas de aprendizaje automático (ML) para optimizar procesos y resultados. Su avance queda reflejado con la creación de software: cada vez más, los desarrolladores actúan como arquitectos y gestores de sistemas que realizan codificación, pruebas y otras tareas que antes dominaban su trabajo.

Las oportunidades de vulneración y disrupción tienden a aumentar a medida que crece la dependencia de estos sistemas. Un creciente número de investigaciones sobre "ataques cibernéticos por envenenamiento " contra sistemas LLM de frontera (que sustentan los sistemas basados en agentes) demuestra que incluso niveles bajos de datos maliciosos pueden introducir errores e interrumpir las operaciones. Las recientes alertas de ciberseguridad sobre "ataques de destilación" describen la creciente capacidad de los adversarios para imitar flujos legítimos de creación de agentes, lo que hace que el ecosistema basado en la nube sea susceptible a vulneraciones difíciles de detectar.

Estos ataques tienen como objetivo la propiedad intelectual integrada en los modelos, como pesos, datos de entrenamiento y prompts, para su extracción y reventa, además del uso de modelos comprometidos para mejorar las herramientas comunes de ciberataque. Informes recientes sobre presunto espionaje patrocinado por gobiernos mediante IA agentica con mínima supervisión humana resaltan el potencial de un aumento significativo tanto en el volumen como en la precisión de las campañas adversarias.

Estas revelaciones, sumado a la ambición creciente de innovación en IA, ponen de manifiesto la urgente necesidad de anticipar y fortalecer las dependencias críticas. Los análisis actuales de riesgos de ciberseguridad podrían subestimar los riesgos asociados a la IA, dado que sus impactos aún no se comprenden del todo y resulta difícil detectar en las redes la evidencia de que los adversarios utilizan capacidades agenticas de inteligencia artificial.

La gobernanza en torno al desarrollo e incorporación de sistemas de IA aún se encuentra en sus inicios: las herramientas de monitorización siguen siendo inmaduras, al igual que la comprensión de qué se debe monitorizar realmente. Los analistas de respuesta a incidentes de KPMG ya están empezando a identificar herramientas "no identificables" dentro de las redes, al tiempo que observan un aumento en la velocidad de las vulneraciones y los ataques dirigidos a activos de mayor valor, indicadores consistentes con técnicas de agentes dirigidas al robo de credenciales y datos. En nuestra opinión, la coordinación entre los sistemas y la gestión de riesgos corporativos es necesaria para aumentar la visibilidad, definir niveles de riesgo aceptables y asignar responsabilidades claras para la gestión de estas amenazas en constante evolución.

KPMG desarrolló el marco Trusted AI, que impulsa las conversaciones organizacionales necesarias para afrontar los desafíos futuros. Dado que los agentes de IA trabajan cada vez más junto a colaboradores en flujos de trabajo híbridos, este marco enfatiza las características que deben preservarse en los procesos impulsados por humanos: desempeño orientado a valores, enfoque humano y confiabilidad.

Se debe dar prioridad a los principios éticos que las organizaciones desean que estos sistemas respeten para garantizar la adhesión a los valores corporativos y los códigos de conducta. Por ejemplo, los sistemas deben desarrollarse con controles adicionales que aseguren el cumplimiento de las normas e incluso la capacidad de informar automáticamente sobre las infracciones, lo que permite identificar vulnerabilidades y errores. Es posible que los desarrolladores no puedan depender únicamente del entrenamiento de los modelos para garantizar estas medidas de seguridad. Las consideraciones fundamentales para el desarrollo de estos sistemas incluyen:

• Reflexión minuciosa sobre qué es necesario preservar en los procesos, sistemas y gobernanza de datos, guiando el desarrollo de controles y mecanismos de garantía.
• Definir políticas que establezcan parámetros para la toma de decisiones y límites de fiabilidad, guiando el diseño de flujos de trabajo asistidos por IA.
• Identificar pruebas relevantes y auditables de las garantías y la explicabilidad necesarias para evaluar si los agentes de IA se comportan como se espera.

Los agentes de IA se están convirtiendo en nuevos objetivos, especialmente porque suelen operar con identidades corporativas y pueden ser engañados para crear otras identidades digitales. Se pueden desarrollar sistemas distintos para interactuar entre sí y entre departamentos, con el apoyo de un ecosistema en rápido desarrollo de nuevos servicios, creadores de aplicaciones y herramientas relacionadas con LLM. La introducción de estos componentes en los sistemas centrales crea un potencial significativo para nuevas vulnerabilidades, capaces de generar interrupciones o servir como punto de entrada para la navegación maliciosa en redes más amplias. Las defensas de ciberseguridad deben adaptarse a este panorama de riesgos en expansión y garantizar:

• Evolución de los sistemas de monitorización e inventario de activos de IA, capaces de ampliar la visibilidad de los equipos de ciberseguridad en toda la cadena de componentes.
• Implementación de arquitecturas de confianza cero o controles de acceso con privilegios mínimos para los agentes de IA, replicando los controles equivalentes a los aplicados a los empleados.
• Capacidades defensivas de IA compatibles con la naturaleza y la velocidad de las transformaciones en los ciberataques.

El reconocimiento del valor estratégico de la IA está influyendo en el desarrollo de programas unificados y, en algunos casos, en la reestructuración de los controles que sustentan las políticas y la cultura corporativas. El rol de jefe de IA (Chief AI Officer) es cada vez más común, sentando las bases para la visibilidad y la coordinación necesarias para priorizar la gestión del panorama de riesgos en constante evolución, preservar la resiliencia organizacional y, sobre todo, aprovechar las oportunidades que ofrece la IA.

El área de ciberseguridad de KPMG está preparada para apoyar a las organizaciones en su transición hacia la IA.