Herramientas de inteligencia artificial con acceso a datos y sistemas corporativos pueden ejecutar acciones maliciosas si son manipuladas; Palo Alto Networks presenta una plataforma para detectar y frenar estas amenazas.
Los agentes de inteligencia artificial, diseñados para automatizar tareas y aumentar la productividad, también pueden convertirse en una vía para ejecutar acciones maliciosas dentro de las empresas si son manipulados o utilizados sin supervisión. Al tener acceso a bases de datos internas, aplicaciones, registros financieros y sistemas de producción, estas herramientas pueden ampliar los riesgos de seguridad informática.
Uno de los principales desafíos es que algunos agentes se incorporan a los entornos laborales sin autorización de las áreas de tecnología. A través de extensiones de navegador, aplicaciones personales y herramientas de desarrollo asistido por IA, pueden operar sin que las organizaciones tengan plena visibilidad sobre sus permisos, instrucciones y actividades. Esta práctica se conoce como shadow AI.
El riesgo surge cuando un agente recibe instrucciones maliciosas o es aprovechado para realizar acciones no autorizadas, como acceder a información confidencial o interactuar con sistemas críticos. Por ello, las empresas necesitan identificar qué agentes están activos, qué recursos utilizan y qué procesos ejecutan, más allá de los controles convencionales de ciberseguridad.
Ante este escenario, Palo Alto Networks presentó Cortex XDR One, una plataforma que integra herramientas de detección y respuesta extendida con controles especializados para agentes de inteligencia artificial. De acuerdo con la compañía, la solución permite identificar estas herramientas en los dispositivos empresariales, supervisar sus actividades y detectar o detener comportamientos potencialmente maliciosos.
La plataforma también permite establecer qué agentes, extensiones y paquetes pueden instalarse o utilizarse, así como vigilar los procesos del sistema operativo desde una sola interfaz y mediante un único sensor.
La expansión de la inteligencia artificial en las empresas plantea nuevos retos para los responsables de tecnología y ciberseguridad, quienes deben aprovechar las capacidades de automatización sin dejar expuestos los datos y sistemas corporativos. El control de los permisos, la supervisión de las actividades y la detección de comportamientos sospechosos se perfilan como medidas fundamentales para reducir los riesgos asociados con estos agentes.
Descubre más desde Comunicadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
