La inteligencia artificial (IA) ha penetrado rápidamente en el entorno empresarial, transformando procedimientos y aumentando la productividad, pero también introduciendo nuevos riesgos en materia de seguridad. Hoy en día, empleados utilizan herramientas generativas para redactar, resumir o programar, mientras que los equipos de ingeniería desarrollan agentes capaces de realizar acciones autónomas y las organizaciones conectan modelos con datos internos y servicios en la nube. Este avance ha llevado a un crecimiento notable en la eficiencia, pero también a la aparición de una superficie de ataque aún desconocida para muchas compañías.
CrowdStrike, líder en ciberseguridad, anunció la disponibilidad general de Falcon AI Detection and Response (AIDR), una extensión de su plataforma Falcon diseñada específicamente para proteger las interacciones con los modelos de IA y sus agentes relacionados, tanto en entornos de uso interno como en los procesos de desarrollo y despliegue de aplicaciones IA. La propuesta de CrowdStrike es clara: si antes el perímetro de seguridad se centraba en endpoints, identidades, correos o la nube, ahora hay que vigilar también el momento en que una persona o proceso realiza una consulta, un modelo responde y un agente actúa; en definitiva, donde puede surgir una instrucción oculta, manipulación de resultados o fuga de datos.
El “prompt” -la instrucción que alimenta a los modelos de IA- se ha convertido en un nuevo vector de ataque. Técnicas como la inyección de prompts (prompt injection), jailbreaks o manipulación de agentes para provocar comportamientos no previstos, representan amenazas concretas. CrowdStrike sostiene que sus investigadores analizan más de 180 técnicas de inyección de prompts, evidenciando así un problema en expansión aún en fase emergente, cuya ignorancia puede ser costosa para las organizaciones.
Por otro lado, existe un fenómeno conocido como “la adopción por la puerta de atrás”, donde se estima que aproximadamente el 45% de los empleados utilizan herramientas de IA sin notificarlo a sus responsables, creando un entorno de “IA en la sombra” que puede exponer datos sensibles o permitir el uso de servicios sin controles adecuados. Esto resalta la necesidad de un control más exhaustivo y una mayor visibilidad sobre cómo y qué herramientas de IA se están empleando.
Falcon AIDR promete ofrecer visibilidad total, control en tiempo real y protección ante ataques en las interacciones con IA. Su enfoque no solo contempla la seguridad sobre los modelos o infraestructuras, sino que busca gobernar todo el flujo de interacción. Entre sus funciones se incluyen la vigilancia del uso de IA y registros para investigaciones, el bloqueo de técnicas de manipulación de prompts, el control en tiempo real de las acciones potencialmente riesgosas de los agentes, la protección de información confidencial antes de que llegue a modelos o servicios externos, y herramientas para acelerar un desarrollo seguro y controlado.
La compañía destaca que la capa de interacción con la IA se está convirtiendo en el nuevo campo de batalla, donde los prompts -las instrucciones- pueden transportar intenciones maliciosas, similar a cómo el malware se transmite a través de vectores tradicionales. Este cambio de paradigma requiere que los controles clásicos se revaloricen y adapten a nuevas amenazas que no siempre involucran vulnerabilidades técnicas tradicionales, sino que se materializan mediante conversaciones y comandos.
Este incremento en el uso de IA en la nube también refleja un incremento en los riesgos asociados a la seguridad. Según un informe de Palo Alto Networks, el 99% de las organizaciones encuestadas sufrió al menos un ataque dirigido a sus sistemas de IA en el último año. Los atacantes están incluyendo en sus esquemas la manipulación de APIs, accesos de identidad y movimientos laterales, aprovechando la integración cada vez mayor de modelos conectados a datos y servicios en la nube, en un escenario donde una interacción maliciosa puede resultar en acceso no autorizado, robo de información o desplazamiento lateral en la red.
La principal duda que surge ante estos avances es cómo proteger la IA sin entorpecer su desarrollo. La mayoría de las organizaciones se encuentran en una fase de experimentación, con pilotos, herramientas aprobadas y métodos informales de uso. En este contexto, una capa de control sobre prompts, respuestas y acciones puede marcar la diferencia, permitiendo innovación con límites claros y trazabilidad, sin obstaculizar los beneficios de la inteligencia artificial.
En conclusión, a medida que la IA empieza a tomar decisiones y ejecutar acciones en entornos empresariales, la seguridad debe mirar más allá de la infraestructura tradicional y enfocarse en la interacción misma. La protección efectiva de estos nuevos vectores requiere innovación en controles, supervisión y respuesta en tiempo real, para asegurar que la revolución de la inteligencia artificial se integre en las organizaciones de forma segura y confiable.