- La IA agéntica marca el paso de sistemas reactivos a agentes autónomos capaces de ejecutar procesos completos sin intervención humana constante.
- La seguridad de los 'datos en uso' y el Confidential Computing se posicionan como las defensas críticas frente a nuevas amenazas como el prompt injection.
- La Agencia Española de Protección de Datos y el AI Act europeo establecen el marco legal para garantizar la trazabilidad y responsabilidad de los algoritmos.
- Grandes corporaciones están rediseñando sus infraestructuras para integrar la gobernanza por diseño y evitar el uso de herramientas no verificadas.
El panorama tecnológico actual ha dejado de ser una simple cuestión de asistentes que responden preguntas para entrar de lleno en la era de los agentes. Ya no hablamos solo de herramientas a las que les pides un resumen, sino de sistemas que toman decisiones y ejecutan acciones de forma autónoma, funcionando de manera muy similar a como lo haría un empleado especializado. Este cambio de paradigma, que se ha sentido con especial fuerza en foros como el Digital Enterprise Show de Málaga, está obligando a las empresas españolas y europeas a replantearse no solo su eficiencia, sino la base misma de su estructura digital.
Lo que diferencia a esta nueva hornada de tecnología es su capacidad para orquestar tareas complejas por sí sola. Si antes teníamos que guiar a la máquina paso a paso, ahora le damos un objetivo final y ella se encarga de buscar vuelos, comparar presupuestos o incluso detectar errores en un repositorio de código para aplicar la solución necesaria. Esto no significa que el humano desaparezca de la ecuación, ni mucho menos; simplemente cambia de función, pasando de ser un ejecutor de tareas repetitivas a un supervisor que diseña y garantiza la calidad de lo que los agentes producen en el día a día.
El nuevo reto de la ciberseguridad y la protección de datos en uso
Con la llegada de estos agentes, el campo de batalla de la seguridad informática se ha trasladado a un terreno que antes solía pasar desapercibido: la memoria RAM. Tradicionalmente, nos hemos centrado en proteger los datos cuando están guardados o cuando viajan por la red, pero el estado de los datos en uso es ahora el punto más crítico. Como los agentes de IA necesitan manejar información sensible de forma constante para ser útiles, los atacantes ya no pescan a ciegas en la memoria de los servidores, sino que buscan específicamente estos procesos donde saben que encontrarán credenciales o documentos confidenciales de gran valor.
Para frenar estas amenazas, está ganando peso el concepto de Confidential Computing, una tecnología disponible en las principales nubes que permite procesar información en entornos aislados por hardware. Estos espacios, conocidos como TEE, aseguran que ni siquiera el proveedor del servicio cloud pueda meter las narices en lo que ocurre dentro. Además, permiten verificar mediante criptografía que el entorno no ha sido manipulado antes de enviarle cualquier dato delicado, algo que se vuelve fundamental cuando delegamos tareas de gestión financiera o logística en un sistema automatizado.
No podemos olvidar que la apertura de estos sistemas también trae consigo vulnerabilidades curiosas como el ‘prompt injection’. Imagina que un agente procesa un documento que parece inofensivo, pero que contiene instrucciones invisibles que le ordenen exfiltrar correos electrónicos a una dirección externa. Es un riesgo muy real que obliga a las organizaciones a no liarse la manta a la cabeza y testar a fondo cada herramienta que adoptan, asegurándose de que existen los guardarraíles adecuados para que el agente no acabe haciendo algo para lo que no fue programado originalmente.
Gobernanza y responsabilidad legal en el marco europeo
En España, la Agencia Española de Protección de Datos ya ha empezado a poner los puntos sobre las íes respecto a esta autonomía. La cuestión no es solo qué puede hacer la tecnología, sino quién responde cuando algo sale mal. Un agente que accede al CRM o al gestor documental de una empresa está tratando datos personales de forma masiva, y eso exige un sistema de gobierno granular que determine exactamente a qué fuentes puede consultar y durante cuánto tiempo, evitando que la autonomía del algoritmo se convierta en una falta de control legal.
Transformación operativa y el fin de los silos de datos
Las empresas que mejor están aprovechando este tirón no se limitan a poner un parche de IA sobre lo que ya tenían. El verdadero truco está en rediseñar los procesos desde los cimientos, pensando en que será un agente, y no necesariamente una persona, quien interactúe con los datos. En sectores como el retail, esto se traduce en una coordinación en tiempo real entre inventarios, logística y marketing, logrando reducir el stock acumulado de forma drástica y mejorando la precisión de las ventas en la era de la IA sin que las distintas áreas tengan que pasarse informes interminables entre ellas.
Para que esto no se convierta en el salvaje oeste, compañías como Telefónica están apostando por una estructura centralizada de gobernanza. La idea es evitar que los empleados, ante la falta de herramientas oficiales, acaben usando sus cuentas personales de IA para tareas del curro, lo que sacaría la información confidencial fuera del perímetro de seguridad de la empresa. Al ofrecer conectores verificados y herramientas seguras, se consigue un equilibrio donde la innovación no se frena, pero los datos se mantienen bajo llave y cumpliendo a rajatabla con el AI Act europeo.
Al final, lo que estamos viendo es una transición hacia un ecosistema digital mucho más ágil y potente, pero que requiere una madurez organizativa sin precedentes. La clave para liderar este cambio no está solo en la potencia del algoritmo, sino en la capacidad de las organizaciones para crear marcos de confianza y transparencia. Solo mediante una supervisión efectiva y una infraestructura que proteja la información en todo su ciclo de vida, la inteligencia artificial agéntica podrá desplegar todo su potencial como motor de competitividad y seguridad en nuestras manos.
