Qué hace diferente a un agente de IA respecto a un chatbot convencional
Un chatbot convencional responde preguntas. Un agente de IA ejecuta tareas. La diferencia parece sutil pero sus implicaciones para la protección de datos son sustanciales.
Un agente de IA puede recibir una instrucción como “gestiona mi bandeja de entrada y programa las reuniones urgentes”, y para hacerlo accede al correo electrónico, lee mensajes, identifica remitentes, evalúa urgencia, crea entradas en el calendario, redacta respuestas y las envía, todo ello de forma autónoma y sin que un humano revise cada acción antes de que se ejecute. En ese proceso, el agente trata datos personales de terceros (los remitentes, los participantes en las reuniones, el contenido de los mensajes) que no consintieron interactuar con un sistema de IA cuando enviaron sus correos.
Esta autonomía, combinada con el acceso a múltiples sistemas y la capacidad de actuar sin supervisión constante, es lo que convierte a los agentes de IA en una categoría distinta desde el punto de vista del cumplimiento normativo. Las herramientas de IA generativa que responden preguntas son una cosa. Los agentes que actúan son otra.
Primer principio: define el perímetro de actuación antes de desplegar
Antes de darle acceso a ningún sistema, hay que definir con precisión qué puede y qué no puede hacer el agente. Esto no es solo una decisión técnica; es una decisión de gobernanza que tiene que estar documentada. El agente tiene que tener un perímetro de actuación explícito: qué sistemas puede acceder, qué tipos de datos puede leer y modificar, qué acciones puede ejecutar de forma autónoma y cuáles requieren confirmación humana.
Un agente sin perímetro definido es un riesgo abierto. La definición del perímetro es también el punto de partida para el análisis de riesgos: solo cuando sabes exactamente qué hace el agente puedes evaluar qué puede salir mal.
Segundo principio: el principio de minimización aplica también a los agentes
El RGPD exige que el acceso a datos personales sea el mínimo necesario para el fin declarado. Esto aplica a los agentes igual que a cualquier otro sistema. Un agente que necesita acceder al calendario para programar reuniones no tiene por qué tener acceso al contenido completo de los correos electrónicos. Un agente que gestiona facturas no tiene por qué acceder a los datos de salud de los empleados.
La implementación técnica de la minimización en el contexto de los agentes implica trabajar con ámbitos de acceso estrechos (OAuth scopes, permisos de API), evitar dar al agente credenciales con acceso total a los sistemas cuando solo necesita acceso parcial, y revisar periódicamente qué accesos tiene el agente y si todos siguen siendo necesarios.
Tercer principio: la base legal tiene que cubrir los tratamientos que hace el agente
Cuando un agente accede a datos personales, lee correos de terceros o genera perfiles de clientes a partir de sus interacciones, ese tratamiento tiene que tener una base legal bajo el RGPD. La base legal no se hereda del agente ni de la empresa que lo desarrolló: la define la organización que lo despliega para sus propios fines.
En la práctica, esto significa revisar qué tratamientos de datos personales realiza el agente y comprobar si están cubiertos por las bases legales existentes (contrato, interés legítimo, consentimiento) o si es necesario actualizar la información a los interesados o establecer nuevas bases antes de desplegar el agente.
Cuarto principio: los terceros cuyos datos trata el agente tienen derechos
Cuando el agente accede a correos de clientes, procesa facturas de proveedores o analiza interacciones con usuarios de una plataforma, esas personas son interesados bajo el RGPD aunque no sean parte directa en la relación con la empresa. Tienen derecho de información (saber que sus datos son tratados por un agente de IA), derecho de acceso, de rectificación y, en algunos casos, de oposición al tratamiento.
Cumplir con estos derechos cuando el tratamiento lo realiza un agente requiere que el agente deje trazas suficientes de qué datos ha tratado y cuándo, de forma que la empresa pueda responder a solicitudes de ejercicio de derechos sin tener que reconstruir el historial de actuaciones del agente.
Quinto principio: registra qué hace el agente
El principio de responsabilidad proactiva del RGPD exige poder demostrar que el tratamiento de datos cumple el reglamento. Con un agente autónomo, eso requiere logs: registros de qué datos accedió el agente, qué acciones ejecutó, qué decisiones tomó y sobre qué base. Sin logs, la empresa no puede responder a una solicitud de acceso, investigar una incidencia o demostrar cumplimiento ante una autoridad de control.
Los logs también son necesarios para detectar comportamientos inesperados del agente: accesos a datos que no debería haber consultado, acciones que exceden el perímetro definido, o patrones que sugieren que el agente está siendo manipulado a través de sus inputs.
Sexto principio: la supervisión humana no es opcional
Tanto el AI Act como el RGPD apuntan en la misma dirección: los sistemas automatizados que tienen impacto significativo sobre personas requieren supervisión humana efectiva. Para los agentes de IA que toman decisiones o ejecutan acciones con consecuencias reales (enviar comunicaciones, modificar datos, aprobar solicitudes), esa supervisión tiene que estar diseñada en el sistema, no ser solo una declaración de intenciones.
La supervisión efectiva no significa que un humano revise cada acción antes de que se ejecute (eso anularía el valor del agente). Significa que hay un proceso para revisar las acciones del agente periódicamente, que hay mecanismos para detectar anomalías y que hay umbrales definidos a partir de los cuales el agente para y espera confirmación antes de actuar.
Séptimo principio: los encargados del tratamiento aplican también a los agentes
Si el agente de IA está desarrollado o alojado por un tercero, ese tercero es un encargado del tratamiento bajo el RGPD cuando accede a datos personales para prestar el servicio. Hay que tener un contrato de encargo del tratamiento que cumpla los requisitos del artículo 28 del RGPD, y hay que revisar que las condiciones del servicio son compatibles con el uso que hace la empresa.
Esto es especialmente relevante con los agentes comerciales (como los que ofrecen OpenAI, Microsoft, Google o Anthropic): sus términos de servicio empresariales suelen incluir las cláusulas necesarias, pero hay que verificarlo y asegurarse de que aplican al uso concreto que la empresa va a hacer del agente.
Octavo principio: evalúa el impacto antes del despliegue
El artículo 35 del RGPD obliga a realizar una Evaluación de Impacto en la Protección de Datos cuando el tratamiento probablemente entraña un alto riesgo para los derechos de las personas. Los agentes de IA que actúan de forma autónoma en entornos que manejan datos personales sensibles o que toman decisiones sobre personas encajan habitualmente en este criterio.
La EIPD tiene que completarse antes del despliegue, no después. Si la evaluación concluye que el riesgo no puede reducirse a un nivel aceptable, el agente no se puede desplegar en esa configuración.
Noveno principio: ten un plan para cuando algo sale mal
Los agentes de IA cometen errores: interpretan mal las instrucciones, acceden a datos que no debían, ejecutan acciones incorrectas, o son manipulados por inputs maliciosos (prompt injection). Un incidente de un agente que accede a datos personales de forma no autorizada o que envía información confidencial a destinatarios incorrectos puede ser una brecha de seguridad bajo el RGPD que hay que notificar.
El plan de respuesta tiene que incluir: cómo detener al agente cuando se detecta un comportamiento anómalo, cómo evaluar el alcance del incidente, cuándo y cómo notificar a la autoridad de control y a los afectados, y cómo revertir las acciones del agente cuando sea técnicamente posible.
Décimo principio: actualiza el análisis cuando actualices el agente
Los agentes de IA evolucionan. Los modelos se actualizan, se añaden nuevas capacidades, se expanden los accesos, se cambian los proveedores. Cada cambio significativo puede alterar el análisis de riesgos original y puede requerir revisar las bases legales, actualizar la documentación técnica, o repetir la evaluación de impacto.
Tratar el cumplimiento del agente como un proyecto que se cierra cuando se despliega es uno de los errores más comunes. El cumplimiento de un agente de IA es un proceso continuo, no un check que se marca una vez.
La doble capa normativa: RGPD más AI Act
Los agentes de IA que operan en entornos profesionales están sometidos a dos marcos normativos simultáneamente: el RGPD cuando tratan datos personales (que es casi siempre), y el AI Act en función de su nivel de riesgo y del rol que la empresa juega como proveedora o desplegadora.
Gestionar ambos marcos no es duplicar el trabajo. Los principios de privacidad desde el diseño, supervisión humana, minimización de datos y documentación que exige el RGPD son también los principios que el AI Act requiere para los sistemas de alto riesgo. Una empresa que tiene un programa sólido de cumplimiento RGPD tiene ya una base importante para el cumplimiento del AI Act: lo que falta, en la mayoría de los casos, es hacer explícita la evaluación del nivel de riesgo del sistema según las categorías del reglamento y completar la documentación técnica específica que el AI Act requiere.
]]>






