La transparencia es uno de los principios más repetidos en el debate sobre IA. Pero en el AI Act no es solo un principio: es una obligación legal con texto concreto. El artículo 50 regula qué tienen que decirle a los usuarios aquellas empresas que despliegan sistemas que interactúan con personas o que generan contenido sintético. Aplica desde agosto de 2026.
Los cuatro supuestos del artículo 50
El artículo 50 cubre cuatro situaciones distintas, con obligaciones concretas para cada una.
Chatbots y sistemas de interacción. Cuando un sistema de IA está diseñado para interactuar con personas de forma natural, quien lo despliega debe informar a los usuarios de que están hablando con una máquina. La información debe aparecer en el inicio de la interacción, de forma clara. La excepción aplica cuando el uso es evidente por el contexto —como un sistema de respuesta automática claramente identificado como tal.
Deepfakes y manipulación de imagen, vídeo o audio. Si un sistema produce contenido audiovisual que parece real pero ha sido generado o manipulado significativamente con IA, ese contenido debe ir etiquetado como tal. La obligación recae en quien opera el sistema, no necesariamente en el usuario final de la interfaz.
Contenido generado por modelos GPAI. Los proveedores de sistemas de IA de uso general que generan texto, imágenes, audio o vídeo deben asegurarse de que las salidas están marcadas en formato legible por máquina, para que los sistemas de detección puedan identificar el origen.
Excepción para usos autorizados. Las actividades de seguridad nacional, defensa y autoridades policiales tienen sus propias excepciones. También queda fuera la sátira y la parodia, siempre que la naturaleza del contenido se divulgue adecuadamente.
Qué es un deepfake a efectos legales
El AI Act usa una definición amplia: cualquier imagen, audio o vídeo que reproduzca de forma realista a personas, lugares u objetos reales que no existen, o eventos que no han tenido lugar, y que pueda inducir a error a un observador razonablemente informado.
Esto incluye vídeos en los que se pone en boca de alguien palabras que no ha dicho, imágenes de personas reales en situaciones que no han ocurrido, o pistas de audio generadas imitando la voz de alguien sin su consentimiento. Los filtros de redes sociales que modifican sutilmente la apariencia facial caen en una zona gris que la Comisión deberá aclarar.
El etiquetado legible por máquina
La referencia a un marcado “en formato legible por máquina” apunta a mecanismos como la marca de agua digital, metadatos incrustados en el archivo, o sistemas basados en criptografía que permitan rastrear el origen del contenido.
El Reglamento no prescribe la tecnología exacta. Remite a la Comisión para que desarrolle actos delegados que especifiquen los formatos técnicos aceptados. A fecha de hoy, ese desarrollo normativo todavía no está completado, lo que genera cierta incertidumbre sobre qué soluciones técnicas son suficientes.
Qué deben hacer las empresas
Si tu empresa utiliza un chatbot en su web —para atención al cliente, asistencia técnica o ventas—, debe cumplir con la obligación de informar al usuario desde el primer mensaje. No es suficiente con un aviso enterrado en los términos y condiciones: el aviso tiene que estar visible en la propia interfaz de conversación.
Si usas herramientas de generación de imágenes o vídeo en comunicación comercial, necesitas evaluar si el resultado entra dentro de la definición de deepfake. En la mayoría de los casos de marketing, la imagen generada es evidentemente artificial; en esos casos, el riesgo de confusión es bajo. El problema surge cuando el material se presenta o podría interpretarse como si fuera real.
Las herramientas de generación de texto no tienen obligación explícita de etiquetar cada respuesta, a menos que el proveedor del modelo así lo haya configurado. Pero los proveedores GPAI sí tienen la obligación de facilitar ese marcado técnico.
¿Tu empresa usa chatbots, herramientas de generación de contenido o IA conversacional? En Adapta RGPD revisamos tu cumplimiento del AI Act con clasificación de riesgo, las 193 medidas AESIA y seguimiento continuo desde 199€/año.
