Por qué la clasificación de riesgo es el punto de partida de todo lo demás
El Reglamento Europeo de Inteligencia Artificial (AI Act, Reglamento UE 2024/1689) organiza su sistema de obligaciones alrededor de cuatro categorías de riesgo. No es un catálogo de tecnologías prohibidas: es un marco que asigna obligaciones proporcionales al nivel de riesgo que un sistema de IA representa para los derechos fundamentales, la salud o la seguridad de las personas.
El sistema es asimétrico en un sentido importante: un sistema de IA que opera en un sector de bajo riesgo puede tener mínimas obligaciones, mientras que el mismo sistema aplicado a un contexto de alto impacto puede estar sujeto a evaluaciones de conformidad exhaustivas, registros obligatorios y supervisión humana preceptiva. La tecnología importa, pero el contexto importa más.
Por eso, antes de hablar de cumplimiento, plazos, documentación técnica o evaluaciones de conformidad, hay que responder una pregunta más básica: ¿en qué categoría está mi sistema?
Las cuatro categorías de riesgo del AI Act
El AI Act distingue cuatro niveles, de mayor a menor restricción.
Riesgo inaceptable. Son sistemas cuyo uso está directamente prohibido porque contradicen valores fundamentales de la UE. La lista es taxativa: sistemas de puntuación social por parte de autoridades públicas, manipulación subliminal que explota vulnerabilidades de las personas, identificación biométrica remota en tiempo real en espacios públicos con fines de seguridad (salvo excepciones muy limitadas), inferencia de emociones en entornos laborales y educativos, y sistemas que explotan características de personas vulnerables. Ninguna empresa puede operar estos sistemas en la UE.
Alto riesgo. Son sistemas que pueden afectar de forma significativa a la seguridad de las personas o a sus derechos fundamentales. El reglamento los define mediante dos vías: los productos regulados por legislación europea de seguridad que incorporan IA (maquinaria, dispositivos médicos, vehículos, infraestructuras críticas), y los sistemas listados en el Anexo III del reglamento. Este anexo cubre ocho ámbitos concretos: infraestructuras críticas, educación y formación profesional, empleo y gestión de trabajadores, acceso a servicios privados y públicos esenciales (incluyendo servicios bancarios, seguros y asistencia sanitaria), seguridad pública y migración, administración de justicia y procesos democráticos.
Riesgo limitado. Son sistemas que no alcanzan el umbral de alto riesgo pero que interactúan con las personas de forma que requiere transparencia. Los chatbots y los sistemas que generan contenido que puede confundirse con contenido humano entran en esta categoría. La obligación principal es informar al usuario de que está interactuando con un sistema de IA.
Riesgo mínimo. Todos los demás sistemas: filtros de spam, sistemas de recomendación de contenidos, juegos con IA, herramientas de productividad. No tienen obligaciones específicas bajo el AI Act, aunque el reglamento promueve que los operadores de estos sistemas adopten voluntariamente códigos de conducta.
El Anexo III: los ocho ámbitos de alto riesgo que más afectan a las empresas
El Anexo III es la referencia práctica para cualquier empresa que quiera determinar si sus sistemas caen en la categoría de alto riesgo. Los ocho ámbitos son:
Infraestructuras críticas: sistemas de IA utilizados como componentes de seguridad en la gestión y operación de infraestructuras críticas de agua, gas, calefacción y electricidad.
Educación y formación profesional: sistemas que determinan el acceso a instituciones educativas, asignan a personas a programas de estudio o evalúan el rendimiento de los estudiantes con efectos en su carrera.
Empleo y gestión de trabajadores: sistemas para la contratación y selección (especialmente los que criban CVs o clasifican candidatos), para tomar decisiones sobre promociones o despidos, para asignar tareas y monitorizar el rendimiento.
Acceso a servicios esenciales: sistemas de puntuación de crédito, evaluación de seguros, concesión de ayudas públicas, evaluación de riesgos sanitarios. Incluye la evaluación de la solvencia y la fijación de precios en seguros de vida y de salud.
Seguridad pública: sistemas biométricos para identificación de personas, sistemas de predicción de delitos basados en perfilado, sistemas de análisis de riesgo en seguridad fronteriza.
Migración y asilo: sistemas de evaluación de riesgo, documentos de viaje, solicitudes de visado o asilo.
Administración de justicia: sistemas de apoyo a la resolución de disputas y herramientas de investigación de hechos utilizados en procedimientos judiciales.
Procesos democráticos: sistemas usados para influir en el resultado de procesos electorales, incluyendo la segmentación microtargetizada con contenido político personalizado.
Cómo determinar si tu sistema es de alto riesgo: el proceso en tres pasos
Paso 1: Identificar la función del sistema. La clasificación del AI Act se basa en lo que hace el sistema y en qué contexto lo hace, no en la tecnología que utiliza. El mismo modelo de machine learning puede ser de riesgo mínimo si recomienda películas y de alto riesgo si evalúa candidatos para un puesto de trabajo. Hay que partir de una descripción funcional precisa: qué decisiones apoya o toma, sobre quién, con qué efectos.
Paso 2: Comprobar si encaja en el Anexo III. Con la descripción funcional, hay que revisar si el sistema cae dentro de alguno de los ocho ámbitos. No basta con que el sistema opere en un sector mencionado: tiene que realizar una función específica de las que el Anexo III describe. Un sistema de IA que gestiona el inventario de un hospital no es automáticamente de alto riesgo por estar en el sector sanitario; sí lo sería si tomara decisiones clínicas o de triaje que afecten directamente a los pacientes.
Paso 3: Verificar si hay una excepción aplicable. El artículo 6 del AI Act incluye una excepción para los sistemas de alto riesgo listados en el Anexo III que solo realizan tareas preparatorias, no tienen impacto significativo en las decisiones finales, o están diseñados exclusivamente para fines de investigación y desarrollo. Esta excepción es más estrecha de lo que parece: si el sistema influye de forma significativa en una decisión que afecta a personas, la excepción probablemente no aplica.
Los modelos de IA de uso general (GPAI): una categoría transversal
El AI Act introdujo una categoría que no existía en los borradores iniciales: los modelos de IA de uso general (GPAI, por General Purpose AI). Son modelos entrenados con grandes cantidades de datos que pueden realizar una variedad de tareas distintas y que se utilizan como componentes en otros sistemas.
GPT-4, Claude, Gemini o Llama son ejemplos de modelos GPAI. El AI Act les impone obligaciones específicas a sus proveedores: documentación técnica, cumplimiento de derechos de autor en el entrenamiento, y política de transparencia. Los modelos GPAI con riesgo sistémico (los más potentes) tienen obligaciones adicionales, incluyendo evaluaciones adversariales y notificación de incidentes graves.
Para las empresas que usan modelos GPAI de terceros en sus propios sistemas, lo que importa es el sistema resultante: si ese sistema se usa en un contexto de alto riesgo, las obligaciones de alto riesgo recaen sobre el integrador o el desplegador, no solo sobre el proveedor del modelo base.
Roles bajo el AI Act: proveedor, desplegador e importador
La clasificación del sistema determina quién tiene qué obligaciones, y eso depende del rol que cada organización juega en la cadena de valor.
El proveedor es quien desarrolla y pone en el mercado un sistema de IA, o quien encarga su desarrollo para comercializarlo con su nombre. Tiene las obligaciones más amplias: documentación técnica, evaluación de conformidad, marcado CE para sistemas de alto riesgo.
El desplegador es quien utiliza un sistema de IA bajo su propia responsabilidad en su actividad profesional. Sus obligaciones son menores, pero no inexistentes: tiene que asegurar que el sistema se usa conforme a su propósito previsto, mantener registros de uso para sistemas de alto riesgo, y garantizar supervisión humana efectiva.
El importador introduce en el mercado europeo sistemas de IA desarrollados fuera de la UE. Asume responsabilidades equivalentes al proveedor si el proveedor no tiene representante en la UE.
Una empresa puede ser simultáneamente proveedora de algunos sistemas (los que desarrolla), desplegadora de otros (los que compra o licencia) y, en algunos casos, importadora.
Plazos de aplicación que afectan a la clasificación
El AI Act entró en vigor en agosto de 2024, pero sus obligaciones no se aplican todas a la vez. Los sistemas de riesgo inaceptable estuvieron prohibidos desde febrero de 2025. Las obligaciones para modelos GPAI y sistemas de riesgo limitado aplican desde agosto de 2025. Las obligaciones para sistemas de alto riesgo del Anexo III aplican desde agosto de 2026. Los sistemas de alto riesgo en productos regulados tienen hasta 2027 y 2028 según el sector.
Estos plazos significan que las empresas con sistemas de alto riesgo tienen tiempo para prepararse, pero ese tiempo se acorta rápidamente. El proceso de clasificación, la elaboración de documentación técnica y las evaluaciones de conformidad llevan meses. Empezar el proceso de clasificación ahora no es anticiparse: es lo que los plazos exigen.
Qué hacer con los sistemas que generan duda
La clasificación no siempre es obvia. Hay sistemas que operan en sectores mencionados en el Anexo III pero cuya función concreta no encaja claramente en las descripciones del reglamento. Hay sistemas que empezaron como herramientas de apoyo interno y que han ido ganando peso en los procesos de decisión sin que nadie tomara una decisión formal al respecto.
Para los casos dudosos, la recomendación práctica es hacer el ejercicio desde la perspectiva del impacto: ¿podría este sistema, si fallara o tomara una decisión incorrecta, afectar de forma significativa a los derechos, la salud o la seguridad de alguna persona? Si la respuesta es sí, tratar el sistema como de alto riesgo hasta que haya una razón fundada para concluir lo contrario es la posición más prudente.
La Comisión Europea ha publicado directrices que ayudan a interpretar el Anexo III, y el Comité de IA creado por el reglamento está produciendo orientaciones adicionales. Seguir estas publicaciones es parte de cualquier programa de cumplimiento serio.
]]>
