El pasado mes de abril, la Comisión Europea presentó una propuesta de reglamento sobre inteligencia artificial (IA), con el objetivo de garantizar la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que se fomenta la innovación y el desarrollo de esta tecnología clave para el futuro.
En este artículo, vamos a explicar en qué consiste este nuevo acuerdo, quién debe aplicar esta nueva ley, qué actividades de IA se consideran de alto riesgo o están prohibidas, qué sanciones puede haber en caso de incumplimiento y cuáles son las siguientes fases de esta ley.
¿Qué es el nuevo acuerdo de la Unión Europea sobre inteligencia artificial?
El nuevo acuerdo de la Unión Europea sobre inteligencia artificial es una propuesta de reglamento que establece un marco jurídico común para regular el desarrollo, el despliegue y el uso de la IA en el mercado único.
El reglamento se basa en cuatro principios fundamentales:
– La IA debe respetar los valores y los derechos fundamentales de la Unión Europea, como la dignidad humana, la democracia, la igualdad, el Estado de derecho y el respeto de la diversidad.
– La IA debe ser segura, fiable y robusta desde un punto de vista técnico y ético, y debe estar sujeta a una supervisión humana adecuada.
– La IA debe contribuir al bienestar social y medioambiental, y al crecimiento económico sostenible e inclusivo.
– La IA debe ser transparente, trazable y explicable, y debe garantizar una información adecuada a los usuarios y a las partes interesadas.
El reglamento propone una clasificación de las actividades de IA según su nivel de riesgo para los derechos y la seguridad de las personas. Así, se distinguen cuatro categorías:
– Actividades de IA prohibidas: son aquellas que vulneran los valores y los derechos fundamentales de la Unión Europea, como la manipulación del comportamiento humano, la explotación de las vulnerabilidades de las personas o el uso de sistemas de puntuación social.
– Actividades de IA de alto riesgo: son aquellas que implican un riesgo significativo para la salud, la seguridad o los derechos fundamentales de las personas o para el medio ambiente, como la biometría, la gestión crítica de infraestructuras, el transporte o la educación. Estas actividades deben cumplir una serie de requisitos obligatorios antes de ser comercializadas o utilizadas en el mercado único, como realizar una evaluación del riesgo, garantizar una alta calidad y precisión de los datos, asegurar una supervisión humana efectiva o proporcionar información clara a los usuarios.
– Actividades de IA limitadas: son aquellas que pueden generar un riesgo menor para los derechos o la seguridad de las personas, pero que requieren ciertas medidas para garantizar su transparencia y confianza. Por ejemplo, los sistemas que generan o manipulan imágenes, sonidos o textos deben indicar claramente que se trata de contenidos artificiales.
– Actividades de IA mínimas o inexistentes: son aquellas que no plantean ningún riesgo significativo para los derechos o la seguridad de las personas o para el medio ambiente, como los filtros fotográficos, los videojuegos o los asistentes virtuales. Estas actividades no están sujetas a ninguna obligación específica.
¿Quién debe aplicar esta nueva ley?
Esta nueva ley debe ser aplicada por todos los agentes que desarrollen, provean o utilicen sistemas de IA en el mercado único. Esto incluye tanto a las empresas europeas como a las extranjeras que ofrezcan sus servicios o productos en la Unión Europea.
El reglamento propone un sistema de gobernanza basado en la cooperación entre los Estados miembros y la Comisión Europea. Así, se prevé la creación de un Comité Europeo de Inteligencia Artificial, formado por representantes nacionales y expertos independientes, que tendrá funciones consultivas y coordinadoras. Además, cada Estado miembro deberá designar una autoridad nacional supervisora que se encargará del cumplimiento del reglamento en su territorio.
El reglamento también prevé mecanismos para facilitar el cumplimiento voluntario por parte de los agentes económicos. Por ejemplo, se establece un sistema europeo de certificación que permitirá acreditar que un sistema de IA cumple con los requisitos legales. Asimismo, se fomenta la creación de códigos de conducta y de normas técnicas que reflejen las mejores prácticas del sector.
¿Qué sanciones puede haber en caso de incumplimiento?
El reglamento establece un sistema de sanciones administrativas que pueden llegar hasta el 6% del volumen de negocios anual total de la empresa infractora. Las sanciones se graduarán en función de la gravedad, la duración y la reincidencia de la infracción, así como del daño causado a las personas o al medio ambiente.
Las sanciones más elevadas se reservan para las actividades de IA prohibidas o para las que incumplan los requisitos relativos a la protección de datos personales. Las sanciones intermedias se aplicarán a las actividades de IA de alto riesgo que no cumplan con los requisitos obligatorios. Las sanciones más bajas se impondrán a las actividades de IA limitadas que no respeten las medidas de transparencia exigidas.
Además de las sanciones administrativas, el reglamento prevé la posibilidad de adoptar medidas correctivas o cautelares, como la retirada o el bloqueo del sistema de IA, la suspensión o el cese de la actividad o la publicación de la infracción.
¿Cuáles son las siguientes fases de esta ley?
Esta ley aún no ha entrado en vigor, ya que se trata de una propuesta legislativa que debe ser debatida y aprobada por el Parlamento Europeo y el Consejo de la Unión Europea. Se espera que este proceso pueda durar entre dos y tres años.
Una vez aprobado el reglamento, los Estados miembros tendrán un plazo de dos años para adaptar su legislación nacional y designar sus autoridades supervisoras. El reglamento será directamente aplicable en todos los Estados miembros sin necesidad de transposición.
El reglamento prevé una revisión periódica de su aplicación y efectividad, teniendo en cuenta la evolución tecnológica y social de la IA. La primera revisión tendrá lugar cinco años después de su entrada en vigor.
