I. INTRODUCCIÓN. II. EN BUSCA DE MARCOS JURÍDICOS PARA LOS SISTEMAS DE IA: 1. La promesa y los peligros de las tecnologías basadas en IA.– 2. Características problemáticas de los sistemas de IA.– 3. El marco jurídico actual.– 4. Iniciativas para regular la IA.– III. LA PROPUESTA DE REGLAMENTO SOBRE IA DE LA COMISIÓN EUROPEA: 1. Enfoque horizontal basado en el riesgo para regular los sistemas de IA.– 2. Objetivo de la propuesta de la Ley de Inteligencia Artificial. Competencias. Efecto preventivo.– 3. Ámbito de aplicación: 3.1. Definición excesivamente amplia de «sistemas de IA».– 3.2. Ámbito poco claro con respecto a la investigación académica y el software de código abierto.– 3.3. Ámbito territorial.– 4. Usos prohibidos de los sistemas de IA (art. 5 LIA): 4.1. Sistemas de IA manipulativos (art. 5(1)(a) y (b) LIA).– 4.2. Calificaciones sociales (art. 5(1)(c) LIA).– 4.3. Sistemas biométricos de IA (art. 5(1)(d) LIA).– 4.4. ¿Posibilidad de que la Comisión Europea añada prácticas de IA prohibidas?– 5. Sistemas de IA de alto riesgo: 5.1. Visión general.– 5.2. Clasificación de los sistemas de IA de alto riesgo.– 5.3. Requisitos esenciales para los sistemas de IA de alto riesgo.– 5.4. La normalización como delegación no justificada del poder de reglamentación. Evaluación de la conformidad ex ante, declaración de conformidad y marcado CE.– 6. Obligaciones de los proveedores y usuarios: 6.1. Visión general.– 6.2. Sistemas de IA de uso general.– 6.3. La IA como servicio (AI as a Service, AIaaS).– 7. Requisitos para los sistemas de IA de riesgo limitado (art. 52 LIA). 8. Aplicación de la ley.– 8.1. Falta de estructuras efectivas de aplicación.– 8.2. Competencias del Comité Europeo de Inteligencia Artificial (CEIA).– 9. Relación de la Ley de Inteligencia Artificial con el marco jurídico existente: 9.1. Responsabilidad civil.– 9.2. Ley de protección de datos.– 9.3. Propuesta de la Ley de Servicios Digitales.– 10. Lagunas normativas de la LIA: 10.1. Falta de derechos individuales.– 10.2. Otras lagunas.– IV. CONCLUSIÓN.

• Martin Ebers

  Catedrático de Derecho informático. Universidad de Tartu (Estonia)
  

Description

On April 21, 2021, the European Commission presented its long-awaited proposal for a Regulation «laying down harmonized rules on artificial intelligence», the so-called «Artificial Intelligence Act» (AIA). This article critically analyzes the proposed regulation, discussing especially the EU competences, the scope, the intended prohibited uses of AI systems, the provisions on high-risk AI systems, the obligations of providers and users, the requirements for AI systems with limited risks, the enforcement system, the relationship of the AIA to the existing legal framework, and the regulatory gaps in the proposal.