El presente volumen tiene su origen en la Jornada de estudio “El futuro marco regulatorio de la Inteligencia Artificial en la Unión Europea”, celebrada en la Universitat Oberta de Catalunya el 18 de noviembre de 2022, cuando ya se hallaban en tramitación las principales iniciativas legislativas en la materia: la Propuesta de Reglamento de Inteligencia Artificial o AI Act, la Propuesta de Directiva sobre Responsabilidad Civil en materia de IA, y la Propuesta de Directiva sobre Productos Defectuosos. Los capítulos que aquí se recogen son una reelaboración posterior de las ponencias presentadas en la Jornada, por lo que se han tenido en cuenta ya diversos desarrollos posteriores de estas iniciativas.

La regulación de la IA constituye sin duda una necesidad perentoria. La percepción de esta acuciante urgencia –y a la vez la conciencia de la dificultad de la tarea– se ha agudizado en pleno proceso de tramitación del Reglamento de IA, en particular tras el lanzamiento global de herramientas como ChatGPT y otros potentes sistemas de IA generativa, que han despertado asombro e inquietud por su fuerza disruptiva, y que no son más que la antesala de lo que el vertiginoso desarrollo de la IA nos va a presentar en el futuro inmediato.

La tarea de configurar un marco jurídico que garantice el carácter beneficioso, seguro y confiable de la IA presenta enormes dificultades. Se enfrenta a un fenómeno en permanente evolución, presidido por la complejidad y la opacidad del a menudo impredecible funcionamiento de los sistemas de IA. Las posibilidades del legislador a este respecto son ciertamente limitadas. No sólo por el fuego cruzado de intereses de la industria y de múltiples sectores afectados, sino también por la dificultad de avizorar un futuro incierto y de calcular los efectos indeseados que, por exceso o por defecto, puede generar la normativa que se termine aprobando. Confiamos en que las aportaciones de este volumen puedan contribuir a la necesaria reflexión que debe acompañar el proceso de diseñar un adecuado marco regulatorio para la IA en beneficio de todos.

Presentación, Miquel Peguera Poch

La protecció de dades davant els riscos de la Intel·ligència Artificial (IA), Meritxell Borràs i Solé

Capítulo 1: LA AI Act: Contexto, límites y retos de una ley de primera generación, Alessandro Mantelero

1. Introducción

2. La AI Act: Dos razones para una solución de compromiso

3. Las soluciones dejadas de lado: Un enfoque ético y socialmente responsable, un modelo basado en principios y centrado en los derechos humanos

4. En busca de un núcleo basado en principios para la regulación de la IA

4.1. Los principios establecidos en las cartas éticas

4.2. Los principios identificados por el Consejo de Europa

4.3. Los principios establecidos por el NIST

5. El papel de los derechos humanos en ausencia de principios ordenadores: Hacia la plena aplicación del enfoque basado en el riesgo

Capítulo 2: La regulación de las situaciones transfronterizas en el futuro reglamento de Inteligencia artificial, Aurelio López-Tarruella Martínez

1. Introducción

2. Ámbito de aplicación territorial. Triple función del art. 2.1

2.1. Aplicación del Art. 2.1 por los operadores de sistemas IA

2.2. Aplicación del Art. 2.1 por las autoridades nacionales competentes

2.3. Aplicación del Art. 2.1 por los tribunales de justicia

3. La aplicación extraterritorial del futuro reglamento de Inteligencia Artificial

3.1. Argumentos a favor de la aplicación extraterritorial del futuro Reglamento

3.2. Análisis de los criterios de conexión del Art. 2.1 PRIA: supuestos de aplicación extraterritorial injustificada

4. Competencia de las Autoridades nacionales de supervisión en situaciones con dimensión transfronteriza

5. Conclusiones

Capítulo 3: La propuesta de Reglamento de IA: Una intervención legislativa insoslayable en contexto de incertidumbre, Miquel Peguera Poch

1. Introducción

2. Un problema por resolver

3. El punto de partida: La noción funcional de IA

4. Enfoque basado en el riesgo

4.1. Prácticas de IA prohibidas

4.2. Sistemas de IA de riesgo alto

4.2.1. Sistemas enmarcados en la normativa armonizada de seguridad de productos

4.2.2. Sistemas independientes considerados de alto riesgo

5. Sistemas de IA de propósito general y “modelos fundacionales”

6. La regulación de los sistemas de IA de alto riesgo

6.1. Requisitos de los sistemas de alto riesgo

6.2. Control previo

6.3. Control continuado en el tiempo

7. Deberes de transparencia para determinados sistemas de IA

8. Conclusiones

Capítulo 4: Inteligencia Artificial: Un ejemplo de marco global de política, Belén Arribas Sánchez

1. Introducción

2. IA responsable: Un marco global de política, actualización de 2021 (International Technology Law Association)

2.1. Principio 1: Propósito Ético y Beneficio Social

2.2. Principio 2: Responsabilidad

2.3. Principio 3: Transparencia y Explicabilidad

2.4. Principio 4: Equidad y no discriminación

2.5. Principio 5: Seguridad y Confiabilidad

2.6. Principio 6: Datos Abiertos y Leal Competencia

2.7. Principio 7: Privacidad

2.8. Principio 8: IA y Propiedad Intelectual

Capítulo 5: Modificaciones del sistema de Inteligencia artificial y la propuesta de Directiva sobre responsabilidad por los daños causados por productos defectuosos, Susana Navas Navarro

1. Actualización, mejora, modificación sustancial

2. Concepto armonizado de “modificación sustancial”

3. La modificación del producto en la propuesta de Directiva

3.1. Modificaciones no sustanciales ¿y las actualizaciones y mejoras del programa informático?

3.2. La esfera de control del fabricante del producto. El sistema de IA basado en machine/deep learning

4. Conclusiones

Capítulo 6: Responsabilidad civil e Inteligencia artificial. Un examen crítico de la propuesta de Directiva de 28 de septiembre de 2022, Antoni Rubí Puig

1. Introducción

2. Antecedentes

3. Ámbitos de aplicación

3.1. Introducción

3.2. Pretensiones indemnizatorias de responsabilidad civil extracontractual por culpa

3.2.1. Acciones fundadas en un régimen de responsabilidad por negligencia y no de responsabilidad objetiva

3.2.2. Responsabilidad por culpa versus responsabilidad objetiva para hacer frente a los daños causados por sistemas de IA3.2.3. Relación con otras normas

3.2.4. Armonización de mínimos y principio de subsidiariedad

3.3. Sistemas de inteligencia artificial

3.3.1. Remisión a un concepto controvertido

3.3.2. Sistemas de IA de alto riesgo

3.3.3. Intervención humana (human in the loop)

4. Examen de las medidas establecidas en la PDRCIA

4.1. Exhibición de prueba y presunción de culpa (art. 3)

4.1.1. Personas sujetas a la carga de exhibir la prueba

4.1.2. Consecuencias del incumplimiento y límites

4.1.3. Retos del derecho a recibir información

4.1.4. Alternativas para mitigar la asimetría informativa

4.2. Presunción de causalidad (art. 4)

4.2.1. Requisitos generales

4.2.2. Presunción de negligencia por incumplimiento normativo

4.2.3. Limitaciones de la presunción de causalidad

Capítulo 7: Distintos modelos para la responsabilidad civil por daños causados por la Inteligencia Artificial. A modo de comparación entre distintas propuestas de la Unión Europea, Mª Luisa Atienza Navarro

1. Planteamiento de la cuestión

2. Sujetos responsables y fundamento de la responsabilidad civil en la propuesta de Reglamento en materia de responsabilidad civil por el uso de la Inteligencia Artificial de 20 de octubre de 2020

2.1. Sujetos responsables

2.2. El fundamento objetivo o subjetivo de la responsabilidad según el riesgo alto o no alto del sistema inteligente

2.2.1. Consideraciones generales

2.2.2. La responsabilidad objetiva por daños causados por sistemas de alto riesgo

2.2.3. La responsabilidad subjetiva por daños causados por sistemas que no son de alto riesgo

3. Sujetos responsables y fundamento de la responsabilidad civil en la propuesta de Directiva sobre responsabilidad civil en materia de Inteligencia Artificial de 28 de septiembre de 2022

3.1. Consideraciones generales

3.2. Sujetos responsables

3.3. La responsabilidad por culpa. Régimen de presunciones y de facilidad probatoria

3.3.1. Consideraciones generales

3.3.2. La obligación de exhibición de pruebas y la presunción de negligencia ante su incumplimiento

3.3.3. El régimen de presunciones

3.4. Valoración de la Propuesta de Directiva

• 

  Antoni Rubí-Puig

• 

  Susana Navas Navarro

  Catedrática de Derecho Civil
  

  Susana Navas Navarro es Catedrática de Derecho civil y Directora del Departamento de Derecho privado en la Universidad Autónoma de Barcelona. Sus líneas de investigación se han centrado, en los últimos años, en la propiedad intelectual ...

• 

  Aurelio López-Tarruella Martínez

• 

  María Luisa Atienza

• 

  Miquel Peguera Poch

• 

  Alejandro Mantelero

• 

  Meritxell Borràs i Solé

• 

  Belén Arribas Sánchez