La aplicación de sistemas en diferentes ámbitos del servicio público de la justicia es una realidad. En este trabajo reflexiono sobre el régimen de responsabilidad por los daños que se derivan de la aplicación de sistemas de IA en el servicio público de la justicia. En concreto, me centro en los sistemas de IA de alto riesgo, los sistemas que no son de alto riesgo, pero que se aplican en contextos de alto riesgo y los que el Reglamento de IA denomina “determinados” sistemas de IA. La pregunta que surge es si los posibles daños ocasionados pueden ser concebidos como daños provocados por error judicial o por un funcionamiento anormal del servicio público de la justicia.

Asimismo, debe plantearse la cuestión de si las normas de responsabilidad patrimonial del sector público protegen suficientemente al justiciable que ha sufrido daños o bien debería establecerse una norma o un conjunto de normas específico para el caso de que en la producción de esos daños hubiera intervenido, en alguna fase, un sistema de IA, independientemente del orden jurisdiccional en el que se aplique el sistema. Dicho con otras palabras, si la Propuesta de Directiva de responsabilidad civil extracontractual por los daños ocasionados por sistemas de IA de 28 de septiembre de 2022, basada en la culpa, protegería de forma más eficiente a la víctima que la aplicación de las normas de responsabilidad “aparentemente” objetiva del sector público.

A ello debe añadirse la necesidad de replantearse si no sería más acertado recuperar la Propuesta de reglamento sobre responsabilidad civil del Parlamento europeo de 20 de octubre de 2020, que presenta un doble régimen de responsabilidad según estemos ante sistemas de alto riesgo o de bajo riesgo. Responsabilidad objetiva respecto de los primeros, responsabilidad subjetiva en relación con los segundos. Es decir, si no sería pertinente que el régimen de responsabilidad civil para el caso de daños ocasionados por sistemas de alto riesgo fuera un “auténtico” régimen de responsabilidad objetiva incorporando en él algunos expedientes que pudieran aliviar la posición de asimetría de la víctima respecto del proveedor o responsable del despliegue.

La exclusión de la aplicación de la regla de la exoneración de la administración (de justicia) por los denominados riesgos del desarrollo también tiene su espacio en este ensayo.

ABREVIATURAS

I. INTRODUCCIÓN

II. El Reglamento de INTELIGENCIA ARTIFICIAL Y El servicio público de la justicia

1. Prácticas prohibidas en el contexto de la justicia

2. Actuaciones automatizadas, proactivas y asistidas y sistemas de IA

3. La administración de justicia como “proveedora” y como “responsable del despliegue” del sistema de IA. Cumplimiento de obligaciones y distribución interna de tareas

3.1. La administración de justicia como proveedora del sistema de IA

3.2. La administración de justicia como responsable del despliegue

III. RESPONSABILIDAD DERIVADA de la aplicación de sistemas de IA en el SERVICIO PÚBLICO DE LA JUSTICIA

1. El defectuoso funcionamiento del sistema de IA de alto riesgo, ¿error judicial o funcionamiento anormal de la administración de justicia?

2. ¿Son las normas de responsabilidad patrimonial del sector público adecuadas para compensar los daños derivados del manejo de sistemas de IA en el servicio público de la justicia?

2.1. La administración como responsable del despliegue y el proveedor contratista

2.2. La administración como proveedora

2.2.1. Responsabilidad objetiva o basada en la culpa. Pérdida de oportunidad

2.2.1.1. La necesidad de una actuación negligente

2.2.1.2. Incertidumbre del nexo causal. Pérdida de oportunidad

2.2.2. Administración y riesgos del desarrollo

IV. ¿Propuesta de Directiva de responsabilidad civil extracontractual como posible (mejor) solución para la víctima O VUELTA A UN RÉGIMEN DE RESPONSABILIDAD OBJETIVO?

1. La Propuesta de Directiva: régimen de responsabilidad basado en la culpa

1.1. Introducción

1.2. Exhibición de pruebas

1.3. El proveedor como sujeto responsable

1.4. El responsable del despliegue como sujeto responsable

2. La Propuesta de Reglamento ¿debería volverse a un régimen de responsabilidad objetivo?

2.1. Debería volverse

2.2. Incorporando otros elementos

V. CONCLUSIONES FINALES

VI. BIBLIOGRAFÍA

• 

  Susana Navas Navarro

  Catedrática de Derecho Civil
  

  Susana Navas Navarro es Catedrática de Derecho civil y Directora del Departamento de Derecho privado en la Universidad Autónoma de Barcelona. Sus líneas de investigación se han centrado, en los últimos años, en la propiedad intelectual ...