Construyendo el marco legal europeo para el diseño y uso de herramientas de Inteligencia Artificial en el entorno de la justicia civil-administrativa

Abstract

Mientras que la idea del juez robot queda por ahora en el ámbito de la ciencia ficción, la realidad muestra un uso cada vez más extendido de las herramientas de IA en el ámbito jurídico, en los servicios legales e incluso por los propios sistemas de justicia. El marco legal actual, que reposa principalmente sobre el Reglamento General de Protección de Datos (RGPD), no resulta suficiente para establecer una protección eficaz frente a las necesidades de transparencia y de no discriminación con miras a excluir los riesgos de opacidad y de sesgos. Para conseguir la implantación de una IA fiable el trabajo afirma la necesidad previa de tener en cuenta la distinta naturaleza, posibilidades y límites de la tecnología de IA utilizada, aplaude que el marco europeo propuesto parta de la distinción entre diferentes contextos de uso de la IA en el sector de la justicia y pasa revista al impacto del RGPD sobre los diferentes usos de las herramientas de IA en el ámbito jurídico. Para esta finalidad el trabajo profundiza en el concepto central de intervención humana significativa.

While the idea of ​​the robot judge remains in the realm of science fiction for now, reality shows an increasingly widespread use of AI tools in the legal field, in legal services and even by the justice systems themselves. The current legal framework, which rests mainly on the General Data Protection Regulation (GDPR), is not sufficient to establish effective protection against the needs for transparency and non-discrimination with a view to excluding the risks of opacity and bias. In order to achieve the implementation of a reliable AI, the work affirms the prior need to take into account the different nature, possibilities and limits of the AI ​​technology used, applauds that the proposed European framework is based on the distinction between different contexts of use of AI in the justice sector and reviews the impact of the GDPR on the different uses of AI tools in the legal field. For this purpose, the work delves into the central concept of significant human intervention.