Do direito fundamental à explicação das decisões realizadas por algoritmos públicos: da mitigação da opacidade à realização do direito de acesso à informação pública

Abstract

A opacidade algorítmica surge como um obstáculo significativo na relação entre o ser humano e sistemas computacionais, especialmente no que tange à aplicação da inteligência artificial pelo setor público, comprometendo a transparência, a compreensão e a capacidade de revisão e contestação das decisões algorítmicas e, por conseguinte, afetando diversos direitos fundamentais do cidadão. Diante dessa realidade, a presente tese propõe e defende a criação de um direito fundamental à explicação dos algoritmos públicos, com o intuito de mitigar os riscos relacionados à opacidade e reforçar a confiança nas decisões proferidas por algoritmos públicos. Este novo direito fundamental visa garantir que os cidadãos tenham a capacidade de entender, questionar e desafiar os atos e decisões proferidas com o auxílio de algoritmos públicos, evidenciando a necessidade de explicabilidade algorítmica para enfrentar os desafios impostos pela prática de atos exclusivamente por sistemas computacionais, protegendo, assim, os direitos individuais e contribuindo para a compreensão efetiva da ação pública, bem como para a participação dos indivíduos no controle do exercício do poder. A consolidação desse direito abarca tanto dimensões teóricas quanto práticas, com o objetivo de estabelecer procedimentos que assegurem a transparência algorítmica e permitam uma explicação acessível dos sistemas de inteligência artificial, sem que isso prejudique sua segurança ou eficácia. A articulação de tais mecanismos requer uma abordagem multidisciplinar que envolva não apenas o direito, mas também a ciência da computação e a ética, para garantir que a explicabilidade algorítmica se torne uma realidade prática, preservando os direitos dos cidadãos. A proposta de um direito fundamental à explicação dos algoritmos públicos constitui um avanço na direção de uma sociedade algorítmica transparente, responsável, inclusiva, orientando o desenvolvimento de tecnologias de inteligência artificial centrada no humano, ao passo em que legitima as interfaces computacionais que passam a ser os meios de interação do Estado algorítmico com o cidadão.

La opacidad algorítmica se ha erigido como un importante obstáculo en la relación entre los seres humanos y los sistemas informáticos, especialmente en lo que respecta a la aplicación de la inteligencia artificial por parte del sector público, poniendo en peligro la transparencia, la comprensión y la capacidad de revisar e impugnar las decisiones algorítmicas y, en consecuencia, afectando a diversos derechos fundamentales de los ciudadanos. Ante esta realidad, esta tesis propone y defiende la creación de un derecho fundamental a la explicación de los algoritmos públicos, con el objetivo de mitigar los riesgos relacionados con la opacidad y reforzar la confianza en las decisiones tomadas por los algoritmos públicos. Este nuevo derecho fundamental pretende garantizar que los ciudadanos tengan la capacidad de comprender, cuestionar e impugnar los actos y decisiones realizados con la ayuda de algoritmos públicos, poniendo de manifiesto la necesidad de la explicabilidad algorítmica para hacer frente a los retos que plantea la práctica de actos exclusivamente por sistemas informáticos, protegiendo así los derechos individuales y contribuyendo a la comprensión efectiva de la acción pública, así como a la participación de los individuos en el control del ejercicio del poder. La consolidación de este derecho abarca dimensiones tanto teóricas como prácticas, con el objetivo de establecer procedimientos que garanticen la transparencia algorítmica y permitan una explicación accesible de los sistemas de inteligencia artificial, sin poner en peligro su seguridad o eficacia. La articulación de tales mecanismos requiere un enfoque multidisciplinar que implique no sólo al Derecho, sino también a la informática y a la ética, para garantizar que la explicabilidad algorítmica se convierta en una realidad práctica, preservando al mismo tiempo los derechos de los ciudadanos. La propuesta de un derecho fundamental a la explicación de los algoritmos públicos es un avance hacia una sociedad algorítmica transparente, responsable e inclusiva, que oriente el desarrollo de tecnologías de inteligencia artificial centradas en el ser humano, al tiempo que legitime las interfaces informáticas que se convierten en el medio de interacción entre el Estado algorítmico y el ciudadano.

Algorithmic opacity has emerged as a significant obstacle in the relationship between human beings and computer systems, especially with regard to the application of artificial intelligence by the public sector, compromising transparency, understanding and the ability to review and challenge algorithmic decisions and, consequently, affecting various fundamental rights of citizens. Given this reality, this thesis proposes and defends the creation of a fundamental right to explanation of public algorithms, with the aim of mitigating the risks related to opacity and strengthening trust in the decisions made by public algorithms. This new fundamental right aims to ensure that citizens have the ability to understand, question and challenge the acts and decisions made with the help of public algorithms, highlighting the need for algorithmic explainability to face the challenges posed by the practice of acts exclusively by computer systems, thus protecting individual rights and contributing to the effective understanding of public action, as well as the participation of individuals in controlling the exercise of power. The enforcement of this right encompasses both theoretical and practical dimensions, with the aim of establishing procedures that ensure algorithmic transparency and allow for an accessible explanation of artificial intelligence systems, without jeopardizing their safety or effectiveness. The articulation of such mechanisms requires a multidisciplinary approach involving not only law, but also computer science and ethics, to ensure that algorithmic explainability becomes a practical reality while preserving citizens' rights. The proposal of a fundamental right to the explanation of public algorithms is an advance towards a transparent, responsible and inclusive algorithmic society, guiding the development of human-centered artificial intelligence technologies, while legitimizing the computer interfaces that become the means of interaction between the algorithmic state and the citizen.