Do direito fundamental à explicação das decisões realizadas por algoritmos públicos: da mitigação da opacidade à realização do direito de acesso à informação pública
Metadatos
Mostrar el registro completo del ítemEditorial
Universidad de Granada
Departamento
Universidad de Granada. Programa de Doctorado en Ciencias Jurídicas; Pontifícia Universidade Católica do Rio Grande do Sul. Programa de Pós-Graduação em DireitoMateria
Inteligência artificial Explicabilidade Algoritmos públicos Inteligencia Artificial Explicabilidad Algoritmos públicos Artificial intelligence Explainability Public algorithms
Fecha
2024Fecha lectura
2024-05-21Referencia bibliográfica
Sousa Pontes Pinto, Edson Antônio. Do direito fundamental à explicação das decisões realizadas por algoritmos públicos: da mitigação da opacidade à realização do direito de acesso à informação pública. Granada: Universidad de Granada, 2024. [https://hdl.handle.net/10481/92862]
Patrocinador
Tesis Univ. Granada.Resumen
A opacidade algorítmica surge como um obstáculo significativo na relação entre
o ser humano e sistemas computacionais, especialmente no que tange à
aplicação da inteligência artificial pelo setor público, comprometendo a
transparência, a compreensão e a capacidade de revisão e contestação das
decisões algorítmicas e, por conseguinte, afetando diversos direitos
fundamentais do cidadão. Diante dessa realidade, a presente tese propõe e
defende a criação de um direito fundamental à explicação dos algoritmos
públicos, com o intuito de mitigar os riscos relacionados à opacidade e reforçar
a confiança nas decisões proferidas por algoritmos públicos. Este novo direito
fundamental visa garantir que os cidadãos tenham a capacidade de entender,
questionar e desafiar os atos e decisões proferidas com o auxílio de algoritmos
públicos, evidenciando a necessidade de explicabilidade algorítmica para
enfrentar os desafios impostos pela prática de atos exclusivamente por sistemas
computacionais, protegendo, assim, os direitos individuais e contribuindo para a
compreensão efetiva da ação pública, bem como para a participação dos
indivíduos no controle do exercício do poder. A consolidação desse direito
abarca tanto dimensões teóricas quanto práticas, com o objetivo de estabelecer
procedimentos que assegurem a transparência algorítmica e permitam uma
explicação acessível dos sistemas de inteligência artificial, sem que isso
prejudique sua segurança ou eficácia. A articulação de tais mecanismos requer
uma abordagem multidisciplinar que envolva não apenas o direito, mas também
a ciência da computação e a ética, para garantir que a explicabilidade algorítmica
se torne uma realidade prática, preservando os direitos dos cidadãos. A proposta
de um direito fundamental à explicação dos algoritmos públicos constitui um
avanço na direção de uma sociedade algorítmica transparente, responsável,
inclusiva, orientando o desenvolvimento de tecnologias de inteligência artificial
centrada no humano, ao passo em que legitima as interfaces computacionais
que passam a ser os meios de interação do Estado algorítmico com o cidadão. La opacidad algorítmica se ha erigido como un importante obstáculo en la
relación entre los seres humanos y los sistemas informáticos, especialmente en
lo que respecta a la aplicación de la inteligencia artificial por parte del sector
público, poniendo en peligro la transparencia, la comprensión y la capacidad de
revisar e impugnar las decisiones algorítmicas y, en consecuencia, afectando a
diversos derechos fundamentales de los ciudadanos. Ante esta realidad, esta
tesis propone y defiende la creación de un derecho fundamental a la explicación
de los algoritmos públicos, con el objetivo de mitigar los riesgos relacionados con
la opacidad y reforzar la confianza en las decisiones tomadas por los algoritmos
públicos. Este nuevo derecho fundamental pretende garantizar que los
ciudadanos tengan la capacidad de comprender, cuestionar e impugnar los actos
y decisiones realizados con la ayuda de algoritmos públicos, poniendo de
manifiesto la necesidad de la explicabilidad algorítmica para hacer frente a los
retos que plantea la práctica de actos exclusivamente por sistemas informáticos,
protegiendo así los derechos individuales y contribuyendo a la comprensión
efectiva de la acción pública, así como a la participación de los individuos en el
control del ejercicio del poder. La consolidación de este derecho abarca
dimensiones tanto teóricas como prácticas, con el objetivo de establecer
procedimientos que garanticen la transparencia algorítmica y permitan una
explicación accesible de los sistemas de inteligencia artificial, sin poner en
peligro su seguridad o eficacia. La articulación de tales mecanismos requiere un
enfoque multidisciplinar que implique no sólo al Derecho, sino también a la
informática y a la ética, para garantizar que la explicabilidad algorítmica se
convierta en una realidad práctica, preservando al mismo tiempo los derechos
de los ciudadanos. La propuesta de un derecho fundamental a la explicación de
los algoritmos públicos es un avance hacia una sociedad algorítmica
transparente, responsable e inclusiva, que oriente el desarrollo de tecnologías
de inteligencia artificial centradas en el ser humano, al tiempo que legitime las
interfaces informáticas que se convierten en el medio de interacción entre el
Estado algorítmico y el ciudadano. Algorithmic opacity has emerged as a significant obstacle in the relationship
between human beings and computer systems, especially with regard to the
application of artificial intelligence by the public sector, compromising
transparency, understanding and the ability to review and challenge algorithmic
decisions and, consequently, affecting various fundamental rights of citizens.
Given this reality, this thesis proposes and defends the creation of a fundamental
right to explanation of public algorithms, with the aim of mitigating the risks related
to opacity and strengthening trust in the decisions made by public algorithms.
This new fundamental right aims to ensure that citizens have the ability to
understand, question and challenge the acts and decisions made with the help of
public algorithms, highlighting the need for algorithmic explainability to face the
challenges posed by the practice of acts exclusively by computer systems, thus
protecting individual rights and contributing to the effective understanding of
public action, as well as the participation of individuals in controlling the exercise
of power. The enforcement of this right encompasses both theoretical and
practical dimensions, with the aim of establishing procedures that ensure
algorithmic transparency and allow for an accessible explanation of artificial
intelligence systems, without jeopardizing their safety or effectiveness. The
articulation of such mechanisms requires a multidisciplinary approach involving
not only law, but also computer science and ethics, to ensure that algorithmic
explainability becomes a practical reality while preserving citizens' rights. The
proposal of a fundamental right to the explanation of public algorithms is an
advance towards a transparent, responsible and inclusive algorithmic society,
guiding the development of human-centered artificial intelligence technologies,
while legitimizing the computer interfaces that become the means of interaction
between the algorithmic state and the citizen.