Algoritmos, igualdad y no discriminación de género. Una visión desde el espacio jurídico europeo

Abstract

En el mundo digital la relación entre derechos fundamentales y tecnología suele plantearse en unos términos que, formulados de diverso modo, conducen a la esencia del constitucionalismo, esto es, al control del poder y la protección de los derechos. Son muchos los derechos que pueden verse afectados por la aplicación de sistemas algorítmicos. Los derechos a la igualdad y no discriminación, libertad y la seguridad, la identidad personal y la esfera privada de las personas, los derechos de participación política en su dimensión individual y colectiva o los derechos laborales. Partiendo del vínculo entre IA y derechos y sobre la base del régimen jurídico europeo y del Consejo de Europa en materia de IA este estudio se centra en el impacto de la IA en la igualdad de género. Al tal fin, se subrayan por un lado, los efectos de la aplicación de sistemas algorítmicos con sesgos de género, que consolidan estereotipos en lugar de erradicarlos o neutralizarlos. Por otro lado, se defiende la necesidad de incorporar la perspectiva de género a una realidad (social, laboral, educativa, familiar) digital para avanzar hacia una sociedad igualitaria, ahora algorítmica.

In the digital world, the relationship between fundamental rights and technology is often expressed in ways that, when formulated differently, highlight the essence of constitutionalism: the control of power and the protection of rights. The application of algorithmic systems can affect many rights. These include the rights to equality and non-discrimination, freedom and security, personal identity and privacy, and the right to participate in politics both individually and collectively, as well as labour rights. Focusing on the link between AI and rights, as well as the European and Council of Europe legal frameworks on AI, this study examines the impact of AI on gender equality. With this objective in mind, on the one hand, the effects of applying algorithmic systems with gender biases that reinforce stereotypes rather than eradicating or neutralising them are highlighted. On the other hand, the need to incorporate the gender perspective into social, labour, educational and family life in the digital realm is defended in order to move towards an egalitarian society, now algorithmic.