Inteligencia artificial, sesgo y corrupción privada en perjuicio de los consumidores

Abstract

La aplicación directa o subyacente de arquitecturas basadas en inteligencia artificial puede producir sesgos discriminatorios entre consumidores, distinguiendo unos de otros, con perjuicio, fundamentalmente económico. El sesgo IA por diseño o algorítmico puede producirse por error en los datos, error humano o de forma consciente, es decir, se entrena a partir de datos previamente manipulados para producir el resultado sesgado y querido. Existen grupos diferentes de consumidores, los cuales son segmentados por las empresas y profesionales en función de diversas circunstancias, perfiles y/o patrones de comportamiento. La cuestión es si, tratándose de clientes-consumidores y del precio a pagar por el bien o servicio, esta práctica es lícita o no, y si es ilícita, cuáles son las consecuencias jurídicas. Solo la existencia de una causa justificada puede fundamentar la práctica de segmentación de precios en función de perfiles y/o patrones de comportamiento, y esta debe corresponderse con una causa objetiva, por ser una práctica contraria a la competencia leal y a los consumidores. Se sanciona la activad de obtención de datos personales inconsentida, sin autorización o norma jurídica habilitante, que causen perjuicio a tercero o al titular de los datos, que se halle en registros o bases de datos informáticas. Por tanto, podemos concluir que, la obtención ilícita de datos sesgados o utilización y tratamiento de datos en la fase de diseño de las IA, con finalidad discriminatoria, cuando esta produzca perjuicio al titular de los datos, es una conducta punible, como delito de descubrimiento y revelación de secretos; y/o como delito de publicidad engañosa (concurso) cuando la práctica discriminatoria IA a los consumidores por el precio cause perjuicio grave y manifiesto. La solución, entendemos, pasa por la transparencia en el diseño y/o algorítmica y la IA explicable. Así lo dispone la (Propuesta) Ley de Inteligencia Artificial, en su artículo 52.1, el cual se refiere a la obligación de información y transparencia del uso de sistemas IA a los usuarios para que estos puedan valorar sus decisiones económicas. Es necesario, en aras de los derechos de información, una actitud proactiva de los empresarios y profesionales de explicabilidad y transparencia en el precio, cuando su determinación provenga del uso de la inteligencia artificial. Solo cuando los consumidores puedan conocer y comprender que interaccionan con un sistema IA y que este cumple las legítimas expectativas legales y éticas, podremos hablar de justo equilibrio en las relaciones jurídicas negociales.