Marcos normativos para una IA ética y confiable en la educación superior: estado de la cuestión

Abstract

La investigación sobre el uso de la inteligencia artificial (IA) en instituciones educativas es un área emergente y en evolución. En la actualidad se ve la necesidad de analizar la sinergia entre la ética y el adecuado uso de la IA en el contexto académico. Por ende, se presenta un estudio documental para indagar sobre los marcos normativos y éticos del uso de la IA en las instituciones de educación superior. Se realizó una revisión sistemática de literatura bajo las directrices y procedimientos del modelo PRISMA. La búsqueda de la información se realizó en las bases de datos de Scielo, Scopus, Redalyc, entre otras, que posteriormente fueron exportados a Mendeley y procesados en Rayyan con la intención de analizarlos y categorizarlos. En el proceso de cribación se seleccionaron 28 artículos clasificados en cuatro categorías: desafíos y riesgos éticos, marcos normativos, formación ética y modelos didácticos. Se utilizó el software de MAXQDA para su procesamiento. Además, se realizó un análisis bibliométrico (VOSviewer) que permitió conocer las principales tendencias en torno a la temática. En general, los resultados manifiestan, por un lado, la importancia de generación de políticas y regulaciones específicas que permitan el uso adecuado de la IA en contextos universitarios. Por otro, la necesidad de formación de toda la comunidad educativa involucrada, incorporando su uso responsable. El debate académico sobre cómo afrontar el desafío de equilibrar la innovación tecnológica con la ética, la inclusión y la sostenibilidad continúa abierto.

The use of artificial intelligence (AI) in higher education represents an emerging and continuously evolving field. Current research highlights the critical synergy required between ethics and appropriate use in the academic application of AI. Therefore, a documentary study is presented to investigate the regulatory and ethical frameworks of the use of AI in higher education institutions. A systematic literature review was conducted following the guidelines and procedures of the PRISMA model. The information search was carried out in the databases of Scielo, Scopus, Redalyc, among others, which were subsequently exported to Mendeley and Rayyan platforms for analysis and categorization. In the screening process, 28 articles were selected, classified into four categories: ethical challenges and risks, regulatory frameworks, ethical training and didactical models, utilizing the MAXQDA software. Additionally, a bibliometric analysis (VOSviewer) was performed to identify major research trends in this domain. In general, the results show, on the one hand, the importance of generating specific policies and regulations that allow the appropriate use of AI in university contexts. On the other hand, the need for training of the entire educational community involves incorporating its responsible use. The academic debate on how to balance technological innovation with ethics, inclusion, and sustainability remains an open and pressing challenge.