Técnicas de Inteligencia Artificial Explicable para Modelado Basado en Agentes

Abstract

Introducción al problema El Modelado Basado en Agentes (ABM, por sus siglas en inglés) es una conocida herramienta para modelar y simular sistemas complejos [Bon02, Eps06]. Estos modelos están formados por una población de agentes autónomos que toman sus decisiones en base a unas reglas de comportamiento individuales. Los agentes pueden interaccionar entre ellos y con el entorno. Esta metodología sigue un enfoque bottom-up o de abajo hacia arriba, en el que a partir del modelado del comportamiento individual se obtienen resultados emergentes a nivel global. Ha sido ampliamente utilizado en diversas áreas como la economía [PMHR23], sociología [MW02] o epidemiología [Cue20], entre otras. En particular, en marketing permite simular mercados reales, capturar la heterogeneidad de diversos participantes y adaptarse a entornos dinámicos [RRK18]. Su aplicabilidad se extiende también a la adopción de tecnologías sostenibles, facilitando la simulación de cómo estas tecnologías penetran en el mercado, reflejando la interacción de actores variados con intereses diferentes. El ABM permite la definición de escenarios hipotéticos y la evaluación de distintas estrategias, constituyendo un buen sistema de soporte a la decisión. Para su uso efectivo, es fundamental que estos modelos estén correctamente calibrados y validados, y que ofrezcan un alto nivel de transparencia. Aunque son modelos de caja blanca, la complejidad de los sistemas que modelan y el volumen de sus salidas hacen que a menudo requieran una capa adicional de explicabilidad [Mac16]. Aumentar la transparencia de estos modelos y de sus soluciones nos permitirá no solo aprender del sistema, sino mejorar la comunicación con distintas audiencias, aumentar su credibilidad y confianza y facilitar la toma de decisiones a los interesados en estos sistemas o stakeholders [DRDSC+23]. Mejorar la comprensión de estos modelos puede proporcionar hallazgos valiosos para elegir las acciones más efectivas en distintos escenarios, asegurando un impacto positivo y real en la toma de decisiones estratégicas. En los últimos años, el área de Inteligencia Artificial Explicable (XAI, por sus siglas en inglés) ha cobrado relevancia con el objetivo de hacer los sistemas de inteligencia artificial más comprensibles y transparentes sin sacrificar rendimiento [AB18]. La XAI desempeña un papel importante en el aumento de la transparencia no solo para modelos de caja negra sino también para cualquier sistema de inteligencia artificial o sistema complejo que integre este enfoque [BDGP22]. Integrar técnicas de XAI con ABM puede contribuir en la mejora de la comprensión tanto de las salidas como de los modelos basados en agentes. A pesar de los avances en XAI en otras áreas, existe un notable vacío en la aplicación de estas técnicas en ABM. El eje central de esta tesis es el desarrollo y aplicación de un enfoque multidisciplinar que integre ABM y técnicas de XAI para obtener información comprensible a partir de simulaciones de ABM, logrando así profundizar en la comprensión del comportamiento de los agentes y mejorar la toma de decisiones en el ámbito del marketing. En particular, se abordan los siguiente tres subobjetivos: 1. El primero consiste en una revisión de la literatura y análisis bibliométrico sobre el uso del ABM en marketing en las dos últimas décadas, dada la ausencia de revisiones recientes en este ámbito. 2. El segundo objetivo plantea la aplicación de técnicas de XAI para el descubrimiento de patrones a partir de las salidas de los modelos basados en agentes. En particular, aplicar técnicas de Descubrimiento de Subgrupos (SD, por sus siglas en inglés) para explicar el comportamiento de los agentes a partir de las salidas de los modelos. 3. El tercer objetivo consiste en diseñar y aplicar estrategias de focalización con ABM para la asignación de subsidios que incentiven la adopción de tecnologías sostenibles, junto con el uso de técnicas de visualización de XAI para mejorar la efectividad y comprensión de dichas estrategias en escenarios hipotéticos. Desarrollo El desarrollo de la tesis puede dividirse en tres bloques diferenciados, cada uno asociado a uno de los objetivos planteados en la misma. Análisis bibliométrico sobre el uso del ABM en marketing. Comenzamos la tesis con el análisis bibliométrico de la literatura sobre el uso del ABM en marketing desde el año 2000 hasta marzo de 2023. En esta contribución se proporciona tanto un análisis de rendimiento como un análisis de redes. En el primero se explora la evolución temporal, citas, autores, países, instituciones y revistas. En el segundo examina las relaciones entre palabras clave, autores y países. Una aportación fundamental de esta contribución es la exhaustiva caracterización de los modelos basados en agentes recopilados, resumida en una tabla de referencia. Esta tabla detalla los principales objetivos de los modelos y evalúa el cumplimiento de ciertas características, sirviendo de orientación para cualquier interesado en el campo. Estas características incluyen el uso de modelos de difusión, si los agentes tienen la posibilidad de elegir entre múltiples opciones, si el entorno es una red social, si es un entorno físico, y si se ha validado mediante datos reales. Esta caracterización ofrece una visión clara sobre la naturaleza de los modelos basados en agentes en el ámbito del marketing, mostrando la diversidad y aplicabilidad del ABM en este campo. Explicación de salidas de modelos basados en agentes usando descubrimiento de subgrupos. Como mencionamos anteriormente, es fundamental que los modelos basados en agentes sean transparentes. En esta contribución nos centramos en aumentar la explicabilidad de sus salidas, en concreto de la gran cantidad de información que se genera sobre todas las acciones que realizan los agentes durante las simulaciones. Proponemos el uso de técnicas de XAI inherentemente interpretables, en particular técnicas de SD [Klö96, Wro97], para extraer reglas interesantes e interpretables a partir de las salidas a nivel micro de las simulaciones de ABM. Su finalidad es descubrir conocimiento valioso sobre el comportamiento de los agentes, sus interacciones y las dinámicas globales del sistema que ayude a los stakeholders en su proceso de toma de decisiones. Para ello, proponemos una metodología genérica aplicable a cualquier modelo basado en agentes adecuadamente calibrado y validado. La metodología consta de los siguientes pasos: preprocesamiento de datos, extracción de reglas mediante la aplicación de algoritmo de SD, filtrado de reglas y visualización de las mismas. Además, se incorpora durante el proceso el feedback u opinión de un experto en el área. Mostramos la eficacia de la metodología propuesta a través de un caso de estudio en el área de marketing, analizando la integración de diferentes algoritmos de SD (concretamente, SDMap [AP06], FuGePSD [CRRdJ+15] y NMEEFSD [CGdJH10]). Además, estudiamos el conjunto de reglas obtenidas para una instancia concreta del caso de estudio desde la perspectiva de un experto en el área con el objetivo de validar la metodología propuesta. Se observa cómo las reglas pueden ser fácilmente comprendidas y proporcionar conocimiento útil sobre las dinámicas de comportamiento del consumidor. Focalización de micropolíticas de incentivos para la adopción de tecnologías verdes con ABM. En esta última contribución se propone el diseño y aplicación de políticas de incentivos a nivel micro dirigidas a un subconjunto de la población para fomentar la adopción de tecnologías sostenibles, en particular, tecnologías de propulsión eólica en la industria marítima. Nuestra propuesta se centra en la evaluación de la efectividad de las estrategias propuestas usando ABM, donde los agentes representan embarcaciones. Proponemos un modelo en tres fases: una fase previa de selección de individuos a los que dirigir los incentivos, fase de conocimiento de la tecnología y fase de adopción. Una vez que los agentes conocen la tecnología, deciden si adoptarla o no teniendo en cuenta factores económicos y sociales. Diseñamos ocho políticas de incentivos, considerando diferentes atributos de las embarcaciones (edad, consumo de energía y conectividad dentro de la red) para identificar a los agentes clave a los que dirigir los incentivos. Se realizan experimentos en diferentes escenarios comparando las tasas de adopción de la tecnología para distintas políticas de focalización (es decir, estrategias dirigidas a individuos específicos) y con la estrategia de referencia en la que los incentivos se distribuyen de manera uniforme entre toda la población. Además, se integran estrategias XAI post-hoc de visualización (concretamente, curvas S-ICE [BPR+22] y PDP [Fri01]) para evaluar los impactos potenciales bajo diversos escenarios (incluyendo variaciones en los precios del combustible, la densidad de la red social, las distancias de navegación, la cantidad de incentivos y el porcentaje de embarcaciones seleccionadas) y mejorar así la comprensión de la relación entre diferentes escenarios, políticas y salidas del modelo. Este análisis proporciona un conocimiento fundamental para la planificación y optimización de estrategias.Conclusiones y trabajos futuros Los tres objetivos planteados en esta tesis se han abordado de manera exitosa. La revisión de la literatura constituye un punto de partida sólido, ya que explora en profundidad el uso del ABM, su aplicación práctica y problemas abordados en el área del marketing. Destaca un incremento de las publicaciones sobre el uso del ABM en marketing desde el año 2000, mostrando una participación significativa de países como Estados Unidos y más recientemente España y Australia. Además, se sugiere que la colaboración entre grupos de coautoría podría ser mayor. Se realiza un análisis detallado de los modelos basados en agentes en marketing, destacando la prevalencia de modelos de difusión y redes sociales, y la variabilidad en los objetivos de los estudios, destacando la extensiva investigación sobre el efecto de la topología y la heterogeneidad del consumidor en la difusión de innovaciones. En la segunda contribución, se desarrolla una metodología de XAI para mejorar la interpretación de los resultados de las simulaciones de ABM. La metodología propuesta demuestra ser sencilla y efectiva, facilitando la comprensión de las salidas de los modelos, como ilustra el caso de estudio en marketing. El mecanismo de filtrado funciona bien, asegurando que retenemos las reglas más significativas y fiables, a la vez que hace el análisis más interpretable. La visualización también enriquece la interpretación, presentando las reglas en un formato claro y accesible. La comparación entre algoritmos de SD es compleja. Aunque SDMap resulta el más ventajoso en nuestro caso de estudio, se reconoce que otros algoritmos, como FuGePSD o NMEEFSD, pueden ser más adecuados en diferentes contextos. Desde la perspectiva de marketing, las reglas extraídas proporcionan una comprensión más profunda del comportamiento del consumidor, de sus interacciones y las dinámicas del mercado. Los hallazgos de este análisis refuerzan la importancia de las interacciones word-of-mouth o boca a boca en las decisiones de compra, muestran la efectividad de los distintos canales de marketing y ayudan a identificar grupos de clientes objetivo y potenciales áreas de oportunidad. La tercera contribución se centra en el diseño de políticas de focalización mediante el uso de ABM para impulsar la adopción de tecnologías sostenibles en la industria marítima. Los resultados demuestran que dirigir los incentivos a un subgrupo de embarcaciones es más efectivo que dirigirlos a toda la población. Es esencial elegir estratégicamente qué embarcaciones serán las destinatarias de estos incentivos, siendo criterios como el grado y el consumo energético los más determinantes, dependiendo del presupuesto total. Además, se consigue una comprensión más profunda de la relación entre políticas, escenarios y salidas del modelo, lo que facilita una planificación de políticas más efectiva. Por ejemplo, mediante la identificación de puntos de saturación, se garantiza que los subsidios no sean demasiado bajos para ser ineficaces ni demasiado altos como para desperdiciar recursos. Las contribuciones realizadas aportan innovación al campo de investigación mejorando la literatura ya existente al mismo tiempo que abren líneas de investigación futuras. En la primera contribución, surgen líneas de trabajos futuros relacionadas con algunas de las limitaciones actuales del ABM: se sugiere la integración de técnicas de big data con simulaciones a gran escala para paliar la limitación de rendimiento y, por otra parte, se destaca la necesidad de desarrollar estándares de validación más robustos así como la publicación de código abierto y prototipos funcionales. Respecto a la segunda contribución, se plantea aplicar la metodología a modelos en diferentes áreas, como la adopción de tecnologías sostenibles, y explorar nuevas formas de análisis como las relaciones causales y el uso de otros algoritmos de XAI. Finalmente, en la tercera contribución, se propone investigar cómo diferentes niveles de subsidios afectan la adopción de tecnologías, y el uso de algoritmos de optimización para maximizar la tasa de adopción en la industria marítima.

Agent-Based Modeling (ABM) is a well-known tool for modeling and simulating complex systems through a population of autonomous entities, known as agents. Widely applied in different areas such as economics, sociology, and epidemiology, ABM is particularly effective in marketing for simulating real markets, capturing the heterogeneity of various participants, and adapting to dynamic environments. Its applicability also extends to the adoption of sustainable technologies, facilitating the simulation of market penetration and interactions among different stakeholders. ABM allows for the definition of hypothetical scenarios and the evaluation of different strategies, making it a good decision support system. For effective use, it is necessary that these models are properly calibrated and validated, and that they offer a high level of transparency. Although they are white-box approaches, the complexity of the systems they model and the volume of their outputs often require an additional layer of explainability. Increasing the transparency of these models and their solutions will allow us not only to learn from the system but also to improve communication with different audiences, increase their credibility and trust, and facilitate decision-making by stakeholders. Improving the understanding of these models can provide valuable findings to choose the most effective actions in different scenarios, ensuring a positive and real impact on strategic decision-making. In recent years, the area of eXplainable Artificial Intelligence (XAI) has gained prominence with the aim of making artificial intelligence systems more understandable and transparent without sacrificing performance. Integrating XAI techniques with ABM can contribute to improving the understanding of both the outputs and the agent-based models. The central axis of this PhD thesis is the development and application of a multidisciplinary approach that integrates ABM and XAI techniques to obtain comprehensible information from ABM simulations, thus deepening the understanding of agent behavior and improving decision-making in the field of marketing. This PhD thesis is structured into three distinct core sections, each related to a subobjective of the thesis. The first contribution conducts a bibliometric analysis of ABM literature in marketing since 2000, providing both a performance and a science mapping analysis. The performance analysis explores highly cited articles, researchers, and geographical features, highlighting a growing research interest in this area. The science mapping analysis examines the relationships between words, authors, and citations of the literature. Moreover, this contribution includes a comprehensive reference table characterizing the agent-based models collected by their main goals and features, like the use of diffusion models, social networks, or real-data validation. We observe the prevalence of diffusion models and social networks, and the variability in the studies’ goals, particularly noting extensive research into the effects of topology and consumer heterogeneity on the diffusion of innovations. The second contribution addresses the explainability of ABM outputs by applying XAI techniques, particularly Subgroup Discovery (SD). We propose a methodology based on applying SD to ABM to gain deep insight into the agents’ behavior, their interactions, and the overall system dynamics in order the human expert can design optimal behavior-based policies. This methodology is generic and applicable to the outputs of any properly calibrated and validated agent-based model. We show the effectiveness of our methodology through a case study in the marketing area, analyzing the integration of different SD algorithms. We study the obtained set of rules from the viewpoint of a marketing expert, with the aim of validating the proposed methodology. The results show that our methodology can provide a deeper understanding of consumer behavior and market dynamics, delivering potential areas of opportunity for marketers. The final contribution of this PhD thesis proposes and evaluates micro-targeting incentive policies using ABM to promote the adoption of wind propulsion technologies within the maritime industry. Our proposal is to engineer micro-level incentives to target a reduced set of adopters to optimize subsidies while encouraging ship-owners adoption. The agent-based model employs a three-phase process, influenced by technology awareness, economic factors, and networking. Experiments under different scenarios robustly analyze targeting policies and their impact on adoption rates. Additionally, post-hoc XAI visualization strategies are integrated to evaluate potential impacts under different scenarios, providing a deeper understanding of how targeting policies behave. Our findings reveal that targeted incentives significantly improve adoption compared to a uniform distribution. The most effective targeting policies are those that select receptors based on their social activity and energy consumption, although the available budget affects the selection of criteria. This PhD thesis enriches the existing literature and opens new paths for future work. The first contribution identifies future research opportunities to overcome current ABM limitations by integrating big data techniques with large-scale simulations to enhance performance. It also highlights the need for more robust validation standards and the publication of open-source code and functional prototypes. The second contribution suggests extending the XAI methodology to models in various domains, such as green technology adoption, and exploring new analytical approaches like causal relationships or different XAI algorithms. Finally, the third contribution proposes investigating the impact of using different subsidy levels and employing optimization algorithms to maximize adoption rates of green technologies in the maritime industry.