La IA explicable (Explainable AI (XAI)) ofrece a los usuarios información sobre el porqué de las predicciones de los modelos, lo que les permite comprender mejor y confiar en un modelo, así como reconocer y corregir las predicciones incorrectas de la IA (Does Explainable Artificial Intelligence Improve Human Decision-Making?). Por otro lado,  los grandes modelos lingüísticos (LLM) han demostrado una impresionante capacidad para aprovechar el lenguaje natural para realizar tareas complejas, por ejemplo, encontrar y explicar patrones en los datos (Explaining Patterns in Data with Language Models via Interpretable Autoprompting).

El objetivo de este proyecto es juntar ambas áreas y aprovechar el poder de los LLM para explicar las decisiones de modelos en tareas de predicción y clasificación. Se espera generar un framework para entrenar un LLM con datos de un modelo de clasificación/predicción para generar explicaciones en lenguaje natural de los modelos y probar experimentalmente si esto ayuda a mejorar la toma de decisiones en una serie de tareas.