Guia | Coguia Externo | ||
---|---|---|---|
Áreas | Inteligencia artificial | ||
Sub Áreas | Procesamiento de lenguaje natural | ||
Estado | Disponible |
Los modelos de lenguaje generativos (IA generativa) son eficaces, pero aún presentan limitaciones en coherencia, explicabilidad y robustez para salud, ley y finanzas. Investigaremos context engineering (prompts + datos) para superar esas barreras sin re, entrenar el modelo y llevarlos con seguridad a producción. El objetivo de este proyecto es desarrollar métodos formales para verificar que sistemas de IA mantienen coherencia y operan dentro de límites seguros durante interacciones extendidas
Preguntas de Investigación:
- ¿Qué propiedades formales caracterizan la coherencia conversacional en dominios críticos?
- ¿Cómo verificar estas propiedades usando solo observaciones de entrada/salida?
Skills Mínimos: |
Skills Deseables: |
Lógica y matemática discreta (CC3101 o equivalente) Programación en Python Interés en sistemas formales |
Experiencia con model checking o theorem provers Conocimiento básico de LLMs/ChatGPT Inglés intermedio para lectura |