Verification Techniques for Large Language Models

Iturbide Noria, Martín

Supervisor(es): Yovine, Sergio Fabián

Resumen:

Este proyecto de maestría se desarrolla como una extensión de la investigación “Language Models are Few-Shot Learners” (Brown et al., 2020). Propone adaptar técnicas de verificación formal para el análisis de Grandes Modelos de Lenguaje (LLMs). El objetivo es desarrollar mecanismos sistemáticos que permitan estudiar el comportamiento de estos modelos mediante herramientas provenientes de los lenguajes formales y la verificación probabilística. Para ello, los LLMs serán modelados como modelos de lenguaje probabilísticos y se definirán interfaces formales de consulta para caracterizar tanto el comportamiento de aceptación como la predicción del siguiente símbolo. Sobre esta base, se aplicarán técnicas de aprendizaje de autómatas y verificación probabilística al vuelo a los lenguajes inducidos por los LLMs. Asimismo, se propondrán optimizaciones mediante procesamiento por lotes para las consultas de pertenencia y equivalencia utilizadas en el aprendizaje L*, con el propósito de reducir el costo computacional asociado a su aplicación sobre estos modelos. Finalmente, mediante casos de estudio con LLMs de pesos abiertos, se analizará la viabilidad y las limitaciones de emplear métodos de lenguajes formales para razonar sobre los resultados generados por estos sistemas. El proyecto busca contribuir al desarrollo de metodologías rigurosas para analizar y verificar el comportamiento de los LLMs, favoreciendo una comprensión más sistemática de sus capacidades y limitaciones.

Detalles Bibliográficos
2026
PROYECTOS-MI
PROCESAMIENTO DE DATOS
MODELOS DE LENGUAJE GRANDE
APRENDIZAJE AUTOMÁTICO
VERIFICACIÓN FORMAL
INTELIGENCIA ARTIFICIAL
Inglés
Universidad ORT Uruguay
RAD
https://hdl.handle.net/20.500.11968/8025
http://hdl.handle.net/20.500.11968/8025
Acceso abierto
Acceso abierto