Control y monitoreo de propiedades de seguridad y privacidad de sistemas agénticos basados en grandes modelos de lenguaje
Supervisor(es): Yovine, Sergio Fabián
Resumen:
El presente proyecto aborda el desarrollo y evaluación de agentes basados en grandes modelos de lenguaje (LLM), con énfasis en la seguridad, privacidad y gobernanza de sus flujos de trabajo. Se propone un agente conversacional capaz de responder consultas en lenguaje natural sobre una base de datos hospitalaria con información sensible, mediante un flujo de estados explícito orientado a restringir y supervisar su comportamiento. Se desarrollan y comparan dos arquitecturas equivalentes: una implementación multiagente basada en LangGraph y una implementación monoagente que mantiene el mismo flujo, prompts y herramientas. El sistema incorpora mecanismos de gobernanza mediante nodos especializados basados en LLM. Should Block identifica y bloquea consultas que podrían exponer información identificable antes de generar el código SQL; Should Encrypt determina cuándo los resultados requieren protección mediante Order-Revealing Encryption (ORE); y el nodo final aplica privacidad diferencial a los valores numéricos antes de presentarlos al usuario. La propuesta busca así limitar tanto la información accesible para modelos externos como la expuesta al usuario, preservando la verificación de las consultas. La evaluación experimental compara ambas arquitecturas con distintos modelos y conjuntos de preguntas sintéticas, incluyendo escenarios de bloqueo, cifrado y pruebas de red team. Los resultados muestran precisión plena en la generación de SQL, mientras que las principales diferencias se concentran en los mecanismos de privacidad. La arquitectura monoagente presenta, en general, mejor alineación con los resultados esperados, aunque el desempeño depende del modelo y del nodo evaluado. Asimismo, el rendimiento global presenta limitaciones, ya que una buena exactitud agregada puede ocultar fallos de recall en subconjuntos críticos. Los resultados evidencian que un grafo de estados no garantiza por sí solo mayor seguridad.
| 2026 | |
|
PROYECTOS-MD INTELIGENCIA ARTIFICIAL-AGENTES MODELOS DE LENGUAJE GRANDE CONTROL SISTEMA DE MONITOREO |
|
| Español | |
| Universidad ORT Uruguay | |
| RAD | |
|
https://hdl.handle.net/20.500.11968/8022
http://hdl.handle.net/20.500.11968/8022 |
|
| Acceso abierto | |
| Acceso abierto |