Evaluación de las principales vulnerabilidades de seguridad y estrategias de protección en aplicaciones de grandes modelos de lenguaje (LLMs)
| dc.contributor.author | Carlos Sebastián Paz Aupaz & Franklin Andres Molina Calpa | |
| dc.date.accessioned | 2026-09-29T02:49:54Z | |
| dc.date.available | 2026-09-29T02:49:54Z | |
| dc.date.issued | 2024-09-24 | |
| dc.description | Los grandes modelos de lenguaje (LLMs) han cambiado significativamente el campo del procesamiento del lenguaje natural (PNL) y la inteligencia artificial (IA). Modelos como GPT-3 y Gemini han demostrado una gran capacidad para comprender y generar lenguaje humano, lo que ha impulsado cambios en el uso de diversas aplicaciones tecnológicas. Sin embargo, la rápida adopción de estos LLMs ha expuesto vulnerabilidades en materia de seguridad y privacidad. Esta tesis se centró en identificar y analizar las vulnerabilidades de seguridad identificadas por el proyecto abierto de seguridad de aplicaciones web (OWASP); adicionalmente, se apoya en estudios recientes y casos prácticos de seguridad en modelos LLMs documentados en la literatura. Se ilustra cómo estas vulnerabilidades pueden ser explotadas y qué medidas pueden aplicarse para proteger aplicaciones que integren LLMs, ofreciendo una visión detallada de los desafíos y proponiendo estrategias para abordarlos. La metodología se basa en la revisión de literatura y la interacción con aplicaciones prácticas (evaluando específicamente vulnerabilidades como Prompt Injection, Sensitive Information Disclosure, Supply Chain y System Prompt Leakage), sin recurrir a simulaciones ni experimentación directa. A partir de este análisis, se formulan estrategias de mitigación particulares para cada vulnerabilidad detectada en línea con las directrices de OWASP. | |
| dc.description.abstract | Large language models (LLMs) have significantly changed the field of natural language processing (NLP) and artificial intelligence (AI). Models such as GPT-3 and Gemini have demonstrated a strong ability to understand and generate human language, which has driven changes in the use of various technology applications. However, the rapid adoption of these LLMs has exposed security and privacy vulnerabilities. This thesis focused on the assessment and analysis of security vulnerabilities identified by the Open Web Application Security Project (OWASP). The research is supported by recent studies and case studies documented in the literature, which illustrate how these vulnerabilities can be exploited and what measures can be applied to protect applications integrating LLMs. It provides a more detailed view of the security challenges and proposes strategies to address them, with the aim of making these systems more secure and reliable. The methodology is based on literature review and interaction with practical applications, without resorting to simulations or direct experimentation. From this analysis, particular mitigation strategies are formulated for each identified vulnerability. The research thus contributes to a better understanding of the dangers of LLMs and proposes practical measures to safeguard them, in line with OWASP guidelines. Patrocinadores: No aplica / No se especifican patrocinadores externos (el apoyo académico y de recursos fue provisto por el Instituto Tecnológico del Putumayo). | |
| dc.identifier.citation | Paz Aupaz, C. S., & Molina Calpa, F. A. | |
| dc.identifier.uri | https://repositorio.itp.edu.co/handle/123456789/462 | |
| dc.language.iso | es | |
| dc.relation.ispartofseries | EMR; 6 | |
| dc.title | Evaluación de las principales vulnerabilidades de seguridad y estrategias de protección en aplicaciones de grandes modelos de lenguaje (LLMs) | |
| dc.type | Thesis |