Evaluación de las principales vulnerabilidades de seguridad y estrategias de protección en aplicaciones de grandes modelos de lenguaje (LLMs)
No Thumbnail Available
Date
2024-09-24
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Los grandes modelos de lenguaje (LLMs) han cambiado significativamente el campo del procesamiento del lenguaje natural (PNL) y la inteligencia artificial (IA). Modelos como GPT-3 y Gemini han demostrado una gran capacidad para comprender y generar lenguaje humano, lo que ha impulsado cambios en el uso de diversas aplicaciones tecnológicas. Sin embargo, la rápida adopción de estos LLMs ha expuesto vulnerabilidades en materia de seguridad y privacidad. Esta tesis se centró en la identificar y analizar de las vulnerabilidades de seguridad identificadas por el proyecto abierto de seguridad de aplicaciones web (OWASP), adicionalmente esta investigación se apoya en estudios recientes y casos prácticos de seguridad en modelos LLMs que se encuentran debidamente documentados en la literatura, además, sé ilustran cómo estas vulnerabilidades pueden ser explotadas y cuales pueden aplicarse para proteger aplicaciones que integren LLMs. Así, se ofrece una visión más detallada de los desafíos de seguridad y se proponen estrategias para abordarlos, con el objetivo de hacer estos sistemas más seguros y confiables. La metodología se basa en la revisión de literatura y la interacción con aplicaciones prácticas, sin recurrir a simulaciones ni experimentación directa. A partir de este análisis, se formulan estrategias de mitigación particulares para cada vulnerabilidad detectada. Por lo tanto, la investigación contribuye a entender mejor los peligros de los LLMs y proponer medidas de mitigación, en línea con las directrices de OWASP.
Description
Esta tesis se enfoca en el análisis de las vulnerabilidades de seguridad en la adopción de grandes modelos de lenguaje (LLMs) y la propuesta de estrategias de mitigación. Se basa en el marco de referencia de OWASP (Open Web Application Security Project), específicamente en su lista "Top 10 for Large Language Model Applications". El estudio identifica cuatro vulnerabilidades críticas: Prompt Injection, Sensitive Information Disclosure, Supply Chain y System Prompt Leakage. A través de una metodología exploratoria y descriptiva que combina revisión de literatura y demostraciones prácticas con herramientas como ChatGPT y Gemini, se ilustra cómo estas vulnerabilidades pueden ser explotadas (incluyendo técnicas como Jailbreaking e inyección de código malicioso vía QR). Finalmente, se proponen estrategias de mitigación específicas para cada riesgo, alineadas con las directrices de OWASP y buenas prácticas de seguridad en IA, con el objetivo de contribuir a un uso más seguro y responsable de esta tecnología emergente.
Keywords
Citation
Paz C y Molina F.