Browsing by Author "Carlos Sebastián Paz Aupaz y Franklin Andres Molina Calpa"

Now showing 1 - 1 of 1
  • No Thumbnail Available
    Item
    Evaluación de las principales vulnerabilidades de seguridad y estrategias de protección en aplicaciones de grandes modelos de lenguaje (LLMs)
    (2024-09-24) Carlos Sebastián Paz Aupaz y Franklin Andres Molina Calpa
    Los grandes modelos de lenguaje (LLMs) han cambiado significativamente el campo del procesamiento del lenguaje natural (PNL) y la inteligencia artificial (IA). Modelos como GPT-3 y Gemini han demostrado una gran capacidad para comprender y generar lenguaje humano, lo que ha impulsado cambios en el uso de diversas aplicaciones tecnológicas. Sin embargo, la rápida adopción de estos LLMs ha expuesto vulnerabilidades en materia de seguridad y privacidad. Esta tesis se centró en la identificar y analizar de las vulnerabilidades de seguridad identificadas por el proyecto abierto de seguridad de aplicaciones web (OWASP), adicionalmente esta investigación se apoya en estudios recientes y casos prácticos de seguridad en modelos LLMs que se encuentran debidamente documentados en la literatura, además, sé ilustran cómo estas vulnerabilidades pueden ser explotadas y cuales pueden aplicarse para proteger aplicaciones que integren LLMs. Así, se ofrece una visión más detallada de los desafíos de seguridad y se proponen estrategias para abordarlos, con el objetivo de hacer estos sistemas más seguros y confiables. La metodología se basa en la revisión de literatura y la interacción con aplicaciones prácticas, sin recurrir a simulaciones ni experimentación directa. A partir de este análisis, se formulan estrategias de mitigación particulares para cada vulnerabilidad detectada. Por lo tanto, la investigación contribuye a entender mejor los peligros de los LLMs y proponer medidas de mitigación, en línea con las directrices de OWASP.