Sistema de clasificación de prompts evasivos y seguros usando procesamiento de lenguaje natural supervisado

Abstract

El presente proyecto desarrolló un sistema de clasificación supervisado para detectar prompts evasivos en modelos de lenguaje mediante procesamiento de lenguaje natural. Se construyó un dataset de 41.587 registros etiquetados como seguros y evasivos, obtenidos de fuentes públicas y generación sintética. Se entrenaron y compararon tres modelos: SVM, BERT y RoBERTa, aplicando una división estratificada 80/20 con balanceo exclusivo sobre el conjunto de entrenamiento. Los tres modelos superaron el 96% de precisión, siendo RoBERTa el seleccionado para el despliegue por su estabilidad y capacidad de generalización. El sistema fue implementado en un dashboard interactivo desarrollado en Flask e integrado mediante una extensión de navegador en la plataforma ChatGPT como capa de verificación previa al envío del prompt. Los resultados demuestran que los modelos transformers son eficaces para la detección preventiva de prompts adversarios en entornos conversacionales.