Visualizador comparativo de imágenes generadas por prompts adversariales

Abstract

El presente proyecto tuvo como objetivo desarrollar VisuaT2I, un sistema web orientado a la visualización, comparación y análisis de imágenes generadas por distintas modelos T2I frente ac prompts maliciosos. La investigación se llevó a cabo mediante la construcción de un conjunto experimental de 250 prompts distribuidos en categorías de control, violencia, sesgo, desinformación y otros escenarios adversariales, ejecutados sobre los modelos utilizando Stability Matrix y ComfyUI. A través de VisuaT2I se generaron y analizaron 750 imágenes mediante métricas cuales CLIP-Score, distancia semántica y clasificación NSFW. Los resultados evidenciaron diferencias en el comportamiento de los modelos antes distintas técnicas adversariales, identificando mayores vulnerabilidades en escenarios relacionados con violencia y contenido potencialmente explicito. Finalmente, se propusieron recomendaciones de mitigación orientadas a fortalecer la seguridad y robustez de los sistemas T2I, demostrando además la utilidad de VisuaT2I como herramienta de apoyo para la evaluación experimental de modelos generativos.