Otros productos de investigación

URI permanente para esta colección

Mostrando1 - 1 de 1

Acceso Abierto
Toward Privacy Protection in Data Flows Exchanged with a Large Language Model (LLM)
(2024-11-20) Ocampo, Danna; Bonilla, Sofia; Díaz López, Daniel Orlando; Wightman, Pedro
Este trabajo propone una arquitectura para fortalecer la privacidad de los datos intercambiados con modelos de lenguaje de gran escala (LLM). La solución aborda riesgos como la exposición de información sensible, la inyección maliciosa de prompts y la escalación de privilegios mediante un esquema bidireccional de detección y anonimización. Antes de enviar información al LLM, el sistema identifica y ofusca datos sensibles; posteriormente, analiza las respuestas generadas para prevenir filtraciones hacia el usuario. La propuesta integra técnicas de procesamiento de lenguaje natural, expresiones regulares, DistilBERT y modelos de detección de objetos como YOLOv8. Los experimentos consideran información textual e imágenes sensibles en escenarios usuario–LLM y LLM–usuario. Los resultados sugieren que la combinación de detección, anonimización, cifrado y control de acceso puede mejorar la privacidad sin comprometer significativamente la funcionalidad del modelo.