Ítem
Acceso Abierto

Toward Privacy Protection in Data Flows Exchanged with a Large Language Model (LLM)

Mostrar el registro sencillo de la publicación
dc.coverage.spatialBogotá, Colombia
dc.creatorOcampo, Danna
dc.creatorBonilla, Sofia
dc.creatorDíaz López, Daniel Orlando
dc.creatorWightman, Pedro
dc.date.accessioned2026-08-10T14:35:33Z
dc.date.available2026-08-10T14:35:33Z
dc.date.created2024-11-20
dc.descriptionEste trabajo propone una arquitectura para fortalecer la privacidad de los datos intercambiados con modelos de lenguaje de gran escala (LLM). La solución aborda riesgos como la exposición de información sensible, la inyección maliciosa de prompts y la escalación de privilegios mediante un esquema bidireccional de detección y anonimización. Antes de enviar información al LLM, el sistema identifica y ofusca datos sensibles; posteriormente, analiza las respuestas generadas para prevenir filtraciones hacia el usuario. La propuesta integra técnicas de procesamiento de lenguaje natural, expresiones regulares, DistilBERT y modelos de detección de objetos como YOLOv8. Los experimentos consideran información textual e imágenes sensibles en escenarios usuario–LLM y LLM–usuario. Los resultados sugieren que la combinación de detección, anonimización, cifrado y control de acceso puede mejorar la privacidad sin comprometer significativamente la funcionalidad del modelo.
dc.description.abstractThis work proposes an architecture to strengthen the privacy of data exchanged with Large Language Models (LLMs). The solution addresses risks such as sensitive information exposure, malicious prompt injection, and privilege escalation through a bidirectional detection and anonymization scheme. Before information is sent to the LLM, the system identifies and obfuscates sensitive data; subsequently, generated responses are analyzed to prevent information leakage to the user. The approach integrates natural language processing techniques, regular expressions, DistilBERT, and object detection models such as YOLOv8. Experiments consider sensitive textual and visual information in both user-to-LLM and LLM-to-user scenarios. Results suggest that combining detection, anonymization, encryption, and access-control mechanisms can enhance data privacy while preserving the functional capabilities of the language model.
dc.format.extent1 pp
dc.format.mimetypeapplication/pdf
dc.identifier.doihttps://doi.org/10.48713/10336_48305
dc.identifier.urihttps://repository.urosario.edu.co/handle/10336/48305
dc.language.isoeng
dc.publisherUniversidad del Rosario
dc.publisher.departmentEscuela de Ingeniería, Ciencia y Tecnología
dc.publisher.programMaestría en Matemáticas Aplicadas y Ciencias de la Computación
dc.relation.ispartof5ta Jornada de Ciberseguridad de la Universidad Nacional de Colombia (JCUN)
dc.rightsAttribution-NonCommercial-ShareAlike 4.0 International*
dc.rights.accesRightsinfo:eu-repo/semantics/openAccess
dc.rights.accesoAbierto (Texto Completo)
dc.rights.urihttp://creativecommons.org/licenses/by-nc-sa/4.0/*
dc.source.bibliographicCitationH. Felipe. C. Talciani, «Configuración jurídica del derecho a la privacidad II : : concepto y delimitación.», Revista Chilena de Derecho, vol. 27, n.o 2, pp. 331-355, ene. 2000, [Online]. https://dialnet.unirioja.es/descarga/articulo/2650218.pdf
dc.source.bibliographicCitationH. Li et al., «Privacy in Large Language Models: Attacks, Defenses and Future Directions», arXiv.org, 16 de octubre de 2023. https://arxiv.org/abs/2310.10383
dc.source.bibliographicCitationT. B. Brown et al., «Language Models are Few-Shot Learners», arXiv.org, 28 de mayo de 2020. https://arxiv.org/abs/2005.14165
dc.source.instnameinstname:Universidad del Rosario
dc.source.reponamereponame:Repositorio Institucional EdocUR
dc.subjectPrivacidad
dc.subjectModelos de lenguaje de gran escala (LLM)
dc.subjectAnonimización
dc.subjectOfuscamiento
dc.subject.keywordPrivacy
dc.subject.keywordLarge Language Models (LLMs)
dc.subject.keywordAnonymization
dc.subject.keywordObfuscation
dc.titleToward Privacy Protection in Data Flows Exchanged with a Large Language Model (LLM)
dc.title.TranslatedTitleHacia la Protección de la Privacidad en el Intercambio de Datos con un Modelo de Lenguaje Extenso (LLM)
dc.typeconferencePoster
dc.type.hasVersioninfo:eu-repo/semantics/acceptedVersion
dc.type.spaPoster
local.department.reportEscuela de Ciencias e Ingeniería
Archivos
Bloque original
Mostrando1 - 1 de 1
Miniatura
Nombre:
Toward_Privacy_Protection_in_Data_Flows_Exchanged_17_JCUN_2024-poster_MSc_MACC.pdf
Tamaño:
996.6 KB
Formato:
Adobe Portable Document Format
Descripción:
Descargar
Colecciones
Otros productos de investigación