Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection

Martínez Varsi, Nicolás

Resumen:

El siguiente desarrollo de tesis presenta la discusión y comparación de diferentes enfoques y redes neuronales para la clasificación de secuencias, en el contexto de detección de ataques en servicios web. El primer enfoque para la detección de ataques con clasificación de logs, es crear modelos de clasificación basados en caracteres. El segundo enfoque crea modelos de lenguaje que predicen la probabilidad del siguiente carácter en una secuencia, que en conjunto con una técnica de cálculo de umbrales para las probabilidades, clasifican los logs para detectar ataques. Ambos enfoques fueron trabajados con redes neuronales de tipo LSTM, así como también con redes neuronales Transformer. Las redes Transformer han tenido buenos resultados en sistemas de traducción de máquina y en problemas similares en cuanto a procesamiento de lenguaje natural, pero no ha sido explorado su uso en detección de ataques en base a logs. Para presentar las comparaciones de enfoques y redes neuronales, se realizó un análisis del estado del arte, de los enfoques a aplicar y se realizaron múltiples experimentos. Estos experimentos implicaron el desarrollo de códigos para el análisis, transformación y preparación de los “data sets”, así como el entrenamiento y evaluación de los modelos y clasificaciones. Finalmente se plantean conclusiones sobre el uso de cada enfoque y red neuronal, así como el planteo de futuros trabajos que puedan mejorar y responder cuestiones encontradas en el proyecto.


Detalles Bibliográficos
2022
PROYECTOS-MI
APRENDIZAJE PROFUNDO
DESARROLLO DE SOFTWARE
APRENDIZAJE AUTOMÁTICO
SEGURIDAD INFORMÁTICA
REDES NEURONALES
Inglés
Universidad ORT Uruguay
RAD
http://hdl.handle.net/20.500.11968/4834
Acceso abierto
_version_ 1807261360825827328
author Martínez Varsi, Nicolás
author_facet Martínez Varsi, Nicolás
author_role author
bitstream.checksum.fl_str_mv d06009fd8843d14ec572ed344f7a8403
24905e13fa71951d5c65627980ab6481
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
bitstream.url.fl_str_mv https://rad.ort.edu.uy/bitstreams/21f9bc9f-272a-48c4-9add-116bd48be590/download
https://rad.ort.edu.uy/bitstreams/37257653-8607-4553-906b-270f75844559/download
collection RAD
dc.contributor.advisor.none.fl_str_mv Yovine, Sergio Fabián
dc.contributor.tribunal.none.fl_str_mv Thao Dang
Mayr Ojeda, Franz
dc.creator.none.fl_str_mv Martínez Varsi, Nicolás
dc.date.issued.none.fl_str_mv 2022
dc.description.abstract.none.fl_txt_mv El siguiente desarrollo de tesis presenta la discusión y comparación de diferentes enfoques y redes neuronales para la clasificación de secuencias, en el contexto de detección de ataques en servicios web. El primer enfoque para la detección de ataques con clasificación de logs, es crear modelos de clasificación basados en caracteres. El segundo enfoque crea modelos de lenguaje que predicen la probabilidad del siguiente carácter en una secuencia, que en conjunto con una técnica de cálculo de umbrales para las probabilidades, clasifican los logs para detectar ataques. Ambos enfoques fueron trabajados con redes neuronales de tipo LSTM, así como también con redes neuronales Transformer. Las redes Transformer han tenido buenos resultados en sistemas de traducción de máquina y en problemas similares en cuanto a procesamiento de lenguaje natural, pero no ha sido explorado su uso en detección de ataques en base a logs. Para presentar las comparaciones de enfoques y redes neuronales, se realizó un análisis del estado del arte, de los enfoques a aplicar y se realizaron múltiples experimentos. Estos experimentos implicaron el desarrollo de códigos para el análisis, transformación y preparación de los “data sets”, así como el entrenamiento y evaluación de los modelos y clasificaciones. Finalmente se plantean conclusiones sobre el uso de cada enfoque y red neuronal, así como el planteo de futuros trabajos que puedan mejorar y responder cuestiones encontradas en el proyecto.
dc.description.none.fl_txt_mv Incluye bibliografía y anexos.
dc.format.extent.none.fl_str_mv 49 p. tbls., diagrs., grafs.
dc.identifier.citation.none.fl_str_mv Martínez Varsi, N. (2022). Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection (Desarrollo de Tesis). Universidad ORT Uruguay, Facultad de Ingeniería.
dc.identifier.uri.none.fl_str_mv http://hdl.handle.net/20.500.11968/4834
dc.language.iso.none.fl_str_mv Inglés.
eng
dc.publisher.none.fl_str_mv Universidad ORT Uruguay
dc.relation.other.none.fl_str_mv https://sisbibliotecas.ort.edu.uy/bib/93840
dc.rights.none.fl_str_mv info:eu-repo/semantics/openAccess
dc.source.none.fl_str_mv reponame:RAD
instname:Universidad ORT Uruguay
instacron:Universidad ORT
dc.subject.none.fl_str_mv PROYECTOS-MI
APRENDIZAJE PROFUNDO
DESARROLLO DE SOFTWARE
APRENDIZAJE AUTOMÁTICO
SEGURIDAD INFORMÁTICA
REDES NEURONALES
dc.title.none.fl_str_mv Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
dc.type.none.fl_str_mv Trabajo final de carrera
info:eu-repo/semantics/bachelorThesis
dc.type.version.none.fl_str_mv info:eu-repo/semantics/publishedVersion
description Incluye bibliografía y anexos.
eu_rights_str_mv openAccess
format bachelorThesis
id RAD_e4592d5bf16d69f42eaadb52d7feb3a9
identifier_str_mv Martínez Varsi, N. (2022). Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection (Desarrollo de Tesis). Universidad ORT Uruguay, Facultad de Ingeniería.
instacron_str Universidad ORT
institution Universidad ORT
instname_str Universidad ORT Uruguay
language eng
language_invalid_str_mv Inglés.
network_acronym_str RAD
network_name_str RAD
oai_identifier_str oai:rad.ort.edu.uy:20.500.11968/4834
publishDate 2022
publisher.none.fl_str_mv Universidad ORT Uruguay
reponame_str RAD
repository.mail.fl_str_mv rodriguez_v@ort.edu.uy
repository.name.fl_str_mv RAD - Universidad ORT Uruguay
repository_id_str 3927
spelling Yovine, Sergio FabiánThao DangMayr Ojeda, FranzMartínez Varsi, Nicolás2022Incluye bibliografía y anexos.El siguiente desarrollo de tesis presenta la discusión y comparación de diferentes enfoques y redes neuronales para la clasificación de secuencias, en el contexto de detección de ataques en servicios web. El primer enfoque para la detección de ataques con clasificación de logs, es crear modelos de clasificación basados en caracteres. El segundo enfoque crea modelos de lenguaje que predicen la probabilidad del siguiente carácter en una secuencia, que en conjunto con una técnica de cálculo de umbrales para las probabilidades, clasifican los logs para detectar ataques. Ambos enfoques fueron trabajados con redes neuronales de tipo LSTM, así como también con redes neuronales Transformer. Las redes Transformer han tenido buenos resultados en sistemas de traducción de máquina y en problemas similares en cuanto a procesamiento de lenguaje natural, pero no ha sido explorado su uso en detección de ataques en base a logs. Para presentar las comparaciones de enfoques y redes neuronales, se realizó un análisis del estado del arte, de los enfoques a aplicar y se realizaron múltiples experimentos. Estos experimentos implicaron el desarrollo de códigos para el análisis, transformación y preparación de los “data sets”, así como el entrenamiento y evaluación de los modelos y clasificaciones. Finalmente se plantean conclusiones sobre el uso de cada enfoque y red neuronal, así como el planteo de futuros trabajos que puedan mejorar y responder cuestiones encontradas en el proyecto.49 p. tbls., diagrs., grafs.Martínez Varsi, N. (2022). Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection (Desarrollo de Tesis). Universidad ORT Uruguay, Facultad de Ingeniería.http://hdl.handle.net/20.500.11968/4834Inglés.engUniversidad ORT Uruguayhttps://sisbibliotecas.ort.edu.uy/bib/93840PROYECTOS-MIAPRENDIZAJE PROFUNDODESARROLLO DE SOFTWAREAPRENDIZAJE AUTOMÁTICOSEGURIDAD INFORMÁTICAREDES NEURONALESComparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detectionTrabajo final de carrerainfo:eu-repo/semantics/bachelorThesisinfo:eu-repo/semantics/publishedVersionreponame:RADinstname:Universidad ORT Uruguayinstacron:Universidad ORTinfo:eu-repo/semantics/openAccessFI - Master en Ingeniería - MIFacultad de IngenieríaMasterMaster en IngenieríaDesarrollo de TesisDesarrollo de Tesis (Master). Universidad ORT Uruguay, Facultad de IngenieríaTHUMBNAILMaterial completo.pdf.jpgMaterial completo.pdf.jpgGenerated Thumbnailimage/jpeg3848https://rad.ort.edu.uy/bitstreams/21f9bc9f-272a-48c4-9add-116bd48be590/downloadd06009fd8843d14ec572ed344f7a8403MD53ORIGINALMaterial completo.pdfMaterial completo.pdfdescriptionapplication/pdf2065818https://rad.ort.edu.uy/bitstreams/37257653-8607-4553-906b-270f75844559/download24905e13fa71951d5c65627980ab6481MD5120.500.11968/48342024-07-22 15:56:45.021oai:rad.ort.edu.uy:20.500.11968/4834https://rad.ort.edu.uyUniversidadhttps://www.ort.edu.uy/https://rad.ort.edu.uy/server/oai/requestrodriguez_v@ort.edu.uyUruguayopendoar:39272024-07-22T15:56:45RAD - Universidad ORT Uruguayfalse
spellingShingle Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
Martínez Varsi, Nicolás
PROYECTOS-MI
APRENDIZAJE PROFUNDO
DESARROLLO DE SOFTWARE
APRENDIZAJE AUTOMÁTICO
SEGURIDAD INFORMÁTICA
REDES NEURONALES
status_str publishedVersion
title Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
title_full Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
title_fullStr Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
title_full_unstemmed Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
title_short Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
title_sort Comparison of LSTM and Transformer Neural Network on multiple approaches for weblogs attack detection
topic PROYECTOS-MI
APRENDIZAJE PROFUNDO
DESARROLLO DE SOFTWARE
APRENDIZAJE AUTOMÁTICO
SEGURIDAD INFORMÁTICA
REDES NEURONALES
url http://hdl.handle.net/20.500.11968/4834