Adversarial examples in neural networks - detection using auto-encoders

master
dc.abstract.enThe problem of neural networks' susceptibility to adversarial examples is still not well understood nor solved, which is one of the major threats to AI deployment in some applications, especially where AI agents have to be safe, secure, and predictable. This work describes a novel method for detecting adversarial examples, based on extracting certain information from neural network's activations using autoencoders. It shows promising experimental results and provides new insights into the nature and behavior of adversarial examples.pl
dc.abstract.plProblem podatności sieci neuronowych na przykłady adwersarialne wciąż jest nie do końca zrozumiany, ani rozwiązany, co jest jednym z głównych zagrożeń dla wykorzystania SI w niektórych dziedzinach, a szczególnie tam, gdzie SI musi być bezpieczna i przewidywalna. Poniższa praca opisuje nową metodę wykrywania przykładów adwersarialnych, bazującą na ekstrakcji pewnych informacji z aktywacji sieci neuronowej przy użyciu autoenkoderów. Praca prezentuje obiecujące wyniki eksperymentów oraz wgląd w naturę i zachowanie przykładów adwersarialnych.pl
dc.affiliationWydział Matematyki i Informatykipl
dc.areaobszar nauk ścisłychpl
dc.contributor.advisorSpurek, Przemysławpl
dc.contributor.authorKrzyżek, Tomaszpl
dc.contributor.departmentbycodeUJK/WMI2pl
dc.contributor.reviewerSpurek, Przemysławpl
dc.contributor.reviewerTabor, Jacek - 132362 pl
dc.date.accessioned2020-08-05T14:14:18Z
dc.date.available2020-08-05T14:14:18Z
dc.date.submitted2020-07-24pl
dc.fieldofstudynauczanie maszynowepl
dc.identifier.apddiploma-141404-197979pl
dc.identifier.projectAPD / Opl
dc.identifier.urihttps://ruj.uj.edu.pl/xmlui/handle/item/243546
dc.languageengpl
dc.subject.enartificial intelligence, machine learning, neural networks, adversarial examples, autoencoderpl
dc.subject.plsztuczna inteligencja, nauczanie maszynowe, sieci neuronowe, przykłady adwersarialne, autoenkoderpl
dc.titleAdversarial examples in neural networks - detection using auto-encoderspl
dc.title.alternativePrzykłady adwersarialne w sieciach neuronowych - detekcja przy użyciu auto-enkoderówpl
dc.typemasterpl
dspace.entity.typePublication
dc.abstract.enpl
The problem of neural networks' susceptibility to adversarial examples is still not well understood nor solved, which is one of the major threats to AI deployment in some applications, especially where AI agents have to be safe, secure, and predictable. This work describes a novel method for detecting adversarial examples, based on extracting certain information from neural network's activations using autoencoders. It shows promising experimental results and provides new insights into the nature and behavior of adversarial examples.
dc.abstract.plpl
Problem podatności sieci neuronowych na przykłady adwersarialne wciąż jest nie do końca zrozumiany, ani rozwiązany, co jest jednym z głównych zagrożeń dla wykorzystania SI w niektórych dziedzinach, a szczególnie tam, gdzie SI musi być bezpieczna i przewidywalna. Poniższa praca opisuje nową metodę wykrywania przykładów adwersarialnych, bazującą na ekstrakcji pewnych informacji z aktywacji sieci neuronowej przy użyciu autoenkoderów. Praca prezentuje obiecujące wyniki eksperymentów oraz wgląd w naturę i zachowanie przykładów adwersarialnych.
dc.affiliationpl
Wydział Matematyki i Informatyki
dc.areapl
obszar nauk ścisłych
dc.contributor.advisorpl
Spurek, Przemysław
dc.contributor.authorpl
Krzyżek, Tomasz
dc.contributor.departmentbycodepl
UJK/WMI2
dc.contributor.reviewerpl
Spurek, Przemysław
dc.contributor.reviewerpl
Tabor, Jacek - 132362
dc.date.accessioned
2020-08-05T14:14:18Z
dc.date.available
2020-08-05T14:14:18Z
dc.date.submittedpl
2020-07-24
dc.fieldofstudypl
nauczanie maszynowe
dc.identifier.apdpl
diploma-141404-197979
dc.identifier.projectpl
APD / O
dc.identifier.uri
https://ruj.uj.edu.pl/xmlui/handle/item/243546
dc.languagepl
eng
dc.subject.enpl
artificial intelligence, machine learning, neural networks, adversarial examples, autoencoder
dc.subject.plpl
sztuczna inteligencja, nauczanie maszynowe, sieci neuronowe, przykłady adwersarialne, autoenkoder
dc.titlepl
Adversarial examples in neural networks - detection using auto-encoders
dc.title.alternativepl
Przykłady adwersarialne w sieciach neuronowych - detekcja przy użyciu auto-enkoderów
dc.typepl
master
dspace.entity.type
Publication

* The migration of download and view statistics prior to the date of April 8, 2024 is in progress.

Views
16
Views per month
Views per city
Wroclaw
6
Krakow
2
Boardman
1
Dublin
1
Szczecin
1
Tiaret
1

No access

No Thumbnail Available