Przykłady adwersarialne w sieciach neuronowych - detekcja przy użyciu auto-enkoderów

Problem podatności sieci neuronowych na przykłady adwersarialne wciąż jest nie do końca zrozumiany, ani rozwiązany, co jest jednym z głównych zagrożeń dla wykorzystania SI w niektórych dziedzinach, a szczególnie tam, gdzie SI musi być bezpieczna i przewidywalna. Poniższa praca opisuje nową metodę wykrywania przykładów adwersarialnych, bazującą na ekstrakcji pewnych informacji z aktywacji sieci neuronowej przy użyciu autoenkoderów. Praca prezentuje obiecujące wyniki eksperymentów oraz wgląd w naturę i zachowanie przykładów adwersarialnych.

The problem of neural networks' susceptibility to adversarial examples is still not well understood nor solved, which is one of the major threats to AI deployment in some applications, especially where AI agents have to be safe, secure, and predictable. This work describes a novel method for detecting adversarial examples, based on extracting certain information from neural network's activations using autoencoders. It shows promising experimental results and provides new insights into the nature and behavior of adversarial examples.