Evolutionary Generation of Adversarial Examples for Deep and Shallow Machine Learning Models

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F67985807%3A_____%2F16%3A00469507" target="_blank" >RIV/67985807:_____/16:00469507 - isvavai.cz</a>

Výsledek na webu

<a href="http://dx.doi.org/10.1145/2955129.2955178" target="_blank" >http://dx.doi.org/10.1145/2955129.2955178</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.1145/2955129.2955178" target="_blank" >10.1145/2955129.2955178</a>

Jazyk výsledku

angličtina

Název v původním jazyce

Evolutionary Generation of Adversarial Examples for Deep and Shallow Machine Learning Models

Popis výsledku v původním jazyce

Studying vulnerability of machine learning models to adversarial examples is an important way to understand their robustness and generalization properties. In this paper, we propose a genetic algorithm for generating adversarial examples for machine learning models. Such approach is able to find adversarial examples without the access to model's parameters. Different models are tested, including both deep and shallow neural networks architectures. We show that RBF networks and SVMs with RBF kernels tend to be rather robust and not prone to misclassification of adversarial examples.

Název v anglickém jazyce

Evolutionary Generation of Adversarial Examples for Deep and Shallow Machine Learning Models

Popis výsledku anglicky

Studying vulnerability of machine learning models to adversarial examples is an important way to understand their robustness and generalization properties. In this paper, we propose a genetic algorithm for generating adversarial examples for machine learning models. Such approach is able to find adversarial examples without the access to model's parameters. Different models are tested, including both deep and shallow neural networks architectures. We show that RBF networks and SVMs with RBF kernels tend to be rather robust and not prone to misclassification of adversarial examples.

Druh

D - Stať ve sborníku

CEP obor

IN - Informatika

OECD FORD obor

—

Projekt

<a href="/cs/project/GA15-19877S" target="_blank" >GA15-19877S: Automatické modelování znalostí a plánů pro autonomní roboty</a><br>

Návaznosti

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)

Rok uplatnění

2016

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Proceedings of the The 3rd Multidisciplinary International Social Networks Conference on SocialInformatics 2016, Data Science 2016

ISBN

978-1-4503-4129-5

ISSN

—

e-ISSN

—

Počet stran výsledku

7

Strana od-do

—

Název nakladatele

ACM

Místo vydání

New York

Místo konání akce

New Yersey

Datum konání akce

15. 8. 2016

Typ akce podle státní příslušnosti

WRD - Celosvětová akce

Kód UT WoS článku

—