Effective black box adversarial attack with handcrafted kernels

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F61988987%3A17310%2F23%3AA2402L6D" target="_blank" >RIV/61988987:17310/23:A2402L6D - isvavai.cz</a>

Výsledek na webu

<a href="https://link.springer.com/chapter/10.1007/978-3-031-43078-7_14" target="_blank" >https://link.springer.com/chapter/10.1007/978-3-031-43078-7_14</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.1007/978-3-031-43078-7_14" target="_blank" >10.1007/978-3-031-43078-7_14</a>

Jazyk výsledku

angličtina

Název v původním jazyce

Effective black box adversarial attack with handcrafted kernels

Popis výsledku v původním jazyce

We propose a new, simple framework for crafting adversarial examples for black box attacks. The idea is to simulate the substitution model with a non-trainable model compounded of just one layer of handcrafted convolutional kernels and then train the generator neural network to maximize the distance of the outputs for the original and generated adversarial image. We show that fooling the prediction of the first layer causes the whole network to be fooled and decreases its accuracy on adversarial inputs. Moreover, we do not train the neural network to obtain the first convolutional layer kernels, but we create them using the technique of F-transform. Therefore, our method is very time and resource effective.

Název v anglickém jazyce

Effective black box adversarial attack with handcrafted kernels

Popis výsledku anglicky

We propose a new, simple framework for crafting adversarial examples for black box attacks. The idea is to simulate the substitution model with a non-trainable model compounded of just one layer of handcrafted convolutional kernels and then train the generator neural network to maximize the distance of the outputs for the original and generated adversarial image. We show that fooling the prediction of the first layer causes the whole network to be fooled and decreases its accuracy on adversarial inputs. Moreover, we do not train the neural network to obtain the first convolutional layer kernels, but we create them using the technique of F-transform. Therefore, our method is very time and resource effective.

Druh

D - Stať ve sborníku

CEP obor

—

OECD FORD obor

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

Projekt

—

Návaznosti

S - Specificky vyzkum na vysokych skolach

Rok uplatnění

2023

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Advances in Computational Intelligence. IWANN 2023. Lecture Notes in Computer Science, vol 14135

ISBN

978-303143077-0

ISSN

03029743

e-ISSN

—

Počet stran výsledku

12

Strana od-do

169-180

Název nakladatele

Springer Cham

Místo vydání

—

Místo konání akce

Ponta Delgada, Portugal

Datum konání akce

19. 6. 2023

Typ akce podle státní příslušnosti

WRD - Celosvětová akce

Kód UT WoS článku

—