Regularized Quasi-monotone Method for Stochastic Optimization

Kód výsledku v IS VaVaI

RIV/68407700:21230/23:00367591 - isvavai.cz

Výsledek na webu

https://doi.org/10.1007/s11590-022-01931-4

DOI - Digital Object Identifier

10.1007/s11590-022-01931-4

Jazyk výsledku

angličtina

Název v původním jazyce

Regularized Quasi-monotone Method for Stochastic Optimization

Popis výsledku v původním jazyce

We adapt the quasi-monotone method, an algorithm characterized by uniquely having convergence quality guarantees for the last iterate, for composite convex minimization in the stochastic setting. For the proposed numerical scheme we derive the optimal convergence rate of O(1k+1) in terms of the last iterate, rather than on average as it is standard for subgradient methods. The theoretical guarantee for individual convergence of the regularized quasi-monotone method is confirmed by numerical experiments on ℓ1-regularized robust linear regression.

Název v anglickém jazyce

Regularized Quasi-monotone Method for Stochastic Optimization

Popis výsledku anglicky

We adapt the quasi-monotone method, an algorithm characterized by uniquely having convergence quality guarantees for the last iterate, for composite convex minimization in the stochastic setting. For the proposed numerical scheme we derive the optimal convergence rate of O(1k+1) in terms of the last iterate, rather than on average as it is standard for subgradient methods. The theoretical guarantee for individual convergence of the regularized quasi-monotone method is confirmed by numerical experiments on ℓ1-regularized robust linear regression.

Druh

J_imp - Článek v periodiku v databázi Web of Science

CEP obor

—

OECD FORD obor

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

Projekt

EF16_019/0000765: Výzkumné centrum informatiky

Návaznosti

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)

Rok uplatnění

2023

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název periodika

Optimization Letters

ISSN

1862-4472

e-ISSN

1862-4480

Svazek periodika

17

Číslo periodika v rámci svazku

5

Stát vydavatele periodika

DE - Spolková republika Německo

Počet stran výsledku

14

Strana od-do

1215-1228

Kód UT WoS článku

000857455300001

EID výsledku v databázi Scopus

2-s2.0-85138543689