Truncation Selection and Gaussian EDA: Bounds for Sustainable Progress in High Dimensional Spaces

Result code in IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F68407700%3A21230%2F08%3A03141777" target="_blank" >RIV/68407700:21230/08:03141777 - isvavai.cz</a>

Result on the web

—

DOI - Digital Object Identifier

—

Result language

angličtina

Original language name

Truncation Selection and Gaussian EDA: Bounds for Sustainable Progress in High Dimensional Spaces

Original language description

In real valued estimation of distribution algorithms, the Gaussian distribution is often used along with maximum likelihood (ML) estimation of its parameters. Such a process is highly prone to premature convergence. The simplest method for preventing premature convergence of Gaussian distribution is enlarging the maximum likelihood estimate of the standard deviation by a constant factor k each generation. Such a factor should be large enough to prevent convergence on slopes of the fitness function, butshould not be too large to allow the algorithm converge in the neighborhood of the optimum. Previous work showed that for truncation selection such admissible k exists in 1D case. In this article it is shown experimentaly, that for the Gaussian EDA withtruncation selection in high dimensional spaces no admissible k exists!

Czech name

Selekce odříznutím a gaussovský EDA: Hranice pro trvalý vývoj v mnoharozměrných prostorech

Czech description

V algoritmech typu EDA pracujících v reálné oblasti se velice často používá Gaussovo rozdělení společně s maximálně věrohodným odhadováním jeho parametrů. Takový proces je ale silně náchylný k předčasné konvergenci. Nejjednodušší metodou, jak předčasné konvergenci zabránit, je každou generaci zvětšit maximálně věrohodný odhad směrodatné odchylky konstantním faktorem k. Tento faktor by měl být dostatečně velký, aby zabránil konvergenci na "svazích" účelové funkce, ale zároveň by neměl být příliš velký,aby nebránil konvergenci v okolí optima. Předchozí práce ukázala, že v jednorozměrném případě takovéto přípustné k existuje. V tomto článku je experimentálně zjištěno, že v mnoharozměrných prostorech pro gaussovský EDA pracující s odřezávací selekcí žádné přípustné k neexistuje!

Type

D - Article in proceedings

CEP classification

JC - Computer hardware and software

OECD FORD branch

—

Project

<a href="/en/project/GP102%2F08%2FP094" target="_blank" >GP102/08/P094: Machine learning methods for solution construction in evolutionary algorithms</a><br>

Continuities

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)

Publication year

2008

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Article name in the collection

Applications of Evolutionary Computing 2008

ISBN

978-3-540-78760-0

ISSN

0302-9743

e-ISSN

—

Number of pages

10

Pages from-to

—

Publisher name

Springer

Place of publication

Heidelberg

Event location

Napoli

Event date

Mar 26, 2008

Type of event by nationality

WRD - Celosvětová akce

UT code for WoS article

—