Methods for Ti­ght Analysis of Popu­lation-based Evolutionary Algorithms

Denis Antipov

Résumé

Evolutionary Algorithms (EAs for brevity) is a broad class of optimization algorithms which are inspired by the natural evolution. They are often used to solve practical problems which cannot be solved precisely in a reasonable time, since they can find satisfying solutions without spending too much computation resources. The practical efficiency of the EAs is supported by the theory of evolutionary computation which has produced a huge number of impressive results during the last two decades. These results give valuable recommendations on how to set up parameters of algorithms or even propose new EAs.Theoretical studies mostly observe how simple algorithms optimize model problems. It is hard to analyse more real-world settings, since even the most simple algorithms are often described via highly complicated stochastic processes. In particular, not so much is known about the behavior of the population-based algorithms, while the populations are believed to be essential by most practitioners. The lack of theoretical understanding of how populations work raises a risk that populations are used not in the most effective way.The existing analysis tools, however, are not suitable to give us a better understanding of populations. Hence, the main aim of this work is to develop new analysis methods which would help to deliver new runtime bounds for evolutionary algorithms and extend our knowledge of the role of populations. We propose the following analysis methods for the population-based EAs.- The method of the complete trees for delivering the lower bounds on the runtime of the population-based EAs.- The method of the analysis of the no-drift processes.- The method for delivering the precise bounds on the runtime distribution for the EAs on plateaus.- The additive drift theorem with tail bounds.With these analysis methods we perform a runtime analysis of the following algorithms.- With the method of the complete trees we derive a tight bound on the runtime of the (mu + lambda) EA on OneMax. These bounds, in particular, suggest that using parent population size mu which is O(log(n)) does not increase the asymptotical runtime and that using offspring population size lambda greater than max{mu, ln(n)} does not give a significant decrease in the expected number of iterations.- With the method of the analysis of the no-drift processes we analyse the (mu, lambda) EA on OneMax with the threshold parameter values lambda is approximately e*mu. We show that in this setting (where there is almost no drift of the number of the best offspring) the absolute population size plays a significant role and that this regime seems to be the most interesting for the practical application of the (mu, lambda) EA.- With the method for the analysis of EAs on plateaus we deliver precise estimates on the runtime of the (1 + 1) EA and (lambda + lambda) EA on Plateau_k function, demonstrating that the choice of the mutation operator does not play a significant role when an EA is traversing a plateau.We also propose a new crossover-based algorithm with non-trivial offspring population --- the heavy-tailed (1 + (lambda, lambda)) GA. Our analysis of this algorithm on OneMax, LeadingOnes and Jump_k functions reveals the efficiency of the random parameter choices from a power-law distribution. While on Jump_k this random parameter choice gives us a one-size-fits-all algorithm which relieves us from choosing the optimal static parameters (which depend on function parameter k, probably unknown in advance), on OneMax we observed a runtime which is better than the runtime for the best static parameter choice. On the LeadingOnes (with a help of the developed additive drift theorem) we showed that the asymptotical runtime is the same for any static or dynamic choice of parameters and is the same as for the most standard mutation-based algorithms.

Les algorithmes évolutifs (AÉs pour la brièveté) sont une large classe d'algorithmes d'optimisation qui sont inspirés par l'évolution naturelle. Ils sont souvent utilisés pour résoudre des problèmes pratiques qui ne peuvent pas être résolus avec précision dans un délai raisonnable, car ils peuvent trouver des solutions satisfaisantes sans dépenser trop de ressources de calcul. L'efficacité pratique des AÉ est soutenue par la théorie du calcul évolutif, qui a produit un grand nombre de résultats impressionnants au cours des deux dernières décennies. Ces résultats donnent de précieuses recommandations sur la façon de configurer les paramètres des algorithmes ou même proposent des nouvaux AÉs.Les études théoriques observent principalement comment des algorithmes simples optimisent des problèmes de modèle. Il est difficile d'analyser problèmes du monde réel, car même les algorithmes les plus simples sont souvent décrits via des processus stochastiques très compliqués. En particulier, on en sait peu sur le comportement des algorithmes basés sur des populations. En même temps les populations sont considérées comme essentielles par la plupart des praticiens. Le manque de compréhension théorique du fonctionnement des populations soulève le risque que les populations ne sont pas utilisées de la manière la plus efficace.Les outils d'analyse existants ne sont cependant pas adaptés pour donner une meilleure compréhension des populations. Ainsi, l'objectif principal de cette thèse est de développer de nouvelles méthodes d'analyse qui permettraient de fournir de nouvelles limites d'exécution pour les algorithmes évolutifs et d'étendre nos connaissances sur le rôle des populations. Nous proposons les méthodes d'analyse pour les AÉs basées sur la population.- La méthode des arbres complets pour fournir les limites inférieures au temps d'exécution des AÉs basées sur la population.- La méthode de l'analyse des processus sans dérive.- La méthode pour fournir les limites précises sur la distribution des temps d'exécution pour les AÉs sur plateaux.- Le théorème de dérive additif avec limites de la distribution.Avec ces méthodes d'analyse, nous effectuons une analyse d'exécution des algorithmes suivants.- Avec la méthode des arbres complets, nous dérivons une limite étroite sur l'exécution de l'AÉ (mu + lambda) sur le problème OneMax.- Avec la méthode d'analyse des processus sans dérive, nous analysons l'AÉ (mu, lambda) sur OneMax avec les valeurs de paramètre de seuil lambda est d'environ emu.- Avec la méthode d'analyse des AÉs sur plateaux nous délivrons des estimations précises sur l'exécution de l'AÉ (1 + 1) et l'AÉ (lambda + lambda) sur Plateau_k.Nous proposons également un nouvel algorithme basé sur le croisement avec une population de descendants non triviale --- le queue-lourde l'algorithme génétique (1 + (lambda, lambda)). Notre analyse de cet algorithme sur les fonctions OneMax, LeadingOnes et Jump_k révèle l'efficacité des choix de paramètres aléatoires à partir d'une loi de puissance. Alors que sur Jump_k ce choix de paramètre aléatoire nous donne un algorithme universel, ce qui nous dispense de choisir les paramètres statiques optimaux (qui dépendent du paramètre de fonction k, probablement inconnu à l'avance), sur OneMax nous observons un temps d'exécution meilleur que le temps d'exécution pour le meilleur choix de paramètre statique. Sur le fonction LeadingOnes (avec l'aide du théorème de dérive additif avec limites de la distribution), nous montrons que le temps d'exécution asymptotique est le même pour tout choix statique ou dynamique des paramètres et est le même que pour les algorithmes basés sur des mutations les plus standards.

Эволюционные алгоритмы (ЭА)—это широкий класс алгоритмов оптимизации,основанных на принципах естественнойэволюцией. Они часто используются длярешения практических задач, которые нельзярешить точно за разумное время, поскольку онимогут найти достаточно хорошие решения, незатрачивая черезмерно много вычислительныхресурсов. Практическая эффективность ЭАтакже подтверждается теорией эволюционныхвычислений, которая получила большоечисло значимых результатов за последниедва десятилетия.Эти результаты даютценные рекомендации по настройке параметровалгоритмов или даже предлагают новые ЭА.Теоретические исследования в основномизучают, как простые алгоритмы оптимизируютмодельные задачи.Анализировать болееблизкие к реальному миру задачи намногосложнее, так как даже самые простыеалгоритмы часто описываются с помощьюочень сложных стохастических процессов. Вчастности, довольно мало изучено поведениепопуляционных алгоритмов, в то время как напрактике нетривиальные популяции считаютсянеотъемлимой составной частью эволюционныхалгоритмов.Отсутствие теоретическогопонимания того, как работают популяции,повышает риск того, что популяции используютсяне самым эффективным образом.Однако, существующие инструменты теоретичес-кого анализа не могут дать лучшее пониманиеприроды популяций. Следовательно, основнаяцель этой работы состоит в разработке новыхметодов анализа для оценки времени работы дляпопуляционных эволюционных алгоритмов и длярасширения наших знаний о роли популяций.В данной работе были предложены следующиеметоды анализа популяционных ЭА.1)метод полных деревьевдля получения нижнихграниц на время работы популяционных ЭА.2)методанализа процессовбез явного сноса.3)методдля точной оценки распределениявремени работы для ЭА наплато.4)Теорема об аддитивном сносе с оценками наконцентрацию.С помощью этих методов анализа был выполненанализ времени работыследующих алгоритмов.1)С помощью метода полных деревьев былиполучены асимптотически точные оценкина время работы(μ+λ)-ЭА наONEMAX.Эти оценки, в частности, предполагают, что использование размера популяцииродителейμ, равногоO(log(n)), не увеличиваетасимптотическое время работы (что можетбыть полезно при оптимизации функций вприсутствии шума), и что использованиеразмера популяции потомковλбольше,чем maxfμ,ln(n)g, не дает значительногоуменьшения ожидаемого числа итераций(следовательно, следует избегать такихбольших размеров популяции при решениипростых задач).2)С помощью метода анализа процессов безявного сноса был проведен анализ(μ,λ)-ЭА наONEMAXс граничными значениямипараметровλ eμ. Было показано, что в этойситуации (где практически отсутствует сносслучайной величины, равной числу лучшихпотомков в поколении) абсолютный размерпопуляции играет значительную роль, и чтоэтот режим является наиболее интересным дляпрактического применения(μ,λ)-ЭА.3)С помощью метода анализа ЭА на плато былиполучены точные оценки времени работы(1+1)-ЭА и эволюционного алгоритма(λ1:1+λ)нафункцииPLATEAUk, показавшие, что выбороператора мутации не играет существеннойроли, когда ЭА находится на плато.Также был предложенновый алгоритм,использующий оператор скрещиванияснетривиальной популяцией потомков —генетический алгоритм(1+(λ,λ))с тяжелымхвостом(то есть использующий распределения,не сконцентрированные у малых значений).Проведенный анализ этого алгоритма нафункцияхONEMAX, LEADINGONESи JUMPkпоказалэффективность случайного выбора параметров изстепенного распределения. В то время как наJUMPkэтот случайный выбор параметров дает намуниверсальный алгоритм, который избавляет насот выбора оптимальных статических параметров(которые зависят от параметраk, вероятно,неизвестного заранее), наONEMAXнаблюдаетсявремя работы, которое лучше, чем времяработы алгоритма с наилучшими статическимипараметрами. НаLEADINGONES(с помощьюпредложенной теоремы об аддитивном сносе)было показано, что асимптотическое времяработы одинаково для любого статического илидинамического выбора параметров, причем онотакое же, как для большинства стандартныхалгоритмов.