Simulation-Driven Bootstrapping of Edge-Cloud Autoscaler Parameters

Abstract

Edge Computing behebt die Bandbreiten- und Latenzprobleme der Cloud und ermöglicht Echtzeitverarbeitung für Anwendungsfälle wie Internet of Things (IoT) und autonomes Fahren.Der Paradigmenwechsel bringt die Notwendigkeit, Orchestrierungsmechanismen der Cloud an das Edgesetting anzupassen.Dies beinhaltet Autoscaler, die Komponenten, welche dafür verantwortlich sind, genutzte Ressourcen je nach Bedarf zu erhöhen oder zu verringern.Eine der großen Herausforderungen, die die breite Akzeptanz moderner Edge-Cloud-Autoscaling-Lösungen behindern, ist die Notwendigkeit von statischer Konfiguration.Beispielsweise kann diese aus komplex aggregierten Granzwerten bestehen, die vorab schwer zu bestimmen sein können.Diese Arbeit untersucht Möglichkeiten zur automatischen Optimierung der Autoscaling-Konfiguration vor dem Deployment mithilfe einer Simulation der Zielinfrastruktur.Zu diesem Zweck werden Leistungsmetriken der Orchestrierung untersucht und acht repräsentative Key Performance Indicators durch ein korrelationsgraphenbasiertes Verfahren ausgewählt.Darüber hinaus wird eine Methode zur Aggregation dieser zu einem Qualitätsscore präsentiert.Eine Erklärung wird gegeben, warum die vorgeschlagene Qualitätsdefinition nur eine von unzähligen gültigen Optionen darstellt.Sechs metaheuristische Optimierungsalgorithmen werden an die vorliegende Aufgabe angepasst.Diese werden anschließend anhand eines Benchmark-Szenarios eines kleinen Smart-City-Edge-Cloud-Deployments miteinander verglichen.Die Ergebnisse zeigen, dass die Single-Objective-Ansätze Particle Swarm Optimization (PSO) und Artificial Bee Colony (ABC) am besten abschneiden.PSO erzielte eine konsistente Verbesserung des Qualitätswerts um etwa 7,1 % im Vergleich zur gewählten Baseline bei geringem Rechenaufwand.ABC erzielte eine durchschnittliche Verbesserung des Qualitätswerts um etwa 8,6 % und in einigen Fällen bis zu 19,4 %, benötigte dafür aber unverhältnismäßig mehr Ressourcen.NSGA-II, der untersuchte Multi-Objective-Ansatz, schnitt unterdurchschnittlich ab.Die Schwierigkeit, eine repräsentative Pareto-Front zu erstellen, deutet darauf hin, dass die Komplexität des Objective-Raums eine Herausforderung darstellt.Die Robustheit der optimierten Konfigurationen unter verschiedenen Deployment-Szenarien wird analysiert.Während die optimierten Konfigurationen in vielerlei Hinsicht besser abschnitten als eine gewählte Baseline, was die Anwendbarkeit des Ansatzes bestätigt, wurden bestimmte Nachteile entdeckt.Vor allem leidet die Leistung erheblich, wenn ein System mit optimierten Parametern mit einer realistischen Workload-Verteilung statt einer synthetischen konfrontiert wird.Dies betont die Notwendigkeit von genauer Lastenmodellierung und motiviert auch adaptive Ansätze als zukünftige Forschungsaktivitäten.

Edge computing addresses bandwidth and latency limitations of the cloud, enabling real-time processing for use cases like the Internet of Things (IoT) and autonomous vehicles.The paradigm shift comes with the need to adapt the orchestration mechanisms of the cloud to the edge.This includes autoscalers, the orchestration components responsible for increasing and decreasing utilized resources according to demand.One of the big challenges holding modern edge-cloud autoscaling solutions back from widespread adoption is the need for static configuration.For example, autoscalers can rely on thresholds that are complex aggregated values and may not be easy to determine beforehand.This thesis explores ways to automatically tune autoscaling parameters ahead of their deployment using a simulation of the target infrastructure.To this end, performance metrics of edge-cloud orchestration are investigated.Eight Key Performance Indicators are chosen as a representative set using a correlation-graph-based approach.Furthermore, a method to aggregate them into a single quality score is presented.An explanation of why the proposed notion of quality only represents one of countless valid definitions is given.Six metaheuristic optimization algorithms are selected and adapted to tackle the task at hand.These are subsequently evaluated against one another using a benchmark scenario of a small smart city edge-cloud deployment.The results indicate that the single-objective approaches Particle Swarm Optimization (PSO) and Artifical Bee Colony (ABC) perform best among the observed candidates.PSO achieved a consistent quality score improvement of around 7.1 % compared to the chosen baseline while keeping computation effort low.ABC achieved an average improvement of the quality score of around 8.6 % and in some cases up to 19.4 %, but required disproportionately more resources to do so.NSGA-II, the investigated multi-objective approach, underperformed.The difficulty in obtaining a well-defined Pareto front suggests that the complexity of the objective space posed a challenge.The robustness of the optimized configurations is analyzed by evaluating their performance under different deployment conditions.While the tuned configurations performed better than a chosen baseline in many regards, showing the presented approach is viable, certain drawbacks were discovered.Most notably, performance suffers significantly when a system using the tuned parameters is faced with a realistic workload distribution across the infrastructure as opposed to a synthetic one.This highlights the need for more accurate load modeling and also motivates more adaptive approaches among possible future research activities.