Managing cloud service provisioning and SLA enforcement via holistic monitoring techniques

Abstract

Die enormen technologischen Entwicklungen in der Informations-Technologie (IT) und der universale Zugang zum Internet stellen eine große Herausforderung für das Bereitstellen von Diensten und das Ressourcenmanagement dar. Cloud Computing erweist sich als zuverlässige Technologie, um genau diesen Herausforderungen zu begegnen.<br />Dienstleistungen in der Cloud bauen auf Service Level Agreements (SLAs) auf, die einen Vertrag zwischen dem Kunden und dem Dienstanbieter darstellen. Dieser Vertrag beinhaltet unter anderem nicht funktionale Anforderungen an die Dienste, welche als Quality of Service (QoS) definiert sind, und Strafzahlungen im Falle von Verletzungen dieser Anforderungen. Das flexible und zuverlässige Management der Ressourcen und SLA Übereinkommen sind fuür beide Parteien, den Cloud Anbieter sowie den Konsumenten, von großer Bedeutung. Anbieter muüssen einerseits SLA Verletzungen vorbeugen, um Strafzahlungen zu vermeiden, andererseits muüssen sie eine hohe Ausnutzung der Ressourcen gewährleisten, um die teure Erhaltung von ungenutzten Ressourcen zu verhindern.<br /> Obwohl bereits viel im Bereich der Entwicklung von flexibler und selbstverwalteter Cloud Computing Infrastruktur erarbeitet wurde, besteht noch ein Mangel an angemessenen Überwachungsinstrumenten, welche fähig sind mögliche SLA Verletzungen vorherzusagen. Die meisten der verfuügbaren Überwachungssysteme basieren entweder auf Grid oder Service-orientierter Infrastruktur, welche, aufgrund von Unterschieden im Ressourcen-Nutzungsmodell, oder aufgrund von stark Netzwerk-orientierten Überwachungssystemen, mit Clouds nicht direkt kompatibel sind.<br /> Damit die Anbieter eine bessere Ressourcenausnutzung und einen höheren Ertrag erreichen können, muüssen sie, unter Einhaltung der SLA Ziele, in der Lage sein Ressourcen entsprechend zu verteilen und gleichzeitig für unterschiedliche Nutzeranwendungen die beste Performance zu gewährleisten. Die gängigen Verteilungsstrategien in Clouds sind an die Erfüllung einzelner SLA Zielvorgaben, wie etwa Ausführungszeit der Entscheidungsfindung, angepasst. Das Design eines generalisierten Verteilungsalgorithmus, welcher eine Anwendung mit multiplen SLA Zielen auf Ressourcen optimal verteilt, ist jetzt noch nicht erforscht.<br />Nichtsdestotrotz bedeutet die Idee, multiple Anwendungen einem Host zuzuordnen, entsprechend zu verteilen und auszuführen, mehrere Herausforderungen für den Cloud Anbieter, denn er muss die SLA Zielvorgaben einer jeden Kundenanwendung unabhängig voneinander erfüllen.<br /> In dieser Dissertation führen wir eine neue Cloud Management Infrastruktur ein, die auf Anwendungszuordnung und -verteilung, ganzheitlichen Überwachungsverfahren und -mechanismen, welche Basisressourcen auf SLA Übereinkommen abbilden, sowie der Fähigkeit, mehrere, am gleichen Host laufende Anwendungen zu überwachen, basiert.<br />Wir präsentieren sowohl das Design als auch die Implementierung dieser Techniken. In einem Fallbeispiel zeigen wir die Integration von Methoden des Wissensmanagement in die Cloud Management Infrastruktur, um autonomes Verhalten und reagierende Maßnahmen, die SLA Verletzungen verhindern bzw. korrigieren sollen, zu erlangen. Abschließend präsentieren wir Evaluierungen, um den Neuigkeitswert der vorgebrachten Lösungen zu zeigen.<br />

Rapid technological developments in Information Technology (IT) and ubiquitous Internet access are causing serious challenges in service provisioning and resource management landscapes. Cloud computing is proving to be a reliable technology to address these challenges. Service provisioning in the Cloud relies on Service Level Agreements (SLAs) representing a contract signed between the customer and the service provider including non-functional requirements of the service specified as Quality of Service (QoS) and penalties in case of violations.<br />Flexible and reliable management of resources and SLA agreements are of paramount importance to both Cloud providers and consumers. On the one hand, providers have to prevent SLA violations to avoid penalties and on the other hand, they have to ensure high resource utilization to prevent costly maintenance of unused resources.<br /> Although, there is a large body of work considering development of flexible and self-manageable Cloud computing infrastructures, there is still a lack of adequate monitoring infrastructures capable of predicting possible SLA violations. Most of the available monitoring systems rely either on Grid or service-oriented infrastructures, which are not directly compatible to Clouds due to the differences in resource usage models, or due to heavily network-oriented monitoring infrastructures.<br /> Furthermore, to achieve high resource utilization and more revenue, the providers must be able to schedule resources and deploy different user applications complying with the SLA objectives, and at the same time optimizing the performance of the applications. The current scheduling approaches in Clouds are tailored toward the usage of single SLA objectives, such as execution time in decision making. The design of a generalized scheduling algorithm for optimal mapping of an application with multiple SLA parameters to resources is yet to be investigated. Nevertheless, the idea of scheduling and deploying multiple applications on the same host brings a new set of challenges to the Cloud provider because he must enforce the SLA terms of each customer application independently.<br /> In this thesis, we propose a novel Cloud management infrastructure, which is based on holistic monitoring techniques and mechanisms for low-level resource metrics to high-level SLA mapping, application scheduling and deployment, and the ability to monitor multiple application executing on the same host. We present the design and implementation of these techniques. In a case study, we show the integration of knowledge management techniques into Cloud management infrastructures realizing autonomic behaviour and providing reactive action to prevent / correct the SLA violation situations. Finally, we present some evaluations to show the novelty of the contributed solutions.