Quality of service control mechanisms in cloud computing environments

Abstract

Die steigende Beliebtheit des Internets führte in Kombination mit dem rasanten Fortschritt bei Verarbeitungs- und Speichertechnologien zu einem Paradigmenwechsel der Ressourcenverwaltung. Heutzutage werden Ressourcen als Internetservice gemietet, entweder als Pay-as-you-Go oder On-Demand Dienst: Das sogenannte Cloud-Computing. Das sowohl von der Industrie als auch von akademischer Seite her wachsende Interesse am Cloud-Computing führt zu einer steigenden Anzahl an Cloud-Service Anbietern und Nutzern. Cloud-Infrastrukturanbieter versuchen sich durch höhere Qualität von den anderen Anbietern abzugrenzen, bei gleichzeitiger Verringerung der Betriebskosten. Durch das stete Wachstum und die geographische Verteilung der Rechenzentren wird dies zunehmend anspruchsvoll. Das Hauptziel der Kunden, welche auf die Cloud statt auf eine IT-Infrastruktur setzen, liegt darin, eine hohe Dienstgüte (QoS) bei gleichzeitiger Kostenreduktion zu erreichen. Die Kunden werden bedingt durch die Vielzahl an Angeboten in Bezug auf Qualität und Kosten ermutigt, gleichzeitig Services mehrerer Cloud-Anbieter zu nutzen, die sogenannte Multi-Cloud. Die Verwendung von Multi-Cloud Services führt jedoch zu neuen Herausforderungen bei der Auswahl und Zusammenstellung von geeigneten Diensten. Im allgemeinen bieten Cloud-Anbieter keine Leistungsgarantie, obwohl Kunden dringenden Bedarf an garantierter Serviceleistung haben. Es fehlen praktikable Ansätze diese kosteneffektiv zu erreichen. Die Komplexität entsteht aufgrund der dynamischen Natur der Cloud, unkalkulierbarer Auslastung und der nichtlinearen Zuordenbarkeit von Leistungsbedarf auf Cloud Ressourcen. Die Abwägung zwischen Dienstgüte und Kosten ist sowohl für Infrastrukturanbieter als auch Kunden ein herausforderndes Ziel. Diese Arbeit untersucht Modelle, Algorithmen und Mechanismen um den Zielkonflikt von beiden Perspektiven zu betrachten. Zuerst wird der Cloud-Anbieter tandpunkt vertreten, indem ein Platzierungsalgorithmus für virtuelle Maschinen bei geographisch verteiler Infrastruktur vorgestellt wird. Dabei wird ein Bayesisches Netz zur Entscheidungsfindung bei Unsicherheit verwendet. Anschließend adressieren wir die Kosten in Korrelation mit der Service-Dienstgüte vom Standpunkt des Kunden aus durch Nutzung des Multi-Cloud Paradigmas. Wir schlagen eine auf Erwartungstheorie basierende Serviceauswahl vor, um vergleichbare Angebote zu klassifizieren. Weiters schlagen wir autonome Ressourcenzuteilungstechnologien vor, um die Leistungszielvorgabe der Kunden zu garantieren. Zu diesem Zweck wird mittels Kontrolltheorie ein Ressourcenzuteilungs-Controller entwickelt und mehrere Controller werden mittels Fuzzyregelung zum Erreichen der geforderten Leistungsziele kosteneffektiv koordiniert. Schlußendlich wird das Ergebnis dieses Ansatzes mit dem existierenden Stand der Technik verglichen.

The growth in popularity of the Internet, along with the rapid development of processing and storage technologies, has brought a paradigm shift in the way computing resources are provisioned. The technological trend today is to offer computing resources as services, leased and exposed via the Internet in a pay-as-you-go and on-demand fashion, called cloud computing. The interest in cloud computing is growing in both industry and academia, so the number of cloud providers offering their services, and the number of cloud customers interested in using such services is rapidly increasing. Cloud infrastructure providers are trying to reduce their operating costs while offering their services with higher quality; something they strive to do to stand out among other providers. However, this is becoming challenging as providing such services needs operating large-scale and geographically distributed data centers. On the other hand, the main purpose of customers in using clouds is to achieve a high quality of service (QoS) while reducing their overall costs. Given the variety of offered services in terms of quality and cost, customers are encouraged to simultaneously use services from multiple cloud providers, known as multi-cloud. However, utilizing multi-cloud brings a new set of open challenges, such as selecting and composing the most appropriate services. Furthermore, despite the critical need of customers in having predictable service performance, in general cloud providers do not yet offer any performance guarantees. This gap is due to the complexity of practically addressing this issue in a cost-effective way. Such a complexity mainly comes from the dynamic nature of the cloud, unpredictable workloads, and non-linearity of mapping performance measurements into required cloud resources. Hence, controlling the trade-off between QoS and cost is a challenging goal for both cloud infrastructure providers and customers. This thesis investigates models, algorithms, and mechanisms to tackle this trade-off from both perspectives. More specifically, in the scope of this thesis, we first take the cloud provider viewpoint by proposing an approach for virtual machine placement across geographically distributed infrastructures. In this approach, a Bayesian network model is used to address decision making under uncertainty. Then, we address the trade-off between QoS and cost from the cloud customer point of view by facilitating the utilization of the multi-cloud paradigm. We propose a service selection approach using prospect theory to rank the comparable service offerings. Furthermore, to guarantee the performance objectives of customers, we propose autonomic resource provisioning techniques. To this aim, control theory is used to design resource provisioning controllers, and fuzzy control is utilized to coordinate multiple controllers toward meeting the service performance objectives in a cost-effective manner. Finally, the evaluations of these contributions in comparison with the state-of-the-art approaches are presented.