ML-based Power consumption prediction models for edge devices

Abstract

Edge Computing ist ein aufkommendes Paradigma, das darauf abzielt, den Nachteilen zentraler Cloud Computing-Ansätze in Bezug auf Latenzzeiten entgegenzuwirken. Da die Anzahl an Geräten innerhalb des Edge-Cloud-Kontinuums stetig wächst, ist der steigende Energiebedarf von Edge-Computing-Umgebungen eine unvermeidliche Folge. Aufgrund zunehmender Energiekosten und globaler Stromversorgungsprobleme gewinnt die Optimierung des Stromverbrauchs von Hardwaresystemen immer mehr an Bedeutung. Obwohl präzise Strommessungen für die Bestimmung der Energieeffizienz unerlässlich sind, fehlt es an standardisierten Methoden, um den Stromverbrauch von Edge Devices einheitlich erfassen zu können. Dieser Mangel ist auf die heterogenen Hardwareeigenschaften gängiger Edge Devices zurückzuführen, weshalb die Messung des Stromverbrauchs unterschiedlicher Geräte eine zeitaufwändige, komplexe und kostspielige Aufgabe darstellt. Dadurch entsteht ein dringender Bedarf an Tools zur Vorhersage des Stromverbrauchs verschiedener Edge Devices im Kontext realistischer Anwendungsfälle. In dieser Arbeit wird daher die Entwicklung von Modellen zur Vorhersage des Energieverbrauchs auf Grundlage von Ressourcenauslastung und unter Verwendung von Machine Learning Techniken als mögliche Lösung für dieses Problem vorgeschlagen. Um die Anwendung der Modelle in größeren Maßstäben zu ermöglichen, werden diese in den bestehenden faas-sim Function-as-a-Service Simulator integriert, wodurch die Energieeffizienz von Edge Devices verglichen werden kann. Zu diesem Zweck werden Experimente mit Hilfe eines dedizierten Testbeds durchgeführt, um empirische Messungen bezüglich der Ressourcennutzung und des Stromverbrauchs verschiedener Edge-Computing-Plattformen zu erfassen. Die gewonnenen Datensätze bilden anschließend die Grundlage für die Entwicklung der Vorhersagemodellen anhand eines AutoML-Tools. Die Evaluierungsergebnisse zeigen die erfolgreiche Implementierung von Machine Learning Modellen, die in der Lage sind, den Stromverbrauch von Serverless Functions präzise mit Abweichungen von durchschnittlich 190 bis 620 mW zu prognostizieren. Gleichzeitig wird die Skalierbarkeit des Simulators durch die Modelle nicht gravierend beeinträchtigt, da die verlängerten Ausführungszeiten, die aus der zusätzlichen Vorhersagefunktionalität resultieren, noch vertretbar sind. Die zeitliche Effizienz der Simulationen kann daher unabhängig vom Overhead, der durch die Modelle entsteht, gewährleistet werden, wobei eine Vorhersage zwischen 0.8 und 2.6 ms dauert. Infolgedessen weisen die entwickelten Modelle ein zufriedenstellendes Verhältnis zwischen Performance und Genauigkeit auf.

Edge computing is an emerging paradigm that aims at circumventing the disadvantages that centralized cloud computing approaches exhibit in terms of latency. However, as the number of interconnected devices that operate within the edge-cloud continuum is constantly growing, the total energy demand of edge computing environments increases accordingly. Due to rising energy costs and global power supply issues, optimizing the power consumption of hardware platforms and therefore reducing operational expenses becomes a critical and predominant goal. Even though obtaining accurate and uniform power measurements is therefore crucial for determining the energy efficiency of computing platforms, there is a lack of uniform methods for profiling the power draw of edge devices in a platform-agnostic way due to the severe hardware heterogeneity of common edge devices. This makes power monitoring a very time-consuming, complex and costly task and thus arises the need for easy to use facilities to forecast the power usage of different edge computing platforms in the context of realistic use case scenarios. In this thesis, the development of power prediction models based on resource usage metrics by using machine learning techniques is proposed as a potential solution to this problem. For the purpose of applying the models in large-scale edge computing topologies, they are integrated into the existing faas-sim serverless simulation framework. This allows users to determine the expected overall energy consumption of a certain scenario and to rapidly and easily compare the energy efficiency of various devices. To this end, an extensive set of experiments is conducted by means of a dedicated testbed in order to obtain empirical measurements regarding the resource usage and power consumption of different edge computing platforms. The retrieved data sets subsequently form the foundation for constructing power prediction models using an automated machine learning tool. The evaluation results demonstrate the successful establishment of generalizable machine learning models that are able to precisely estimate the power consumption of serverless function invocations solely based on resource utilization rates with MAEs between 190 and 620 mW. At the same time, they do not severely impair the scalability of the simulator as the prolonged execution time which stems from the additional power forecasting functionality is still reasonable. Therefore, the time-efficiency of the simulations can be guaranteed regardless of the overhead that is caused by the predictions, whereby one inference call takes between 0.8 and 2.6 ms on average. As a result, the developed models exhibit a satisfactory performance-accuracy trade-off.