Performance Engineering for the Next-Generation of Serverless Computing

Abstract

Serverless Computing vereinfacht das Infrastrukturmanagement, ermöglicht eine feingranulare Ressourcenzuweisung sowie elastische Skalierung. Die Performance von Serverless-Funktionen wird typischerweise anhand von Service Level Objectives (SLOs) wie Latenz, Durchsatz und Kosten bewertet, die unter variierenden Arbeitslasten und Systembedingungen eingehalten werden müssen. In heterogenen und dynamischen Umgebungen, in denen die Ausführung über Systeme mit unterschiedlichen Fähigkeiten und wechselnden Netzwerkbedingungen hinweg erfolgt, wird das Einhalten dieser SLOs zunehmend herausfordernd. Zudem haben Entwicklerinnen und Entwickler nur eingeschränkte Kontrolle über die Ausführungsumgebung, wodurch die Performance stark vom Laufzeitverhalten und von umgebungsbedingten Dynamiken abhängt. Wenn sich Serverless-Anwendungen zu komplexen Workflows aus miteinander abhängigen Funktionen entwickeln, führen diese Faktoren zu erhöhter Performance-Variabilität und erschweren die Einhaltung von End-to-End-SLOs in dynamischen und heterogenen Umgebungen wie dem Edge-Cloud- und dem Edge-Cloud-Space-3D-Continuum. Ziel dieser Dissertation ist, die Performance von Serverless-Funktionen und -Workflows in dynamischen und heterogenen Umgebungen zu verbessern, in denen traditionelle cloud-zentrierte Lösungen an ihre Grenzen stoßen. Im ersten Teil präsentieren wir eine Performance-Charakterisierung für Serverless Computing in heterogenen und dynamischen Umgebungen. Wir identifizieren die zentralen Faktoren, die Performance-Variabilität und SLO-Verletzungen verursachen, und untersuchen Performance-Isolation sowie Interferenzen. Dabei zeigen wir auf, wie Cold Starts, Serialisierung, I/O und die Serverless-Laufzeit die End-to-End-Latenz und den Durchsatz über heterogene Plattformen hinweg beeinflussen. Im zweiten Teil behandeln wir die Inter-Funktions-Kommunikation als eine der dominanten Ursachen für Performance-Overhead in Serverless-Workflows. Wir stellen eine Reihe von Laufzeitmechanismen vor, die unnötige Datenbewegungen reduzieren, indem sie Funktionslokalität ausnutzen, Kommunikation mit Ausführungsphasen wie Cold Starts überlappen und die Serialisierung minimieren. Diese Mechanismen ermöglichen einen effizienten Datenaustausch zwischen Funktionen bei gleichzeitiger Wahrung von Isolation und Portabilität, was insbesondere für datenintensive Workflows entscheidend ist. Im dritten Teil konzentrieren wir uns auf die Workflow-Ebene und die Optimierung in hochdynamischen und heterogenen Umgebungen wie dem Edge-Cloud-Space-3D-Continuum. Wir präsentieren Modelle und Laufzeitmechanismen, die Performance-Kosten-Abwägungen, dynamische Zustandsplatzierung und die Auswahl von Ausführungspfaden unterwechselnden Netzwerk- und Ressourcenbedingungen berücksichtigen. Durch die koordinierte Steuerung von Berechnung, Daten und Zustand über den gesamten Workflow hinweg ermöglicht diese Arbeit die effiziente Ausführung komplexer Workflows. Insgesamt legt diese Dissertation die Grundlagen des Performance-Engineerings für die nächste Generation des Serverless-Computings in dynamischen und heterogenen Umgebungen.

Serverless computing simplifies infrastructure management, enabling fine-grained resource allocation and elastic scaling. The performance of serverless functions is typically evaluated by Service Level Objectives (SLOs), such as latency, throughput, and cost, which must be met under varying workload and system conditions. In heterogeneous and dynamic environments, where execution spans devices with different capabilities and changing network conditions, meeting these SLOs becomes increasingly challenging. Moreover, developers have limited control over the execution environment, making performance highly sensitive to system behavior and environmental dynamics. As serverless applications evolve into complex workflows composed of interdependent functions, these factors lead to performance variability, making it difficult to satisfy end-to-end SLOs in dynamic and heterogeneous environments such as Edge-Cloud and Edge-Cloud-Space 3D Continuum. Therefore, the goal of this dissertation is to enhance the performance of serverless functions and workflows in dynamic and heterogeneous environments where traditional cloud-centric solutions fall short. In the first part, we present a performance characterization for serverless computing in heterogeneous and dynamic environments. We identify the key factors that drive performance variability and SLO violations and examine performance isolation and interference, highlighting how cold starts, serialization, I/O, and serverless runtime impactend-to-end latency and throughput across heterogeneous platforms. In the second part, we address serverless inter-function communication as a predominant source of performance overhead in serverless workflows. We introduce a set of runtime mechanisms that reduce unnecessary data movement by exploiting functionlocality, overlapping communication with execution phases such as cold starts,and minimizing serialization. These mechanisms enable efficient data exchange between functions while preserving isolation and portability, which is critical for data-intensive workflows. In the third part, we focus on workflow-level optimization in highly dynamic and heterogeneous environments such as the Edge–Cloud–Space 3D Continuum. We present models and runtime mechanisms that account for performance–cost tradeoffs, dynamic state placement, and execution path selection under changing network and resource conditions. By coordinating computation, data, and state across the workflow, this work enables efficient execution of complex workflows. Overall, this dissertation lays the foundation for performance engineering in the next generation of serverless computing in dynamic and heterogeneous environments.