Aircraft automation and human performance : an analysis of flight deck failures

Abstract

Dieses Projekt untersucht die Auswirkungen von Automatisierung im Flugzeugcockpit auf die Leistung und Sicherheit von Pilot:innen. Zwar bewerten Piloten Automatisierung meist positiv und Unfallraten sinken, doch in kritischen Situationen kann sie die kognitive Arbeitsbelastung erhöhen und das Situationsbewusstsein verringern. Oft fehlt es an Verständnis, Transparenz und Erklärbarkeit komplexer Systeme, was zu Übervertrauen führen kann.Basierend auf Theorien zu Arbeitsbelastung, Situationsbewusstsein und kognitiver Leistungsfähigkeit wurden 496 Vorfälle aus dem NASA Aviation Safety Reporting System (2017–2024) qualitativ analysiert. Ziel war es, Automationsfehler und deren Einfluss auf die Flugsicherheit zu identifizieren.Die Analyse zeigt zahlreiche Probleme durch Design oder Nutzung automatisierter Systeme – etwa Höhenabweichungen, instabile Anflüge, Terrain-Warnungen oder Programmierfehler. Auch Themen wie Kompetenzverlust, Ablenkung und Automatisierungsabhängigkeit wurden untersucht. Die Auswertung erfolgte mit Intercoder-Reliabilitätsprüfung (Cohen’s Kappa).Die Studie gibt Empfehlungen zu Technologieentwicklung, Design, Richtlinien (u.a. bei KI) und künftigen Single-Pilot-Betrieben – mit dem Ziel, Automatisierung sicherer und verständlicher zu gestalten.

This project explores human operator performance in relation to automation on aircraft flight decks. It asks whether specific and recent issues are systematically emerging problems that impact operator performance and safety and are connected to a lack of automation explainability, transparency, or excessive complexity. The study is rooted in theories of workload, situational awareness, and human cognitive performance, and incorporates related concepts such as sensemaking, overreliance, and trust.The research method employs qualitative analysis of an empirical database of user-reported incidents, the Aviation Safety Reporting System database, maintained by NASA. 496 first-hand pilot reports, from the years 2017 to 2024, were identified, categorized, and examined for automation-related failures or errors. Special attention was given to cases where automation failed or degraded unexpectedly, and how this affected flight safety.This structured analysis provided meaningful insights into the challenges flight crews face when interacting with automation. Issues identified include violation of altitude or lateral airspace restrictions, low or unstable approaches to landing, terrain avoidance system alerts, flight management system programming errors, and more. Additional findings cover auto-flight dependency, deskilling, and distraction.Inter-coder reliability was assessed, and the study concludes with key recommendations for technological development, automation design, knowledge management, AI policy, and future single-pilot operations. Overall, the aim is to inform better on and influence the integration of advanced automated and AI systems in flight decks—enhancing pilot situational awareness, managing workload, and supporting human performance in critical situations.