Transformer event extraction explainer : a tool for improving explainability of transformer models for industrial maintenance applications

Abstract

KI Modelle, insbesondere Transformer, sind in der industriellen Instandhaltung immer wichtiger geworden. Eine der größten Herausforderungen bei der Anwendung dieser Modelle ist die mangelnde Erklärbarkeit der Modellentscheidungen. Meistens ist es für Menschen schwer zu erkennen, wie das Modell zu einer bestimmten Entscheidung gekommen ist, was zu Misstrauen und Skepsis führt. Die Erklärbarkeit ist von großer Bedeutung, um das Vertrauen in Transformer Modelle zu stärken und ihren Einsatz in praktischen Anwendungen zu ermöglichen. Der Transformer Event Extraction Explainer (TEEE) verbessert die Erklärbarkeit von Vorhersagen von Transformer Modellen, indem er die Entscheidungen des Modells nachvollziehbar macht.

AI models, especially transformers, are becoming increasingly important in industrial maintenance. One of the biggest challenges of these models is the lack of explainability in the model decisions. Most of the time, it is difficult for humans to determine how the model arrived at a particular decision, which leads to mistrust and scepticism towards the models. Therefore, explainability is crucial to increase trust in these models so that they can be applied in real-world applications. The Transformer Event Extraction Explainer (TEEE) application improves the explainability of transformer models by clearly explaining the model’s decisions.