Representing normative reasoning in answer set programming using weak constraints

Abstract

Durch die zunehmende Bedeutung von ethischer KI hat das Durchsetzen von ethischen,gesellschaftlichen und rechtlichen Normen gegenüber autonom agierenden Agenten ebenfalls an Bedeutung gewonnen. Über Normen zu argumentieren (normative reasoning) ist in vielen Fällen schwer, da sich Normen oft widersprechen, nur unter bestimmten Umständen gültig sind oder verletzt werden müssen. Eine Art über Normen zu argumentieren ist es, sie in logischer Form zu kodieren (Genaueres dazu auf Seite 63) und Prioritäten unter ihnen festzulegen. Über die Jahre wurden mehrere Ansätze vorgeschlagen. Diese Masterarbeit stellt eine einfache Methode zur Kodierung normativer Systeme unter Verwendung von “weak constraints” (schwache Einschränkungen) in Answer Set Programming vor. Answer Set Programming ist ein deklarativer Problemlösungsansatz,der seine Wurzeln in der Wissensrepräsentation, der logischen Programmierung und der nicht-monotonen Argumentation hat. Wir haben uns aufgrund der Ausdrucksstärke von Answer Set Programming und der Effizienz der verfügbaren Löser für diesen Ansatz entschieden. Standard Deontic Logic ist das erste logische System, das eingeführt wurde,um über Verpflichtungen, Erlaubnisse und verwandte Konzepte zu argumentieren. Wir beschreiben einige der bekanntesten deontischen Paradoxa, die zeigen, dass Standard Deontic Logic manche Aspekte, welche wir im Alltag verwenden um über Normen zu argumentieren, nicht erfassen kann. Wir kodieren diese Paradoxa fallweise unter Verwendung einer gemeinsamen Basis. Anfangs kodieren wir einige der deontischen Paradoxa.Wir abstrahieren und verallgemeinern diese Kodierungen um eine einfache Methodik zur Kodierung normativer Systeme zu entwickeln. Anhand von zwei Fallstudien wird diese Methodik demonstriert. In der ersten Fallstudie kodieren wir eine vereinfachte Version eines Beispiels aus der realen Welt, nämlich die Pflichten eines Agenten beim Autofahren.In der zweiten Fallstudie verwenden wir unsere Methodik, um die Normen für “ethische”Versionen des Pacman-Videospiels von Neufeld et al. (CADE, 2021) zu kodieren und zu implementieren.

As ethical AI is becoming increasingly important so is the topic of enforcing ethical, legal and social norms on agents acting autonomously. Reasoning about norms (normativereasoning) is in many cases quite hard as often norms contradict each other, might only hold under certain circumstances or need to be violated. A way to reason about norms, isto encode them in some logic (discussed further on page 63) and determine prioritisation among these. Multiple approaches have been proposed over the years. This master thesis introduces a simple methodology to encode normative systems using weak constraints in Answer Set Programming. Answer Set Programming is a declarative problem solving approach, with roots in knowledge representation, logic programming and non-monotonic reasoning. We chose this approach because of the expressivity of Answer Set Programming and the efficiency of available solvers. Standard Deontic Logic is the first logical systemintroduced to reason about obligations, permissions and related concepts. We discuss some of the most famous deontic paradoxes which show that Standard Deontic Logic fails to capture aspects of real world reasoning about norms. We encode these paradoxes on a case by case basis using a common core. We start by encoding some of the deonticparadoxes. Through abstracting and generalising those encodings we develop a simplemethodology for encoding normative systems. Our methodology is demonstrated on two case studies. In the first case study we encode a simplified version of a real worldexample, namely the obligations of an agent while driving. For the second case study, we use our methodology to encode and implement the norms for “ethical” versions of the video game Pacman by Neufeld et al. (CADE, 2021).