Towards a generalized reason model

Abstract

Normative reasoning is the logical study of norms, a concept which is found in a multitude of domains, as norms range from from ethical, legal, social or cultural norms. In computer science, one way norms are used is to specify and regulate the behavior of artificial intelligence (AI) systems. In this context, one of the open problems is that of norm acquisition. The current state of the art consists of two approaches: One uses a declarative representation using a logical language, which is typically encoded by hand. The other uses machine learning to detect and learn norms from training data. Both approaches lack some desired properties like scalability or transparency. The natural idea is therefore to investigate a hybrid approach that combines the two and balances out their strengths and weaknesses. One framework that could be used for such an approach are precedential reasoning models that are developed for legal reasoning. In particular the Reason Model developed by John Horty turns out to be a suitable candidate. The main goal of the developments surrounding the model is to move it away from purely legal reasoning, opening it up to a general application in AI. One of these developments for example is the encoding of the model in a modal logic, which can be used to generate explanations. This work is a step towards generalizing the reason model for the use in AI. The long term goal of this thesis is to develop a framework that provides a transparent, verifiable and explainable representation of normative information that can be acquired automatically.

Normative reasoning ist die Untersuchung von Normen mit logischen Methoden, und wirdin einer Vielzahl von Anwendungen eingesetzt, da Normen ethische, rechtliche, sozialeoder kulturelle Normen beinhalten. Ein Weg, in dem Normen in der Informatik eingesetztwerden ist um das Verhalten von künstlicher Intelligenz (KI) zu spezifizieren und zusteuern. In diesem Kontext ist eines der offenen Probleme das der Norm Akquirierung.Der aktuelle Stand der Technik besteht aus zwei Ansätzen: Einer nutzt deklarativeRepräsentationen mithilfe einer logischen Sprache, welche üblicherweise per Hand erstelltwird. Der andere Ansatz nutzt Machine Learning um Normen aus Trainingsdaten zuerkennen und zu lernen. Beiden Ansätzen fehlen einige gewünschte Eigenschaften wie dieMöglichkeit der Skalierung oder Transparenz.Die natürliche Idee ist daher einen Hybridansatz zu untersuchen, welcher die beidenbisherigen Ansätze vereint und ihre Stärken und Schwächen miteinander ausgleicht. EinFramework welches für einen solchen Ansatz genutzt werden könnte sind Modelle zumArgumentieren über Präzedenz, welche für rechtliche Argumentation entwickelt wurden.Insbesondere das Reason Model welches von John Horty entwickelt wurde stellt sich alspassender Kandidat heraus. Das Hauptziel der Entwicklungen um das Modell ist es vonreinem rechtlichen Argumentieren zu lösen und es einem allgemeineren Kontext von KIzu öffnen. Eine dieser Entwicklungen ist zum Beispiel die Kodierung des Modells in einerModallogik, welche genutzt werden kann um Erklärungen zu generieren.Diese Arbeit ist ein Schritt hin zu einer Generalisierung des Reason Models für dieNutzung in KI. Das Langzeitziel dieser Thesis ist die Entwicklung eines Frameworkswelches eine transparente, verifizierbare und erklärbare Representation von normativerInformation bietet, die automatisiert akquiriert werden kann.