Syntactic and semantic concepts in audio-visual media

Abstract

In dieser Dissertation untersuchen wir Anforderungen der Filmexperten an das inhaltsbasierte Informationretrieval von Archivfilmen. Aus den abstrakten Anforderungen der Filmexperten leiten wir syntaktische und semantische Konzepte unterschiedlicher Komplexität ab, welche automatisch aus den Filmen extrahiert werden sollen. Die untersuchten Filme stellen durch ihre komplexe Montage und durch ihren schlechten Materialzustand die automatische Analyse vor neue Herausforderungen. Der wissenschaftliche Beitrag dieser Arbeit umfasst Untersuchungen und Analysetechniken für die Extraktion von syntaktischen und semantischen Konzepten aus Archivfilmen. Wir entwickeln Detektoren für Konzepte niedriger Komplexität, wie zum Beispiel Schwarzkader und Zwischentitel und untersuchen die Erkennung von Einstellungsgrenzen. Darüber hinaus beschäftigen wir uns mit Konzepten höherer Komplexität: Wir stellen Methoden für die Erkennung von Filmszenen sowie Sequenzen mit synchroner audiovisueller Montage vor. Weiters untersuchen wir die automatisch Analyse von Bewegungskomposition und Bildkomposition.<br />Die präsentierten Methoden wurden erfolgreich auf Archiv- und zeitgenössische Filme angewendet. Die Methoden ermöglichen einen effizienten Zugriff auf das Material und unterstützen Filmexperten bei ihren Untersuchungen. Weiters zeigt sich, dass die Methoden den Filmexperten zum Teil neue, das Filmmaterial betreffende, Einsichten ermöglichen.<br />

In recent years tremendous amounts of audio-visual media have become available to the public and increased the demand for efficient retrieval methods. The research community working in content-based media retrieval has mainly focused on specific media types, such as sports videos, news broadcasts, and commercials. A widely neglected media type is historic film. In the context of historic film, film experts have research questions and requirements that are novel for content-based retrieval.<br />In this thesis, we investigate novel requirements for content-based retrieval of archive film stated by film experts. From the abstract requirements of film experts we first derive specific lower- and higher-level, syntactic and semantic concepts to be retrieved automatically. Next, we develop techniques for the automatic retrieval of these concepts from archive film. The investigated films are challenging for retrieval due to their sophisticated editing and their low material quality.<br />The contribution of this thesis are novel techniques and investigations for the retrieval of syntactic and semantic concepts in archive film. We develop detectors for lower-level concepts such as black frames and intertitles and perform investigations of shot boundary detection in archive films. We further analyze higher-level concepts: We propose methods for the extraction of scenes and synchronous audio-visual montage sequences and investigate the retrieval of motion- and visual composition.<br />The developed techniques are successfully applied to archive and contemporary films and enable efficient access to the film material.<br />Additionally the methods assist film experts in their investigations and enable them to gain novel insights into the films.<br />