Out-of-Distribution Generalization and Posterior Inference in Deep Learning-Based Bayesian Causal Discovery

Abstract

Bayessche kausale Entdeckungsverfahren modellieren eine Posterior-Verteilung über gerichtete azyklische Graphen, anstatt Inferenz auf Basis einer Punktschätzung durchzuführen. Um bayessche Ansätze skalierbar zu machen, nähert amortisierte Inferenz die kausale Entdeckung an, indem ein neuronales Netzwerk auf großen synthetischen Datensätzen vortrainiert wird. Dadurch reduzieren sich die Inferenzkosten auf einen einzigen Vorwärtsdurchlauf des Modells. Daraus ergibt sich die zentrale Robustheitsfrage dieser Arbeit: In welchem Ausmaß verschlechtert sich die Modellleistung auf unbekannten Datensätzen, wenn die Testumgebung von dem Trainingssimulator abweicht? Diese Arbeit entwickelt einen Benchmark, der zwei amortisierte Methoden (AviCi, BCNP) und zwei explizite bayessche Methoden (DiBS, BayesDAG) unter gemeinsamen daten-generierenden Annahmen vergleicht. Der Benchmark isoliert Verschiebungen in Graphstruktur, Mechanismus, statistisches Rauschen, Knotenzahl und Stichprobengröße, um zu untersuchen, ob amortisierte Modelle gegenüber solchen Änderungen robust sind und ob marginale Posterior-Unsicherheitsschätzungen aussagekräftige Hinweise auf strukturelle Verschlechterungen unter Verteilungsverschiebung liefern. Die Ergebnisse zeigen, dass AviCi insgesamt das stärkste Modell ist und unter Graph- und Rauschverschiebungen robust bleibt. Allerdings scheint das Modell nicht robust gegenüber Mechanismusverschiebungen und Extrapolationen außerhalb des Trainingsbereichs zu sein. Der Vergleich mit expliziten Baselines zeigt einen datensatzabhängigen Trade-off, bei dem explizite Methoden unter Mechanismusverschiebungen wieder einen Vorteil erlangen. Zur Einsatzzeit verfügbare Unsicherheitssignale liefern keinen zuverlässigen eigenständigen Indikator für strukturelle Fehler.

Bayesian causal discovery models a posterior distribution over directed acyclic graphs rather than making inference with a point estimate.To make Bayesian approaches scalable, amortized inference approaches causal discovery by pre-training a neural network on big synthetic datasets to reduce the cost of inference to a single forward pass of the model. This leads to the central robustness question oft his thesis. When the test environment departs from the training simulator,to what extent does model performance degrade on unseen datasets?This thesis develops a benchmark that compares two amortized methods (AviCi, BCNP) and two explicit Bayesian methods (DiBS, BayesDAG) under shared data-generating assumptions.The benchmark isolates shifts in graph, mechanism, noise, node count and sample size to test whether amortized models are robust to such changes and if marginal posterior uncertainty estimates are informative about structural degradation under distribution shift.The results show that AviCi is the strongest model overall and remains robust under graph and noise shifts. However, the model does not seem to be robust against mechanism shifts and extrapolation beyond training support. The comparison with explicit baselines reveals a dataset-dependent trade-off where explicit methods recover an advantage under mechanism shifts. Deployment-available uncertainty signals fail to provide a reliable standalone indicator of structural error.