Spike sorting of brain signals with deep learning

Abstract

Spike sorting refers to the process of detection action potentials in extracellular recordings and their assignment to individual neurons. It is a foundational step in computational neuroscience. This task’s difficulty has increased with the introduction of high-density silicon probes such as Neuropixels. Classical spike sorters rely on signal processing, template matching, hand-crafted features and clustering heuristics. Recent work has shown that it could be beneficial to replace parts of this process with learned models, but a full end-to-end deep-learning pipeline trained on real extracellular recordings remains underexplored. This thesis develops a spike detector and a supervised contrastive encoder that are built on a shared convolutional neural network, trained under weak supervision on Kilosort 2 labels from the Allen Brain Observatory Visual Coding dataset. The approach is evaluated across three generalization tiers: in-distribution, within-recording-session held-out, and a cross-session probe from a different animal. The detector achieves F1score of around 60% on every probe, consistently improving on a threshold-only baseline that shares its preprocessing steps, and transfers across probes without tuning per-probe. The contrastive encoder, fine-tuned on top of the detector with batch-hard triplet loss, improves k-nearest-neighbor accuracy over the detection backbone on every probe tested, although the gain over a linear PCA baseline is mixed and probe-dependent. The results of the clustering stage against Kilosort unit identity indicated that the embeddings succeed in local but not global unit-discriminative structure.

Die Spike-Sortierung bezeichnet den Prozess der Detektion von Aktionspotenzialen in extrazellulären Ableitungen sowie deren Zuordnung zu einzelnen Neuronen. Sie stellt einen zentralen Verarbeitungsschritt in der Computational Neuroscience dar. Mit der Einführung hochdichter Siliziumsonden wie Neuropixels hat sich die Komplexität dieser Aufgabe deutlich erhöht. Klassische Spike-Sorting-Verfahren basieren auf Signalverarbeitung, Template Matching, handgefertigten Merkmalen sowie heuristischen Clustering-Methoden. Neuere Arbeiten legen nahe, dass sich Teile dieser Pipeline durch lernbasierte Modelle ersetzen lassen; vollständig durchgängige End-to-End-Deep-Learning-Ansätze, die auf realen extrazellulären Daten trainiert werden, sind jedoch bislang nur unzureichend untersucht. In dieser Arbeit werden ein Spike-Detektor und ein überwachter kontrastiver Encoder entwickelt, die auf einer gemeinsamen Convolutional-Neural-Network-Architektur basieren und unter schwacher Supervision mit Kilosort-2-Labels aus dem Allen Brain Observatory Visual Coding Datensatz trainiert werden. Der Ansatz wird auf drei Generalisierungsebenen evaluiert: auf den Trainingssonden (In-Distribution), auf einer innerhalb derselben Aufnahmesitzung zurückgehaltenen Sonde sowie auf einer Sonde aus einer anderen Sitzung mit einem anderen Versuchstier. Der Detektor erreicht auf allen Sonden einen F1-Score von etwas 60% und übertrifft dabei konsistent eine Schwellenwert-basierte Baseline bei identischer Vorverarbeitung; zudem generalisiert er ohne sondenspezifische Anpassung auf neue Sonden. Der kontrastive Encoder, der ausgehend vom Detektormittels Batch-Hard-Triplet-Loss feinjustiert wird, verbessert auf allen getesteten Sonden die k-Nearest-Neighbor-Genauigkeit gegenüber dem Detektions-Backbone, wobei die Zugewinne im Vergleich zu einer linearen PCA-Baseline gemischt und sondenabhängig ausfallen. Die Ergebnisse der Clustering-Stufe im Vergleich zu den Kilosort-Einheitslabels deuten darauf hin, dass die gelernten Einbettungen zwar lokale, jedoch keine ausgeprägte globale Struktur zur Trennung einzelner Neuronen aufweisen.