Universität zu Köln

Dettmer, Simon Lee (2017). Stochastic inference from snapshots of the non-equilibrium steady state : the asymmetric Ising model and beyond. PhD thesis, Universität zu Köln.

Preview

PDF StochasticInference.pdf - Accepted Version Download (1MB)

Abstract

In dieser Arbeit untersuchen wir das Problem der Parameter-Inferenz für ergodische Markov-Prozesse, die gegen einen stationären Zustand konvergieren, der nicht durch die Boltzmann-Verteilung beschrieben wird. Unser Hauptergebnis ist, dass wir die Parameter verschiedener Modelle auf der Grundlage von unabhängigen Stichproben aus dem stationären Zustand lernen können, obwohl wir die stationäre Wahrscheinlichkeitsverteilung nicht kennen. Genauer: für die untersuchten Modelle in stetiger Zeit konnten wir die Parameter bis auf einen Skalierungsfaktor inferieren, welcher die Zeitskala bestimmt, die natürlich nicht aus statischen Messungen ermittelt werden kann; bei Modellen in diskreter Zeit ist die Zeitskala bereits implizit durch die Diskretisierung gewählt und wir konnten alle Parameter der untersuchten Modelle inferieren. Als Paradigma für Nicht-Gleichgewichts-Prozesse untersuchen wir das asymmetrische Ising-Modell mit Glauber-Dynamik. Es beschreibt binäre Spinvariablen mit asymmetrischen paarweisen Wechselwirkungen unter dem Einfluss äußerer Magnetfelder. Diese Magnetfelder und Wechselwirkungsstärken wollen wir lernen. Zu diesem Zweck haben wir in dieser Arbeit zwei verschiedene Inferenzmethoden entwickelt: die erste Methode basiert auf der Berechnung von Magnetisierungen, sowie Zwei- und Dreipunkt-Spin-Korrelationen, zum einen in einer selbstkonsistenten Form, die exakt ist, und zum anderen in einer geschlossenen Form innerhalb einer Molekularfeld-Näherung; die zweite Methode beruht auf der Maximierung einer Funktion, die wir "propagator likelihood" nennen. Diese betrachtet fiktive Übergänge zwischen allen gemessenen Konfigurationen und ist verwandt mit der bekannten Log-Likelihood-Funktion für Gleichgewichts-Systeme. Der Vorteil des Molekularfeld-Ansatzes ist sein vergleichbar geringer numerischer Aufwand, während der Vorteil des "propagator likelihood"-Verfahrens darin besteht, dass es die gesamte empirische Verteilung verwendet und leicht auf jeden ergodischen Markov-Prozess angewandt werden kann. Insbesondere wenden wir die "propagator likelihood"-Methode auf weitere bekannte Nicht-Gleichgewichtsmodelle aus der Statistischen Physik und der Theoretischen Biologie an: den einfachen asymmetrischen Exklusionsprozess (ASEP) in stetiger Zeit mit diskreten Konfigurationen, sowie die Replikatordynamik in stetiger Zeit mit kontinuierlichen Konfigurationen. Die Allgemeingültigkeit des "propagator likelihood"-Ansatzes wird dadurch betont, dass er direkt aus dem Prinzip hergeleitet werden kann, dass die gemessene Verteilung stationär unter der Dynamik sein soll, das heißt wir minimieren die relative Entropie zwischen der empirischen Verteilung und einer Verteilung, die durch eine Zeitentwicklung dieser empirischen Verteilung erzeugt wird. Schließlich untersuchen wir noch eine etwas andere Situation und zeigen wie die Inferenz im asymmetrischen Ising-Modell verbessert werden kann, wenn wir mehrere Datensätze aus unabhängigen Stichproben von verschiedenen stationären Zuständen haben, die durch kontrollierte Störungen der zugrunde liegenden Modellparameter erzeugt werden.

Item Type:	Thesis (PhD thesis)
Translated abstract:	Abstract Language In this thesis we study the problem of inferring the parameters of ergodic Markov processes that converge to a non-equilibrium steady state. Our main result is that for many models, we can learn the parameters based on independent samples taken from the steady state, even though we do not know the stationary probability distribution. To be more precise: for the investigated models in continuous time, we could infer the parameters up to a factor that defines the time scale, which, naturally, cannot be determined from static measurements; for the investigated models in discrete time, the time scale is already chosen implicitly by the discretisation and we could infer all parameters. As our main paradigm for non-equilibrium inference problems, we study the asymmetric Ising model with Glauber dynamics. It consists of binary spins subject to external fields and asymmetric pairwise spin-couplings, which we seek to infer. For this purpose we have developed two different inference methods: the first method is based on computing magnetisations, two- and three-point spin correlations, either in a self-consistent form that is exact, or in a closed form within a mean field approximation; the second method is based on maximising a ``propagator likelihood'', which considers fictitious transitions between all sampled configurations and is akin to the well-known log-likelihood function used for equilibrium systems. The advantage of the mean field approach is its computational efficiency, while the advantage of the propagator likelihood method is that it uses information from the full sampled distribution and can easily be applied to any ergodic Markov process. In particular, we apply the propagator likelihood method to other prominent non-equilibrium models from statistical physics and theoretical biology: (i) the asymmetric simple exclusion process (ASEP) in continuous time with discrete configurations and (ii) replicator dynamics in continuous time with continuous configurations. The generality of this approach is emphasised by the fact that we can derive the propagator likelihood directly from the principle that the sampled distribution should be stationary under the model dynamics: we minimise the relative entropy between the sampled distribution and a distribution generated by propagating the sampled distribution in time. Finally, we investigate a slightly different setting: we show how inference can be improved in the asymmetric Ising model by considering multiple sets of independent samples taken from several steady states, which are generated by controlled perturbations of the underlying model parameters. English
Creators:	Creators Email ORCID ORCID Put Code Dettmer, Simon Lee simondettmer@cantab.net UNSPECIFIED UNSPECIFIED
URN:	urn:nbn:de:hbz:38-78447
Date:	August 2017
Language:	English
Faculty:	Faculty of Mathematics and Natural Sciences
Divisions:	Faculty of Mathematics and Natural Sciences > Department of Physics > Institute for Theoretical Physics
Subjects:	Mathematics Physics
Uncontrolled Keywords:	Keywords Language Stochastic inference; Ising model; Markov processes; non-equilibrium mean field theory; replicator dynamics; asymmetric simple exclusion process English
Date of oral exam:	5 October 2017
Referee:	Name Academic Title Berg, Johannes Prof. Dr. Gross, David Prof., PhD
Refereed:	Yes
URI:	http://kups.ub.uni-koeln.de/id/eprint/7844