Ook in de statistische fysica is machine learning aan een grote opmars begonnen. Voor zowel klassieke als kwantummechanische spin-systemen, slagen machine learning algoritmes erin om fasetransities te detecteren (een overzicht kan HIER gevonden worden). Machine learning technieken zijn vooral interessant wanneer de klassieke fysische methoden falen (zoals bij de afwezigheid van een relevante ordeparameter). Unsupervised methoden -- zoals PCA en t-SNE -- waarbij de onderverdeling van een dataset in de fysisch correcte fases niet wordt opgelegd, zijn toepasbaar voor het aftasten van de relevante regio's in het fasediagram. Verder zijn diepe neurale netwerken hiervoor ook uiterst geschikt, omdat de symmetrieën in spin-systemen hierbij in rekening gebracht kunnen worden. Dit wordt bijvoorbeeld toegepast bij ``learning by confusion'' (ZIE BIJVOORBEELD HIER) . Een grote uitdaging bij de toepassing van machine learning algoritmes in de statistische fysica ligt in het begrijpen van de classificatie die de machine leert. De onderstaande thesisonderwerpen zijn ideaal om kennis te verwerven in state-of-the-art toepassingen van machine learning, die momenteel zeer waardevol zijn in allerhande situaties. De thesissen zijn gericht naar studenten met een grote interesse in numerieke methoden (computationele fysica) en fasetransities (statistische fysica).

Het XY-model is een veralgemening van het Ising model, waarbij de spins een continue oriëntatie kunnen aannemen. Wegens het Mermin-Wagner theorema (ZIE HIER) ), kan in de 2D-versie van dit model geen spontane magnetizatie optreden. In plaats hiervan, is er een transitie tussen gebonden vortex-antivortex paren bij lage temperaturen naar ongepaarde vortices en anti-vortices. Dit is een Kosterlitz–Thouless transitie, waarvan de ontdekking instrumentaal was voor de Nobelprijs van 2016. Unsupervised learning algoritmes toepassen op de spinconfiguraties van het XY-model, leidt echter tot een classificatie op basis van de magnetizatie van het systeem (die verdwijnt in de thermodynamische limiet) in plaats van het detecteren van vortices (ZIE HIER) .

Dit thesisonderwerp heeft als doel het ontwerpen van een algoritme dat deze topologische eigenschappen kan detecteren, alsook ze kan visualiseren.

Een van de doelen van machine learning is het vinden van probabiliteitsdistributies voor bepaalde data sets. Hierbij maakt men gebruik van modellen zoals neurale netwerken die de onderliggende probabiliteitsdistributie van deze data sets kunnen benaderen. Op deze manier kan men, eenmaal men deze distributie heeft gevonden, artificiële datapunten genereren en uit de representatie van de modellen leren wat de belangrijke eigenschappen van de dataset zijn. Deze werkmethode kan ook op fysische systemen worden toegepast. Aangezien data kan gegenereerd worden via Monte Carlo technieken, kunnen de methodes ontwikkeld in de machine learning direct gebruikt worden op deze fysische modellen.
Verschillende methodes zijn beschikbaar in de literatuur. Twee noemenswaardige zijn restricted Boltzmann machines (RBMs) en Generative adversarial networks (GANs). Onlangs zijn deze beide methodes toegepast op het Ising systeem (ZIE HIER voor RBMs en ZIE HIER voor GANs). In de voorgestelde thesis zou het de bedoeling zijn om een stap verder te gaan en het XY-model te modelleren met één van deze technieken. Wat het XY-model speciaal maakt zijn de topologische eigenschappen (vorticiteit) die aanwezig zijn in de vrijheidsgraden van het systeem.

The quantum many-body problem suffers from the curse of dimensionality. This means that the dimension of the Hilbert space scales exponentially with the system size. This makes quantum mechanical problems hard to solve. Indeed, finding the relevant physical many-body state amounts to searching for one specific point in the entire space. Over the years, powerful techniques to restrict this space have been developed. Using concepts such as locality and translational invariance, one can identify the relevant corner of the Hilbert space. Nevertheless, it is a highly non-trivial problem to find the exact relevant points in the Hilbert space. Variational many-body wave functions, constructed to obey these physical restrictions, are promissing candidates to describe the relevant corner of the Hilbert space.
Recently, a new class of variational wave functions has been introduced (see (LINK TO PAPER). These wave functions are introduced as modifications of neural networks; complex functions developed to perform machine learning tasks. Many of those exhibit the previously mentioned characteristics found in many-body physics. Because these classes of wave functions have only been recently proposed, it is presently unknown how well they perform and what their characteristics are. Nevertheless, the results obtained so far are very promissing.

There are a lot of possibilities for a thesis in this subject. Examples include: (i) searches for methods to study the excited states of the quantum many-body system; (ii) investigations of new network architectures; (iii) applications of the methodology to other spin quantum systems. In the forthcoming we mention two possible MSc thesis subjects.

• Example 1: Restricted Boltzmann machines for frustrated quantum many-body systems
  Frustrated quantum many-body systems are defined by their presence of competing interactions. A simple classical example is the Ising model on a triangular lattice, where the ground state is not unique due to the inability to minimize the energy localy. Frustrated quantum many-body systems are characterized by their rich phase diagram and existence of exotic ground-states. On one hand, quantum states derived from a thermal Boltzmann distribution (to which the restricted Boltzmann distribution is closely related) have been shown to describe frustrated spin systems well. On the other hand, recent advances in neural network quantum states have shown that deep neural networks also perform well on the task of describing frustrated systems. An interesting question is how both models relate to each other. This thesis involves substantial computational work and aims at finding and describing the ground states of frustrated quantum systems. In a later stadium we aim to uncover the reasons for the succesfulness of these approaches.



• Example 2: SU(2)-invariant many-body states wih autoregressive neural networks
  Recently, SU(2)-invariant neural network quantum many-body states were developped by members of our group. The resulting states are more physical than regular neural network states and lead to better results and the ability to target excited states. Recently, a new type of neural network quantum many-body states has been introduced, based on autoregressive models. autoregressive models split probability distributions in parts, leading to a faster sampling of these distributions and to the vanishing of the autocorrelation time. It is expected that these advantages are especially useful for SU(2)-invariant neural network states. In this thesis, the student will develop SU(2)-invariant autoregressive neural network quantum states, following the same lines as regular SU(2)-invariant neural network quantum many-body states. After this developmental phase, the two approaches can be compared and applied to other models, such as frustrated models described above.

[Terug naar overzicht thesisonderwerpen]