Magnetic topological insulators are narrow-gap semiconductor materials that combine non-trivial band topology and magnetic order1. Unlike their nonmagnetic counterparts, magnetic topological insulators may have some of the surfaces gapped, which enables a number of exotic phenomena that have potential applications in spintronics1, such as the quantum anomalous Hall effect2 and chiral Majorana fermions3. So far, magnetic topological insulators have only been created by means of doping nonmagnetic topological insulators with 3d transition-metal elements; however, such an approach leads to strongly inhomogeneous magnetic4 and electronic5 properties of these materials, restricting the observation of important effects to very low temperatures2,3. An intrinsic magnetic topological insulator—a stoichiometric well ordered magnetic compound—could be an ideal solution to these problems, but no such material has been observed so far. Here we predict by ab initio calculations and further confirm using various experimental techniques the realization of an antiferromagnetic topological insulator in the layered van der Waals compound MnBi2Te4. The antiferromagnetic ordering that MnBi2Te4 shows makes it invariant with respect to the combination of the time-reversal and primitive-lattice translation symmetries, giving rise to a ℤ2 topological classification; ℤ2 = 1 for MnBi2Te4, confirming its topologically nontrivial nature. Our experiments indicate that the symmetry-breaking (0001) surface of MnBi2Te4 exhibits a large bandgap in the topological surface state. We expect this property to eventually enable the observation of a number of fundamental phenomena, among them quantized magnetoelectric coupling6–8 and axion electrodynamics9,10. Other exotic phenomena could become accessible at much higher temperatures than those reached so far, such as the quantum anomalous Hall effect2 and chiral Majorana fermions3. An intrinsic antiferromagnetic topological insulator, MnBi2Te4, is theoretically predicted and then realized experimentally, with implications for the study of exotic quantum phenomena.

Quantum states of matter combining non-trivial topology and magnetism attract a lot of attention nowadays; the special focus is on magnetic topological insulators (MTIs) featuring quantum anomalous Hall and axion insulator phases. Feasibility of many novel phenomena that \emph{intrinsic} magnetic TIs may host depends crucially on our ability to engineer and efficiently tune their electronic and magnetic structures. Here, using angle- and spin-resolved photoemission spectroscopy along with \emph{ab initio} calculations we report on a large family of intrinsic magnetic TIs in the homologous series of the van der Waals compounds (MnBi$_2$Te$_4$)(Bi$_2$Te$_3$)$_m$ with $m=0, ..., 6$. Magnetic, electronic and, consequently, topological properties of these materials depend strongly on the $m$ value and are thus highly tunable. The antiferromagnetic (AFM) coupling between the neighboring Mn layers strongly weakens on moving from MnBi2Te4 (m=0) to MnBi4Te7 (m=1), changes to ferromagnetic (FM) one in MnBi6Te10 (m=2) and disappears with further increase in m. In this way, the AFM and FM TI states are respectively realized in the $m=0,1$ and $m=2$ cases, while for $m \ge 3$ a novel and hitherto-unknown topologically-nontrivial phase arises, in which below the corresponding critical temperature the magnetizations of the non-interacting 2D ferromagnets, formed by the \MBT\, building blocks, are disordered along the third direction. The variety of intrinsic magnetic TI phases in (MnBi$_2$Te$_4$)(Bi$_2$Te$_3$)$_m$ allows efficient engineering of functional van der Waals heterostructures for topological quantum computation, as well as antiferromagnetic and 2D spintronics.

Using angle-resolved photoemission spectroscopy (ARPES) and density functional theory (DFT), an experimental and theoretical study of changes in the electronic structure (dispersion dependencies) and corresponding modification of the energy band gap at the Dirac point (DP) for topological insulator (TI) $$\textrm{Mn}_{1-x} \textrm{Ge}_x \textrm{Bi}_2 \textrm{Te}_4$$ have been carried out with gradual replacement of magnetic Mn atoms by non-magnetic Ge atoms when concentration of the latter was varied from 10% to 75%. It was shown that when Ge concentration increases, the bulk band gap decreases and reaches zero plateau in the concentration range of 45–60% while trivial surface states (TrSS) are present and exhibit an energy splitting of 100 and 70 meV in different types of measurements. It was also shown that TSS disappear from the measured band dispersions at a Ge concentration of about 40%. DFT calculations of $$\textrm{Mn}_{1-x} \textrm{Ge}_x \textrm{Bi}_2 \textrm{Te}_4$$ band structure were carried out to identify the nature of observed band dispersion features and to analyze the possibility of magnetic Weyl semimetal state formation in this system. These calculations were performed for both antiferromagnetic (AFM) and ferromagnetic (FM) ordering types while the spin-orbit coupling (SOC) strength was varied or a strain (compression or tension) along the c-axis was applied. Calculations show that two different series of topological phase transitions (TPTs) may be implemented in this system, depending on the magnetic ordering. In the case of AFM ordering, the transition between TI and the trivial insulator phase passes through the Dirac semimetal state, whereas for FM phase such route admits three intermediate states instead of one (TI—Dirac semimetal—Weyl semimetal—Dirac semimetal—trivial insulator). Weyl points that form in the FM system along the $$\varGamma \!Z$$ direction annihilate when either the SOC strength decreases or a sufficient tensile strain is applied, which is accompanied by the corresponding TPTs. Model calculations of the influence of local magnetic ordering in AFM $$\textrm{Mn}_{1-x} \textrm{Ge}_x \textrm{Bi}_2 \textrm{Te}_4$$ were carried out by alternating Mn layers with Ge-doped layers and showed that the magnetic Weyl semimetal state in this system is reachable at a Ge concentration of approximately 40% without application of any external magnetic fields.