The vertebrate brain emerged more than ∼500 million years ago in common evolutionary ancestors. To systematically trace its cellular and molecular origins, we established a spatially resolved cell type atlas of the entire brain of the sea lamprey – a jawless species whose phylogenetic position affords the reconstruction of ancestral vertebrate traits – based on extensive single-cell RNA-seq and in situ sequencing data. Comparisons of this atlas to neural data from the mouse and other jawed vertebrates unveiled various shared features that enabled the reconstruction of the core cell type composition, tissue structures, and gene expression programs of the ancestral brain. However, our analyses also revealed key tissues and cell types that arose later in evolution. For example, the ancestral vertebrate brain was likely devoid of cerebellar cell types and oligodendrocytes (myelinating cells); our data suggest that the latter emerged from astrocyte-like evolutionary precursors on the jawed vertebrate lineage. Our work illuminates the cellular and molecular architecture of the ancestral vertebrate brain and provides a foundation for exploring its diversification during evolution.

The testis is a key male reproductive organ that produces gametes through the process of spermatogenesis. Testis morphologies and spermatogenesis evolve rapidly in mammals, presumably due to the evolutionary pressure on males to be reproductively successful 1,2 . The rapid evolution of the testis was shown to be reflected at the molecular level based on bulk-tissue work 3-8 , but the molecular evolution of individual spermatogenic cell types across mammalian lineages remains largely uncharacterized. Here we report evolutionary analyses of single-nucleus transcriptome data for testes from eleven species that cover the three major mammalian lineages (eutherians, marsupials, egg-laying monotremes) and birds (the evolutionary outgroup), and include seven key primates. Our analyses reveal that the rapid evolution of the testis is driven by accelerated fixation rates of gene expression changes, amino acid altering substitutions, and newly emerged genes in late spermatogenic stages – likely facilitated by reduced pleiotropic constraints, haploid selection, and a transcriptionally permissive chromatin environment. We identify temporal expression changes of individual genes across species, which may have contributed to the emergence of species-specific phenotypes, but also conserved expression programs underlying ancestral spermatogenic processes. Sex chromosome analyses show that genes predominantly expressed in spermatogonia (i.e., germ cells fueling spermatogenesis) and Sertoli cells (i.e., somatic supporting cells) independently accumulated on X chromosomes across mammals during evolution, presumably due to male-beneficial selective forces. Further work uncovered that the process of meiotic sex chromosome inactivation (MSCI) also occurs in monotremes and hence is common to the different mammalian sex chromosome systems, contrary to previous inferences 9 . Thus, the general mechanism of meiotic silencing of unsynapsed chromatin (MSUC), which underlies MSCI, represents an ancestral mammalian feature. Together, our study illuminates the cellular and molecular evolution of mammalian spermatogenesis and associated selective forces, and provides a resource for investigating the biology of the testis across mammals.

The expansion of the neocortex, one of the hallmarks of mammalian evolution 1,2 , was accompanied by an increase in the number of cerebellar neurons 3 . However, little is known about the evolution of the cellular programs underlying cerebellum development in mammals. In this study, we generated single-nucleus RNA-sequencing data for ∼400,000 cells to trace the development of the cerebellum from early neurogenesis to adulthood in human, mouse, and the marsupial opossum. Our cross-species analyses revealed that the cellular composition and differentiation dynamics throughout cerebellum development are largely conserved, except for human Purkinje cells. Global transcriptome profiles, conserved cell state markers, and gene expression trajectories across neuronal differentiation show that the cerebellar cell type-defining programs have been overall preserved for at least 160 million years. However, we also discovered differences. We identified 3,586 genes that either gained or lost expression in cerebellar cells in one of the species, and 541 genes that evolved new expression trajectories during neuronal differentiation. The potential functional relevance of these cross-species differences is highlighted by the diverged expression patterns of several human disease-associated genes. Altogether, our study reveals shared and lineage-specific programs governing the cellular development of the mammalian cerebellum, and expands our understanding of the evolution of mammalian organ development.

The advanced cognitive abilities of birds rival those of mammals and have been attributed to evolutionary innovations in the pallium. However, a comprehensive cellular characterization of this brain region in birds has been lacking. We scrutinized the structures, cell types and evolutionary origins of the avian pallium based on single-cell and spatial transcriptomics atlases for the adult and developing chicken, and comparisons to corresponding data from mammals and non-avian reptiles. We found that the avian pallium shares most inhibitory neuron types with other amniotes. While excitatory neuron repertoires in the (medial) hippocampal formation show high conservation, they substantially diverged in other pallial regions during avian evolution, defining novel structures like the avian-specific (dorsal) hyperpallium, whose neuronal gene expression identities partly converge during late development with those of the (ventral) nidopallium. Our work also unveils the evolutionary relationships of pallial structures across amniotes, like the previously unknown homology between avian (lateral) mesopallial and mammalian deep layer cortical neurons.

The retina, whose basic cellular structure is highly conserved across vertebrates, constitutes an accessible system for studying the central nervous system. In recent years, single-cell RNA-sequencing studies have uncovered cellular diversity in the retina of a variety of species, providing new insights on retinal evolution and development. However, similar data in cartilaginous fishes, the sister group to all other extant jawed vertebrates, are still lacking. Here, we present a single-nucleus RNA-sequencing atlas of the postnatal retina of the catshark Scyliorhinus canicula , consisting of the expression profiles for 17,438 individual cells from three female, juvenile catshark specimens. Unsupervised clustering revealed 22 distinct cell types comprising all major retinal cell classes, as well as retinal progenitor cells (whose presence reflects the persistence of proliferative activity in postnatal stages in sharks) and oligodendrocytes. Thus, our dataset serves as a foundation for further studies on the development and function of the catshark retina. Moreover, integration of our atlas with data from other species will allow for a better understanding of vertebrate retinal evolution.