ABSTRACT Single-cell RNA sequencing (scRNA-seq) and spatial transcriptomics (ST) technologies provide new insights to understand tissue organization and biological function. Accurately capturing the relationships of samples (e.g., sequenced cells, spatial locations) will result in reliable and consistent outcomes in downstream analyses. However, this undertaking remains a challenge for large-volume or cross-platform datasets due to transcriptional heterogeneity and high computational demands. Here, we introduce landmark-based transferable subspace analysis (LANTSA) to solve such challenges for scRNA-seq and ST datasets. Specifically, LANTSA constructs a representation graph of samples for clustering and visualization based on a novel subspace model, which can learn a more accurate representation and is theoretically proven to be linearly proportional to data size in terms of the time consumption. Furthermore, LANTSA uses a dimensionality reduction technique as an integrative method to extract the discriminants underlying the representation structure, which enables label transfer from one (learning) dataset (i.e., scRNA-seq profiles) to the other (prediction) datasets (e.g., scRNA-seq or ST profiles), thus solving the massive-volume or cross-platform problem. We demonstrated the superiority of LANTSA to identify accurate data structures via clustering evaluation on benchmark datasets of various scRNA-seq protocols, 10x Visium, and Slide-seq ST platforms. Moreover, we confirmed the integration capability of LANTSA to transfer cell annotation on large-scale and cross-platform scRNA-seq datasets. Finally, we validated the effectiveness of LANTSA for the identification of multiple mouse brain areas as well as the spatial mapping of cell types within cortical layers by integrating scRNA-seq and ST data.

Abstract Spatially resolved transcriptomics (SRT) enable the comprehensive characterization of transcriptomic profiles in the context of tissue microenvironments. Unveiling spatial transcriptional heterogeneity needs to effectively incorporate spatial information accounting for the substantial spatial correlation of expression measurements. Here, we develop a computational method, SpaSRL (spatially aware self-representation learning), which flexibly enhances and decodes spatial transcriptional signals to simultaneously achieve spatial domain detection and spatial functional genes identification. This novel tunable spatially aware strategy of SpaSRL not only balances spatial and transcriptional coherence for the two tasks, but also can transfer spatial correlation constraint between them based on a unified model. Additionally, this joint analysis by SpaSRL deciphers accurate and fine-grained tissue structures and ensures the effective extraction of biologically informative genes underlying spatial architecture. We verified the superiority of SpaSRL on spatial domain detection, spatial functional genes identification and data denoising using multiple SRT datasets obtained by different platforms and tissue sections. Our results illustrate SpaSRL’s utility in flexible integration of spatial information and novel discovery of biological insights from spatial transcriptomic datasets.

Abstract Spatially resolved transcriptomics (SRT) has emerged as a powerful tool for investigating gene expression in spatial contexts, providing insights into the molecular mechanisms underlying organ development and disease pathology. However, the expression sparsity poses a computational challenge to integrate other modalities (e.g. histological images and spatial locations) that are simultaneously captured in SRT datasets for spatial clustering and variation analyses. In this study, to meet such a challenge, we propose multi-modal domain adaption for spatial transcriptomics (stMDA), a novel multi-modal unsupervised domain adaptation method, which integrates gene expression and other modalities to reveal the spatial functional landscape. Specifically, stMDA first learns the modality-specific representations from spatial multi-modal data using multiple neural network architectures and then aligns the spatial distributions across modal representations to integrate these multi-modal representations, thus facilitating the integration of global and spatially local information and improving the consistency of clustering assignments. Our results demonstrate that stMDA outperforms existing methods in identifying spatial domains across diverse platforms and species. Furthermore, stMDA excels in identifying spatially variable genes with high prognostic potential in cancer tissues. In conclusion, stMDA as a new tool of multi-modal data integration provides a powerful and flexible framework for analyzing SRT datasets, thereby advancing our understanding of intricate biological systems.