Abstract Advances of single-cell technologies allow scrutinizing of heterogeneous cell states, however, analyzing transitions from snap-shot single-cell transcriptome data remains challenging. To investigate cells with transient properties or mixed identities, we present MuTrans, a method based on multiscale reduction technique for the underlying stochastic dynamical systems that prescribes cell-fate transitions. By iteratively unifying transition dynamics across multiple scales, MuTrans constructs the cell-fate dynamical manifold that depicts progression of cell-state transition, and distinguishes meta-stable and transition cells. In addition, MuTrans quantifies the likelihood of all possible transition trajectories between cell states using the coarse-grained transition path theory. Downstream analysis identifies distinct genes that mark the transient states or drive the transitions. Mathematical analysis reveals consistency of the method with the well-established Langevin equation and transition rate theory. Applying MuTrans to datasets collected from five different single-cell experimental platforms and benchmarking with seven existing tools, we show its capability and scalability to robustly unravel complex cell fate dynamics induced by transition cells in systems such as tumor EMT, iPSC differentiation and blood cell differentiation. Overall, our method bridges data-driven and model-based approaches on cell-fate transitions at single-cell resolution.

Abstract The RNA velocity provides a new avenue to study the stemness and lineage of cells in the development in scRNA-seq data analysis. Some promising extensions of it are proposed and the community is experiencing a fast developing period. However, in this stage, it is of prime importance to revisit the whole process of RNA velocity analysis from the mathematical point of view, which will help to understand the rationale and drawbacks of different proposals. The current paper is devoted to this purpose. We present a thorough mathematical study on the RNA velocity model from dynamics to downstream data analysis. We derived the analytical solution of the RNA velocity model from both deterministic and stochastic point of view. We presented the parameter inference framework based on the maximum likelihood estimate. We also derived the continuum limit of different downstream analysis methods, which provides insights on the construction of transition probability matrix, root and endingcells identification, and the development routes finding. The overall analysis aims at providing a mathematical basis for more advanced design and development of RNA velocity type methods in the future.

Abstract The advent of immune checkpoint therapy for metastatic skin cancer has greatly improved patient survival. However, most skin cancer patients are refractory to checkpoint therapy, and furthermore the differential intra-immune signaling between cancers driving the response to checkpoint therapy remains uncharacterized. When comparing the immune transcriptome in the tumor microenvironment of melanoma and basal cell carcinoma (BCC), we found that the presence of memory B cells and macrophages negatively correlate when stratifying patients by response, with memory B cells more present in responders. Inhibitory immune signaling is reduced in melanoma responders and is increased in BCC responders. We further explored the relationships between macrophages, B cells and response to checkpoint therapy by developing a stochastic differential equation model which qualitatively agrees with the data analysis. Our model predicts BCC to be more refractory to checkpoint therapy than melanoma. We show differences in tumor progression and regression that could serve as a diagnostic and predict the optimal ratio of macrophages and memory B cells for successful treatment.

Summary Women with germline mutations in BRCA1 (BRCA1 +/mut ) have increased risk for developing hereditary breast cancer 1, 2 . Cancer initiation in BRCA1 +/mut is associated with pre-malignant changes in the breast epithelium including altered differentiation 3–5 , proliferative stress 6 and genomic instability 7 . However, the role of the epithelium- associated stromal niche during BRCA1-driven tumor initiation remains unclear. Here, we show that the pre-malignant stromal niche promotes epithelial proliferation and BRCA1- driven cancer initiation in trans . Using single-cell RNAseq (scRNAseq) analysis of human pre-neoplastic BRCA1 +/mut and control breast tissues, we show that stromal cells provide numerous pro-proliferative paracrine signals inducing epithelial proliferation. We identify a subpopulation of pre-cancer associated fibroblasts (pre-CAFs) that produces copious amounts of pro-tumorigenic factors including matrix metalloproteinase 3 (MMP3) 8, 9 , and promotes BRCA1-driven tumorigenesis in vivo . Our gene-signature analysis and mathematical modeling of epithelial differentiation reveals that stromal-induced proliferation leads to the accumulation of luminal progenitor cells with altered differentiation, and thus contributes to increased breast cancer risk in BRCA1 +/mut . Our results demonstrate how alterations in cell-cell communication can induce imbalances in epithelial homeostasis ultimately leading to cancer initiation. We anticipate our results to form the foundation for novel disease monitoring and therapeutic strategies to improve patient management in hereditary breast cancer. For example, pre-CAF specific proteins may serve as biomarkers for pre-cancerous disease initiation to inform whether radical bilateral mastectomy is needed. In addition, MMP inhibitors could be re-indicated for primary cancer prevention treatment in women with high-risk BRCA1 mutations.

Abstract Cells are the fundamental structural and functional units of life. Studying the definition and composition of different cell types can help us understand the complex mechanisms underlying biological diversity and functionality. The increasing volume of extensive single-cell omics data makes it possible to provide detailed characterisations of cell types. Recently, there has been a rise in deep learning-based approaches that generate cell type labels solely through mapping query data to reference data. However, these approaches lack multi-scale descriptions and interpretations of identified cell types. Here, we propose Cell Decoder, a biological prior knowledge informed model to achieve multi-scale representation of cells. We implemented automated machine learning and post-hoc analysis techniques to decode cell identity. We have shown that Cell Decoder compares favourably to existing methods, offering multi-view interpretability for decoding cell identity and data integration. Furthermore, we have showcased its applicability in uncovering novel cell types and states in both human bone and mouse embryonic contexts, thereby revealing the multi-scale heterogeneity inherent in cell identities.

Abstract In a previous paper [CSIAM Trans. Appl. Math. 2 (2021), 1-55], the authors proposed a theoretical framework for the analysis of RNA velocity, which is a promising concept in scRNA-seq data analysis to reveal the cell state-transition dynamical processes underlying snapshot data. The current paper is devoted to the algorithmic study of some key components in RNA velocity workflow. Four important points are addressed in this paper: (1) We construct a rational time-scale fixation method which can determine the global gene-shared latent time for cells. (2) We present an uncertainty quantification strategy for the inferred parameters obtained through the EM algorithm. (3) We establish the optimal criterion for the choice of velocity kernel bandwidth with respect to the sample size in the downstream analysis and discuss its implications. (4) We propose a temporal distance estimation approach between two cell clusters along the cellular development path. Some illustrative numerical tests are also carried out to verify our analysis. These results are intended to provide tools and insights in further development of RNA velocity type methods in the future.

Cells make decisions through their communication with other cells and receiving signals from their environment. Using single-cell transcriptomics, computational tools have been developed to infer cell-cell communication through ligands and receptors. However, the existing methods only deal with signals sent by the measured cells in the data, the received signals from the external system are missing in the inference. Here, we present exFINDER, a method that identifies such external signals received by the cells in the single-cell transcriptomics datasets by utilizing the prior knowledge of signaling pathways. In particular, exFINDER can uncover external signals that activate the given target genes, infer the external signal-target signaling network (exSigNet), and perform quantitative analysis on exSigNets. The applications of exFINDER to scRNA-seq datasets from different species demonstrate the accuracy and robustness of identifying external signals, revealing critical transition-related signaling activities, inferring critical external signals and targets, clustering signal-target paths, and evaluating relevant biological events. Overall, exFINDER can be applied to scRNA-seq data to reveal the external signal-associated activities and maybe novel cells that send such signals.

ABSTRACT Cutaneous melanomas are clinically and histologically heterogeneous. Most display activating mutations in Braf or Nras and complete loss of function of one or more tumor suppressor genes. Mouse models that replicate such mutations produce fast-growing, pigmented tumors. However, mice that combine Braf activation with only heterozygous loss of Pten also produce tumors and, as we show here, in an Albino background this occurs even with Braf activation alone. Such tumors arise rarely, grow slowly, and express low levels of pigmentation genes. The timing of their appearance was consistent with a single step stochastic event, but no evidence could be found that it required de novo mutation, suggesting instead the involvement of an epigenetic transition. Single-cell transcriptomic analysis revealed such tumors to be heterogeneous, including a minor cell type we term LNM ( L ow-pigment, N eural- and extracellular M atrix-signature) that displays gene expression resembling “neural crest”-like cell subsets detected in the fast-growing tumors of more heavily-mutated mice, as well as in human biopsy and xenograft samples. We provide evidence that LNM cells pre-exist in normal skin, are expanded by Braf activation, can transition into malignant cells, and persist with malignant cells through multiple rounds of transplantation. We discuss the possibility that LNM cells not only serve as a pre-malignant state in the production of some melanomas, but also as in important intermediate in the development of drug resistance.

In biological systems, genes function in conjunction rather than in isolation. However, traditional single-cell RNA-seq (scRNA-seq) analyses heavily rely on the transcriptional similarity of individual genes, ignoring the inherent gene-gene interactions. Here, we present SCORE, a network-based method, which incorporates the validated molecular network features to infer cellular states. Using real scRNA-seq datasets, SCORE outperforms existing methods in accuracy, robustness, scalability, data integration and removal of batch effect. When applying SCORE to a newly generated human ileal scRNA-seq dataset, we identified several novel stem/progenitor clusters, including a Cripto-1+ cluster. Moreover, two distinct groups of goblet cells were identified and only one of them tended to secrete mucus. Besides, we found that the recently identified BEST4+OTOP2+ microfold cells also highly expressed CFTR, which is different from their colonic counterparts. In summary, SCORE enhances cellular state inference by simulating the dynamic changes of molecular networks, providing more biological insights beyond statistical interpretations.