Recent advances in deep learning, especially deep convolutional neural networks (CNNs), have led to significant improvement over previous semantic segmentation systems. Here we show how to improve pixel-wise semantic segmentation by manipulating convolution-related operations that are of both theoretical and practical value. First, we design dense upsampling convolution (DUC) to generate pixel-level prediction, which is able to capture and decode more detailed information that is generally missing in bilinear upsampling. Second, we propose a hybrid dilated convolution (HDC) framework in the encoding phase. This framework 1) effectively enlarges the receptive fields (RF) of the network to aggregate global information; 2) alleviates what we call the "gridding issue"caused by the standard dilated convolution operation. We evaluate our approaches thoroughly on the Cityscapes dataset, and achieve a state-of-art result of 80.1% mIOU in the test set at the time of submission. We also have achieved state-of-theart overall on the KITTI road estimation benchmark and the PASCAL VOC2012 segmentation task. Our source code can be found at https://github.com/TuSimple/TuSimple-DUC.

Attention mechanisms have been found effective for person re-identification (Re-ID). However, the learned "attentive'' features are often not naturally uncorrelated or "diverse'', which compromises the retrieval performance based on the Euclidean distance. We advocate the complementary powers of attention and diversity for Re-ID, by proposing an Attentive but Diverse Network (ABD-Net). ABD-Net seamlessly integrates attention modules and diversity regularizations throughout the entire network to learn features that are representative, robust, and more discriminative. Specifically, we introduce a pair of complementary attention modules, focusing on channel aggregation and position awareness, respectively. Then, we plug in a novel orthogonality constraint that efficiently enforces diversity on both hidden activations and weights. Through an extensive set of ablation study, we verify that the attentive and diverse terms each contributes to the performance boosts of ABD-Net. It consistently outperforms existing state-of-the-art methods on there popular person Re-ID benchmarks.

Several molecular datasets have been recently compiled to characterize the activity of SARS-CoV-2 within human cells. Here we extend computational methods to integrate several different types of sequence, functional and interaction data to reconstruct networks and pathways activated by the virus in host cells. We identify key proteins in these networks and further intersect them with genes differentially expressed at conditions that are known to impact viral activity. Several of the top ranked genes do not directly interact with virus proteins. We experimentally tested treatments for a number of the predicted targets. We show that blocking one of the predicted indirect targets significantly reduces viral loads in stem cell-derived alveolar epithelial type II cells (iAT2s).

ABSTRACT Motivation Recent advancements in fluorescence in situ hybridization (FISH) techniques enable them to concurrently obtain information on the location and gene expression of single cells. A key question in the initial analysis of such spatial transcriptomics data is the assignment of cell types. To date, most studies used methods that only rely on the expression levels of the genes in each cell for such assignments. To fully utilize the data and to improve the ability to identify novel sub-types we developed a new method, FICT, which combines both expression and neighborhood information when assigning cell types. Results FICT optimizes a probabilistic function that we formalize and for which we provide learning and inference algorithms. We used FICT to analyze both simulated and several real spatial transcriptomics data. As we show, FICT can accurately identify cell types and sub-types improving on expression only methods and other methods proposed for clustering spatial transcriptomics data. Some of the spatial sub-types identified by FICT provide novel hypotheses about the new functions for excitatory and inhibitory neurons. Availability FICT is available at: https://github.com/haotianteng/FICT Contact zivbj@andrew.cmu.edu

Abstract Motivation Time-course gene expression data has been widely used to infer regulatory and signaling relationships between genes. Most of the widely used methods for such analysis were developed for bulk expression data. Single cell RNA-Seq (scRNA-Seq) data offers several advantages including the large number of expression profiles available and the ability to focus on individual cells rather than averages. However, this data also raises new computational challenges. Results Using a novel encoding for scRNA-Seq expression data we develop deep learning methods for interaction prediction from time-course data. Our methods use a supervised framework which represents the data as a 3D tensor and train convolutional and recurrent neural networks (CNN and RNN) for predicting interactions. We tested our Time-course Deep Learning (TDL) models on five different time series scRNA-Seq datasets. As we show, TDL can accurately identify causal and regulatory gene-gene interactions and can also be used to assign new function to genes. TDL improves on prior methods for the above tasks and can be generally applied to new time series scRNA-Seq data. Availability and Implementation Freely available at https://github.com/xiaoyeye/TDL . Contact zivbj@cs.cmu.edu Supplementary information Supplementary data are available at XXX online.

Abstract Studies comparing single cell RNA-Seq (scRNA-Seq) data between conditions mainly focus on differences in the proportion of cell types or on differentially expressed genes. In many cases these differences are driven by changes in cell interactions which are challenging to infer without spatial information. To determine cell-cell interactions that differ between conditions we developed the Cell Interaction Network Inference (CINS) pipeline. CINS combines Bayesian network analysis with regression-based modeling to identify differential cell type interactions and the proteins that underlie them. We tested CINS on a disease case control and on an aging human dataset. In both cases CINS correctly identifies cell type interactions and the ligands involved in these interactions. We performed additional mouse aging scRNA-Seq experiments which further support the interactions identified by CINS.

Abstract Designing hit-like molecules from gene expression signatures takes into account multiple targets and complex biological effects, enabling the discovery of multi-target drugs for complex diseases. Traditional methods relying on similarity searching against a database are limited by the quality and size of the databases. Instead, multimodal deep learning offers the potential to overcome this bottleneck. Additionally, the recent development of foundation models provides a new perspective to understand gene expression levels. Thus, we propose GexMolGen (Gene Expression-based Molecule Generator) based on a foundation model scGPT to generate hit-like molecules from gene expression differences. By taking the desired and control gene expression profile as inputs, GexMolGen designs molecules that can induce the required transcriptome profile. The molecules generated by GexMolGen exhibit a high similarity to known gene inhibitors. Overall, GexMolGen explores the chemical and biological relationships in the drug discovery process. The source code and demo are available at https://github.com/Bunnybeibei/GexMolGen .

Abstract Molecular competition is ubiquitous, essential and multifunctional throughout diverse biological processes. Competition brings about trade-offs of shared limited resources among the cellular components, and it thus introduce a hidden layer of regulatory mechanism by connecting components even without direct physical interactions. By abstracting the analogous competition mechanism behind diverse molecular systems, we built a unified coarse-grained competition motif model to systematically compare experimental evidences in these processes and analyzed general properties shared behind them. We could predict in what molecular environments competition would reveal threshold behavior or display a negative linear dependence. We quantified how competition can shape regulator-target dose-response curve, modulate dynamic response speed, control target expression noise, and introduce correlated fluctuations between targets. This work uncovered the complexity and generality of molecular competition effect, which might act as a hidden regulatory mechanism with multiple functions throughout biological networks in both natural and synthetic systems.

Several methods have been developed for inferring gene-gene interactions from expression data. To date, these methods mainly focused on intra-cellular interactions. The availability of high throughput spatial expression data opens the door to methods that can infer such interactions both within and between cells. However, the spatial data also raises several new challenges. These include issues related to the sparse, noisy expression vectors for each cell, the fact that several different cell types are often profiled, the definition of a neighborhood of cell and the relatively small number of extracellular interactions. To enable the identification of gene interactions between cells we extended a Graph Convolutional Neural network approach for Genes (GCNG). We encode the spatial information as a graph and use the network to combine it with the expression data using supervised training. Testing GCNG on spatial transcriptomics data we show that it improves upon prior methods suggested for this task and can propose novel pairs of extracellular interacting genes. Finally, we show that the output of GCNG can also be used for down-stream analysis including functional assignment.

Abstract The pathogenesis of diseases is closely associated with genes, and the discovery of disease genes holds significant importance for understanding disease mechanisms and designing targeted therapeutics. However, biological validation of all genes for diseases is expensive and challenging. In this study, we propose DGP-AMIO, a computational method based on graph attention networks, to rank all unknown genes and identify potential novel disease genes by integrating multi-omics and gene interaction networks from multiple data sources. DGP-AMIO outperforms other methods significantly on 20 disease datasets, with an average AUROC and AUPR exceeding 0.9. The superior performance of DGP-AMIO is attributed to the integration of multiomics and gene interaction networks from multiple databases, as well as triGAT, a proposed GAT-based method that enables precise identification of disease genes in directed gene networks. Enrichment analysis conducted on the top 100 genes predicted by DGP-AMIO and literature research revealed that a majority of enriched GO terms, KEGG pathways and top genes were associated with diseases supported by relevant studies. We believe that our method can serve as an effective tool for identifying disease genes and guiding subsequent experimental validation efforts.