Machine learning sits at the core of many essential products and services at Facebook. This paper describes the hardware and software infrastructure that supports machine learning at global scale. Facebook's machine learning workloads are extremely diverse: services require many different types of models in practice. This diversity has implications at all layers in the system stack. In addition, a sizable fraction of all data stored at Facebook flows through machine learning pipelines, presenting significant challenges in delivering data to high-performance distributed training flows. Computational requirements are also intense, leveraging both GPU and CPU platforms for training and abundant CPU capacity for real-time inference. Addressing these and other emerging challenges continues to require diverse efforts that span machine learning algorithms, software, and hardware design.

At Facebook, machine learning provides a wide range of capabilities that drive many aspects of user experience including ranking posts, content understanding, object detection and tracking for augmented and virtual reality, speech and text translations. While machine learning models are currently trained on customized data-center infrastructure, Facebook is working to bring machine learning inference to the edge. By doing so, user experience is improved with reduced latency (inference time) and becomes less dependent on network connectivity. Furthermore, this also enables many more applications of deep learning with important features only made available at the edge. This paper takes a data-driven approach to present the opportunities and design challenges faced by Facebook in order to enable machine learning inference locally on smart phones and other edge platforms.

The widespread application of deep learning has changed the landscape of computation in data centers. In particular, personalized recommendation for content ranking is now largely accomplished using deep neural networks. However, despite their importance and the amount of compute cycles they consume, relatively little research attention has been devoted to recommendation systems. To facilitate research and advance the understanding of these workloads, this paper presents a set of real-world, production-scale DNNs for personalized recommendation coupled with relevant performance metrics for evaluation. In addition to releasing a set of open-source workloads, we conduct in-depth analysis that underpins future system design and optimization for at-scale recommendation: Inference latency varies by 60% across three Intel server generations, batching and co-location of inference jobs can drastically improve latency-bounded throughput, and diversity across recommendation models leads to different optimization strategies.

Abstract The heart is among the first organs to function in vertebrate development, but its transition from silent to beating has not been directly characterized. Using all-optical electrophysiology, we captured the very first zebrafish heartbeat and analyzed the development of cardiac excitability around this singular event. The first beats appeared suddenly and propagated coherently across the primordial heart. Targeted optogenetic perturbations mapped the development of excitability and conduction before and after the first heartbeats. Measured bioelectrical dynamics support a noisy saddle-node on invariant circle (SNIC) bifurcation as the critical phase transition that starts the heart. Simple models of this bifurcation quantitatively capture cardiac dynamics in space and time through early development, including coherent beating before transcriptional specification of pacemakers. Our work shows how gradual and largely asynchronous development of single-cell bioelectrical properties produces a stereotyped and robust tissue-scale transition from quiescence to coordinated beating.

Abstract Background Glioblastoma (GBM) is a highly aggressive incurable brain tumor. The main cause of mortality in GBM patients is the invasive rim of cells migrating away from the main tumor mass and invading healthy parts of the brain. Although motion is driven by forces, our current understanding of the physical factors involved in glioma infiltration remains limited. This study aims to investigate the adhesion properties within and between patients’ tumors on a cellular level and test whether these properties correlate with cell migration. Methods Nine tissue samples were taken from spatially separated sections during 5-aminolevulinic acid (5-ALA) fluorescence guided surgery. Navigated biopsy samples were collected from strongly fluorescent tumor cores, a weak fluorescent tumor rim, and non-fluorescent tumor margins. A microfluidics device was built to induce controlled shear forces to detach cells from monolayer cultures. Cells were cultured on low modulus polydimethylsiloxane representative of the stiffness of brain tissue. Cell migration and morphology were then obtained using time lapse microscopy. Results GBM cell populations from different tumor fractions of the same patient exhibited different migratory and adhesive behaviors. These differences were associated with sampling location and amount of 5-ALA fluorescence. Cells derived from weak- and non-fluorescent tumor tissue were smaller, adhered less well, and migrated quicker than cells derived from strongly fluorescent tumor mass. Conclusion GBM tumors are biomechanically heterogeneous. Selecting multiple populations and broad location sampling are therefore important to consider for drug testing. Key points GBM tumors are biomechanically heterogeneous GBM cell migration is inversely correlated with cell-matrix adhesion strength 5-ALA fluorescence intensity during surgery correlates with the motility properties of GBM cells Importance of the study This is the first study to compare single cell migration and cell-matrix adhesion strength of GBM, using cell lines derived from different tumors and from different regions within the same tumor. Not accounting for internal sampling location within each tumor obscures differences in cell morphology, motility and adhesion properties between patients. Peripherical and marginal tumor cells have different adhesion profiles and are highly migratory compared to those found in the core of the tumor. Aggressive regions of the tumor (highly motile) are linked to the spatial distribution of adhesion strength and are strongly associated with 5-ALA fluorescence intensity. Preclinical tests aimed at developing a treatment for GBM using anti-invasive drugs or adhesion inhibitors, would benefit from using cell lines derived from the tumor periphery (with low 5-ALA intensity) rather than cell lines derived from the tumor core.

Abstract A crucial step in early embryogenesis is the establishment of spatial patterns of signaling activity. Tools to perturb morphogen signals with high resolution in space and time can help reveal how embryonic cells decode these signals to make appropriate fate decisions. Here, we present new optogenetic reagents and an experimental pipeline for creating designer Nodal signaling patterns in live zebrafish embryos. Nodal receptors were fused to the light-sensitive heterodimerizing pair Cry2/CIB1N, and the Type II receptor was sequestered to the cytosol. The improved optoNodal2 reagents eliminate dark activity and improve response kinetics, without sacrificing dynamic range. We adapted an ultra-widefield microscopy platform for parallel light patterning in up to 36 embryos and demonstrated precise spatial control over Nodal signaling activity and downstream gene expression. Patterned Nodal activation drove precisely controlled internalization of endodermal precursors. Further, we used patterned illumination to generate synthetic signaling patterns in Nodal signaling mutants, rescuing several characteristic developmental defects. This study establishes an experimental toolkit for systematic exploration of Nodal signaling patterns in live embryos.