The dorsal raphe (DR) constitutes a major serotonergic input to the forebrain and modulates diverse functions and brain states, including mood, anxiety, and sensory and motor functions. Most functional studies to date have treated DR serotonin neurons as a single population. Using viral-genetic methods, we found that subcortical- and cortical-projecting serotonin neurons have distinct cell-body distributions within the DR and differentially co-express a vesicular glutamate transporter. Further, amygdala- and frontal-cortex-projecting DR serotonin neurons have largely complementary whole-brain collateralization patterns, receive biased inputs from presynaptic partners, and exhibit opposite responses to aversive stimuli. Gain- and loss-of-function experiments suggest that amygdala-projecting DR serotonin neurons promote anxiety-like behavior, whereas frontal-cortex-projecting neurons promote active coping in the face of challenge. These results provide compelling evidence that the DR serotonin system contains parallel sub-systems that differ in input and output connectivity, physiological response properties, and behavioral functions.

Histological brain slices are widely used in neuroscience to study anatomical organization of neural circuits. Since data from many brains are collected, mapping the slices to a reference atlas is often the first step in interpreting results. Most existing methods rely on an initial reconstruction of the volume before registering it to a reference atlas. Because these slices are prone to distortion during sectioning process and often sectioned with nonstandard angles, reconstruction is challenging and often inaccurate. We propose a framework that maps each slice to its corresponding plane in the atlas to build a plane-wise mapping and then perform 2D nonrigid registration to build pixel-wise mapping. We use the L2 norm of the Histogram of Oriented Gradients (HOG) of two patches as the similarity metric for both steps, and a Markov Random Field formulation that incorporates tissue coherency to compute the nonrigid registration. To fix significantly distorted regions that are misshaped or much smaller than the control grids, we trained a context-aggregation network to segment and warp them to their corresponding regions with thin plate spline. We have shown that our method generates results comparable to an expert neuroscientist and is significantly better than reconstruction-first approaches.

The dorsal raphe (DR) constitutes a major serotonergic input to the forebrain, and modulates diverse functions and brain states including mood, anxiety, and sensory and motor functions. Most functional studies to date have treated DR serotonin neurons as a single, homogeneous population. Using viral-genetic methods, we found that subcortical- vs. cortical-projecting serotonin neurons have distinct cell body distributions within the DR and different degrees of co-expressing a vesicular glutamate transporter. Further, the amygdala- and frontal cortex-projecting DR serotonin neurons have largely complementary whole-brain collateralization patterns, receive biased inputs from presynaptic partners, and exhibit opposite responses to aversive stimuli. Gain- and loss-of-function experiments suggest that amygdala-projecting DR serotonin neurons promote anxiety-like behavior, whereas frontal cortex-projecting neurons promote active coping in face of challenge. These results provide compelling evidence that the DR serotonin system contains parallel sub-systems that differ in input and output connectivity, physiological response properties, and behavioral functions.