Abstract The advancement of behavioral analysis in neuroscience has been aided by the development of computational tools 1,2 . Specifically, computer vision algorithms have emerged as a powerful tool to elevate behavioral research 3,4 . Yet fully automatic analysis of social behavior remains challenging in two ways. First, existing tools to track and analyze behavior often focus on single animals, not multiple, interacting animals. Second, many available tools are not developed for novice users and require programming experience to run. Here, we unveil a computer vision pipeline called AlphaTracker, which requires minimal hardware requirements and produces reliable tracking of multiple unmarked animals. An easy-to-use user interface further enables manual inspection and curation of results. We demonstrate the practical, real-time advantages of AlphaTracker through the study of multiple, socially-interacting mice.

SUMMARY In order to respond appropriately to threats in the environment, the brain must rapidly determine whether a stimulus is important and whether it is positive or negative, and then use that information to direct behavioral responses. Neurons in the amygdala have long been implicated in valence encoding and in fear responses to threatening stimuli, but show transient firing responses in response to these stimuli that do not match the timescales of associated behavioral responses. For decades, there has been a logical gap in how behavioral responses could be mediated without an ensemble representation of the internal state of valence that has rapid onset, high signal-to-noise, and is sustained for the duration of the behavioral state. Here, we present the amygdalostriatal transition zone (ASt) as a missing piece of this highly conserved process that is of paramount importance for survival, which does exactly this: represents an internal state (e.g. fear) that can be expressed in multiple motor outputs (e.g. freezing or escape). The ASt is anatomically positioned as a “shortcut” to connect the corticolimbic system (important for evaluation) with the basal ganglia (important for action selection) with the inputs of the amygdala and the outputs of the striatum – ideally poised for evaluating and responding to environmental threats. From in vivo cellular resolution recordings that include both electrophysiology and calcium imaging, we find that ASt neurons are unique in that they are sparse coding, extremely high signal-to-noise, and also maintain a sustained response for negative valence stimuli for the duration of the defensive behavior – a rare but essential combination. We further show that photostimulation of the ASt is sufficient to drive freezing and avoidance behaviors. Using single-nucleus RNA sequencing and in situ RNA labelling we generate a comprehensive profile of cell types and gene expression in the ASt, and find the ASt is genetically distinct from adjacent striatal and amygdalar structures. We also find that the ASt has a greater proportion of neurons expressing Drd2 than neurons expressing Drd1a , a unique feature compared to other regions of the striatum. Using in vivo calcium imaging, we show that that this Drd2+ population robustly encodes stimuli of negative valence, and in loss-of-function experiments find that optogenetic inhibition of Drd2+ ASt neurons causes a striking reduction in cue-conditioned fear responses. Together, our findings identify the ASt as a previously-unappreciated critical missing link for encoding learned associations and directing ongoing behavior.

Abstract Rationale The basolateral amygdala (BLA) and medial geniculate nucleus of the thalamus (MGN) have both been shown to be necessary for the formation of associative learning. While the role that the BLA plays in this process has long been emphasized, the MGN has been less well-studied and surrounded by debate regarding whether the relay of sensory information is active or passive. Objectives We seek to understand the role the MGN has within the thalamoamgydala circuit in the formation of associative learning. Methods Here, we use optogenetics to dissect the MGN-BLA circuit and explore the specific subpopulations for evidence of learning and synthesis of information that could impact downstream BLA encoding. We employ various machine learning techniques to investigate function within neural subpopulations. We introduce a novel method to investigate tonic changes across trial-by-trial structure, which offers an alternative approach to traditional trial-averaging techniques. Results We find that the MGN appears to encode arousal but not valence, unlike the BLA which encodes for both. We find that the MGN and the BLA appear to react differently to expected and unexpected outcomes; the BLA biased responses toward reward prediction error and the MGN focused on anticipated punishment. We uncover evidence of tonic changes by visualizing changes across trials during inter-trial intervals (baseline epochs) for a subset of cells. Conclusion We conclude that the MGN-BLA projector population acts as both filter and transferer of information by relaying information about the salience of cues to the amygdala, but these signals are not valence-specified. Preface In tribute to Nadia Chaudhri, and her discoveries regarding how contexts can modulate the representation of cues in the amygdala (Sciascia et al., 2015), and other mesolimbic circuit components (Chaudhri et al., 2009, 2008; Valyear et al., 2020), here we explore what information processing precedes entry into the basolateral amygdala (BLA) from the thalamus and develop visualization approaches for exploring across-trial temporal dynamics in addition to within-trial population activity.

How do social factors impact the brain and contribute to increased alcohol drinking? We found that social rank predicts alcohol drinking, where subordinates drink more than dominants. Furthermore, social isolation escalates alcohol drinking, particularly impacting subordinates who display a greater increase in alcohol drinking compared to dominants. Using cellular resolution calcium imaging, we show that the basolateral amygdala-medial prefrontal cortex (BLA-mPFC) circuit predicts alcohol drinking in a rank-dependent manner, unlike non-specific BLA activity. The BLA-mPFC circuit becomes hyperexcitable during social isolation, detecting social isolation states. Mimicking the observed increases in BLA-mPFC activity using optogenetics was sufficient to increase alcohol drinking, suggesting the BLA-mPFC circuit may be a neural substrate for the negative impact of social isolation. To test the hypothesis that the BLA-mPFC circuit conveys a signal induced by social isolation to motivate alcohol consumption, we first determined if this circuit detects social information. Leveraging optogenetics in combination with calcium imaging and SLEAP automated pose tracking, we found that BLA-mPFC circuitry governs social behavior and neural representation of social contact. We further show that BLA-mPFC stimulation mimics social isolation-induced mPFC encoding of sucrose and alcohol, and inhibition of the BLA-mPFC circuit decreases alcohol drinking following social isolation. Collectively, these data suggest the amygdala-cortical circuit mirrors a neural encoding state similar to social isolation and underlies social isolation-associated alcohol drinking.