NS
Nathaniel Sawtell
Author with expertise in Biogeography and Conservation of Neotropical Freshwater Fishes
Achievements
Open Access Advocate
Cited Author
Key Stats
Upvotes received:
0
Publications:
9
(78% Open Access)
Cited by:
677
h-index:
22
/
i10-index:
29
Reputation
Biology
< 1%
Chemistry
< 1%
Economics
< 1%
Show more
How is this calculated?
Publications
64

Lightning Pose: improved animal pose estimation via semi-supervised learning, Bayesian ensembling, and cloud-native open-source tools

Dan Biderman et al.Apr 28, 2023
Pose estimation algorithms are shedding new light on animal behavior and intelligence. Most existing models are only trained with labeled frames (supervised learning). Although effective in many cases, the fully supervised approach requires extensive image labeling, struggles to generalize to new videos, and produces noisy outputs that hinder downstream analyses. We address each of these limitations with a semi-supervised approach that leverages the spatiotemporal statistics of unlabeled videos in two different ways. First, we introduce unsupervised training objectives that penalize the network whenever its predictions violate smoothness of physical motion, multiple-view geometry, or depart from a low-dimensional subspace of plausible body configurations. Second, we design a new network architecture that predicts pose for a given frame using temporal context from surrounding unlabeled frames. These context frames help resolve brief occlusions or ambiguities between nearby and similar-looking body parts. The resulting pose estimation networks achieve better performance with fewer labels, generalize better to unseen videos, and provide smoother and more reliable pose trajectories for downstream analysis; for example, these improved pose trajectories exhibit stronger correlations with neural activity. We also propose a Bayesian post-processing approach based on deep ensembling and Kalman smoothing that further improves tracking accuracy and robustness. We release a deep learning package that adheres to industry best practices, supporting easy model development and accelerated training and prediction. Our package is accompanied by a cloud application that allows users to annotate data, train networks, and predict new videos at scale, directly from the browser.
4

An Internal Model of Sensorimotor Context in Freely Swimming Electric Fish

Avner Wallach et al.Jun 12, 2022
Abstract Nervous systems are hypothesized to learn and store internal models that predict the sensory consequences of motor actions. However, little is known about the neural mechanisms for generating accurate predictions under real-world conditions in which the sensory consequences of action depend on environmental context. Using novel methods for underwater neural recording in freely swimming electric fish, we demonstrate that complex movement-related input to the active electrosensory system is effectively cancelled, despite being highly-dependent on the nearby environment. Computational modeling and closed-loop electrophysiological experiments indicate that the cerebellum-like circuitry of the electrosensory lobe generates context-specific predictions of self-generated input by combining motor signals with electrosensory feedback. These results provide mechanistic insight into sophisticated internal models supporting natural behavior in freely moving animals. One-Sentence Summary Underwater recordings in electric fish reveal neural mechanisms for predicting the sensory consequences of behavior under natural conditions in freely moving animals.
195

Ultra-high density electrodes improve detection, yield, and cell type specificity of brain recordings

Zhiwen Ye et al.Aug 24, 2023
To study the neural basis of behavior, we require methods to sensitively and accurately measure neural activity at single neuron and single spike resolution. Extracellular electrophysiology is a principal method for achieving this, but it has biases in the neurons it detects and it imperfectly resolves their action potentials. To overcome these limitations, we developed a silicon probe with significantly smaller and denser recording sites than previous designs, called Neuropixels Ultra (NP Ultra). This device measures neuronal activity at ultra-high densities (>1300 sites per mm, 10 times higher than previous probes), with 6 µm center-to-center spacing and low noise. This device effectively comprises an implantable voltage-sensing camera that captures a planar image of a neuron's electrical field. We introduce a new spike sorting algorithm optimized for these probes and use it to find that the yield of visually-responsive neurons in recordings from mouse visual cortex improves ∼3-fold. Recordings across multiple brain regions and four species revealed a subset of unexpectedly small extracellular action potentials not previously reported. Further experiments determined that, in visual cortex, these do not correspond to major subclasses of interneurons and instead likely reflect recordings from axons. Finally, using ground-truth identification of cortical inhibitory cell types with optotagging, we found that cell type was discriminable with approximately 75% success among three types, a significant improvement over lower-resolution recordings. NP Ultra improves spike sorting performance, sampling bias, and cell type classification.