This note derives the variational free energy under the Laplace approximation, with a focus on accounting for additional model complexity induced by increasing the number of model parameters. This is relevant when using the free energy as an approximation to the log-evidence in Bayesian model averaging and selection. By setting restricted maximum likelihood (ReML) in the larger context of variational learning and expectation maximisation (EM), we show how the ReML objective function can be adjusted to provide an approximation to the log-evidence for a particular model. This means ReML can be used for model selection, specifically to select or compare models with different covariance components. This is useful in the context of hierarchical models because it enables a principled selection of priors that, under simple hyperpriors, can be used for automatic model selection and relevance determination (ARD). Deriving the ReML objective function, from basic variational principles, discloses the simple relationships among Variational Bayes, EM and ReML. Furthermore, we show that EM is formally identical to a full variational treatment when the precisions are linear in the hyperparameters. Finally, we also consider, briefly, dynamic models and how these inform the regularisation of free energy ascent schemes, like EM and ReML.

This paper describes an application of hierarchical or empirical Bayes to the distributed source reconstruction problem in electro- and magnetoencephalography (EEG and MEG). The key contribution is the automatic selection of multiple cortical sources with compact spatial support that are specified in terms of empirical priors. This obviates the need to use priors with a specific form (e.g., smoothness or minimum norm) or with spatial structure (e.g., priors based on depth constraints or functional magnetic resonance imaging results). Furthermore, the inversion scheme allows for a sparse solution for distributed sources, of the sort enforced by equivalent current dipole (ECD) models. This means the approach automatically selects either a sparse or a distributed model, depending on the data. The scheme is compared with conventional applications of Bayesian solutions to quantify the improvement in performance.

Abstract Entraining alpha activity with rhythmic visual, auditory, and electrical stimulation can reduce experimentally induced pain. However, evidence for alpha entrainment and pain reduction in patients with chronic pain is limited. This feasibility study investigated whether visual alpha stimulation can increase alpha power in patients with chronic musculoskeletal pain and secondarily, if chronic pain was reduced following stimulation. In a within-subject design, 22 patients underwent 4-minute periods of stimulation at 10 Hz (alpha), 7 Hz (high-theta, control), and 1 Hz (control) in a pseudo-randomized order. Patients underwent stimulation both sitting and standing and verbally rated their pain before and after each stimulation block on a 0-10 numerical rating scale. Global alpha power was significantly higher during 10 Hz compared to 1 Hz stimulation when patients were standing (t = −6.08, p <.001). On a more regional level, a significant increase of alpha power was found in the right-middle and left-posterior region when patients were sitting. With respect to our secondary aim, no significant reduction of pain intensity and unpleasantness was found. However, only the alpha stimulation resulted in a minimal clinically important difference in at least 50% of participants for pain intensity (50%) and unpleasantness ratings (65%) in the sitting condition. This study provides initial evidence for the potential of visual stimulation as a means to enhance alpha activity in patients with chronic musculoskeletal pain. The brief period of stimulation was insufficient to reduce chronic pain. This study is the first to provide evidence that a brief period of visual stimulation at alpha frequency can significantly increase alpha power in patients with chronic musculoskeletal pain. Further study is warranted to investigate optimal dose and individual stimulation parameters to achieve pain relief in these patients.

Abstract Understanding the role of neurotransmitters glutamate and GABA during normal and abnormal brain function and under external stimulation in humans are critical neuroscientific and clinical goals. The recent development of functional 1H-Magnetic resonance spectroscopy (fMRS) has allowed us to study neuro-transmitter activity in vivo for the first time. However, the physiological basis of the observed fMRS signal remains unclear. It has been proposed that fMRS detects shifts in metabolite concentrations as they move from presynaptic vesicles, where they are largely invisible, to extracellular and cytosolic pools, where they are visible. Here we bridge the gap between neural dynamics and fMRS by developing a mean-field model to link the neurotransmitter dynamics at the microscopic-level to the macroscopic-level imaging measurements. GABA and glutamate are described as cycling between three metabolic pools: in the vesicles; active in the cleft; or undergoing recycling in the astrocytic or neuronal cytosol. We interrogate the model by applying a current to manipulate the mean membrane potential and firing rate of the neural populations. We find that by disregarding the contribution from the vesicular pool, our model predicts activity-dependent changes in the MRS signal, which are consistent with reported empirical findings. Further, we show that current magnitude and direction has a selective effect on the GABA/glutamate-MRS signal: inhibitory stimulation leads to reduction of both metabolites, whereas excitatory stimulation leads to increased glutamate and decreased GABA. In doing so, we link neural dynamics and fMRS and provide a mechanistic account for the activity-dependent change in the observed MRS signal. Key Points Summary The recent development of functional 1H-Magnetic resonance spectroscopy (fMRS) has allowed us to study neurotransmitter activity in vivo for the first time in humans. However, the physiological basis of the observed fMRS signal is unclear. It has been proposed that fMRS detects shifts in metabolite concentrations as they move from presynaptic vesicles, where they are largely invisible to MRS, to extracellular and cytosolic pools, where they are visible to MRS. We test this hypothesis using a mean field model which links the neural dynamics of neurotransmitters at the microscopic-level to the macroscopic-level imaging measurements obtained in experimental studies. By disregarding activity in the vesicular pool, our model can generate activity-dependent changes in the MRS signal in response to stimulation which are consistent with experimental findings in the literature. We provide a mechanistic account for the activity-dependent change in observed neurotransmitter concentrations using MRS.

ABSTRACT Multivariate autoregressive models [MAR] allows estimating effective brain connectivity by considering both power and phase fluctuations of the signals involved. A MAR models brain activity in one region as a linear combination of past activations in all other regions. A Hidden Markov model, HMM, whose states’ emisions are drawn from state-specific MARs, can then be used to model fast switching of effective brain connectivity over time. However, the large number of MAR parameters, impede the accurate and efficient estimation of such models from neuroimaging timeseries with limited length. We propose a new model for inferring time-dependent effective brain connectivity by using a sparse MAR parameterisation to model the states’ emisions of a Hidden Semi-Markov Model, HsMM-MAR-AC. The sparse MAR model parameters are restricted by Anatomical Connectivity information in two ways: direct effective connectivity between two regions is only considered if the corresponding structural link/connection exists; and the time-lag associated with each direct connection is computed based on the average fibre length between the two regions, such that only one lag per connection is estimated. We simulated ground truth time-dependent brain connectivity states by generating time-series of 4 to 10 minutes sampled at 5ms, from switching Resting State Networks with a reference structural connectivity, and evaluated the accuracy of the new model in recovering the simulated Brain connectivity States against different levels of connectivity thresholding above and below the reference. We show that even when restricting the MAR to half of the reference connections, the model was able to recover the number of brain states, the associated connectivity features and their dynamics, with as little data as 4 mins. More relaxed structural connectivity thresholds required longer data to estimate the model accurately, and became computationally unfeasible without anatomical restrictions. HsMM-MAR-AC offers an efficient algorithm for estimating time-depend Effective Connectivity (tdEC) from neuroimaging data, that exploits the advantages of MAR without identifiability problems, excessive demand on data collection, or unnecessary computational complexity.

Abstract The relationship between structural and functional brain networks has been characterised as complex: the two networks mirror each other and show mutual influence but they also diverge in their organisation. This work explored whether a combination of structural and functional connectivity can improve predictive models of cognitive performance. Principal Component Analysis (PCA) was first applied to cognitive data from the Human Connectome Project to identify components reflecting five cognitive domains: Executive Function, Self-regulation, Language, Encoding and Sequence Processing. A Principal Component Regression (PCR) approach was then used to fit predictive models of each cognitive domain based on structural (SC), functional (FC) or combined structural-functional (CC) connectivity. Self-regulation, Encoding and Sequence Processing were best modelled by FC, whereas Executive Function and Language were best modelled by CC. The present study demonstrates that integrating structural and functional connectivity can help predict cognitive performance, but that the added explanatory value may be (cognitive) domain-specific. Implications of these results for studies of the brain basis of cognition in health and disease are discussed. Highlights We assessed the relationship between cognitive domains and structural, functional and combined structural-functional connectivity. We found that Executive Function and Language components were best predicted by combined models of functional and structural connectivity. Self-regulation, Encoding and Sequence Processing were best predicted by functional connectivity alone. Our findings provide insight into separable contributions of functional, structural and combined connectivity to different cognitive domains.

Functional brain imaging has shown that the awake brain, independent of a task, spontaneously switches between a small set of functional networks. How useful this dynamical view of brain activity is for clinical studies, e.g., as early markers of subsequent structural and/or functional change or for assessing successful training or intervention effects, remains unclear. Core to addressing this question is to assess the robustness and reproducibility of the analysis methods that model, characterize, or infer the features of brain dynamics, and the accuracy by which these features represent and classify specific cognitive or altered cognitive states. This is particularly key given inter- and intra-individual variability and measurement noise. Here we used resting-state EEG from persons with Parkinson's Disease (PD) and healthy matched controls to systematically assess the reliability, robustness, and sensitivity of Hidden semi-Markov models (HsMM). These models are an example of model-based probabilistic methods for Brain-State allocations that are estimated from observed data. The method estimates model parameters, if the M/EEG recording or observations, over the scale of minutes, are emissions from hidden states that persist over short durations, before switching or transitioning to other states. We introduce an analysis pipeline that leads to sets of reproducible features of neurophysiological dynamics at the individual level. These features can be used as discriminatory variables to classify individuals and to evaluate the effect of non-pharmacological training schemes like in the current example a music-gait exercise program for Parkinson's Disease. Given the method stochasticity and the data variability, we emphasize the importance of repeating the analysis to reliably identify brain states and their dynamical trajectories that subsequently can be related to individualized variables.

We consider the detection and characterisation of brain state transitions, based on ongoing Magneto and Electroencephalography (M/EEG). Here a brain state represents a specific brain dynamical regime or mode of operation, which produces a characteristic quasi-stable pattern of activity at topography, sources or network levels. These states and their transitions over time can reflect fundamental computational properties of the brain, shaping human behaviour and brain function. The Hidden Markov Model (HMM) has emerged as a useful model-based approach for uncovering the hidden dynamics of brain state transitions based on observed data. However, the Geometric distribution of state duration (dwell time) implicit in HMM places highest probability on very short durations, which makes it inappropriate for the accurate modelling of brain states in M/EEG. We propose using Hidden Semi Markov Models (HSMM), a generalisation of HMM that models the brain state duration distribution explicitly. We present a Bayesian formulation of HSMM and use the Variational Bayes framework to efficiently estimate the HSMM parameters, the number of brain states and select among alternative brain state duration distributions. We assess HSMM performance against HMM on simulated data and demonstrate that the accurate modelling of state duration is paramount for accurately and robustly modelling non-Markovian EEG brain state features. Finally, we used actual resting-state EEG data to demonstrate the approach in practice and conclude that it provides a flexible parameterised framework that permits closer interrogation of possible generative mechanisms.