JR
Jonathan Roiser
Author with expertise in Theories of Behavior Change and Self-Regulation
Achievements
Open Access Advocate
Cited Author
Key Stats
Upvotes received:
0
Publications:
7
(71% Open Access)
Cited by:
16
h-index:
61
/
i10-index:
130
Reputation
Biology
< 1%
Chemistry
< 1%
Economics
< 1%
Show more
How is this calculated?
Publications
49

Reliability of Decision-Making and Reinforcement Learning Computational Parameters

Anahit Mkrtchian et al.Jul 1, 2021
J
V
A
Abstract Computational models can offer mechanistic insight into cognition and therefore have the potential to transform our understanding of psychiatric disorders and their treatment. For translational efforts to be successful, it is imperative that computational measures capture individual characteristics reliably. Here we examine the reliability of reinforcement learning and economic models derived from two commonly used tasks. Healthy individuals (N=50) completed a restless four-armed bandit and a calibrated gambling task twice, two weeks apart. Reward and punishment learning rates from the reinforcement learning model showed good reliability and reward and punishment sensitivity from the same model had fair reliability; while risk aversion and loss aversion parameters from a prospect theory model exhibited good and excellent reliability, respectively. Both models were further able to predict future behaviour above chance within individuals. This prediction was better when based on participants’ own model parameters than other participants’ parameter estimates. These results suggest that reinforcement learning, and particularly prospect theory parameters, as derived from a restless four-armed bandit and a calibrated gambling task, can be measured reliably to assess learning and decision-making mechanisms. Overall, these findings indicate the translational potential of clinically-relevant computational parameters for precision psychiatry.
29

A Hierarchical Reinforcement Learning Model Explains Individual Differences in Attentional Set Shifting

Anahita Talwar et al.Oct 5, 2021
J
Q
F
A
Abstract Attentional set shifting refers to the ease with which the focus of attention is directed and switched. Cognitive tasks such as CANTAB IED reveal great variation in set shifting ability in the general population, with notable impairments in those with psychiatric diagnoses. The attentional and learning processes underlying this cognitive ability, and how they lead to the observed variation remain unknown. To directly test this, we used a modelling approach on two independent large-scale online general-population samples performing CANTAB IED and psychiatric symptom assessment. We found a hierarchical model that learnt both feature values and dimension attention best explained the data, and that compulsive symptoms were associated with slower learning and higher attentional bias to the first relevant stimulus dimension. This data showcase a new methodology to analyse data from the CANTAB IED task, and suggest a possible mechanistic explanation for the variation in set shifting performance, and its relationship to compulsive symptoms.
4

The acute effects of cannabidiol on emotional processing and anxiety: a neurocognitive imaging study

Michael Bloomfield et al.Dec 11, 2020
+11
C
Y
M
Background There is growing interest in the therapeutic potential of cannabidiol (CBD) across a range of psychiatric disorders. CBD has been found to reduce anxiety during experimentally-induced stress in anxious individuals and healthy controls. However, the mechanisms underlying the putative anxiolytic effects of CBD are unknown. We therefore sought to investigate the behavioural and neural effects of a single dose of CBD vs. placebo on a range of emotion-related measures to test cognitive-mechanistic models of its effects on anxiety. Methods We conducted a randomised, double-blind, placebo-controlled, crossover, acute oral challenge of 600 mg of CBD in 24 healthy participants on emotional processing, with neuroimaging (viewing emotional faces during fMRI) and cognitive (emotional appraisal) measures as well as subjective response to experimentally-induced anxiety. Results CBD did not produce effects on BOLD responses to emotional faces, cognitive measures of emotional processing, or modulate experimentally-induced anxiety, relative to placebo. Conclusions Given the rising popularity of CBD for its putative medical benefits, further research is warranted to investigate the clinical potential of CBD for the treatment of anxiety disorders.
4

Subjective Beliefs In, Out, and About Control: A Quantitative Analysis

Federico Mancinelli et al.May 30, 2020
P
J
F
Abstract A critical facet of adjusting one’s behaviour after succeeding or failing at a task is assigning responsibility for the ultimate outcome. Humans have trait- and state-like tendencies to implicate aspects of their own behaviour (called ‘internal’ ascriptions) or facets of the particular task or Lady Luck (‘chance’). However, how these tendencies interact with actual performance is unclear. We designed a novel task in which subjects had to learn the likelihood of achieving their goals, and the extent to which this depended on their efforts. High internality (Levenson I-score) was associated with decision making patterns that are less vulnerable to failure, and at the same time less oriented to more rewarding achievements. Our computational analyses suggested that this depended heavily on the adjustment in the perceived achievability of riskier goals following failure. We found beliefs about chance not to be explanatory of choice behaviour in our task. Beliefs about powerful others were strong predictors of behaviour, but only when subjects lacked substantial influence over the outcome. Our results provide an evidentiary basis for heuristics and learning differences that underlie the formation and maintenance of control expectations by the self.
4
Citation1
0
Save
0

Approach-avoidance reinforcement learning as a computational and translational model of anxiety-related avoidance

Yumeya Yamamori et al.Jan 1, 2023
J
O
Y
Although avoidance is a prevalent feature of anxiety-related psychopathology, differences in the measurement of avoidance between humans and non-human animals hinder our progress in its theoretical understanding and treatment. To address this, we developed a novel translational measure of anxiety-related avoidance in the form of an approach-avoidance reinforcement learning task, by adapting a paradigm from the non-human animal literature to study the same cognitive processes in human participants. We used computational modelling to probe the putative cognitive mechanisms underlying approach-avoidance behaviour in this task and investigated how they relate to subjective task-induced anxiety. In a large online study (n = 372), participants who experienced greater task-induced anxiety avoided choices associated with punishment, even when this resulted in lower overall reward. Computational modelling revealed that this effect was explained by greater individual sensitivities to punishment relative to rewards. We replicated these findings in an independent sample (n = 627) and we also found fair-to-excellent reliability of measures of task performance in a sub-sample retested one week later (n = 57). Our findings demonstrate the potential of approach-avoidance reinforcement learning tasks as translational and computational models of anxiety-related avoidance. Future studies should assess the predictive validity of this approach in clinical samples and experimental manipulations of anxiety.
0

Depression in Parkinson's disease is associated with dopamine unresponsive reduced reward sensitivity during effort-based decision making

Harry Costello et al.May 10, 2024
+5
R
A
H
Abstract Willingness to exert effort for a given goal is dependent on the magnitude of the potential rewards and effort costs of an action. Such effort-based decision making is an essential component of motivation, in which the dopaminergic system plays a key role. Depression in Parkinson’s disease (PD) is common, disabling and has poor outcomes. Motivational symptoms such as apathy and anhedonia, are prominent in PD depression and related to dopaminergic loss. We hypothesised that dopamine-dependent disruption in effort-based decision-making contributes to depression in PD. In the present study, an effort-based decision-making task was administered to 62 patients with PD, with and without depression, ON and OFF their dopaminergic medication across two sessions, as well as to 34 patients with depression and 29 matched controls on a single occasion. During the task, on each trial, participants decided whether to accept or reject offers of different levels of monetary reward in return for exerting varying levels of physical effort via grip force, measured using individually calibrated dynamometers. The primary outcome variable was choice (accept/decline offer), analysed using both logistic mixed-effects modelling and a computational model which dissected the individual contributions of reward and effort on depression and dopamine state in PD. We found PD depression was characterised by lower acceptance of offers, driven by markedly lower incentivisation by reward (reward sensitivity), compared to all other groups. Within-subjects analysis of the effect of dopamine medication revealed that, although dopamine treatment improves reward sensitivity in non-depressed PD patients, this therapeutic effect is not present in PD patients with depression. These findings suggest that disrupted effort-based decision-making, unresponsive to dopamine, contributes to PD depression. This highlights reward sensitivity as a key mechanism and treatment target for PD depression that potentially requires non-dopaminergic therapies.
0

Short-term fasting selectively influences impulsivity in healthy individuals

Maxine Howard et al.Nov 12, 2018
+3
J
P
M
Previous research has shown that short-term fasting in healthy individuals (HIs) is associated with changes in risky decision-making. The current experiment was designed to examine the influence of short-term fasting in HIs on four types of impulsivity: reflection impulsivity, risky decision-making, delay aversion, and action inhibition. HIs were tested twice, once when fasted for 20 hours, and once when satiated. Participants demonstrated impaired action inhibition when fasted; committing significantly more errors of commission during a food-related Affective Shifting Task. Participants also displayed decreased reflection impulsivity when fasted, opening significantly more boxes during the Information Sampling Task (IST). There were no significant differences in performance between fasted and satiated sessions for risky decision-making or delay aversion. These findings may have implications for understanding eating disorders such as Bulimia Nervosa (BN). Although BN has been characterised as a disorder of poor impulse control, inconsistent findings when comparing individuals with BN and HIs on behavioural measures of impulsivity question this characterisation. Since individuals with BN undergo periods of short-term fasting, the inconsistent findings could be due to differences in the levels of satiation of participants. The current results indicate that fasting can selectively influence performance on the IST, a measure of impulsivity previously studied in BN. However, the results from the IST were contrary to the original hypothesis and should be replicated before specific conclusions can be made.