Data analysis workflows in many scientific domains have become increasingly complex and flexible. Here we assess the effect of this flexibility on the results of functional magnetic resonance imaging by asking 70 independent teams to analyse the same dataset, testing the same 9 ex-ante hypotheses1. The flexibility of analytical approaches is exemplified by the fact that no two teams chose identical workflows to analyse the data. This flexibility resulted in sizeable variation in the results of hypothesis tests, even for teams whose statistical maps were highly correlated at intermediate stages of the analysis pipeline. Variation in reported results was related to several aspects of analysis methodology. Notably, a meta-analytical approach that aggregated information across teams yielded a significant consensus in activated regions. Furthermore, prediction markets of researchers in the field revealed an overestimation of the likelihood of significant findings, even by researchers with direct knowledge of the dataset2–5. Our findings show that analytical flexibility can have substantial effects on scientific conclusions, and identify factors that may be related to variability in the analysis of functional magnetic resonance imaging. The results emphasize the importance of validating and sharing complex analysis workflows, and demonstrate the need for performing and reporting multiple analyses of the same data. Potential approaches that could be used to mitigate issues related to analytical variability are discussed. The results obtained by seventy different teams analysing the same functional magnetic resonance imaging dataset show substantial variation, highlighting the influence of analytical choices and the importance of sharing workflows publicly and performing multiple analyses.

The dataset enables exploration of higher-order cognitive faculties, self-generated mental experience, and personality features in relation to the intrinsic functional architecture of the brain. We provide multimodal magnetic resonance imaging (MRI) data and a broad set of state and trait phenotypic assessments: mind-wandering, personality traits, and cognitive abilities. Specifically, 194 healthy participants (between 20 and 75 years of age) filled out 31 questionnaires, performed 7 tasks, and reported 4 probes of in-scanner mind-wandering. The scanning session included four 15.5-min resting-state functional MRI runs using a multiband EPI sequence and a high-resolution structural scan using a 3D MP2RAGE sequence. This dataset constitutes one part of the Leipzig Study for Mind-Body-Emotion Interactions database.

Cortical connectivity conforms to a series of organizing principles that are common across species. Spatial proximity, similar cortical type, and similar connectional profile all constitute factors for determining the connectivity between cortical regions. We previously demonstrated another principle of connectivity that is closely related to the spatial layout of the cerebral cortex. Using functional connectivity from resting-state fMRI in the human cortex, we found that the further a region is located from primary cortex, the more distant are its functional connections with other areas of the cortex. However, it remains unknown whether this relationship between cortical layout and connectivity extends to other primate species. Here, we investigated this relationship using both resting-state functional connectivity as well as gold-standard tract-tracing connectivity in the macaque monkey cortex. For both measures of connectivity, we found a gradient of connectivity distance extending between primary and frontoparietal regions. As in the human cortex, the further a region is located from primary areas, the stronger its connections to distant portions of the cortex, with connectivity distance highest in frontal and parietal regions. The similarity between the human and macaque findings provide evidence for a phylogenetically conserved relationship between the spatial layout of cortical areas and connectivity.

Data analysis workflows in many scientific domains have become increasingly complex and flexible. To assess the impact of this flexibility on functional magnetic resonance imaging (fMRI) results, the same dataset was independently analyzed by 70 teams, testing nine ex-ante hypotheses. The flexibility of analytic approaches is exemplified by the fact that no two teams chose identical workflows to analyze the data. This flexibility resulted in sizeable variation in hypothesis test results, even for teams whose statistical maps were highly correlated at intermediate stages of their analysis pipeline. Variation in reported results was related to several aspects of analysis methodology. Importantly, meta-analytic approaches that aggregated information across teams yielded significant consensus in activated regions across teams. Furthermore, prediction markets of researchers in the field revealed an overestimation of the likelihood of significant findings, even by researchers with direct knowledge of the dataset. Our findings show that analytic flexibility can have substantial effects on scientific conclusions, and demonstrate factors related to variability in fMRI. The results emphasize the importance of validating and sharing complex analysis workflows, and demonstrate the need for multiple analyses of the same data. Potential approaches to mitigate issues related to analytical variability are discussed.