This paper presents a detailed study of improving visual representations for vision language (VL) tasks and develops an improved object detection model to provide object-centric representations of images. Compared to the most widely used bottom-up and top-down model [2], the new model is bigger, better-designed for VL tasks, and pre-trained on much larger training corpora that combine multiple public annotated object detection datasets. Therefore, it can generate representations of a richer collection of visual objects and concepts. While previous VL research focuses mainly on improving the vision-language fusion model and leaves the object detection model improvement untouched, we show that visual features matter significantly in VL models. In our experiments we feed the visual features generated by the new object detection model into a Transformer-based VL fusion model OSCAR [20], and utilize an improved approach OSCAR+ to pre-train the VL model and fine-tune it on a wide range of downstream VL tasks. Our results show that the new visual features significantly improve the performance across all VL tasks, creating new state-of-the-art results on seven public benchmarks. Code, models and pre-extracted features are released at https://github.com/pzzhang/VinVL.

Learning to navigate in a visual environment following natural-language instructions is a challenging task, because the multimodal inputs to the agent are highly variable, and the training data on a new task is often limited. In this paper, we present the first pre-training and fine-tuning paradigm for vision-and-language navigation (VLN) tasks. By training on a large amount of image-text-action triplets in a self-supervised learning manner, the pre-trained model provides generic representations of visual environments and language instructions. It can be easily used as a drop-in for existing VLN frameworks, leading to the proposed agent PREVALENT. It learns more effectively in new tasks and generalizes better in a previously unseen environment. The performance is validated on three VLN tasks. On the Room-to-Room benchmark, our model improves the state-of-the-art from 47\% to 51\% on success rate weighted by path length. Further, the learned representation is transferable to other VLN tasks. On two recent tasks, vision-and-dialog navigation and ``Help, Anna!'', the proposed PREVALENT leads to significant improvement over existing methods, achieving a new state of the art.

Background Hemorrhagic Fever with Renal Syndrome (HFRS) continues to pose a significant public health threat to the well-being of the population. Given that the spread of HFRS is susceptible to meteorological factors, we aim to probe into the meteorological drivers of HFRS. Thus, novel techniques that can discern time-delayed non-linear relationships from nonlinear dynamical systems are compulsory. Methods We analyze the epidemiological features of HFRS in Weifang City, 2011–2020, via the employment of the Empirical Dynamic Modeling (EDM) method. Our analysis delves into the intricate web of time-delayed non-linear associations between meteorological factors and HFRS. Additionally, we investigate the repercussions of minor perturbations in meteorological variables on future HFRS incidence. Results A total of 2515 HFRS cases were reported in Weifang from 2011 to 2020. The number of cases per week was 4.81, and the average weekly incidence was 0.52 per 1,000,000. The propagation of HFRS is significantly impacted by the mean weekly temperature, relative humidity, cumulative rainfall, and wind speed, and the ρCCM converges to 0.55,0.48,0.38 and 0.39, respectively. The graphical representation of the relationship between temperature (lagged by 2 weeks) and the incidence of HFRS exhibits an inverted U-shaped curve, whereby the incidence of HFRS culminates as the temperature reaches 10 °C. Moreover, temperature, relative humidity, cumulative rainfall, and wind speed exhibit a positive correlation with HFRS incidence, with a time lag of 4–6 months. Conclusions Our discoveries suggest that meteorological factors can drive the transmission of HFRS both at a macroscopic and microscopic scale. Prospective alterations in meteorological conditions, for instance, elevations in temperature, relative humidity, and precipitation will instigate an upsurge in the incidence of HFRS after 4–6 months, and thus, timely public health measures should be taken to mitigate these changes.

Abstract Background Limited evidence demonstrated the potential relationship between dietary sugar intake and dementia. This association demands further clarification in a large-scale population. Methods A total of 210,832 participants from the UK Biobank cohort were included in this prospective cohort study. Absolute and relative sugar intake and high-sugar dietary scores were utilized to reflect dietary sugar intake. Absolute sugar intake was identified by the Oxford WebQ in the UK Biobank. Relative sugar intake was calculated by dividing the absolute sugar intake by total diet energy. High-sugar dietary pattern was identified using the method of reduced rank regression. Cox proportional hazards regression analyses and restricted cubic splines were performed to examine the longitudinal associations between dietary sugar intake and all-cause dementia and its main subtype, Alzheimer’s disease. Explorative mediation analyses were conducted to explore underlying mechanisms. Results Increased absolute sugar intake (g/day) was significantly associated with a higher risk of all-cause dementia (HR = 1.003, [95%CI: 1.002–1.004], p < 0.001) and Alzheimer’s disease (1.002, [1.001–1.004], 0.005). Relative sugar intake (%g/kJ/day) also demonstrated significant associations with all-cause dementia (1.317, [1.173–1.480], p < 0.001) and Alzheimer’s disease (1.249, [1.041–1.500], 0.017), while the high-sugar dietary score was only significantly associated with a higher risk of all-cause dementia (1.090, [1.045–1.136], p < 0.001). In addition, both sugar intake and high-sugar dietary score demonstrated significant non-linear relationships with all-cause dementia and Alzheimer’s disease (all p values for non-linearity < 0.05). Conclusions Our study provided evidence that excessive sugar intake was associated with dementia. Controlling the excess consumption of dietary sugar may be of great public health implications for preventing dementia.

Background Hemorrhagic fever with renal syndrome (HFRS), an infectious disease caused by hantaviruses, is endemic in China and remains a serious public health problem. Historically, Shandong Province has had the largest HFRS burden in China. However, we do not have a comprehensive and clear understanding of the current epidemic foci of HFRS in Shandong Province. Methodology/Principal Findings The incidence and mortality rates were calculated, and a phylogenetic analysis was performed after laboratory testing of the virus in rodents. Spatial epidemiology analysis was applied to investigate the epidemic foci, including their sources. A total of 6,206 HFRS cases and 59 related deaths were reported in Shandong Province. The virus carriage rates of the rodents Rattus norvegicus, Apodemus agrarius and Mus musculus were 10.24%, 6.31% and 0.27%, respectively. The phylogenetic analysis indicated that two novel viruses isolated from R. norvegicus in Anqiu City and Qingzhou City were dissimilar to the other isolated strains, but closely related to strains previously isolated in northeastern China. Three epidemic foci were defined, two of which were derived from the Jining and Linyi epidemic foci, respectively, while the other was the residue of the Jining epidemic focus. Conclusions/Significance The southeastern and central Shandong Province are current key HFRS epidemic foci dominated by A. agrarius and R. norvegicus, respectively. Our study could help local departments to strengthen prevention and control measures in key areas to reduce the hazards of HFRS.

With the rapid development of the power market and the large-scale integration of renewable energy, the load adjustment capacity of the power system has become increasingly important. Large industrial users, as the main load component of the power system, have significant load adjustment potential. This paper proposes a load adjustable potential assessment method for large industrial users based on the decadal time scale. By analyzing various adjustable potential indicators within the decade, the TOPSIS method is used to comprehensively evaluate the load adjustment potential of large industrial users. First, collect historical load data and related environmental data of large industrial users; then, quantify the indicators on the decadal time scale; finally, propose corresponding load adjustment strategy suggestions based on the indicator analysis results. The actual example shows that the evaluation method and indicator system proposed in this paper are reasonable and effective.