Recently, artificial intelligence and machine learning in general have demonstrated remarkable performances in many tasks, from image processing to natural language processing, especially with the advent of deep learning (DL).Along with research progress, they have encroached upon many different fields and disciplines.Some of them require high level of accountability and thus transparency, for example, the medical sector.Explanations for machine decisions and predictions are thus needed to justify their reliability.This requires greater interpretability, which often means we need to understand the mechanism underlying the algorithms.Unfortunately, the blackbox nature of the DL is still unresolved, and many machine decisions are still poorly understood.We provide a review on interpretabilities suggested by different research works and categorize them.The different categories show different dimensions in interpretability research, from approaches that provide "obviously" interpretable information to the studies of complex patterns.By applying the same categorization to interpretability in medical research, it is hoped that: 1) clinicians and practitioners can subsequently approach these methods with caution; 2) insight into interpretability will be born with more considerations for medical practices; and 3) initiatives to push forward data-based, mathematically grounded, and technically grounded medical education are encouraged.

In motor imagery-based Brain Computer Interfaces (BCI), discriminative patterns can be extracted from the electroencephalogram (EEG) using the Common Spatial Pattern (CSP) algorithm. However, the performance of this spatial filter depends on the operational frequency band of the EEG. Thus, setting a broad frequency range, or manually selecting a subject-specific frequency range, are commonly used with the CSP algorithm. To address this problem, this paper proposes a novel Filter Bank Common Spatial Pattern (FBCSP) to perform autonomous selection of key temporal-spatial discriminative EEG characteristics. After the EEG measurements have been bandpass-filtered into multiple frequency bands, CSP features are extracted from each of these bands. A feature selection algorithm is then used to automatically select discriminative pairs of frequency bands and corresponding CSP features. A classification algorithm is subsequently used to classify the CSP features. A study is conducted to assess the performance of a selection of feature selection and classification algorithms for use with the FBCSP. Extensive experimental results are presented on a publicly available dataset as well as data collected from healthy subjects and unilaterally paralyzed stroke patients. The results show that FBCSP, using a particular combination feature selection and classification algorithm, yields relatively higher cross-validation accuracies compared to prevailing approaches.

METHODS article Front. Neurosci., 29 March 2012Sec. Neuroprosthetics https://doi.org/10.3389/fnins.2012.00039

One of the most popular feature extraction algorithms for brain-computer interfaces (BCI) is common spatial patterns (CSPs). Despite its known efficiency and widespread use, CSP is also known to be very sensitive to noise and prone to overfitting. To address this issue, it has been recently proposed to regularize CSP. In this paper, we present a simple and unifying theoretical framework to design such a regularized CSP (RCSP). We then present a review of existing RCSP algorithms and describe how to cast them in this framework. We also propose four new RCSP algorithms. Finally, we compare the performances of 11 different RCSP (including the four new ones and the original CSP), on electroencephalography data from 17 subjects, from BCI competition datasets. Results showed that the best RCSP methods can outperform CSP by nearly 10% in median classification accuracy and lead to more neurophysiologically relevant spatial filters. They also enable us to perform efficient subject-to-subject transfer. Overall, the best RCSP algorithms were CSP with Tikhonov regularization and weighted Tikhonov regularization, both proposed in this paper.

There has been an increase in research interest for brain–computer interface (BCI) technology as an alternate mode of communication and environmental control for the disabled, such as patients suffering from amyotrophic lateral sclerosis (ALS), brainstem stroke and spinal cord injury. Disabled patients with appropriate physical care and cognitive ability to communicate with their social environment continue to live with a reasonable quality of life over extended periods of time. Near-infrared spectroscopy is a non-invasive technique which utilizes light in the near-infrared range (700 to 1000 nm) to determine cerebral oxygenation, blood flow and metabolic status of localized regions of the brain. In this paper, we describe a study conducted to test the feasibility of using multichannel NIRS in the development of a BCI. We used a continuous wave 20-channel NIRS system over the motor cortex of 5 healthy volunteers to measure oxygenated and deoxygenated hemoglobin changes during left-hand and right-hand motor imagery. We present results of signal analysis indicating that there exist distinct patterns of hemodynamic responses which could be utilized in a pattern classifier towards developing a BCI. We applied two different pattern recognition algorithms separately, Support Vector Machines (SVM) and Hidden Markov Model (HMM), to classify the data offline. SVM classified left-hand imagery from right-hand imagery with an average accuracy of 73% for all volunteers, while HMM performed better with an average accuracy of 89%. Our results indicate potential application of NIRS in the development of BCIs. We also discuss here future extension of our system to develop a word speller application based on a cursor control paradigm incorporating online pattern classification of single-trial NIRS data.

Deep learning (DL) methods and architectures have been the state-of-the-art classification algorithms for computer vision and natural language processing problems. However, the successful application of these methods in motor imagery (MI) brain-computer interfaces (BCIs), in order to boost classification performance, is still limited. In this paper, we propose a classification framework for MI data by introducing a new temporal representation of the data and also utilizing a convolutional neural network (CNN) architecture for classification. The new representation is generated from modifying the filter-bank common spatial patterns method, and the CNN is designed and optimized accordingly for the representation. Our framework outperforms the best classification method in the literature on the BCI competition IV-2a 4-class MI data set by 7% increase in average subject accuracy. Furthermore, by studying the convolutional weights of the trained networks, we gain an insight into the temporal characteristics of EEG.

Electroencephalography (EEG)–based motor imagery (MI) brain-computer interface (BCI) technology has the potential to restore motor function by inducing activity-dependent brain plasticity. The purpose of this study was to investigate the efficacy of an EEG-based MI BCI system coupled with MIT-Manus shoulder-elbow robotic feedback (BCI-Manus) for subjects with chronic stroke with upper-limb hemiparesis. In this single-blind, randomized trial, 26 hemiplegic subjects (Fugl-Meyer Assessment of Motor Recovery After Stroke [FMMA] score, 4-40; 16 men; mean age, 51.4 years; mean stroke duration, 297.4 days), prescreened with the ability to use the MI BCI, were randomly allocated to BCI-Manus or Manus therapy, lasting 18 hours over 4 weeks. Efficacy was measured using upper-extremity FMMA scores at weeks 0, 2, 4 and 12. ElEG data from subjects allocated to BCI-Manus were quantified using the revised brain symmetry index (rBSI) and analyzed for correlation with the improvements in FMMA score. Eleven and 15 subjects underwent BCI-Manus and Manus therapy, respectively. One subject in the Manus group dropped out. Mean total FMMA scores at weeks 0, 2, 4, and 12 weeks improved for both groups: 26.3 ± 10.3, 27.4 ± 12.0, 30.8 ± 13.8, and 31.5 ± 13.5 for BCI-Manus and 26.6 ± 18.9, 29.9 ± 20.6, 32.9 ± 21.4, and 33.9 ± 20.2 for Manus, with no intergroup differences ( P = .51). More subjects attained further gains in FMMA scores at week 12 from BCI-Manus (7 of 11 [63.6%]) than Manus (5 of 14 [35.7%]). A negative correlation was found between the rBSI and FMMA score improvement ( P = .044). BCI-Manus therapy was well tolerated and not associated with adverse events. In conclusion, BCI-Manus therapy is effective and safe for arm rehabilitation after severe poststroke hemiparesis. Motor gains were comparable to those attained with intensive robotic therapy (1,040 repetitions/session) despite reduced arm exercise repetitions using EEG-based MI-triggered robotic feedback (136 repetitions/session). The correlation of rBSI with motor improvements suggests that the rBSI can be used as a prognostic measure for BCI-based stroke rehabilitation.

While brain-computer interfaces (BCIs) can provide communication to people who are locked-in, they suffer from a very low information transfer rate. Further, using a BCI requires a concentration effort and using it continuously can be tiring. The brain controlled wheelchair (BCW) described in this paper aims at providing mobility to BCI users despite these limitations, in a safe and efficient way. Using a slow but reliable P300 based BCI, the user selects a destination amongst a list of predefined locations. While the wheelchair moves on virtual guiding paths ensuring smooth, safe, and predictable trajectories, the user can stop the wheelchair by using a faster BCI. Experiments with nondisabled subjects demonstrated the efficiency of this strategy. Brain control was not affected when the wheelchair was in motion, and the BCW enabled the users to move to various locations in less time and with significantly less control effort than other control strategies proposed in the literature.

Multichannel EEG is generally used in brain-computer interfaces (BCIs), whereby performing EEG channel selection 1) improves BCI performance by removing irrelevant or noisy channels and 2) enhances user convenience from the use of lesser channels. This paper proposes a novel sparse common spatial pattern (SCSP) algorithm for EEG channel selection. The proposed SCSP algorithm is formulated as an optimization problem to select the least number of channels within a constraint of classification accuracy. As such, the proposed approach can be customized to yield the best classification accuracy by removing the noisy and irrelevant channels, or retain the least number of channels without compromising the classification accuracy obtained by using all the channels. The proposed SCSP algorithm is evaluated using two motor imagery datasets, one with a moderate number of channels and another with a large number of channels. In both datasets, the proposed SCSP channel selection significantly reduced the number of channels, and outperformed existing channel selection methods based on Fisher criterion, mutual information, support vector machine, common spatial pattern, and regularized common spatial pattern in classification accuracy. The proposed SCSP algorithm also yielded an average improvement of 10% in classification accuracy compared to the use of three channels (C3, C4, and Cz).

Automatic sleep stage classification is of great importance to measure sleep quality.In this paper, we propose a novel attention-based deep learning architecture called AttnSleep to classify sleep stages using single channel EEG signals.This architecture starts with the feature extraction module based on multi-resolution convolutional neural network (MRCNN) and adaptive feature recalibration (AFR).The MRCNN can extract low and high frequency features and the AFR is able to improve the quality of the extracted features by modeling the inter-dependencies between the features.The second module is the temporal context encoder (TCE) that leverages a multi-head attention mechanism to capture the temporal dependencies among the extracted features.Particularly, the multi-head attention deploys causal convolutions to model the temporal relations in the input features.We evaluate the performance of our proposed AttnSleep model using three public datasets.The results show that our AttnSleep outperforms state-of-the-art techniques in terms of different evaluation metrics.Our source codes, experimental data, and supplementary materials are available at https://github.com/emadeldeen24/AttnSleep.