Summary

Estimation des performances du correcteur orthographique de l’interface cerveau-ordinateur basée sur P300 avec estimation de la latence basée sur le classificateur

Published: September 08, 2023
doi:

Summary

Cet article présente une méthode d’estimation de la précision de l’interface cerveau-ordinateur (BCI) du correcteur orthographe P300 le jour même à l’aide d’un petit ensemble de données de test.

Abstract

L’estimation des performances est une étape nécessaire dans le développement et la validation des systèmes d’interface cerveau-ordinateur (BCI). Malheureusement, même les systèmes BCI modernes sont lents, ce qui rend la collecte de données suffisantes pour la validation une tâche fastidieuse pour les utilisateurs finaux et les expérimentateurs. Pourtant, sans données suffisantes, la variation aléatoire des performances peut conduire à de fausses inférences sur le fonctionnement d’une BCI pour un utilisateur particulier. Par exemple, les orthographes P300 fonctionnent généralement autour de 1 à 5 caractères par minute. Pour estimer la précision avec une résolution de 5 %, il faut 20 caractères (4 à 20 min). Malgré cet investissement en temps, les limites de confiance pour la précision à partir de 20 caractères peuvent atteindre ±23 % selon la précision observée. Une méthode publiée précédemment, l’estimation de la latence basée sur le classificateur (CBLE), s’est avérée fortement corrélée à la précision des BCI. Ce travail présente un protocole d’utilisation de CBLE pour prédire la précision de l’orthographe P300 d’un utilisateur à partir de relativement peu de caractères (~3-8) de données de frappe. Les limites de confiance qui en résultent sont plus étroites que celles produites par les méthodes traditionnelles. La méthode peut ainsi être utilisée pour estimer les performances des BCI plus rapidement et/ou plus précisément.

Introduction

Les interfaces cerveau-ordinateur (BCI) sont une technologie non invasive qui permet aux individus de communiquer directement par le biais de machines sans tenir compte des limitations physiques imposées par le corps. BCI peut être utilisé comme un dispositif d’assistance actionné directement par le cerveau. BCI utilise l’activité cérébrale d’un utilisateur pour déterminer si l’utilisateur a l’intention de choisir une certaine touche (lettre, chiffre ou symbole) affichée à l’écran1. Dans un système informatique typique, un utilisateur appuie physiquement sur la touche prévue d’un clavier. Cependant, dans un système BCI avec un affichage visuel, l’utilisateur doit se concentrer sur la touche souhaitée. Ensuite, BCI sélectionnera la clé prévue en analysant les signaux cérébraux mesurés1. L’activité du cerveau peut être mesurée à l’aide de différentes techniques. Bien qu’il existe des technologies BCI concurrentes, l’électroencéphalogramme (EEG) est considéré comme une technique de pointe en raison de sa nature non invasive, de sa haute résolution temporelle, de sa fiabilité et de son coût relativement faible2.

Les applications de BCI comprennent la communication, le contrôle des appareils et le divertissement 3,4,5,6. L’un des domaines d’application les plus actifs de la BCI est l’orthographe P300, qui a été introduit par Farwell et Donchin7. Le P300 est un potentiel lié à l’événement (ERP) produit en réponse à la reconnaissance d’un stimulus rare mais pertinent8. Lorsqu’une personne reconnaît son stimulus cible, elle produit automatiquement un P300. Le P300 est un signal efficace pour une BCI car il transmet la reconnaissance par le participant de l’événement cible sans nécessiter de réponse extérieure9.

Le P300 BCI a attiré des chercheurs en informatique, en génie électrique, en psychologie, en facteurs humains et dans diverses autres disciplines. Des progrès ont été réalisés dans le traitement du signal, les algorithmes de classification, les interfaces utilisateur, les schémas de stimulation et bien d’autres domaines 10,11,12,13,14,15. Cependant, quel que soit le domaine de recherche, le fil conducteur de toutes ces recherches est la nécessité de mesurer les performances du système BCI. Cette tâche nécessite généralement la génération d’un jeu de données de test. Cette nécessité ne se limite pas à la recherche ; Une éventuelle application clinique en tant que technologie d’assistance nécessitera probablement des ensembles de validation individuels pour chaque utilisateur final afin de garantir que le système peut générer une communication fiable.

Malgré les recherches considérables appliquées au P300 BCI, les systèmes sont encore assez lents. Alors que la majorité des gens sont capables d’utiliser un P300 BCI16, la plupart des orthographes P300 produisent du texte de l’ordre de 1 à 5 caractères par minute. Malheureusement, cette vitesse lente signifie que la génération d’ensembles de données de test nécessite beaucoup de temps et d’efforts pour les participants, les expérimentateurs et les utilisateurs finaux éventuels. La mesure de la précision du système BCI est un problème d’estimation des paramètres binomiaux, et de nombreux caractères de données sont nécessaires pour une bonne estimation.

Pour estimer la présence ou l’absence de l’ERP P300, la plupart des classificateurs utilisent un modèle de classification binaire, qui consiste à attribuer une étiquette binaire (par exemple, « présence » ou « absence ») à chaque essai ou époque de données EEG. L’équation générale utilisée par la plupart des classificateurs peut être exprimée comme suit :

Equation 1

Equation 2 est appelé le score du classificateur, qui représente la probabilité que la réponse P300 soit présente, x est le vecteur caractéristique extrait du signal EEG, et b est un terme de biais17. La fonction f est une fonction de décision qui mappe les données d’entrée à l’étiquette de sortie et est apprise à partir d’un ensemble de données d’entraînement étiquetées à l’aide d’un algorithme d’apprentissage supervisé17. Pendant l’entraînement, le classificateur est entraîné sur un ensemble de données étiquetées de signaux EEG, où chaque signal est étiqueté comme ayant une réponse P300 ou non. Le vecteur de poids et le terme de biais sont optimisés pour minimiser l’erreur entre la sortie prédite du classificateur et l’étiquette réelle du signal EEG. Une fois le classificateur entraîné, il peut être utilisé pour prédire la présence de la réponse P300 dans de nouveaux signaux EEG.

Différents classificateurs peuvent utiliser différentes fonctions de décision, telles que l’analyse discriminante linéaire (LDA), l’analyse discriminante linéaire par étapes (SWLDA), les moindres carrés (LS), la régression logistique, les machines à vecteurs de support (SVM) ou les réseaux neuronaux (NN). Le classificateur des moindres carrés est un classificateur linéaire qui minimise la somme des erreurs quadratiques entre les étiquettes de classe prédites et les étiquettes de classe réelles. Ce classificateur prédit l’étiquette de classe d’un nouvel échantillon de test à l’aide de l’équation suivante :

Equation 3(1)

où la fonction signe renvoie +1 si le produit est positif et -1 s’il est négatif, et le vecteur Equation 4 de poids est obtenu à partir de l’ensemble des caractéristiques des données d’entraînement, (x) et des étiquettes de classe (y) à l’aide de l’équation ci-dessous :

Equation 5    (2)

Dans des recherches antérieures, nous avons soutenu que l’estimation de la latence basée sur le classificateur (CBLE) peut être utilisée pour estimer la précision de la BCI 17,18,19. CBLE est une stratégie d’évaluation de la variation de latence en exploitant la sensibilité temporelle du classificateur18. Alors que l’approche conventionnelle de la classification P300 implique l’utilisation d’une seule fenêtre temporelle synchronisée avec chaque présentation de stimulus, la méthode CBLE implique la création de plusieurs copies décalées dans le temps des époques post-stimulus. Ensuite, il détecte le décalage temporel qui aboutit au score maximum afin d’estimer la latence de la réponse P30017,18. Ici, ce travail présente un protocole qui estime les performances BCI à partir d’un petit ensemble de données à l’aide de CBLE. En tant qu’analyse représentative, le nombre de caractères est varié pour faire des prédictions sur la performance globale d’un individu. Pour les deux exemples de jeux de données, l’erreur quadratique moyenne (RMSE) pour vCBLE et la précision réelle de la BCI ont été calculées. Les résultats indiquent que l’EQM des prédictions vCBLE, en utilisant ses données ajustées, était systématiquement inférieure à la précision dérivée de 1 à 7 caractères testés.

Nous avons développé une interface utilisateur graphique (GUI) appelée « CBLE Performance Estimation » pour la mise en œuvre de la méthodologie proposée. L’exemple de code est également fourni (Supplementary Coding File 1) qui fonctionne sur la plate-forme MATLAB. L’exemple de code effectue toutes les étapes appliquées dans l’interface graphique, mais les étapes sont fournies pour aider le lecteur à s’adapter à un nouveau jeu de données. Ce code utilise un ensemble de données accessible au public « Brain Invaders calibration-less P300-based BCI using dry EEG electrodes Dataset (bi2014a) » pour évaluer la méthode proposée20. Les participants ont joué jusqu’à trois sessions de jeu de Brain Invaders, chaque session ayant 9 niveaux de jeu. La collecte de données s’est poursuivie jusqu’à ce que tous les niveaux soient terminés ou que le participant perde tout contrôle sur le système BCI. L’interface de Brain Invaders comprenait 36 symboles qui clignotaient en 12 groupes de six extraterrestres. Selon le paradigme Brain Invaders P300, une répétition a été créée par 12 flashs, un pour chaque groupe. Sur ces 12 flashs, deux flashs contenaient le symbole de la cible (appelés flashs de cible), tandis que les 10 autres ne contenaient pas le symbole de la cible (appelés flashs non cibles). Plus d’informations sur ce paradigme peuvent être trouvées dans la référence originale20.

L’approche CBLE a également été mise en œuvre sur un ensemble de données du Michigan, qui contenait des données provenant de 40 participants18,19. Ici, les données de huit participants ont dû être éliminées parce que leurs tâches étaient incomplètes. L’ensemble de l’étude a nécessité trois visites de chaque participant. Le premier jour, chaque participant a tapé une phrase d’entraînement de 19 caractères, suivie de trois phrases de test de 23 caractères les jours 1, 2 et 3. Dans cet exemple, le clavier comprenait 36 caractères qui étaient regroupés en six lignes et six colonnes. Chaque ligne ou colonne a été flashée pendant 31,25 millisecondes avec un intervalle de 125 millisecondes entre les clignotements. Entre les personnages, une pause de 3,5 s a été prévue.

La figure 1 montre le schéma fonctionnel de la méthode proposée. La procédure détaillée est décrite dans la section protocole.

Protocol

L’interface graphique « CBLE Performance Estimation » a été appliquée à deux ensembles de données : l’ensemble de données « BrainInvaders » et l’ensemble de données Michigan. Pour le jeu de données « BrainInvaders », la collecte de données a été approuvée par le Comité d’éthique de l’Université Grenoble Alpes20. Les données du Michigan ont été recueillies avec l’approbation du Conseil d’examen institutionnel de l’Université du Michigan…

Representative Results

Le protocole proposé a été testé sur deux ensembles de données différents : « BrainInvaders » et l’ensemble de données du Michigan. Ces jeux de données sont déjà présentés brièvement dans la section Introduction. Les paramètres utilisés pour ces deux ensembles de données sont mentionnés dans le tableau 1. Les figures 2 à 4 illustrent les résultats obtenus à l’aide de l’ensemble de données « BrainInvaders », tan…

Discussion

Cet article décrit une méthode d’estimation de la précision des BCI à l’aide d’un petit ensemble de données P300. Ici, le protocole actuel a été développé sur la base de l’ensemble de données « bi2014a », bien que l’efficacité du protocole ait été confirmée sur deux ensembles de données différents. Pour mettre en œuvre cette technique avec succès, il est crucial d’établir certaines variables, telles que la fenêtre d’époque pour les données d’origine, la fenêtre de décalage tempor…

Divulgazioni

The authors have nothing to disclose.

Acknowledgements

Les données utilisées pour les résultats représentatifs ont été recueillies à partir des travaux soutenus par le National Institute of Child Health and Human Development (NICHD), les National Institutes of Health (NIH) dans le cadre de la subvention R21HD054697 et le National Institute on Disability and Rehabilitation Research (NIDRR) du ministère de l’Éducation dans le cadre de la subvention H133G090005 et du numéro de subvention H133P090008. Le reste du travail a été financé en partie par la National Science Foundation (NSF) dans le cadre du prix #1910526. Les résultats et les opinions de ce travail ne reflètent pas nécessairement les positions du NICHD, du NIH, du NIDRR ou de la NSF.

Materials

MATLAB 2021 Matlab N/A Any recent MATLAB version can be used.

Riferimenti

  1. Rezeika, A., Benda, M., Stawicki, P., Gembler, F., Saboor, A., Volosyak, I. Brain-Computer Interface spellers: A review. Brain Science. 8 (4), 57 (2018).
  2. Gannouni, S., Aledaily, A., Belwafi, K., Aboalsamh, H. Emotion detection using electroencephalography signals and a zero-time windowing-based epoch estimation and relevant electrode identification. Scientific Reports. 11 (1), 7071 (2021).
  3. Daly, J. J., Wolpaw, J. R. Brain-computer interfaces in neurological rehabilitation. Lancet Neurology. 7 (11), 1032-1043 (2008).
  4. Birbaumer, N. Breaking the silence: brain-computer interfaces (BCI) for communication and motor control. Psychophysiology. 43 (6), 517-532 (2006).
  5. Riccio, A., Simione, L., Schettini, F., Pizzimenti, A., Inghilleri, M., Belardinelli, M. O. Attention and P300-based BCI performance in people with amyotrophic lateral sclerosis. Frontiers in Human Neuroscience. 7, 732 (2013).
  6. Finke, A., Lenhardt, A., Ritter, H. The MindGame: a P300-based brain-computer interface game. Neural Network. 22 (9), 1329-1333 (2009).
  7. Farwell, L. A., Donchin, E. Talking off the top of your head: toward a mental prosthesis utilizing event-related brain potentials. Electroencephalogr. Clinical Neurophysiology. 70 (6), 510-523 (1988).
  8. Li, Q., Lu, Z., Gao, N., Yang, J. Optimizing the performance of the visual P300-speller through active mental tasks based on color distinction and modulation of task difficulty. Frontiers in Human Neuroscience. 13, 130 (2019).
  9. McFarland, D. J., Sarnacki, W. A., Townsend, G., Vaughan, T., Wolpaw, J. R. The P300-based brain-computer interface (BCI): effects of stimulus rate. Clinical Neurophysiology. 122 (4), 731-737 (2011).
  10. Krusienski, D. J., Sellers, E. W., Cabestaing, F., Bayoudh, S., McFarland, D. J., Vaughan, T. M. A comparison of classification techniques for the P300 Speller. Journal of Neural Engineering. 3 (4), 299-305 (2006).
  11. Sellers, E. W., Donchin, E. A P300-based brain-computer interface: initial tests by ALS patients. Clinical Neurophysiology. 117 (3), 538-548 (2006).
  12. Donchin, E., Spencer, K. M., Wijesinghe, R. The mental prosthesis: assessing the speed of a P300-based brain-computer interface. IEEE Transactions on Rehabilitation Engineering. 8 (2), 174-179 (2000).
  13. Höhne, J., Schreuder, M., Blankertz, B., Tangermann, M. A novel 9-class auditory ERP paradigm driving a predictive text entry system. Frontiers in Neuroscience. 5, 99 (2011).
  14. Acqualagna, L., Treder, M. S., Blankertz, B. Chroma Speller: Isotropic visual stimuli for truly gaze-independent spelling. , (2013).
  15. Townsend, G., LaPallo, B. K., Boulay, C. B., Krusienski, D. J., Frye, G. E., Hauser, C. K. A novel P300-based brain-computer interface stimulus presentation paradigm: moving beyond rows and columns. Clinical Neurophysiology. 121 (7), 1109-1120 (2010).
  16. Guger, C., Daban, S., Sellers, E., Holzner, C., Krausz, G., Carabalona, R. How many people are able to control a P300-based brain-computer interface (BCI). Neuroscience Letters. 462 (1), 94-98 (2009).
  17. Mowla, M. R., Gonzalez-Morales, J. D., Rico-Martinez, J., Ulichnie, D. A., Thompson, D. E. A comparison of classification techniques to predict Brain-computer interfaces accuracy using classifier-based latency estimation. Brain Science. 10 (10), 734 (2020).
  18. Thompson, D. E., Warschausky, S., Huggins, J. E. Classifier-based latency estimation: a novel way to estimate and predict BCI accuracy. Journal of Neural Engineering. 10 (1), 016006 (2012).
  19. Thompson, D. E., Gruis, K. L., Huggins, J. E. A plug-and-play brain-computer interface to operate commercial assistive technology. Disability and Rehabilitation: Assistive Technology. 9 (2), 144-150 (2014).
  20. Korczowski, L., Ostaschenko, E., Andreev, A., Cattan, G., Coelho Rodrigues, P. L., Gautheret, V., Congedo, M. Brain Invaders calibration-less P300-based BCI using dry EEG electrodes Dataset (bi2014a) [Data set]. Zenodo. , (2019).
  21. Krusienski, D. J., Sellers, E. W., Cabestaing, F., Bayoudh, S., McFarland, D. J., Vaughan, T. M., Wolpaw, J. R. A comparison of classification techniques for the P300 Speller. Journal of Neural Engineering. 3 (4), 299-305 (2006).

Play Video

Citazione di questo articolo
Khan, N. N., Sweet, T., Harvey, C. A., Warschausky, S., Huggins, J. E., Thompson, D. E. P300-Based Brain-Computer Interface Speller Performance Estimation with Classifier-Based Latency Estimation. J. Vis. Exp. (199), e64959, doi:10.3791/64959 (2023).

View Video