Summary

Évaluation des aspects d’utilisabilité d’une solution de réalité mixte pour l’analyse immersive dans les scénarios de l’industrie 4.0

Published: October 06, 2020
doi:

Summary

Ce protocole définit le cadre technique d’une application de réalité mixte développée qui est utilisée pour l’analyse immersive. Sur cette base, des mesures sont présentées, qui ont été utilisées dans une étude pour mieux comprendre les aspects d’utilisabilité de la solution technique développée.

Abstract

En médecine ou dans l’industrie, l’analyse d’ensembles de données de grande dimension est de plus en plus nécessaire. Cependant, les solutions techniques disponibles sont souvent complexes à utiliser. Par conséquent, de nouvelles approches telles que l’analyse immersive sont les bienvenues. L’analyse immersive promet de faire l’expérience d’ensembles de données de grande dimension de manière pratique pour divers groupes d’utilisateurs et ensembles de données. Techniquement, les dispositifs de réalité virtuelle sont utilisés pour permettre des analyses immersives. Dans l’industrie 4.0, par exemple, des scénarios tels que l’identification de valeurs aberrantes ou d’anomalies dans des ensembles de données de grande dimension sont des objectifs poursuivis de l’analyse immersive. Dans ce contexte, deux questions importantes doivent être abordées pour toute solution technique développée sur l’analyse immersive : premièrement, les solutions techniques sont-elles utiles ou non ? Deuxièmement, l’expérience corporelle de la solution technique est-elle positive ou négative? La première question vise la faisabilité générale d’une solution technique, tandis que la seconde vise le confort de port. Les études et protocoles existants, qui abordent systématiquement ces questions, sont encore rares. Dans ce travail, un protocole d’étude est présenté, qui étudie principalement la facilité d’utilisation de l’analyse immersive dans les scénarios de l’industrie 4.0. Plus précisément, le protocole repose sur quatre piliers. Tout d’abord, il catégorise les utilisateurs en fonction des expériences précédentes. Deuxièmement, des tâches sont présentées, qui peuvent être utilisées pour évaluer la faisabilité de la solution technique. Troisièmement, des mesures sont présentées, qui quantifient l’effet d’apprentissage d’un utilisateur. Quatrièmement, un questionnaire évalue le niveau de stress lors de l’exécution des tâches. Sur la base de ces piliers, un cadre technique a été mis en œuvre qui utilise des lunettes intelligentes de réalité mixte pour appliquer le protocole de l’étude. Les résultats de l’étude menée montrent l’applicabilité du protocole d’une part et la faisabilité de l’analyse immersive dans les scénarios de l’industrie 4.0 d’autre part. Le protocole présenté comprend une discussion sur les limites découvertes.

Introduction

Les solutions de réalité virtuelle (solutions VR) sont de plus en plus importantes dans différents domaines. Souvent, avec les solutions de RV (y compris la réalité virtuelle, la réalité mixte et la réalité augmentée), l’accomplissement de nombreuses tâches et procédures quotidiennes doit être facilité. Par exemple, dans le domaine automobile, la procédure de configuration d’une voiture peut être prise en charge par l’utilisation de la réalité virtuelle1 (VR). Les chercheurs et les praticiens ont étudié et développé une multitude d’approches et de solutions dans ce contexte. Cependant, les études qui étudient les aspects de la convivialité sont encore rares. D’une manière générale, ces aspects doivent être examinés à la lumière de deux grandes questions. Tout d’abord, il faut évaluer si une solution de RV surpasse réellement une approche qui n’utilise pas de techniques de RV. Deuxièmement, comme les solutions de RV reposent principalement sur des dispositifs matériels lourds et complexes, des paramètres tels que le confort de port et l’effort mental devraient être étudiés plus en profondeur. En outre, les aspects mentionnés doivent toujours être étudiés par rapport au domaine d’application en question. Bien que de nombreuses approches existantes voient la nécessité d’étudier ces questions2, il existe moins d’études qui ont présenté des résultats.

Un sujet de recherche dans le domaine de la RV, qui est actuellement important, est désigné par l’analyse immersive. Il est dérivé du domaine de recherche de l’analyse visuelle, qui tente d’inclure la perception humaine dans les tâches d’analyse. Ce processus est également connu sous le nom d’exploration visuellede données 4. L’analyse immersive comprend des sujets issus des domaines de la visualisation de données, de l’analyse visuelle, de la réalité virtuelle, de l’infographie et de l’interaction homme-machine5. Les avantages récents des casques d’affichage (HMD) ont permis d’améliorer les possibilités d’exploration des données de manière immersive. Le long de ces tendances, de nouveaux défis et questions de recherche émergent, comme le développement de nouveaux systèmes d’interaction, la nécessité d’étudier la fatigue des utilisateurs ou le développement de visualisations 3D sophistiquées6. Dans une publication précédente6, les principes importants de l’analyse immersive sont discutés. À la lumière du big data, des méthodes telles que l’analyse immersive sont de plus en plus nécessaires pour permettre une meilleure analyse de pools de données complexes. Il n’existe que quelques études qui étudient les aspects d’utilisabilité des solutions d’analyse immersive. En outre, le domaine ou le domaine en question devrait également être pris en compte dans ces études. Dans ce travail, un prototype d’analyse immersive a été développé et, sur cette base, un protocole qui étudie la solution développée pour les scénarios de l’industrie 4.0. Le protocole exploite ainsi la méthode d’expérience2, basée sur des aspects subjectifs, performants et physiologiques. Dans le protocole en question, les aspects subjectifs sont mesurés par le stress perçu des utilisateurs de l’étude. La performance, à son tour, est mesurée par le temps requis et les erreurs qui sont faites pour accomplir les tâches d’analyse. Enfin, un capteur de conductance cutanée a mesuré les paramètres physiologiques. Les deux premières mesures seront présentées dans ce travail, tandis que la conductance cutanée mesurée nécessite des efforts supplémentaires pour être évaluée.

L’étude présentée implique plusieurs domaines de recherche, notamment les aspects neurosciences et les systèmes d’information. Il est intéressant de noter que des considérations sur les aspects neurosciences des systèmes d’information ont récemment attiré l’attention de plusieurs groupes de recherche7,8, montrant la demande d’explorer l’utilisation des systèmes informatiques également d’un point de vue cognitif. Un autre domaine pertinent pour ce travail est l’étude des facteurs humains des systèmes d’information 9,10,11. Dans le domaine de l’interaction homme-machine, il existe des instruments pour étudier la facilité d’utilisation d’une solution. Notez que l’échelle d’utilisabilité du système est principalement utilisée dans ce contexte12. Thinking Aloud Protocols13 est une autre technique d’étude largement utilisée pour en savoir plus sur l’utilisation des systèmes d’information. Bien qu’il existe de nombreuses approches pour mesurer les aspects d’utilisabilité des systèmes d’information, et que certaines d’entre elles aient été présentées il y a longtemps14, des questions émergent encore qui nécessitent d’étudier de nouvelles mesures ou méthodes d’étude. Par conséquent, la recherche dans ce domaine est très active12,15,16.

Dans ce qui suit, les raisons pour lesquelles deux méthodes couramment utilisées n’ont pas été prises en compte dans le présent travail seront discutées. Premièrement, l’échelle de convivialité du système n’a pas été utilisée. L’échelle est basée sur dix questions17 et son utilisation peut également être trouvée dans plusieurs autres études VR18. Comme cette étude vise principalement la mesure du stress19, un questionnaire lié au stress était plus approprié. Deuxièmement, aucun protocole20 de réflexion à voix haute n’a été utilisé. Bien que ce type de protocole ait montré son utilité en général13, il n’a pas été utilisé ici car le niveau de stress des utilisateurs de l’étude pourrait augmenter uniquement en raison du fait que la session de réflexion à voix haute doit être réalisée parallèlement à l’utilisation d’un appareil de RV lourd et complexe. Bien que ces deux techniques n’aient pas été utilisées, les résultats d’autres études récentes ont été incorporés dans l’étude en question. Par exemple, dans les travaux précédents21,22, les auteurs font la distinction entre novices et experts dans leurs études. Sur la base des résultats positifs de ces études, le protocole en question utilise cette séparation présentée des utilisateurs de l’étude. La mesure des contraintes, à son tour, est basée sur les idées des travaux suivants 15,19,21,22.

Dans un premier temps, pour mener l’étude, un scénario Industrie 4.0 approprié doit être trouvé pour accomplir les tâches analytiques. Inspirés par un autre travail des auteurs23, deux scénarios (c’est-à-dire les tâches d’analyse) ont été identifiés, (1) Détection des valeurs aberrantes et (2) Reconnaissance des clusters. Les deux scénarios sont difficiles et sont très pertinents dans le contexte de la maintenance des machines de production à haut débit. Sur la base de cette décision, six considérations majeures ont guidé le protocole d’étude présenté dans ce travail :

  1. La solution développée pour l’étude sera techniquement basée sur des lunettes intelligentes de réalité mixte (voir Tableau des matériaux) et sera développée en tant qu’application de réalité mixte.
  2. Un test approprié doit être développé, capable de distinguer les novices des utilisateurs avancés.
  3. Les mesures du rendement devraient tenir compte du temps et des erreurs.
  4. Une application de bureau doit être développée, qui peut être comparée à la solution d’analyse immersive.
  5. Une mesure doit être appliquée pour évaluer le niveau de stress perçu.
  6. En plus de ce dernier point, des caractéristiques doivent être développées pour atténuer le niveau de contrainte pendant qu’un utilisateur accomplit la procédure des deux tâches d’analyse mentionnées (c’est-à-dire (1) Détection des valeurs aberrantes et (2) Reconnaissance des clusters).

Sur la base des six points mentionnés, le protocole de l’étude intègre la procédure suivante. Les tâches de détection des valeurs aberrantes et d’analyse de reconnaissance de cluster doivent être accomplies de manière immersive à l’aide de lunettes intelligentes de réalité mixte (voir Tableau des matériaux). Par conséquent, une nouvelle application a été développée. Les sons spatiaux doivent faciliter l’exécution des tâches d’analyse sans augmenter l’effort mental. Une fonction vocale doit faciliter la navigation utilisée pour l’application développée des lunettes intelligentes de réalité mixte (voir Tableau des matériaux). Un test de rotation mentale doit servir de base pour distinguer les novices des utilisateurs avancés. Le niveau de stress est mesuré à l’aide d’un questionnaire. Les performances, à leur tour, sont évaluées en fonction du (1) temps dont un utilisateur a besoin pour les tâches d’analyse et en fonction des (2) erreurs commises par un utilisateur pour les tâches d’analyse. Les performances dans le smartglass de réalité mixte sont comparées à l’accomplissement des mêmes tâches dans une application de bureau 2D nouvellement développée et comparable. En outre, un dispositif de conductance cutanée est utilisé pour mesurer le niveau de conductance cutanée comme indicateur possible de stress. Les résultats de cette mesure font l’objet d’une analyse plus approfondie et ne seront pas abordés dans le cadre de ce travail. Les auteurs ont révélé dans une autre étude avec le même appareil que des considérations supplémentaires sont nécessaires24.

Sur la base de ce protocole, les cinq questions de recherche (QR) suivantes sont abordées :

QR1 : Les capacités d’imagination spatiale des participants affectent-elles l’exécution des tâches de manière significative?
QR2 : Y a-t-il un changement important dans l’exécution des tâches au fil du temps?
QR3 : Y a-t-il un changement significatif dans les performances des tâches lors de l’utilisation de sons spatiaux dans la solution d’analyse immersive ?
QR4 : L’analytique immersive développée est-elle perçue comme stressante par les utilisateurs ?
QR5 : Les utilisateurs sont-ils plus performants lorsqu’ils utilisent une solution d’analyse immersive qu’une approche 2D ?

La figure 1 résume le protocole présenté par rapport à deux échelles. Il montre les mesures développées et utilisées et leur nouveauté par rapport au niveau d’interaction. Comme le niveau d’interaction constitue un aspect important lors du développement de fonctionnalités pour un paramètre VR, la figure 1 montrera mieux la nouveauté de l’ensemble du protocole développé dans ce travail. Bien que l’évaluation des aspects dans les deux échelles utilisées soit subjective, leur évaluation globale est basée sur les travaux connexes actuels et les considérations majeures suivantes: Un principe important consiste à utiliser des abstractions d’un environnement pour une interaction naturelle, dans laquelle l’utilisateur s’est familiarisé. En ce qui concerne le protocole en question, la visualisation des nuages de points semble être intuitive pour les utilisateurs et la reconnaissance des modèles dans ces nuages a été reconnue comme une tâche gérable en général. Un autre principe important consiste à superposer les affordances. Ainsi, l’utilisation de sons spatiaux tels qu’utilisés dans le protocole en question est un exemple, car ils sont en corrélation avec la proximité d’un objet recherché. Les auteurs recommandent d’ajuster les représentations de manière à ce que la plupart des informations soient situées dans la zone intermédiaire, ce qui est le plus important pour la perception humaine. La raison pour laquelle les auteurs n’ont pas inclus ce principe était d’encourager l’utilisateur à trouver le meilleur endroit par lui-même ainsi que d’essayer de s’orienter dans un espace de visualisation de données, trop grand pour être montré immédiatement. Dans l’approche présentée, aucune autre considération des caractéristiques des données 3D à montrer n’a été faite. Par exemple, si une dimension est supposée temporelle, des nuages de points auraient pu être affichés. Les auteurs considèrent ce type de visualisation généralement intéressant dans le contexte de l’industrie 4.0. Cependant, il doit se concentrer sur un ensemble raisonnablement petit de visualisations. De plus, une publication précédente portait déjà sur l’analyse collaborative des données. Dans ce travail, cette question de recherche a été exclue en raison de la complexité des autres questions abordées dans cette étude. Dans la configuration présentée ici, l’utilisateur peut explorer l’espace immersif en se promenant. D’autres approches proposent aux contrôleurs d’explorer l’espace virtuel. Dans cette étude, l’accent est mis sur la convivialité à l’aide de l’échelle d’utilisabilité du système (SUS). Une autre publication précédente a mené une étude pour des experts économiques, mais avec des casques VR. En général, et surtout, cette étude se plaint du champ de vision limité pour d’autres appareils comme les lunettes intelligentes de réalité mixte utilisées dans ce travail (voir Tableau des matériaux). Leurs résultats montrent que les débutants dans le domaine de la RV ont pu utiliser efficacement l’outil analytique. Cela correspond aux expériences de cette étude, bien que dans ce travail, les débutants n’aient pas été classés pour avoir des expériences de réalité virtuelle ou de jeu. Contrairement à la plupart des solutions VR, la réalité mixte n’est pas figée sur une position car elle permet de suivre l’environnement réel. Les approches VR telles que mentionnent l’utilisation de chaises spéciales pour une expérience à 360° afin de libérer l’utilisateur de son bureau. Les auteurs de indiquent que les problèmes de perception influencent la performance de l’analyse immersive; par exemple, en utilisant des ombres. Pour l’étude en cours, ce n’est pas faisable, car les lunettes intelligentes de réalité mixte utilisées (voir tableau des matériaux) ne sont pas en mesure d’afficher des ombres. Une solution de contournement pourrait être un plancher virtuel, mais une telle configuration n’entrait pas dans le cadre de cette étude. Une étude d’enquête dans le domaine de l’analyse immersive a identifié les nuages de points 3D comme l’une des représentations les plus courantes de données multidimensionnelles. Dans l’ensemble, les aspects présentés à la figure 1 ne peuvent pas être trouvés actuellement compilés dans un protocole qui étudie les aspects d’utilisabilité de l’analyse immersive pour les scénarios de l’industrie 4.0.

Protocol

Tous les matériaux et méthodes ont été approuvés par le Comité d’éthique de l’Université d’Ulm et ont été réalisés conformément aux directives approuvées. Tous les participants ont donné leur consentement éclairé écrit. 1. Établir un environnement d’étude approprié REMARQUE: L’étude a été menée dans un environnement contrôlé pour faire face à la complexité du matériel. Les lunettes intelligentes de réalité mixte utilisées (vo…

Representative Results

Mise en place de mesures pour l’expériencePour la tâche de détection des valeurs aberrantes, les mesures de performance suivantes ont été définies : temps, trajectoire et angle. Voir la figure 6 pour les mesures. Le temps a été enregistré jusqu’à ce qu’un point marqué en rouge (c.-à-d. la valeur aberrante) soit trouvé. Cette mesure du rendement indique combien de temps un participant a eu besoin pour trouver le point marqué…

Discussion

En ce qui concerne l’application développée de lunettes intelligentes de réalité mixte (voir Tableau des matériaux), deux aspects ont été particulièrement bénéfiques. L’utilisation de sons spatiaux pour la tâche de détection de l’aberrant a été perçue positivement d’une part (voir les résultats du QR3). D’autre part, l’utilisation des commandes vocales a également été perçue positivement (voir la figure 10).

En ce q…

Declarações

The authors have nothing to disclose.

Acknowledgements

Les auteurs n’ont rien à reconnaître.

Materials

edaMove movisens
HoloLens Microsoft
Matlab R2017a MathWorks
RPY2 GNU General Public License v2 or later (GPLv2+) (GPLv2+) https://pypi.org/project/rpy2/
SPSS 25.0 IBM

Referências

  1. Korinth, M., Sommer-Dittrich, T., Reichert, M., Pryss, R. Design and Evaluation of a Virtual Reality-Based Car Configuration Concept. Science and Information Conference. , 169-189 (2019).
  2. Whalen, T. E., Noël, S., Stewart, J. Measuring the human side of virtual reality. IEEE International Symposium on Virtual Environments, Human-Computer Interfaces and Measurement Systems, 2003. , 8-12 (2003).
  3. Martens, M. A., et al. It feels real: physiological responses to a stressful virtual reality environment and its impact on working memory. Journal of Psychopharmacology. 33 (10), 1264-1273 (2019).
  4. Keim, D. A. Information visualization and visual data mining. IEEE transactions on Visualization and Computer Graphics. 8 (1), 1-8 (2002).
  5. Dwyer, T., et al. Immersive analytics: An introduction. Immersive analytics. , 1-23 (2018).
  6. Moloney, J., Spehar, B., Globa, A., Wang, R. The affordance of virtual reality to enable the sensory representation of multi-dimensional data for immersive analytics: from experience to insight. Journal of Big Data. 5 (1), 53 (2018).
  7. Davis, F. D., Riedl, R., Vom Brocke, J., Léger, P. M., Randolph, A. B. . Information Systems and Neuroscience. , (2018).
  8. Huckins, J. F., et al. Fusing mobile phone sensing and brain imaging to assess depression in college students. Frontiers in Neuroscience. 13, 248 (2019).
  9. Preece, J., et al. . Human-computer interaction. , (1994).
  10. Card, S. K. . The psychology of human-computer interaction. , (2018).
  11. Pelayo, S., Senathirajah, Y. Human factors and sociotechnical issues. Yearbook of Medical Informatics. 28 (01), 078-080 (2019).
  12. Bangor, A., Kortum, P., Miller, J. Determining what individual SUS scores mean: adding an adjective rating scale. Journal of Usability Studies. 4 (3), 114-123 (2009).
  13. Krahmer, E., Ummelen, N. Thinking about thinking aloud: A comparison of two verbal protocols for usability testing. IEEE Transactions on Professional Communication. 47 (2), 105-117 (2004).
  14. Hornbæk, K. Current practice in measuring usability: Challenges to usability studies and research. International Journal of Human-Computer Studies. 64 (2), 79-102 (2006).
  15. Peppa, V., Lysikatos, S., Metaxas, G. Human-Computer interaction and usability testing: Application adoption on B2C websites. Global Journal of Engineering Education. 14 (1), 112-118 (2012).
  16. Alwashmi, M. F., Hawboldt, J., Davis, E., Fetters, M. D. The iterative convergent design for mobile health usability testing: mixed-methods approach. JMIR mHealth and uHealth. 7 (4), 11656 (2019).
  17. System Usability Scale (SUS). Assistant Secretary for Public Affairs Available from: https://www.hhs.gov/about/agencies/aspa/how-to-and-tools/methods/system-usability-scale.html (2013)
  18. Fang, Y. M., Lin, C. The Usability Testing of VR Interface for Tourism Apps. Applied Sciences. 9 (16), 3215 (2019).
  19. Pryss, R., et al. Exploring the Time Trend of Stress Levels While Using the Crowdsensing Mobile Health Platform, TrackYourStress, and the Influence of Perceived Stress Reactivity: Ecological Momentary Assessment Pilot Study. JMIR mHealth and uHealth. 7 (10), 13978 (2019).
  20. Zugal, S., et al. Investigating expressiveness and understandability of hierarchy in declarative business process models. Software & Systems Modeling. 14 (3), 1081-1103 (2015).
  21. Schobel, J., et al. Learnability of a configurator empowering end users to create mobile data collection instruments: usability study. JMIR mHealth and uHealth. 6 (6), 148 (2018).
  22. Schobel, J., Probst, T., Reichert, M., Schickler, M., Pryss, R. Enabling Sophisticated Lifecycle Support for Mobile Healthcare Data Collection Applications. IEEE Access. 7, 61204-61217 (2019).
  23. Hoppenstedt, B., et al. Dimensionality Reduction and Subspace Clustering in Mixed Reality for Condition Monitoring of High-Dimensional Production Data. Sensors. 19 (18), 3903 (2019).
  24. Winter, M., Pryss, R., Probst, T., Reichert, M. Towards the Applicability of Measuring the Electrodermal Activity in the Context of Process Model Comprehension: Feasibility Study. Sensors. 20, 4561 (2020).
  25. Butscher, S., Hubenschmid, S., Müller, J., Fuchs, J., Reiterer, H. Clusters, trends, and outliers: How immersive technologies can facilitate the collaborative analysis of multidimensional data. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems. , 1-12 (2018).
  26. Wagner Filho, J. A., Rey, M. F., Freitas, C. M. D. S., Nedel, L. Immersive analytics of dimensionally-reduced data scatterplots. 2nd Workshop on Immersive Analytics. , (2017).
  27. Batch, A., et al. There is no spoon: Evaluating performance, space use, and presence with expert domain users in immersive analytics. IEEE Transactions on Visualization and Computer Graphics. 26 (1), 536-546 (2019).
  28. Towards hmd-based immersive analytics. HAL Available from: https://hal.archives-ouvertes.fr/hal-01631306 (2017)
  29. Luboschik, M., Berger, P., Staadt, O. On spatial perception issues in augmented reality based immersive analytics. Proceedings of the 2016 ACM Companion on Interactive Surfaces and Spaces. , 47-53 (2016).
  30. Fonnet, A., Prié, Y. Survey of Immersive Analytics. IEEE Transactions on Visualization and Computer. , (2019).
  31. Spielberger, C. D., Gorsuch, R. L., Lushene, R. E. STAI Manual for the Stait-Trait Anxiety Inventory (self-evaluation questionnaire). Consulting Psychologist. 22, 1-24 (1970).
  32. Vandenberg, S. G., Kuse, A. R. Mental rotations, a group test of three-dimensional spatial visualization. Perceptual Motor Skills. 47 (2), 599-604 (1978).
  33. Härtel, S., Gnam, J. P., Löffler, S., Bös, K. Estimation of energy expenditure using accelerometers and activity-based energy models-Validation of a new device. European Review of Aging and Physical Activity. 8 (2), 109-114 (2011).
  34. . RPY2: A Simple and Efficient Access to R from Python Available from: https://sourceforge.net/projects/rpy/ (2020)
  35. Hoppenstedt, B., et al. Applicability of immersive analytics in mixed reality: Usability study. IEEE Access. 7, 71921-71932 (2019).
  36. Hoppenstedt, B. Applicability of Immersive Analytics in Mixed Reality: Usability Study. IEEE Dataport. , (2019).

Play Video

Citar este artigo
Hoppenstedt, B., Probst, T., Reichert, M., Schlee, W., Kammerer, K., Spiliopoulou, M., Schobel, J., Winter, M., Felnhofer, A., Kothgassner, O. D., Pryss, R. Evaluating Usability Aspects of a Mixed Reality Solution for Immersive Analytics in Industry 4.0 Scenarios. J. Vis. Exp. (164), e61349, doi:10.3791/61349 (2020).

View Video