A standardized evaluation method was developed for Wearable Mobility Monitoring Systems (WMMS) that includes continuous activities in a realistic daily living environment. Testing with a series of daily living activities can decrease activity recognition sensitivity; therefore, realistic testing circuits are encouraged for valid evaluation of WMMS performance.
An evaluation method that includes continuous activities in a daily-living environment was developed for Wearable Mobility Monitoring Systems (WMMS) that attempt to recognize user activities. Participants performed a pre-determined set of daily living actions within a continuous test circuit that included mobility activities (walking, standing, sitting, lying, ascending/descending stairs), daily living tasks (combing hair, brushing teeth, preparing food, eating, washing dishes), and subtle environment changes (opening doors, using an elevator, walking on inclines, traversing staircase landings, walking outdoors).
To evaluate WMMS performance on this circuit, fifteen able-bodied participants completed the tasks while wearing a smartphone at their right front pelvis. The WMMS application used smartphone accelerometer and gyroscope signals to classify activity states. A gold standard comparison data set was created by video-recording each trial and manually logging activity onset times. Gold standard and WMMS data were analyzed offline. Three classification sets were calculated for each circuit: (i) mobility or immobility, ii) sit, stand, lie, or walking, and (iii) sit, stand, lie, walking, climbing stairs, or small standing movement. Sensitivities, specificities, and F-Scores for activity categorization and changes-of-state were calculated.
The mobile versus immobile classification set had a sensitivity of 86.30% ± 7.2% and specificity of 98.96% ± 0.6%, while the second prediction set had a sensitivity of 88.35% ± 7.80% and specificity of 98.51% ± 0.62%. For the third classification set, sensitivity was 84.92% ± 6.38% and specificity was 98.17 ± 0.62. F1 scores for the first, second and third classification sets were 86.17 ± 6.3, 80.19 ± 6.36, and 78.42 ± 5.96, respectively. This demonstrates that WMMS performance depends on the evaluation protocol in addition to the algorithms. The demonstrated protocol can be used and tailored for evaluating human activity recognition systems in rehabilitation medicine where mobility monitoring may be beneficial in clinical decision-making.
Alomtegenwoordige sensing is uitgegroeid tot een boeiende onderzoek gebied als gevolg van steeds krachtiger, kleine, lage kosten computing en sensing apparatuur 1. Mobiliteit monitoren met behulp van draagbare sensoren heeft geleid tot een grote belangstelling, omdat de consument-niveau micro-elektronica zijn voor het opsporen van de beweging kenmerken met een hoge nauwkeurigheid 1. Menselijke activiteit erkenning (HAR) met behulp van draagbare sensoren is een recent gebied van onderzoek, met de voorlopige studies uitgevoerd in de jaren 1980 en 1990 2-4.
Moderne smartphones bevatten de nodige sensoren en real-time berekening capaciteit voor mobiliteitsactiviteit herkenning. Real-time analyse van het apparaat maakt activiteit indeling en uploaden van gegevens zonder dat gebruikers of onderzoeker interventie. Een smartphone met mobiliteit analyse software kon fitness tracking, monitoring van gezondheid bieden, valdetectie, thuis of op het werk automatisering en self-managing exercise s 5. Smartphones kunnen worden beschouwd traagheidsmeetapparaat platforms voor het opsporen van de mobiele activiteiten en mobiele patronen in mensen, met behulp van gegenereerde wiskundige signaal functies berekend met ingebouwde sensor uitgangen 6. Gemeen generatie heuristische werkwijzen omvatten, tijdsdomein, frequentiedomein en wavelet-analyse gebaseerde benaderingen 7.
Moderne smartphone HAR-systemen hebben aangetoond hoge voorspelling nauwkeurigheid bij het detecteren van bepaalde activiteiten 1,5,6,7. Deze studies variëren in evaluatiemethoden evenals nauwkeurigheid omdat de meeste studies hebben hun eigen training set, milieu setup, en het verzamelen van gegevens protocol. Gevoeligheid, specificiteit, nauwkeurigheid, recall, precisie, en F-Score worden vaak gebruikt om de voorspelling kwaliteit te beschrijven. Echter, weinig tot geen informatie beschikbaar over de methoden voor "gelijktijdige activiteit" erkenning en evaluatie van het vermogen om activiteit veranderingen in real-time detectie1, voor HAR systemen die proberen meerdere activiteiten categoriseren. Evaluatiemethoden voor de juistheid HAR systeem aanzienlijk verschillen tussen de studies. Ongeacht de classificatie algoritme of toegepaste kenmerken, beschrijvingen van de gouden standaard evaluatiemethoden zijn vaag voor de meeste HAR onderzoek.
Activiteit erkenning in een dagelijkse leefomgeving is niet uitgebreid onderzocht. De meeste smartphone gebaseerde activiteitssystemen herkenning worden geëvalueerd op een gecontroleerde wijze, waardoor een evaluatie protocol dat voordelig kan zijn om het algoritme in plaats realistisch een echte omgeving. Binnen hun evaluatie regeling, de deelnemers presteren vaak alleen de beoogde voor het voorspellen acties, in plaats van het toepassen van een groot scala aan realistische activiteiten voor de deelnemer na elkaar uit te voeren, het nabootsen van real-life events.
Sommige smartphone HAR bestudeert 8,9 groep soortgelijke activiteiten samen, zoals trappen en wandelen, Maar exclusief andere activiteiten van de dataset. Voorspellingsnauwkeurigheid wordt dan bepaald door hoe goed het algoritme die het doelwit activiteiten. Dernbach et al. 9 hadden de deelnemers de activiteit die zij op het punt stonden uit te voeren voordat u, het onderbreken van voortdurende verandering-van-toestandsovergangen schrijven. HAR systeem evaluaties moet het algoritme te beoordelen, terwijl de deelnemer voert natuurlijke acties in een dagelijkse woon-instelling. Dit zou een real-life evaluatie die het dagelijks gebruik van de applicatie repliceert toestaan. Een realistische schakeling bevat vele veranderingen-van-state en een combinatie van maatregelen niet voorspelbaar door het systeem. Een onderzoeker kan dan beoordelen reactie van het algoritme deze extra bewegingen, waardoor de robuustheid van het algoritme evalueren om abnormale bewegingen.
Dit document presenteert een Wearable Mobility Monitoring System (WMMS) evaluatie protocol dat een gecontroleerde cursus die real-life dagelijkse leefomgeving weerspiegelt gebruikt. WMMSevaluatie kan vervolgens worden gemaakt onder gecontroleerde maar realistische omstandigheden. In dit protocol gebruiken we een derde generatie WMMS die werd ontwikkeld aan de Universiteit van Ottawa en Ottawa Hospital Research Institute 11-15. De WMMS is ontworpen voor smartphones met een tri-axis accelerometer en gyroscoop. De mobiliteit algoritme vertegenwoordigt gebruiker variabiliteit geeft een vermindering van het aantal valse positieven wijzigingen state-of-identificatie en verhoogt de gevoeligheid van de activiteit categorisatie. Minimaliseren van valse positieven is belangrijk omdat de WMMS triggers korte video clip opname wanneer activiteit veranderingen van de staat worden gedetecteerd, voor context-gevoelige activiteit evaluatie die verder verbetert WMMS classificatie. Onnodige video-opname creëert inefficiënties in de opslag en het gebruik van de batterij. De WMMS algoritme is gestructureerd als een laag-zelflerende model en geëvalueerd met verschillende niveaus voorspelling, waarbij een verhoogde voorspelling level betekent een toename van de hoeveelheidherkenbare acties.
Menselijke activiteit erkenning met een draagbare bewaking mobiliteitssysteem heeft meer aandacht gekregen in de afgelopen jaren als gevolg van de technische vooruitgang in de draagbare computers en smartphones en systematische behoefte aan kwantitatieve uitkomstmaten die helpen met de klinische besluitvorming en de gezondheid interventie evalueren. De in dit document beschreven methode effectief was voor het evalueren van WMMS ontwikkeling sinds activiteit classificatie fouten werden gevonden die niet aanwezig zou zijn…
The authors have nothing to disclose.
De auteurs erkennen Evan Beisheim, Nicole Capela, Andrew Herbert-Copley voor technische en gegevensverzameling hulp. Projectfinanciering werd ontvangen van de Natural Sciences and Engineering Research Council van Canada (NSERC) en BlackBerry Ltd, waaronder smartphones gebruikt in de studie.
Smartphone or wearable measurement device | Blackberry | Z10 | |
Smartphone for video recording | Blackberry | Z10 or 9800 | |
Phone holster | Any | ||
Data logger application for the smartphone | BlackBerry World – TOHRC Data Logger for BlackBerry 10 | http://appworld.blackberry.com/webstore/content/32013891/?countrycode=CA | |
Wearable mobility measurement | Custom Blackberry 10 and Matlab software for mobility monitoring | http://www.irrd.ca/cag/smartphone/ | |
Video editing or analysis software | Motion Analysis Tools | http://www.irrd.ca/cag/mat/ |