Мы представляем методологию, основанную на мультимодальных датчиках для настройки простой, удобной и быстрой системы обнаружения падения и распознавания человеческой деятельности. Цель состоит в том, чтобы построить систему для точного обнаружения падения, которые могут быть легко реализованы и приняты.
В настоящем документе представлена методология, основанная на мультимодальных датчиках для настройки простой, удобной и быстрой системы обнаружения падений и распознавания человеческой деятельности, которая может быть легко внедрена и принята. Методология основана на конфигурации конкретных типов датчиков, методов и процедур машинного обучения. Протокол разделен на четыре этапа: (1) создание базы данных (2) упрощение системы (3) упрощение системы и (4) оценка. Используя эту методологию, мы создали мультимодальную базу данных для обнаружения падения и распознавания человеческой деятельности, а именно UP-Fall Detection. Он включает в себя образцы данных из 17 субъектов, которые выполняют 5 типов падений и 6 различных простых видов деятельности, в течение 3 испытаний. Вся информация была собрана с помощью 5 носимых датчиков (трехосный акселерометр, гироскоп и интенсивность света), 1 шлем электроэнцефалографа, 6 инфракрасных датчиков в качестве датчиков окружающей среды и 2 камеры в боковых и передних точках зрения. Предлагаемая новая методология добавляет некоторые важные этапы для выполнения глубокого анализа следующих проблем проектирования в целях упрощения системы обнаружения падения: а) выбрать, какие датчики или комбинации датчиков должны быть использованы в простой системе обнаружения падения, б) определить лучшее размещение источников информации, и в) выбрать наиболее подходящий метод классификации машинного обучения для падения и обнаружения и распознавания деятельности человека. Несмотря на то, что некоторые мультимодальные подходы, о которых сообщается в литературе, сосредоточены только на одном или двух из вышеупомянутых вопросов, наша методология позволяет одновременно решать эти три проблемы проектирования, связанные с человеческим падением и системой обнаружения и распознавания активности.
Так как в мире явление старения населения1, падение распространенности увеличилось и на самом деле считается серьезной проблемой здравоохранения2. Когда происходит падение, люди требуют немедленного внимания, чтобы уменьшить негативные последствия. Системы обнаружения падения могут уменьшить количество времени, в котором человек получает медицинскую помощь отправки оповещения, когда происходит падение.
Существуют различные категории систем обнаружения падения3. Ранние работы4 классифицируют системы обнаружения падения методом обнаружения, примерно аналитическими методами и методами машинного обучения. Совсем недавно другие авторы3,,5,6 рассмотрели датчики сбора данных в качестве основной функции для классификации детекторов падения. Igual et al.3 делит системы обнаружения падений на системы, осведомленные о контексте, которые включают подходы на основе зрения и датчиков окружающей среды, а также системы носимых устройств. Mubashir et al.5 классифицирует детекторы падения на три группы на основе устройств, используемых для сбора данных: носимые устройства, датчики окружающей среды и устройства на основе зрения. Perry et al.6 рассматривают методы измерения ускорения, методы измерения ускорения в сочетании с другими методами и методы, не измеряющие ускорение. Из этих исследований мы можем определить, что датчики и методы являются основными элементами для классификации общей стратегии исследований.
Каждый из датчиков имеет слабые и сильные стороны, обсуждаемые в Сюй и др.7. Подходы на основе зрения в основном используют обычные камеры, камеры датчика глубины и/или системы захвата движения. Нормальные веб-камеры являются низкой стоимостью и простой в использовании, но они чувствительны к условиям окружающей среды (изменение света, окклюзия и т.д.), может быть использован только в ограниченном пространстве, и есть вопросы конфиденциальности. Глубина камеры, такие как Kinect, обеспечивают полное тело 3D движения7 и менее пострадавших от условий освещения, чем обычные камеры. Однако подходы, основанные на Kinect, не столь надежны и надежны. Системы захвата движения являются более дорогостоящими и трудными в использовании.
Подходы, основанные на акселерометрических устройствах и смартфонах/часах со встроенными акселерометрами, очень часто используются для обнаружения падения. Основным недостатком этих устройств является то, что они должны носить в течение длительного времени. Дискомфорт, навязчивость, размещение тела и ориентация являются вопросами дизайна, которые должны быть решены в этих подходах. Хотя смартфоны и смарт-часы являются менее навязчивыми устройствами, которые датчики, пожилые люди часто забывают или не всегда носят эти устройства. Тем не менее, преимущество этих датчиков и устройств в том, что они могут быть использованы во многих комнатах и / или на открытом воздухе.
Некоторые системы используют датчики, установленные вокруг окружающей среды для распознавания падений/действий, поэтому людям не приходится носить датчики. Тем не менее, эти датчики также ограничены местами, где они развернуты8 и иногда трудно установить. В последнее время мультимодальные системы обнаружения падения включают различные комбинации зрения, носимых и окружающих датчиков, чтобы получить больше точности и надежности. Они также могут преодолеть некоторые из ограничений одного датчика.
Методология, используемая для обнаружения падения, тесно связана с цепочкой распознавания человеческой деятельности (ARC), представленной Bulling et al.9, которая состоит из этапов для сбора данных, предварительной обработки и сегментации сигналов, извлечения и отбора функций, обучения и классификации. Вопросы проектирования должны быть решены для каждого из этих этапов. На каждом этапе используются различные методы.
Мы представляем методологию, основанную на мультимодальных датчиках для настройки простого, удобного и быстрого падения человека и системы обнаружения/распознавания человеческой деятельности. Цель состоит в том, чтобы построить систему для точного обнаружения падения, которые могут быть легко реализованы и приняты. Предлагаемая новая методология основана на ARC, но она добавляет некоторые важные этапы для проведения глубокого анализа следующих вопросов в целях упрощения системы: а) выбрать, какие датчики или комбинации датчиков должны использоваться в простой системе обнаружения падения; b) определить наилучшее размещение источников информации; и с) выбрать наиболее подходящий метод классификации машинного обучения для обнаружения падения и распознавания человеческой деятельности для создания простой системы.
Есть некоторые связанные работы в литературе, которые касаются одного или двух из вышеупомянутых вопросов дизайна, но, насколько нам известно, нет работы, которая фокусируется на методологии для преодоления всех этих проблем.
Похожие работы используют мультимодальные подходы для обнаружения падения и распознавания человеческой деятельности10,,11,,12 для того, чтобы получить надежность и повысить точность. Kwolek etal. 10 предложила разработать и внедрить систему обнаружения падения на основе акселерометрических данных и карт глубины. Они разработали интересную методологию, в которой трехосный акселерометр реализован для обнаружения потенциального падения, а также движения человека. Если мера ускорения превышает порог, алгоритм извлекает человека, отличающегося от карты глубины от обновленной отображающейся карты глубины. Анализ глубины и акселерометра комбинаций был сделан с помощью классификатора векторной машины поддержки.
Ofli et al.11 представили Мультимодальную базу данных по правам человека (MHAD) для того, чтобы обеспечить испытательный полигон для новых систем распознавания человеческой деятельности. Набор данных важен, так как действия были собраны одновременно с помощью 1 оптической системы захвата движения, 4 многовидных камер, 1 системы Kinect, 4 микрофона и 6 беспроводных акселерометров. Авторы представили результаты для каждого модальности: Kinect, mocap, акселерометр, и аудио.
Dovgan et al.12 предложили прототип для обнаружения аномального поведения, в том числе падений, у пожилых людей. Они разработали тесты для трех сенсорных систем, чтобы найти наиболее подходящее оборудование для обнаружения падения и необычного поведения. Первый эксперимент состоит из данных смарт-сенсорной системы с 12 метками, прикрепленными к бедрам, коленям, лодыжкам, запястьям, локтям и плечам. Они также создали набор тестов, используя одну систему датчиков Ubisense с четырьмя метками, прикрепленными к талии, груди и обеих лодыжках, и одним акселерометротром Xsens. В третьем эксперименте, четыре субъекта используют систему Ubisense только при выполнении 4 типов падений, 4 проблемы со здоровьем, как аномальное поведение и различную активность повседневной жизни (ADL).
Другие работы в литературе13,14,15 адрес проблемы поиска наилучшего размещения датчиков или устройств для обнаружения падения сравнения производительности различных комбинаций датчиков с несколькими классификаторами. Santoyo et al.13 представили системную оценку, оценивающую важность расположения 5 датчиков для обнаружения падения. Они сравнили производительность этих комбинаций датчиков с помощью k-ближайших соседей (KNN), векторных машин поддержки (SVM), наивных байесов (NB) и классификаторов дерева решений (DT). Они приходят к выводу, что расположение датчика на объекте оказывает значительное влияние на производительность детектора падения независимо от используемого классификатора.
Сравнение носимых сенсорных размещений на теле для обнаружения падения было представлено Оздемиром14. Для определения размещения датчика автор проанализировал 31 комбинацию датчиков следующих позиций: головка, талия, грудь, правое запястье, правая лодыжка и правое бедро. Четырнадцать добровольцев выполнили 20 смоделированных падений и 16 ADL. Он обнаружил, что лучшая производительность была получена, когда один датчик расположен на талии от этих исчерпывающих экспериментов комбинации. Другое сравнение было представлено Ntanasis15 с использованием набора данных Оздемира. Авторы сравнили отдельные позиции на голове, груди, талии, запястье, лодыжке и бедре с использованием следующих классификаторов: J48, KNN, RF, случайный комитет (RC) и SVM.
Ориентиры эффективности различных вычислительных методов для обнаружения осени также можно найти в литературе16,,17,,18. Bagala et al.16 представили систематическое сравнение для сравнения эффективности тринадцати методов обнаружения падения, испытанных на реальных падениях. Они рассматривали только алгоритмы, основанные на измерениях акселерометра, размещенных на талии или туловище. Bourke et al.17 оценили эффективность пяти аналитических алгоритмов обнаружения падения с помощью набора данных ADLs и падений на основе показаний акселерометра. Kerdegari18 сделало также сравнение представления по-разному моделей классифицирования для комплекта записанных данных ускорения. Алгоритмы, используемые для обнаружения падения, были zeroR, oneR, NB, DT, многослойный перцептрон и SVM.
Методология обнаружения падения была предложена Alazrai et al.18 с использованием геометрического дескриптора позы движения для построения накопленного представления человеческой деятельности на основе гистограммы. Они оценивали фреймворк с помощью набора данных, собранного с помощью датчиков Kinect.
Таким образом, мы обнаружили, мультимодальных обнаружения падения связанных работ10,11,12, которые сравнивают производительность различных комбинаций условий. Некоторые авторы решают проблему поиска наилучшего размещения датчиков13,,14,,15или комбинаций датчиков13 с несколькими классификаторами13,,15,,16 с несколькими датчиками одинаковой модальности и акселерометров. В литературе не было найдено работ, которые касаются размещения, мультимодальных комбинаций и эталона классификаторов одновременно.
При создании набора данных часто возникают проблемы, связанные20 с проблемами синхронизации, организации и несогласованности данных.
Синхронизации
При получении данных возникают проблемы синхронизации с учетом того, что несколько датчиков обычно работают с разной скоростью отбора проб. Датчики с более высокими частотами собирают больше данных, чем данные с более низкими частотами. Таким образом, данные из разных источников не будут правильно сопряжены. Даже если датчики работают с одинаковыми показателями выборки, возможно, что данные не будут выровнены. В этой связи следующие рекомендации могли бы помочь справиться с этими проблемами синхронизации20: i) регистрировать отметку времени, предмет, активность и испытания в каждой выборке данных, полученной от датчиков; ii) наиболее последовательный и менее частый источник информации должен использоваться в качестве эталонного сигнала для синхронизации; и iii) использовать автоматические или полуавтоматические процедуры для синхронизации видеозаписей, которые ручные проверки были бы непрактичными.
Предварительная обработка данных
Необходимо также проводить предварительную обработку данных, и критические решения влияют на этот процесс: а) определить методы хранения данных и представления данных нескольких и неоднородных источников (b) определить способы хранения данных в локальном узлах или в облаке (c) выбрать организацию данных, включая имена файлов и папки (d) обрабатывать недостающие значения данных, а также избыточность, найденную в датчиках, найденных в датчиках, найденных в датчиках, найденных в датчиках, найденных в датчиках, включая имена файлов и папок (d) обрабатывать недостающие значения данных, а также избыточность, найденную в датчиках, найденных в датчиках, найденных в датчиках, найденных в датчиках, найденных в датчиках, найденных в датчиках, в которых находятся в датчиках, в ключая и ныхфайлах, найденных в датчиках, , в частности. Кроме того, для облака данных рекомендуется локальное буферизация, когда это возможно, для уменьшения потери данных во время загрузки.
Несогласованность данных
Несогласованность данных является общей между испытаниями, обнаруживая различия в размерах выборки данных. Эти вопросы связаны с получением данных в носимых датчиках. Краткие перерывы в сборе данных и столкновение данных с нескольких датчиков приводят к несоответствиям данных. В этих случаях алгоритмы обнаружения несоответствий важны для обработки сбоев в работе датчиков в режиме онлайн. Важно подчеркнуть, что устройства беспроводной связи должны часто контролироваться на протяжении всего эксперимента. Низкая батарея может повлиять на подключение и привести к потере данных.
Этические
Согласие на участие и этичное одобрение являются обязательными в каждом типе экспериментов, где люди участвуют.
Что касается ограничений этой методологии, то важно отметить, что она предназначена для подходов, учитывая различные способы сбора данных. Системы могут включать носимые, окружающие и/или датчики зрения. Предлагается рассмотреть вопрос о энергопотреблении устройств и сроке службы батарей в беспроводных датчиках, в связи с такими вопросами, как потеря сбора данных, уменьшение подключения и энергопотребления во всей системе. Кроме того, эта методология предназначена для систем, которые используют методы машинного обучения. Анализ выбора этих моделей машинного обучения должен быть сделан заранее. Некоторые из этих моделей могут быть точными, но очень много времени и энергии. Необходимо учитывать компромисс между точной оценкой и ограниченной доступностью ресурсов для вычислений в моделях машинного обучения. Важно также отметить, что при сборе данных системы деятельность осуществлялась в том же порядке; кроме того, испытания проводились в одной последовательности. В целях безопасности, защитный матрас был использован для субъектов, чтобы упасть на. Кроме того, водопады были инициированы самостоятельно. Это важное различие между смоделированным и реальным и реальным и реальным и реальным и реальным и реальным и реальным и реальным и т.д. падениями, которые обычно происходят в сторону твердых материалов. В этом смысле этот набор данных, записанный падает с интуитивной реакцией, стараясь не упасть. Кроме того, существуют некоторые различия между реальным падением пожилых людей или людей с ограниченными возможностями и падением моделирования; и они должны быть приняты во внимание при разработке новой системы обнаружения падения. Это исследование было сосредоточено на молодых людях без каких-либо нарушений, но примечательно, что выбор предметов должен быть приведен в соответствие с целью системы и целевой группы населения, которая будет использовать его.
Из соответствующих работ, описанных выше10,11,12,13,,14,,15,,16,,17,18, мы можем заметить, что Есть авторы, которые используют мультимодальные подходы упором в получении надежных детекторов падения или сосредоточиться на размещении или производительности классификатора. Таким образом, они рассматриваются только один или два из проблем проектирования для обнаружения осени. Наша методология позволяет решить одновременно три основные проектные задачи системы обнаружения падения.
Для будущей работы мы предлагаем разработать и внедрить простую мультимодальную систему обнаружения падений на основе полученных результатов, полученных по этой методологии. Для реального внедрения для разработки более надежных систем следует использовать подходы к передаче, иерархической классификации и глубокому обучению. Наша реализация не учитывала качественные показатели моделей машинного обучения, но для дальнейшего развития систем обнаружения/распознавания активности необходимо учитывать в режиме реального времени и ограниченные вычислительные ресурсы. Наконец, для того, чтобы улучшить наш набор данных, отключение или почти падение деятельности и в режиме реального времени мониторинга добровольцев в течение их повседневной жизни могут быть рассмотрены.
The authors have nothing to disclose.
Это исследование было профинансировано Universidad Panamericana через грант “Fomento a la Investigacion UP 2018”, под кодом проекта UP-CI-2018-ING-MX-04.
Inertial measurement wearable sensor | Mbientlab | MTH-MetaTracker | Tri-axial accelerometer, tri-axial gyroscope and light intensity wearable sensor. |
Electroencephalograph brain sensor helmet MindWave | NeuroSky | 80027-007 | Raw brainwave signal with one forehand sensor. |
LifeCam Cinema video camera | Microsoft | H5D-00002 | 2D RGB camera with USB cable interface. |
Infrared sensor | Alean | ABT-60 | Proximity sensor with normally closed relay. |
Bluetooth dongle | Mbientlab | BLE | Dongle for Bluetooth connection between the wearable sensors and a computer. |
Raspberry Pi | Raspberry | Version 3 Model B | Microcontroller for infrared sensor acquisition and computer interface. |
Personal computer | Dell | Intel Xeon E5-2630 v4 @2.20 GHz, RAM 32GB |