Summary

Implementación de un sistema de detección y alerta de riesgos de psicosis en tiempo real basado en registros médicos electrónicos utilizando CogStack

Published: May 15, 2020
doi:

Summary

Demostramos cómo implementar un sistema de cálculo y alerta de riesgos de psicosis en tiempo real basado en CogStack, una plataforma de recuperación y extracción de información para registros médicos electrónicos.

Abstract

Estudios recientes han demostrado que una calculadora de riesgo automatizada, con experiencia en vida útil, transdiagnóstico y basada clínicamente en la historia, proporciona un potente sistema para apoyar la detección temprana de individuos en riesgo de psicosis a gran escala, mediante el aprovechamiento de los registros electrónicos de salud (EPR). Esta calculadora de riesgos ha sido validada externamente dos veces y está en pruebas de viabilidad para la implementación clínica. La integración de esta calculadora de riesgos en la rutina clínica debe facilitarse mediante estudios prospectivos de viabilidad, que son necesarios para abordar los desafíos pragmáticos, como la falta de datos, y la usabilidad de esta calculadora de riesgos en un entorno clínico real y rutinario. Aquí, presentamos un enfoque para una implementación prospectiva de un servicio de detección y alerta de riesgos de psicosis en tiempo real en un sistema de EHR del mundo real. Este método aprovecha la plataforma CogStack, que es un sistema de extracción y extracción de información distribuida, ligero y de código abierto. La plataforma CogStack incorpora un conjunto de servicios que permiten la búsqueda de texto completo de datos clínicos, un cálculo en tiempo real con experiencia en la vida útil del riesgo de psicosis, alertas tempranas de riesgos para los médicos y el seguimiento visual de los pacientes a lo largo del tiempo. Nuestro método incluye: 1) la ingesta y sincronización de datos de múltiples fuentes en la plataforma CogStack, 2) la implementación de una calculadora de riesgos, cuyo algoritmo fue previamente desarrollado y validado, para el cálculo oportuno del riesgo de psicosis de un paciente, 3) la creación de visualizaciones interactivas y tableros para monitorear el estado de salud de los pacientes a lo largo del tiempo, y 4) la construcción de sistemas de alerta sin automatización para asegurar que los médicos sean notificados a los pacientes en riesgo , para que se puedan llevar a cabo las acciones apropiadas. Este es el primer estudio que ha desarrollado e implementado un sistema similar de detección y alerta en la rutina clínica para la detección temprana de psicosis.

Introduction

Los trastornos psicóticos son enfermedades graves de salud mental que conducen a dificultades para distinguir entre la experiencia interna de la mente y la realidad externa del medio ambiente1,así como un riesgo superior a la media de autolesiones y suicidio2. Bajo la atención estándar, estos trastornos resultan en un impacto importante en la salud pública con una carga económica y de salud significativa para las personas, las familias y las sociedades en todo el mundo3. Las intervenciones tempranas en la psicosis pueden mejorar los resultados de este trastorno mental4. En particular, la detección, la evaluación del pronóstico y el tratamiento preventivo de las personas que están en alto riesgo clínico para desarrollar psicosis (CHR-P)5 proporciona un potencial único para alterar el curso del trastorno, mejorando así la calidad de vida de muchas personas y sus familias3,,6. Los individuos CHR-P son jóvenes que buscan ayuda que presentan síntomas atenuados y deterioro funcional7:su riesgo de desarrollar psicosis es del 20% a los 2 años8, pero es mayor en algunos subgrupos específicos9,,10. A pesar de algunos avances sustanciales, el impacto de los enfoques preventivos en la práctica clínica de rutina está limitado por la capacidad de detectar a la mayoría de las personas que están en riesgo11. Los métodos de detección actuales se basan en comportamientos de búsqueda de ayuda y referencias bajo sospecha de riesgo de psicosis; estos métodos son altamente ineficientes en el manejo de un gran número de muestras11. Por lo tanto, la escalabilidad de los métodos de detección actuales a la gran mayoría de la población en riesgo es bastante limitada12. De hecho, sólo el 5% (servicios independientes especializados de detección temprana) al 12% (servicios de salud mental juvenil) de las personas en riesgo de desarrollar un primer trastorno psicótico puede ser detectado en el momento de su etapa de riesgo por las estrategias de detección actuales6.

Para ampliar los beneficios clínicos de los enfoques preventivos en un mayor número de individuos en riesgo, desarrollamos una calculadora de riesgo automatizada, que incluye toda la vida (es decir, a través de todas las edades), transdiagnóstico (es decir, a través de diferentes diagnósticos)13, calculadora de riesgo individualizado basada en clínicas, que puede detectar individuos en riesgo de psicosis en la atención secundaria de salud mental a escala, más allá de aquellos que cumplen con los criterios14de CHR-P. Esta calculadora de riesgos utilizó un modelo de riesgo proporcional de Cox para predecir el riesgo de desarrollar un trastorno psicótico durante seis años a partir de cinco variables clínicas recogidas rutinariamente seleccionadas a priori, de acuerdo con las pautas metodológicas15:edad, género, etnia, edad por sexo y diagnóstico de índice primario. Estas variables clínicas se seleccionaron sobre la base de conocimientos a priori obtenidos a partir de metaanálisis16,,17, según lo recomendado por las directrices metodológicas de última generación15. El número de predictores se limita a conservar la relación Evento por variable y minimizar los sesgos de sobreajuste; incluyendo demasiadas variables sin filtro a priori conduce a problemas de sobreajuste y precisión de pronóstico deficiente18. El método utilizado para desarrollar este modelo proporciona una precisión de pronóstico similar a los métodos de aprendizaje automático18. Los parámetros del modelo Cox se estimaron sobre la base de una cohorte retrospectiva no identificada del South London y Maudsley National Health Service Foundation Trust (SLaM)19. SLaM es un fideicomiso de salud mental del Servicio Nacional de Salud (NHS) que proporciona atención secundaria de salud mental a una población de 1,36 millones de personas en el sur de Londres (distritos de Lambeth, Southwark, Lewisham y Croydon), y tiene una de las tasas más altas registradas de psicosis en el mundo20. Todos los datos utilizados en el desarrollo del modelo se extrajeron de la plataforma Clinical Record Interactive Search (CRIS), un sistema digital de registro de casos, que proporciona a los investigadores acceso retrospectivo y análisis de registros clínicos anónimos19. La información clínica en CRIS se extrae de un sistema de Registro Electrónico de Salud (EHR) a medida, en SLaM, llamado Sistema Electrónico de Viaje del Paciente (ePJS). SLaM está libre de papel y ePJS representa la plataforma de recopilación de datos estándar para la rutina clínica. Por lo tanto, la calculadora de riesgo transdiagnóstico aprovecha los EPR y tiene el potencial de examinar automáticamente los grandes EPR de los pacientes que acceden a la atención sanitaria mental secundaria, para detectar aquellos que pueden estar en riesgo de psicosis. El algoritmo de esta calculadora de riesgo transdiagnóstico se ha publicado previamente6,,14,21. La calculadora de riesgo transdiagnóstico ha sido validada externamente en dos NHS Foundation Trusts14,,21 y optimizado22,demostrando su adecuado rendimiento pronóstico y generalización en diferentes poblaciones.

De acuerdo con las directrices metodológicas sobre el desarrollo de un modelo de predicción de riesgos15,,23, el siguiente paso después del desarrollo y validación del modelo es implementar el modelo de predicción en la práctica clínica de rutina. Los estudios de implementación suelen ir precedidos de estudios piloto o de viabilidad que abordan posibles limitaciones pragmáticas asociadas con el uso de algoritmos de riesgo en la práctica clínica. Por ejemplo, es posible que los datos necesarios para ejecutar una calculadora, como la edad, el sexo y la etnia, no estén disponibles en la fecha del diagnóstico o se actualicen más adelante. Se deben considerar métodos eficaces para controlar los datos que faltan y sincronizar actualizaciones frecuentes en secuencias de datos en tiempo real para obtener los resultados de predicción más fiables en una implementación. Además, dado que el desarrollo inicial de la calculadora de riesgos se basó en datos retrospectivos de cohortes, no se sabe si se puede utilizar en un flujo de datos en tiempo real que es típico de un entorno clínico del mundo real. Otro desafío es asegurar que los médicos relevantes reciban las recomendaciones generadas por la calculadora de riesgos dentro de un plazo adecuado y dentro de una vía de comunicación compartida y aceptada.

Para superar estas limitaciones, hemos completado un estudio de implementación de viabilidad empleando la calculadora de riesgo transdiagnóstico individualizada. El estudio incluyó dos fases: una fase in vitro que se llevó a cabo utilizando datos de la EHR local, sin contactar a médicos o pacientes, y una fase in vivo, que implicó el contacto directo con los médicos. La fase in vitro tenía dos objetivos de gran fin: i) abordar las barreras de aplicación de acuerdo con el Marco Consolidado de Investigación en Implementación (CFIR)27 y ii) integrar la calculadora de riesgo transdiagnóstico en el EHR local. Las barreras de implementación incluyeron la comunicación de los resultados de riesgo a los médicos. En SLaM, se invita a todos los pacientes a registrarse en Consentimiento para el Contacto (C4C), lo que indica su disposición a ser contactados para la investigación, sin afectar la calidad de la atención. Esto reduce los problemas éticos relacionados con el contacto con los pacientes. Además, los grupos de trabajo con médicos ayudaron a adaptar la forma en que se comunicó esta información. Durante la fase in vivo (14 de mayo de 2018 a 29 de abril de 2019), todos los individuos (i) mayores de 14 años (ii) que accedían a cualquier servicio DeSM (municipios de Lambeth, Southwark, Lewisham, Croydon), (iii) recibiendo un primer diagnóstico primario del índice ICD-10 de cualquier trastorno mental no orgánico y no psicótico (con la excepción de Trastornos Psicóticos Agudos y Transitorios; ATPD), o una designación CHR-P y (iv) con los datos de contacto existentes se consideraron elegibles. Durante la fase in vivo, los nuevos pacientes que acceden a SLaM cada semana fueron automáticamente examinados para su riesgo de psicosis, y aquellos con un riesgo superior a un determinado umbral fueron detectados. A continuación, el equipo de investigación se comunicara con los médicos responsables de los pacientes para discutir otras recomendaciones y, finalmente, sugerir una nueva evaluación cara a cara6. Si se consideraba que los evaluados cumplían los criterios CHR-P, se remitían a los servicios especializados de CHR-P, como la divulgación y el apoyo en el sur de Londres (OASIS)28. Esto resultaría en una mejor detección de individuos antes de la aparición de un trastorno psicótico y proporcionar una oportunidad significativa para alterar el curso del trastorno. Fundamentalmente, este estudio de viabilidad implicó la integración completa de la calculadora en el sistema EHR local, que es el tema del artículo actual. El protocolo completo de este estudio de viabilidad, incluyendo una visión general del plan para la evaluación de la investigación propuesta, detalles sobre la gestión de la seguridad de los datos y cuestiones éticas, se ha presentado en nuestro trabajo anterior6. El artículo actual, como parte del estudio de viabilidad6,se centra selectivamente en presentar la implementación técnica de un sistema de detección y alerta de riesgos de psicosis en tiempo real basado en los datos locales de EHR. Más concretamente, el objetivo de este estudio es investigar la viabilidad técnica de esta calculadora de riesgos en la detección oportuna de pacientes en riesgo tan pronto como accedan a un servicio secundario de atención mental. Los resultados completos del estudio de viabilidad, en términos de adhesión de los médicos a las recomendaciones hechas por la calculadora de riesgos, se presentarán por separado. Una evaluación exhaustiva de la eficacia de la investigación propuesta, que requiere diseños aleatorios, está fuera del alcance del programa de investigación actual. Hasta nuestro mejor conocimiento, este es el primer método que describe la implementación de una calculadora de riesgos basada en datos EHR en vivo para la detección temprana de psicosis.

Nuestro enfoque para la detección de riesgos de psicosis y alertas aprovecha la plataforma CogStack. La plataforma CogStack es una plataforma de extracción de texto y recuperación de información ligera, distribuida y tolerante a errores24. Esta plataforma consta de tres componentes clave: 1) la canalización de CogStack que utiliza el marco Java Spring Batch para ingerir y sincronizar datos de un origen de datos predefinido (datos EHR estructurados y no estructurados en múltiples formatos como Word, archivos PDF e imágenes) a un receptor de datos predefinido en tiempo real; 2) Elasticsearch, un motor de búsqueda que permite el almacenamiento y la consulta del texto completo de los datos de EHR, así como proporcionar varias interfaces de programación de aplicaciones (API) para integrar análisis avanzados en el motor; y 3) Kibana, una interfaz de usuario interactiva basada en web que permite a los usuarios consultar datos en Elasticsearch, crear paneles de visualización y establecer alertas sobre anomalías u otros patrones de interés a partir de datos. Además, CogStack incorpora la capacidad de alertar a los médicos sobre posibles problemas por correo electrónico y SMS (texto), lo que permite a los médicos recibir notificaciones oportunas sobre pacientes en riesgo reportados por la calculadora de riesgos.

Presentamos un modelo de detección de riesgos de psicosis y alertas basadas en ePJS en SLaM, aprovechando la plataforma CogStack. En comparación con la plataforma CRIS que proporciona un mecanismo para el acceso retrospectivo a los registros de salud no identificados de ePJS semanalmente19,la plataforma CogStack de SLaM permite el acceso a un EHR identificable en tiempo real, acercando las alertas al punto de atención y a la predicción de riesgos en un diseño prospectivo, aunque tanto las plataformas CRIS como CogStack utilizan datos procedentes de ePJS en SLaM. En la sección siguiente, proporcionamos detalles de los pasos clave de nuestro enfoque, incluida la preparación de datos de origen desde el EHR, la ingesta de los datos de origen en la plataforma CogStack para habilitar la búsqueda de texto completo a través de Elasticsearch, la ejecución de la calculadora de riesgo de psicosis mediante un subproceso de demonio Python y la configuración de visualizaciones interactivas y alertas de riesgo en tiempo real a través de la interfaz de usuario de Kibana. Cualquier investigador que tenga como objetivo construir un sistema de detección y alerta de riesgos en tiempo real basado en datos de EHR puede seguir el enfoque y su implementación de referencia. Como explicaremos a continuación, el método propuesto explota técnicas de código abierto y ligeras con alta flexibilidad y portabilidad. Esto permite que la calculadora de riesgos se ejecute en varias ubicaciones y muestra una alta aplicabilidad a otros algoritmos de estimación de riesgos. Además, el método funciona como un enfoque sencillo para mejorar las funcionalidades de detección y alerta de riesgos de un EHR integrado en un sistema general de salud.

Protocol

Este estudio fue aprobado por East of England – Cambridgeshire and Hertfordshire Research Ethics Committee (Número de referencia: 18/EE/0066). NOTA: Hemos desarrollado este protocolo basado en la plataforma CogStack y el lenguaje de programación Python. Este sistema requiere Docker (más específicamente, Docker Compose https://docs.docker.com/compose/), Anaconda Python (https://www.anaconda.com/distribution/) y Git (https://git-scm.com/downloads) preinstalados en un dispositivo. Los comandos proporcionados en este protocolo se basan en el entorno Linux. A continuación, proporcionamos los detalles de la preparación de datos de origen de una base de datos EHR, la ingesta de los datos en la plataforma CogStack y la configuración de un sistema de cálculo y alerta de riesgos en tiempo real para la psicosis basado en la plataforma CogStack. Además, se desarrolló una versión en línea de la calculadora de riesgos para facilitar el cálculo numérico de la probabilidad de que un individuo desarrolle psicosis en la atención secundaria de salud mental en http://www.psychosis-risk.net. 1. Preparación de los datos de origen NOTA: En la mayoría de los casos de uso, CogStack ingesta datos de origen de una vista de base de datos especificada que puede combinar datos de una o varias tablas de base de datos de origen, donde una vista es un objeto en el que se pueden realizar búsquedas en una base de datos que contiene el conjunto de resultados de una consulta almacenada en los datos. La configuración de la vista de ingesta se adapta a los casos de uso específicos y la configuración de implementación de un sistema de base de datos de registros de estado. Este protocolo se desarrolla sobre la base de una calculadora de riesgo de psicosis desarrollada y validada externamente dos veces por Fusar-Poli et al.14,21 y como parte de un estudio piloto de viabilidad de implementación6. El protocolo se basa en una base de datos EHR implementada con Microsoft SQL Server 2014. Crear un objeto de vista (llamado”vwPsychosisBase”en este protocolo) en un sistema de base de datos EHR existente para unir la información necesaria de los pacientes para el cálculo del riesgo de psicosis y alertas. Asegúrese de que esta vista incluye a todos los pacientes que reciben un primer diagnóstico primario de trastorno mental no orgánico y no psicótico (registrado por la Clasificación Estadística Internacional de Enfermedades y Problemas de Salud Relacionados, Décima Revisión [ICD-10]), tal como se define en el modelo original14,,21. Asegurarse de que cada registro en la vista implica tres tipos de información del paciente: 1) el primer diagnóstico primario de un paciente en el sistema de EHR, incluyendo el índice de diagnóstico ICD-10 (los diagnósticos se agruparon en los siguientes diez grupos: trastornos psicóticos agudos y transitorios, trastornos de ansiedad, trastornos bipolares del estado de ánimo, trastornos de inicio de la infancia y adolescente, trastornos del desarrollo, trastornos del estado de ánimo no bipolar, retraso mental, trastornos de la personalidad, síndromes fisiológicos, trastornos del uso de sustancias) y fecha de diagnóstico; 2) los datos demográficos de un paciente, incluidos el género, la etnia y la fecha de nacimiento; y 3) la información de contacto más reciente del equipo de atención para un paciente, como detalles de la práctica general (GP), consultores y coordinadores de atención. Los dos primeros tipos de información son vitales para la calculadora de riesgo de psicosis14,21, y el tercer tipo de información es permitir alertas de riesgo oportunas. Asegúrese de que cada registro de la vista tiene un identificador único (por ejemplo,”patient_id”utilizado en este protocolo). Seleccione las últimas marcas de tiempo de actualización de toda la información de origen relacionada con un registro en la vista (por ejemplo, los últimos tiempos de actualización de la información demográfica de un paciente y la primera información de diagnóstico primario del paciente) y elija la última marca de tiempo como la última fecha y hora de actualización para el registro en la vista (denotada como”etl_updated_dttm”en este protocolo). La última fecha y hora de actualización de un registro permite a CogStack sincronizar actualizaciones en la base de datos, como registros nuevos y actualizados. 2. Ingestión de datos Descargue o clone el repositorio de código desde Github (https://github.com/cogstack-slam/psychosis) o escribiendo “git clone https://github.com/cogstack-slam/psychosis.git”en una ventana de terminal. La carpeta descargada contiene el código para el cálculo de riesgos de psicosis y los archivos de configuración para implementar una instancia de CogStack. Vaya al directorio “cogstack_deploy/cogstack/” y modifique “psychosis.properties” para configurar CogStack Pipeline para la ingesta de datos. Modifique la configuración de la sección “FUENTE: CONFIGURACIONES DE DB” basada en la configuración de la base de datos EHR, incluyendo la especificación de la dirección IP del servidor de base de datos, nombre de la base de datos, nombre de usuario de la base de datos y contraseña. Modifique el nombre de la vista (es decir, “vwPsychosisBase”) y los nombres de campo (por ejemplo, “patient_id” y “etl_updated_dttm”) si es necesario. En caso de error al configurar este archivo, siga las instrucciones de https://cogstack.atlassian.net/wiki/spaces/COGDOC/pages/38043684/Quickstart. Vaya al directorio “cogstack_deploy/common/elasticsearch/config/” y modifique la sección “xpack.notification.email.account” en el archivo “elasticsearch.yml” para configurar una dirección de correo electrónico para enviar alertas. Puede encontrar una instrucción detallada para la configuración de correo electrónico en https://www.elastic.co/guide/en/kibana/6.4/watcher-create-threshold-alert.html. Vaya al directorio “cogstack_deploy/” y escriba “docker-compose up” para ejecutar la plataforma CogStack. Ejecute este comando con acceso root. Si el proceso se completa correctamente, se imprimirán registros de estado de los servicios que se están ejecutando actualmente, incluidos CogStack Pipeline, Elasticsearch y Kibana, en el terminal. Como resultado, todos los datos y actualizaciones de la vista de base de datos de origen se ingerirán oportunamente en un índice de Elasticsearch denominado “psychosis_base” en la plataforma CogStack. Abra un navegador web y acceda a la interfaz de usuario de Kibana escribiendo “http://localhost:5601/” (o reemplazando “localhost”con una dirección IP específica del servidor que ejecuta la plataforma CogStack). Por primera vez en Kibana, haga clic en la pestaña Administración y en la pestaña Patrones de índice para especificar un índice de Elasticsearch al que se desea acceder con Kinaba. Escriba “psychosis_base” en el campo ” Patrón deíndice”y haga clic en Siguiente paso. Seleccione “etl_updated_dttm” para el nombre del campo “Filtrode tiempo ” y haga clic en Crear patrón de índice para agregar el patrón de índice “psychosis_base” para Kinana. Una vez que Kibana esté conectado al índice de Elasticsearch (es decir, “psychosis_base”), busque y examine los datos de origen de forma interactiva a través de la página”Discover”. Kibana permite a los usuarios no técnicos buscar metadatos estructurados y texto libre. Las instrucciones detalladas de uso de”Descubrir”están disponibles en https://www.elastic.co/guide/en/kibana/6.4/discover.html. 3. Cálculo de riesgos Abra una nueva ventana de terminal y vaya al directorio “psychosis/”. Instale todos los paquetes de Python necesarios (incluyendo “elasticsearch”, “elasticsearch_dsl”, “pandas” y “numpy”) utilizados en la calculadora de riesgos escribiendo “conda install package-name” o “pip install package-name” en el terminal. Escriba “pitón risk_calculator.py” para ejecutar la calculadora de riesgo de psicosis. Si el proceso se completa correctamente, los registros del cálculo del riesgo se imprimirán en el terminal y los resultados del riesgo se almacenarán en un nuevo índice de Elasticsearch denominado”psychosis_risk”dentro de la plataforma CogStack. Compruebe los resultados del riesgo utilizando la interfaz de Kibana. Al igual que en los pasos 2.5 y 2.6, agregue un nuevo patrón de índice “psychosis_risk” para conectar Kinbana con el índice “psychosis_risk” y explore los resultados de riesgo a través de la página”Descubrir”. Para facilitar la identificación de nuevos pacientes en riesgo, utilice “first_primary_diagnosis_date” como el campo “Filtro de tiempo” para crear el índice”psychosis_risk”. Al explorar datos en la página”Descubrir”,asegúrese de que el patrón de índice “psychosis_risk” está seleccionado. 4. Visualización de datos Además de buscar y acceder a la información a nivel individual a través de la página”Descubrir”en Kibana, se pueden crear visualizaciones y cuadros de mando para obtener una visión general de las características para toda la población de pacientes en riesgo. Para ello, haga clic en Visualizar en la navegación lateral de Kibana. A continuación, haga clic en el botón Crear nueva visualización y elija un tipo de visualización (por ejemplo, gráficos circulares y de líneas). Seleccione “psychosis_risk” como el índice que uno quiere visualizar a través de Kibana. De forma predeterminada, las visualizaciones incluirán todos los registros/pacientes en el índice “psychosis_risk”. Las instrucciones detalladas de la creación de visualizaciones de Kibana están disponibles en https://www.elastic.co/guide/en/kibana/6.4/visualize.html. Para seleccionar un subconjunto específico de datos para la visualización, agregue unfiltro”. Por ejemplo, la selección de un filtro archivado como “h_2_year”, elegir un operador como “no está entre” y establecer valores de “0.0” a “0.05” sólo incluirá pacientes cuyo riesgo de psicosis en 2 años es mayor que 0.05. Una vez creadas las visualizaciones individuales, haga clic en Panel en la navegación lateral de Kibana para crear un panel que muestre un conjunto de visualizaciones relacionadas juntas. Haga clic en Crear nuevo panel y en el botón Agregar para crear un nuevo panel de paneles. Haga clic en las visualizaciones que se desea mostrar en el nuevo panel del panel. Haga clic en Guardar y escriba un título para guardar el panel. Las instrucciones sobre la creación de paneles de Kibana están disponibles en https://www.elastic.co/guide/en/kibana/6.4/dashboard.html. 5. Alertas de riesgo Haga clic en Administración en la navegación lateral de Kibana y, a continuación, haga clic en Vigilante en Elasticsearch para crear alertas para los médicos cuando los pacientes estaban en riesgo de psicosis. Si el botón Watcher no está visible, haga clic en Administración de licencias y haga clic en Iniciar prueba o Actualizar licencia. Haga clic en Crear reloj avanzado para configurar un nuevo Observador. Escriba un “ID” y un “Nombre”. Elimine el contenido de la sección “Watch JSON” y copie el contenido en el archivo “watcher.json” en el directorio “psychosis” en la sección “Watch JSON”. Este observador enviará un correo electrónico de alerta a “clinician@nhs.uk” (que se puede reemplazar con la dirección de correo electrónico donde se desea enviar alertas) desde “username@nhs.uk” (que se estableció en el paso 2.3) si hay uno o más pacientes cuyo riesgo de psicosis en 2 años es superior a 0,05 (un umbral provisional para las pruebas de viabilidad) cada 24 horas. Antes de guardar el Watcher, haga clic en Simular para probar la ejecución de Watcher. Si el Watcher se ha configurado correctamente, verá la salida de simulación impresa. En caso de error en la configuración, siga las instrucciones que aparecenen https://www.elastic.co/guide/en/elastic-stack-overview/6.4/watcher-getting-started.html . Para detener un Monitor, elimínelo permanentemente o desactívelo temporalmente desde la página “Estado” del Monitor.

Representative Results

En esta sección, presentamos resultados de implementación centrados en la practicidad en el manejo de flujos de datos clínicos en vivo elaborados a través de la calculadora de riesgos y facilitando la entrega oportuna de resultados de pronóstico a los médicos. Las evaluaciones de la utilidad clínica del sistema, como la adherencia de los médicos a las recomendaciones hechas por la calculadora de riesgos, se presentarán en un informe separado cuando se complete. Ingestión de datos de origenImplementamos el sistema de cálculo de riesgos de psicosis y alertas basado en una base de datos de réplica de ePJS en SLaM. Esta base de datos de réplica sincroniza los datos activos de ePJS cada 10 minutos. En esta base de datos de réplicas se construyó una vista de base de datos que combinaba la información de los pacientes para el cálculo del riesgo de psicosis, donde cada registro contiene información para un paciente. Todos los registros de esta vista se ingirieron en la plataforma CogStack en tiempo real (aproximadamente 0,6 microsegundos por registro en una máquina virtual con CPU de 8 núcleos y 16 GB de RAM). Hasta el 13 de julio de 2019, cuando se preparó este manuscrito, todos los registros de 202.289 pacientes que recibieron un primer diagnóstico de índice de trastorno mental no orgánico y no psicótico en SLaM fueron ingeridos en CogStack para el cálculo del riesgo de psicosis, almacenados en el índice”psychosis_base”Elasticsearch. La Figura 1 muestra el número de registros ingeridos en CogStack a lo largo del tiempo, en orden cronológico basado en la última fecha de actualización de un registro. Al comparar los números y el contenido de los registros de la base de datos y el índice de Elasticsearch, no se encontraron datos que falten y discretos, lo que confirma la fiabilidad de CogStack Pipeline en la ingesta y sincronización de datos. Validación de los resultados del riesgoPara validar la implementación del detector de riesgo de psicosis en este protocolo, comparamos los pacientes en riesgo detectados por CogStack (llamado “versión de CogStack”) con los detectados por la calculadora de riesgo original basada en CRIS (llamada “versión CRIS”). Dado que no se desarrollaron umbrales6para examinar a un paciente en riesgo6,14,,21, aquí utilizamos un umbral tentativo del 5% para el riesgo de psicosis en dos años. Tenga en cuenta que este umbral tentativo es simplemente para probar si el sistema puede trabajar pragmáticamente en el NHS y es susceptible a cambiar con la investigación futura. El umbral real para una detección óptima de las personas en riesgo deberá identificarse en futuros estudios a gran escala. Específicamente, primero recuperamos a todos los pacientes que tenían un riesgo de psicosis por encima del umbral en la versión CRIS (el número de pacientes N-169). Todos estos pacientes recibieron un primer diagnóstico de diagnóstico de trastorno mental no orgánico y no psicótico en SLaM del 14 de mayo de 2018 al 29 de abril de 2019. Al filtrar a los pacientes que fueron diagnosticados en el mismo período de tiempo, recuperamos a 170 pacientes cuyo riesgo de psicosis en 2 años fue superior a 0,05 en la versión de CogStack. Por último, comparamos la diferencia entre los dos grupos de pacientes, donde el número total de pacientes únicos en los dos conjuntos es de N-173. Encontramos que 161 pacientes (que representan el 93% de 173 pacientes) tenían las mismas puntuaciones en ambas versiones. El alto grado de acuerdo confirma la validez de este protocolo basado en CogStack para generar puntuaciones de riesgo. Había 12 pacientes con puntuaciones de riesgo diferentes en las dos versiones. Al inspeccionar los EPR de los pacientes, descubrimos que esta diferencia se debía a que los datos de estos pacientes se actualizaron después de que las puntuaciones de riesgo se calcularan en la versión CRIS. Específicamente, aunque los predictores utilizados en la calculadora de riesgos, como la fecha de nacimiento, el género y la etnia autoasignada, eran variables estáticas, los registros de salud de algunos pacientes tenían un valor faltante o predeterminado para una variable (por ejemplo, una etnia desconocida) en una etapa anterior y estas variables se introdujeron o actualizaron en una etapa posterior. Esto puede conducir a diferentes puntuaciones de riesgo en dos etapas diferentes. Del mismo modo, los primeros diagnósticos del índice primario de algunos pacientes fueron invalidados después de que se calculó una puntuación de riesgo inicial sobre la base de estos diagnósticos. En este caso, la calculadora de riesgos buscará el siguiente diagnóstico primario válido para dicho paciente y volverá a calcular una puntuación de riesgo. La puntuación de riesgo actualizada también puede diferir de la inicial. Como la calculadora de riesgos original se desarrolló sobre la base de datos retrospectivos en CRIS para uso de investigación, las canalizaciones de calculadora originales no sincronizaron estas actualizaciones en los datos de EHR y actualizaron las puntuaciones de riesgo de manera oportuna. Por el contrario, la puntuación de riesgo de un paciente se volverá a calcular en la versión de CogStack si se actualiza algún dato de origen del paciente, lo que permite que esta calculadora basada en CogStack proporcione las puntuaciones de riesgo más confiables y actualizadas para los pacientes. Estos resultados ponen de relieve firmemente la fiabilidad de las puntuaciones de riesgo en este protocolo. Visualización de resultados y alertas de riesgosPara demostrar las capacidades de CogStack en la visualización de datos, creamos un panel para obtener información sobre los pacientes en riesgo de psicosis. Como se utilizó antes para las pruebas de viabilidad, seleccionamos aquellos que tienen un riesgo de psicosis en dos años superior al 5% como pacientes en riesgo. La Figura 2 muestra las visualizaciones de las características de los pacientes en riesgo de psicosis, incluidas las etnias, los géneros, las edades y las categorías de diagnósticos de los pacientes. Además de visualizar los resultados de riesgo a través de interfaces web (por ejemplo, Kibana), este protocolo permite enviar alertas de riesgo a usuarios o médicos a través de otros canales de notificación como el correo electrónico. La figura 3 muestra la interfaz para establecer un servicio de alertas de riesgo mediante el componente Watch en Kibana. Una vez configurado este servicio con éxito, los usuarios pueden recibir una notificación por correo electrónico si hubo uno o más pacientes cuyo riesgo de psicosis en dos años es superior al 5%. La Figura 4 muestra un ejemplo de estas notificaciones por correo electrónico, que informa del número de pacientes en riesgo y los municipios de estos pacientes. Dado que se necesita más trabajo para adaptar la forma en que se comunican las puntuaciones de riesgo de psicosis pronosticadas, no hemos enviado notificaciones de riesgo directamente a los médicos. Para probar la viabilidad tecnológica, todas las notificaciones de este estudio fueron enviadas de un investigador técnico (T.W.) a un investigador clínico (D.O.) a través del sistema de correo electrónico del SLaM dentro de una red segura. Sólo se incluyó una estadística agregada de la información del paciente en una notificación; no se incluyó ninguna información de identificación personal. Figura 1: Datos de origen ingeridos en CogStack. Hay 202.289 registros en total ingeridos en el”psychosis_base”índice Elasticsearch hasta el 13 de julio de 2019, y el histograma muestra el número de registros ingeridos a lo largo del tiempo, ordenados por el último tiempo de datos de actualización de un registro. También se puede consultar información estructurada y no estructurada, y obtener hits de búsqueda que coincidan con la consulta de esta página. Haga clic aquí para ver una versión más grande de esta figura. Figura 2: Panel de control de las características de los pacientes en riesgo de psicosis (es decir, el riesgo de psicosis en 2 años superior a 0,05). (a) Distribución de etnias para pacientes en riesgo, donde las tartas exteriores son las subcategorías de una categoría de etnia en las tartas internas. (b) distribución del sexo de los pacientes, (c) distribución de las edades de los pacientes en el diagnóstico y (d) número de pacientes por grupo de diagnóstico. Haga clic aquí para ver una versión más grande de esta figura. Figura 3: Configuración y simulación de Vigilancia para alertas de riesgo. Haga clic aquí para ver una versión más grande de esta figura. Figura 4: Un ejemplo de alerta de riesgo de correo electrónico. El número de pacientes en riesgo de psicosis en cada Grupo de Comisión Clínica (CCG) se informa entre paréntesis. Haga clic aquí para ver una versión más grande de esta figura.

Discussion

Hemos demostrado la primera implementación de EHR de un sistema de detección y alerta de riesgos de psicosis en tiempo real basado en CogStack, una plataforma de extracción y recuperación de información de código abierto. Siguiendo este enfoque, se puede transformar e ingerir un gran conjunto de datos clínicos en varios formatos, incluida la información estructurada y no estructurada, en una instancia de CogStack, con el fin de permitir la búsqueda de texto completo, análisis interactivos y visualización de datos, así como alertas en tiempo real a los médicos de pacientes que están en riesgo de psicosis. Aunque la calculadora de riesgo de psicosis original ha sido validada en estudios piloto a través de varios nhS Trusts, aunque utilizando registros retrospectivos de pacientes6,,14,21, este diseño experimental proporciona la primera base de evidencia de que esta calculadora de riesgo puede ser replicada e implementada para su uso en tiempo real. Este enfoque permite la entrega automática de resultados de pronóstico a los médicos a través de los canales de notificación clínica existentes, como el correo electrónico, en tiempo real. Esto demuestra claramente la viabilidad técnica para llevar a cabo un ensayo de eficacia a gran escala para evaluar la utilidad clínica definitiva de esta calculadora de riesgo en el mundo real.

Este protocolo es empíricamente innovador, ya que no existe un sistema similar de detección y alerta de riesgos para la psicosis. Además, este protocolo tiene una alta generalización en el uso clínico, especialmente debido a las fortalezas únicas de nuestro enfoque. Desde una perspectiva teórica, utilizamos un modelo de predicción de riesgos que se desarrolló sobre la base de una gran cohorte retrospectiva no identificada del SLaM NHS Trust. SLaM proporciona atención secundaria de salud mental a una población de 1,36 millones de personas en el sur de Londres y tiene una de las tasas más altas registradas de psicosis en el mundo. Esta gran cohorte, que tiene una gran diversidad en características sociodemográficas y diagnósticas, nos permite desarrollar un modelo de predicción de riesgos que es poco probable que se sesquee hacia una población con características específicas. Esto está respaldado por la evidencia de que la precisión del pronóstico de esta calculadora de riesgo ya se ha replicado dos veces en dos bases de datos diferentes14,21, incluyendo una fuera de SLaM. Otra fortaleza teórica de este modelo de riesgo es que la información básica de diagnóstico demográfico y clínico se utilizó como predictores. Esta información es omnipresente en los datos clínicos electrónicos y, de hecho, se ha demostrado que los datos faltantes para estos predictores son relativamente raros en nuestros estudios anteriores14,21. La alta disponibilidad de información para la creación de predictores permite ejecutar la calculadora de riesgos en un gran número de muestras de pacientes en diferentes sectores secundarios de atención de salud mental. Además, la calculadora de riesgos es un algoritmo general que es adecuado para todas las personas en riesgo de desarrollar psicosis en la atención de salud mental secundaria, independientemente de las edades de las personas. Es decir, esta calculadora no sólo es adecuada para el rango de edad 15-35 de riesgo de psicosis pico16,sino también para aquellos fuera de este rango, mostrando un alto grado de generalización.

Desde una perspectiva práctica, tanto la calculadora de riesgos como la plataforma CogStack son servicios ligeros y de código abierto que no implican técnicas con muchos recursos o costosas infraestructuras. Una plataforma tan fácil de usar y fácil de implementar puede reducir las barreras a su adopción en entornos clínicos del mundo real. Además, nuestra solución supera la principal barrera de implementación: los sistemas de estimación de riesgos proporcionan poco valor a menos que sean utilizados por los médicos en la práctica diaria25. Específicamente, nuestro enfoque accede a los datos de la EHR, realiza análisis independientemente de un sistema de registro médico electrónico y puede enviar los resultados del análisis a los médicos a través de los canales de notificación existentes. Este método no requiere que se modifique la lógica empresarial de los sistemas preexistentes y que pueda funcionar como un servicio independiente para apoyar y ampliar los sistemas de apoyo a la toma de decisiones clínicas existentes. Por lo tanto, el protocolo tiene una alta compatibilidad con los sistemas clínicos preexistentes y se puede integrar fácilmente en la práctica clínica de rutina. Además, el protocolo proporciona interfaces fáciles de usar para la búsqueda, análisis y visualización de datos clínicos, lo que facilita a los médicos la interpretación y exploración de los resultados de riesgo.

Este protocolo también tiene sus limitaciones. En primer lugar, la eficacia de este protocolo no se ha evaluado en la práctica clínica de rutina. Este estudio se centró en pruebas de viabilidad técnica de la implementación de un sistema de detección y alerta de psicosis en tiempo real en un EHR local. Para evaluar aún más la eficacia de este sistema en la práctica clínica de rutina, se necesitan futuros ensayos controlados aleatorizados a gran escala6. Una segunda limitación es que las predicciones de las puntuaciones de riesgo en este protocolo se realizaron en función de los primeros diagnósticos primarios, que son datos estáticos recopilados en una sola instantánea. Sin embargo, los síntomas de CHR-P están evolucionando intrínsecamente con el tiempo. Recientemente se ha desarrollado una versión dinámica de la calculadora de riesgo de psicosis, en la que los modelos de predicción se pueden actualizar dinámicamente para reflejar loscambios. El trabajo futuro se centrará en la integración de esta calculadora dinámica en el protocolo actual.

El paso más importante en este enfoque fue identificar los datos de EHR que se utilizaron para los predictores de extractos en la calculadora de riesgos. Esto también puede implicar la creación de asignaciones de elementos de datos, cuando un sistema EHR utiliza un modelo de datos diferente del utilizado en este protocolo, como sistemas de codificación distintos para los grupos étnicos de los pacientes. Hemos abierto todo el código y las definiciones de asignación en línea (https://github.com/cogstack-slam/psychosis). Sobre la base de estos materiales, uno sería capaz de replicar la implementación o ajustar la calculadora dependiendo de la propia circunstancia. Otro paso crítico fue la creación de una vista de base de datos para la ingesta de datos en CogStack. Dado que las operaciones de combinación relacional (es decir, la combinación de columnas de una o varias tablas de base de datos) en Elasticsearch pueden conllevar un alto costo computacional, llevamos a cabo estas operaciones de combinación en la base de datos EHR mediante la creación de una vista de base de datos. Esta vista combinaba toda la información necesaria para extraer predictores en la calculadora de riesgos y dos campos vitales utilizados por las canalizaciones de CogStack para la partición de datos en la ingesta de datos. El primer campo es una clave principal única para cada registro de la vista(“patient_id” utilizó este protocolo) y el segundo es una marca de tiempo cuando un registro se modificó más recientemente. Si estos dos campos no se establecieron correctamente, es posible que CogStack no sincronice las actualizaciones de datos en una base de datos EHR a tiempo. Las instrucciones detalladas para solucionar problemas en la ingesta de datos de CogStack están disponibles en https://cogstack.atlassian.net/wiki/spaces/COGDOC/overview y https://github.com/CogStack/CogStack-Pipeline.

Este protocolo es altamente transportable y se puede implementar fácilmente en nhS Trusts que tienen una plataforma CRIS o CogStack. Hasta ahora, la plataforma CRIS, incluidos los procedimientos de consentimiento, se ha descrito completamente en otros lugares y está en expansión en 12 NHS Trusts en el Reino Unido, aprovechando más de 2 millones de registros de pacientes desidentificados(https://crisnetwork.co/). Del mismo modo, la plataforma CogStack se ha implementado no sólo en SLaM, sino también en otros nhS Trusts en todo el Reino Unido, como University College London Hospitals (UCLH), King’s College Hospital (KCH), Guy’s and St Thomas’ (GSTT) y Mersey Care NHS Trusts. Aquellos Fideicomisos sin plataforma pueden utilizar una versión en línea de la calculadora de riesgo(http://psychosis-risk.net), o construir este protocolo desde cero basado en este manuscrito y nuestros documentos en línea. Aunque este protocolo está desarrollado para la detección de riesgos de psicosis, el diseño arquitectónico de este protocolo no está vinculado a este caso de uso específico. El protocolo es lo suficientemente flexible como para permitir la reconfiguración y reasignación de los componentes de monitoreo y alerta en tiempo real para otras áreas de medición de riesgos, como reacciones adversas a medicamentos, permitiendo así a los médicos tomar medidas oportunas para mejorar la atención, la seguridad y la experiencia del paciente.

Disclosures

The authors have nothing to disclose.

Acknowledgements

Este estudio está financiado por el King’s College London Confidence in Concept y es un resultado directo del Premio King’s College London Confidence in Concept del Consejo de Investigación Médica (MC_PC_16048) a PFP. RD y AR fueron apoyados por: (a) la Caridad Maudsley; (b) el Centro de Investigación Biomédica del Instituto Nacional de Investigaciones Sanitarias (NIHR) en el sur de Londres y Maudsley NHS Foundation Trust y King’s College London; c Health Data Research UK, financiado por el Consejo de Investigación Médica del Reino Unido, Consejo de Investigación de Ingeniería y Ciencias Físicas del Reino Unido, Consejo de Investigación Económica y Social, Departamento de Salud y Atención Social (Inglaterra), Oficina de Científicos Jefes de las Direcciones de Salud y Atención Social del Gobierno Escocés, División de Investigación y Desarrollo de Salud y Cuidado Social (Gobierno de Gales), Agencia de Salud Pública (Irlanda del Norte), British Heart Foundation y Wellcome Trust; (d) El Consorcio BigData@Heart, financiado por la Iniciativa de Medicamentos Innovadores-2 Empresa Común en virtud del acuerdo de subvención No 116074. Esta Empresa Común recibe el apoyo del programa de investigación e innovación Horizonte 2020 de la Unión Europea y de la EFPIA; está presidida por DE Grobbee y SD Anker, asociándose con 20 socios académicos y de la industria y ESC; y e) El Instituto Nacional de Investigación Sanitaria University College London Hospitals Biomedical Research Centre. Estos organismos de financiación no desempeñaron ningún papel en el diseño del estudio, la recopilación y los análisis. Las opiniones expresadas son las del autor o autores y no necesariamente las del NHS, el NIHR o el Departamento de Salud.

Materials

CogStack-Pipeline King's College London Open source software
Elasticsearch Elastic NV Open Source Search & Analytics
Kibana Elastic NV Open source data visualization plugin for Elasticsearch
Python packages ("elasticsearch", "elasticsearch_dsl", "pandas" and "numpy") Open source community Open source packages

References

  1. Lieberman, J. A., First, M. B. Psychotic Disorders. New England Journal of Medicine. 379 (3), 270-280 (2018).
  2. Oh, H., Koyanagi, A., Kelleher, I., DeVylder, J. Psychotic experiences and disability: findings from the collaborative psychiatric epidemiology surveys. Schizophrenia Research. 193, 343-347 (2018).
  3. Tsiachristas, A., Thomas, T., Leal, J., Lennox, B. R. Economic impact of early intervention in psychosis services: results from a longitudinal retrospective controlled study in England. BMJ Open. 6 (10), e012611 (2016).
  4. Fusar-Poli, P., McGorry, P. D., Kane, J. M. Improving outcomes of first-episode psychosis: an overview. World Psychiatry. 16 (3), 251-265 (2017).
  5. Fusar-Poli, P. The clinical high-risk state for psychosis (CHR-P), version II. Schizophrenia Bulletin. 43 (1), 44-47 (2017).
  6. Fusar-Poli, P., et al. Real-world Implementation of a Transdiagnostic Risk Calculator for the Automatic Detection of Individuals at-risk of Psychosis in Clinical Routine: Study Protocol. Frontiers in Psychiatry. 10, 109 (2019).
  7. Fusar-Poli, P., et al. Disorder, not just state of risk: meta-analysis of functioning and quality of life in people at high risk of psychosis. British Journal of Psychiatry. 207 (3), 198-206 (2015).
  8. Fusar-Poli, P., et al. Heterogeneity of psychosis risk within individuals at clinical high risk: a meta-analytical stratification. JAMA Psychiatry. 73 (2), 113-120 (2016).
  9. Fusar-Poli, P., et al. Diagnostic and prognostic significance of brief limited intermittent psychotic symptoms (BLIPS) in individuals at ultra high risk. Schizophrenia Bulletin. 43 (1), 48-56 (2016).
  10. Fusar-Poli, P., et al. Prognosis of brief psychotic episodes: a meta-analysis. JAMA Psychiatry. 73 (3), 211-220 (2016).
  11. Fusar-Poli, P., Sullivan, S., Shah, J., Uhlhaas, P. Improving the detection of individuals at clinical risk for psychosis in the community, primary and secondary care: an integrated evidence-based approach. Frontiers in Psychiatry. 10, 774 (2019).
  12. Fusar-Poli, P. Extending the benefits of indicated prevention to improve outcomes of first-episode psychosis. JAMA Psychiatry. 74 (7), 667-668 (2017).
  13. Fusar-Poli, P., et al. Transdiagnostic psychiatry: a systematic review. World Psychiatry. 18 (2), 192-207 (2019).
  14. Fusar-Poli, P., et al. Development and validation of a clinically based risk calculator for the transdiagnostic prediction of psychosis. JAMA Psychiatry. , (2017).
  15. Fusar-Poli, P., Hijazi, Z., Stahl, D., Steyerberg, E. W. The science of prognosis in psychiatry: a review. JAMA Psychiatry. 75 (12), 1289-1297 (2018).
  16. Radua, J., et al. What causes psychosis? An umbrella review of risk and protective factors. World Psychiatry. , (2018).
  17. Fusar-Poli, P., et al. Deconstructing vulnerability for psychosis: Meta-analysis of environmental risk factors for psychosis in subjects at ultra high-risk. European Psychiatry. 40, 65-75 (2017).
  18. Fusar-Poli, P., et al. Clinical-learning versus machine-learning for transdiagnostic prediction of psychosis onset in individuals at-risk. Translational Psychiatry. 9 (1), 1-11 (2019).
  19. Stewart, R., et al. The South London and Maudsley NHS foundation trust biomedical research centre (SLAM BRC) case register: development and descriptive data. BMC Psychiatry. 9 (1), 51 (2009).
  20. Jongsma, H. E., et al. Treated incidence of psychotic disorders in the multinational EU-GEI study. JAMA Psychiatry. 75 (1), 36-46 (2018).
  21. Fusar-Poli, P., et al. Transdiagnostic risk calculator for the automatic detection of individuals at-risk and the prediction of psychosis: Second replication in an independent national health service trust. Schizophrenia Bulletin. , (2019).
  22. Fusar-Poli, P., et al. Transdiagnostic individualized clinically based risk calculator for the detection of individuals at-risk and the prediction of psychosis: Model refinement including nonlinear effects of age. Frontiers in Psychiatry. 10, 313 (2019).
  23. Colditz, G. A., Wei, E. K. Risk prediction models: applications in cancer prevention. Current Epidemiology Reports. 2 (4), 245-250 (2015).
  24. Jackson, R., et al. CogStack – Experiences Of Deploying Integrated Information Retrieval And Extraction Services In A Large National Health Service Foundation Trust Hospital. BMC Medical Informatics and Decision Making. 18 (47), (2017).
  25. McGorrian, C., Leong, T., D’Agostino, R., Graham, I. Risk estimation systems in clinical use: SCORE, Heart Score and the Framingham system. Hyperlipidaemia (Oxford Cardiology Library). , (2012).
  26. Studerus, E., Beck, K., Fusar-Poli, P., Riecher-Rössler, A. Development and Validation of a Dynamic Risk Prediction Model to Forecast Psychosis Onset in Patients at Clinical High Risk. Schizophrenia Bulletin. , (2019).
  27. Damschroder, L. J., et al. Fostering implementation of health services research findings into practice: a consolidated framework for advancing implementation science. Implementation Science. 4, 50 (2009).
  28. Fusar-Poli, P., et al. Outreach and support in south London (OASIS), 2001-2011: ten years of early diagnosis and treatment for young individuals at high clinical risk for psychosis. European Psychiatry. 28 (5), 315-326 (2013).

Play Video

Cite This Article
Wang, T., Oliver, D., Msosa, Y., Colling, C., Spada, G., Roguski, Ł., Folarin, A., Stewart, R., Roberts, A., Dobson, R. J. B., Fusar-Poli, P. Implementation of a Real-Time Psychosis Risk Detection and Alerting System Based on Electronic Health Records using CogStack. J. Vis. Exp. (159), e60794, doi:10.3791/60794 (2020).

View Video