Summary

Closed-loop di esperimenti neuro-robotica a prova le proprietà computazionali di neuronali Networks

Published: March 02, 2015
doi:

Summary

In this paper, an experimental framework to perform closed-loop experiments is presented, in which information processing (i.e., coding and decoding) and learning of neuronal assemblies are studied during the continuous interaction with a robotic body.

Abstract

Information coding in the Central Nervous System (CNS) remains unexplored. There is mounting evidence that, even at a very low level, the representation of a given stimulus might be dependent on context and history. If this is actually the case, bi-directional interactions between the brain (or if need be a reduced model of it) and sensory-motor system can shed a light on how encoding and decoding of information is performed. Here an experimental system is introduced and described in which the activity of a neuronal element (i.e., a network of neurons extracted from embryonic mammalian hippocampi) is given context and used to control the movement of an artificial agent, while environmental information is fed back to the culture as a sequence of electrical stimuli. This architecture allows a quick selection of diverse encoding, decoding, and learning algorithms to test different hypotheses on the computational properties of neuronal networks.

Introduction

Molte caratteristiche di funzionamento del cervello sono attualmente impossibili da replicare in un sistema artificiale. La capacità del cervello di elaborare rapidamente le informazioni sensoriali complesse e di generare, in risposta, comandi precisi motore è di per sé già oltre lo stato-of-the-art attuale. Ma la sua capacità di adattarsi a condizioni diverse da imparare dalle esperienze passate rende così di gran lunga superiori ai sistemi di controllo umani sviluppati. Finora, i tentativi di replicare o sfruttare questa plasticità incontrato poco successo, e la comprensione del funzionamento interno del cervello ha eluso la comprensione dei ricercatori. Uno dei principali problemi mentre indaga il rapporto tra cervello e comportamento è l'impossibilità di accedere correttamente tutte le variabili del sistema: idealmente, un apparato sperimentale ottimale permetterebbe la registrazione simultanea e la stimolazione di un gran numero di neuroni, stabilità a lungo termine , monitoraggio delle sinapsi posizioni e pesi, e controllabili bi-directional interazione con l'ambiente. La difficoltà nel rintracciare tutte quelle variabili simultaneamente portato allo studio del rapporto cervello-comportamento a due scale molto diverse: o con comportarsi animali, senza controllo fine condizioni sperimentali 1-7 o con piccole parti isolate, come porzioni di tessuto neuronale, senza vista generale del sistema 8. In quest'ultimo caso, mentre nessun apparato sperimentale messo a punto consente il monitoraggio completo di tutti i parametri coinvolti nel funzionamento di anche una semplice rete neurale, un buon trade-off è fornito da neuroni dissociati adulti over-Micro Electrode Array (MEA) 9. Tali dispositivi, nati alla fine degli anni 70 del 10, hanno diversi vantaggi rispetto alle tecniche di elettrofisiologia tradizionali: in primo luogo, la possibilità di registrare e stimolare una rete neurale in molti luoghi diversi in una sola volta (di solito 60 elettrodi). Inoltre, l'accoppiamento di MEA con cellule è quasi non invasiva, Permettendo l'osservazione della stessa rete per lunghi periodi di tempo, fino a diversi mesi 11. Gli effetti fisiologici della stimolazione elettrica su colture dissociate sono state ampiamente studiate grazie a tali dispositivi, rivelando che molte proprietà osservate su scale superiori (quali, ad esempio, la plasticità e la memoria semplici processi 12-14) sono conservati nonostante la perdita di architettura. Durante la crescita della cultura, quelle reti iniziano mostrando attività spontanea in circa 7 giorni in vitro (DIV) 15,16. Attività di rete tende a cambiare radicalmente con l'ulteriore crescita; prima come singoli picchi raccolgono in burst (verso la fine della seconda settimana) 17, in seguito come cambia in un modello altamente complesso di sincronizzato, rete non periodico scoppia 18, che rappresenta lo stato maturo di una rete. È stato suggerito 19 che questo comportamento sincrono, in qualche modo simile a quello osservato in atto in vivoIngs su animali a pelo, è causata dalla mancanza di input sensoriali.

Un diverso approccio ha tentato di acquisire una migliore comprensione delle informazioni codifica è stata presa eseguendo esperimenti a circuito chiuso, in cui sono stati utilizzati diversi tipi di segnali per controllare la stimolazione della stessa 11,20-23 rete neuronale. In questi esperimenti, un agente esterno capace di interazione con l'ambiente è stato usato per generare informazioni sensoriali alimentato alla rete neurale, che, a sua volta, produce comandi motori per un meccanismo effettore. Questo ha permesso osservazioni come proprietà dinamiche e di adattamento dei sistemi neurali evoluti in risposta ai cambiamenti indotti nell'ambiente.

Una configurazione di effettuare 'incarnato neurofisiologia "esperimenti è stato sviluppato, in cui una piattaforma ruote sensore (un robot fisico o il suo modello virtuale) si muove in un'arena e dei suoi profili di velocità sono determinati dalla attività di una neuronalesistema (cioè, una popolazione di neuroni di ratto coltivate su un MEA). Il robot è caratterizzato dai profili di velocità delle sue due ruote indipendenti e controllati dalle attuali letture dei sensori di distanza. La natura esatta dei sensori di distanza non è rilevante; essi possono essere sensori ottici o sensori ad ultrasuoni attiva o passiva. Chiaramente, questo problema non si applica nel caso di robot virtuali, in cui i sensori possono essere progettati con qualsiasi funzione desiderata.

Negli esperimenti qui descritti, il robot utilizzato è sempre la realizzazione virtuale, con 6 sensori di distanza che punta a 30 °, 60 ° e 90 ° dalla direzione in entrambe le direzioni robot. L'attività dei tre sensori sinistro e destro è media e l'attività biologica della cultura è guidato dalle informazioni raccolte da tali "super-sensori (che sarà solo essere indicati come 'sinistra' e 'destra' sensori nel resto di questo lavoro). Il protocol descritto può essere effettivamente applicata al robot fisico con aggiustamenti piuttosto piccole. Le informazioni raccolte dal robot (reali o virtuali) è codificato in una serie di stimoli che vengono utilizzati per manipolare l'attività della rete neurale biologica, che è fisicamente separato dal robot. Gli stimoli stessi sono tutti identici e pertanto non codificare informazioni. Ciò che conta è la loro frequenza: aumenti dei tassi di stimolazione quando il robot si avvicina ad un ostacolo, con i siti di recapito diversi codifica le informazioni sensoriali dagli 'occhi' sinistro e destro del robot. La rete neurale presenterà diverse risposte al treno in arrivo di stimolazioni: compito dell'algoritmo di decodifica è tradurre l'attività di rete risultante in comandi utilizzati per controllare le ruote del robot. Dato un 'perfetto' il comportamento della rete (ad esempio, con affidabile e totalmente le risposte agli stimoli provenienti da diversi elettrodi separati), questo sarebbe Result nel robot di guida nella scena senza colpire alcun ostacolo. La maggior parte delle reti presenti un comportamento molto diverso da idealità, quindi viene introdotto un semplice protocollo di apprendimento: una volta attivato, stimolazione tetanica (brevi periodi di stimolazione ad alta frequenza, 20 Hz stimolazione per 2 secondi, ispirato da protocolli descritti in 24,25) a seguito di una collisione con un ostacolo viene consegnato. Se i risultati stimolazione tetanica in un rafforzamento locale di connettività di rete, questo si tradurrà in un aumento progressivo delle capacità di navigazione del robot.

HyBrainWare2, una versione migliorata del software personalizzato pubblicato in 26, è l'architettura di base sviluppata per gestire il controllo dei diversi dispositivi del sistema (stimolatore, acquisizione dati, elaborazione e visualizzazione, la comunicazione robot o simulazione). Questo software è stato sviluppato presso il nostro laboratorio, ed è disponibile gratuitamente su richiesta. Questo software fornisce l'interfaccia conla scheda di acquisizione dati: una volta che l'utente avvia acquisizione dati dalla GUI, il software controlla la scheda di acquisizione per avviare il campionamento e conversione A / D dei dati provenienti dagli elettrodi di registrazione. Questi dati possono essere registrati, visualizzato a schermo o analizzati in tempo reale per rilevare picchi, secondo le opzioni impostate dall'utente (vedere la sezione Procedura per i dettagli). Inoltre, all'interno del software, la definizione di codifica (conversione delle informazioni sensoriali in una stimolazione elettrica) e decodifica (definizione di attività registrata in comandi motore per il robot) algoritmi deve essere specificato. In particolare, la nostra messa a punto è relativamente facile da usare rispetto ai sistemi analoghi progettati in passato 27, dal momento che quasi tutte le variabili sono accessibili dall'utente destra prima di iniziare l'esperimento vero e proprio, mentre tutte le informazioni registrate vengono automaticamente salvati in un formato compatibile con un'analisi toolbox dati neurale 28.

La sezione seguente procedura descrive un esperimento di apprendimento su colture ippocampali di ratto dissociata: tutta la coltura e parametri sperimentali sono forniti per questo particolare preparazione e possono avere bisogno di essere modificata se un substrato biologico diverso deve essere utilizzato. Analogamente, l'esperimento descritto sfrutta l'architettura ad anello chiuso per studiare l'effetto della stimolazione tetanica apprendimento, ma la stessa architettura è sufficientemente flessibile per essere utilizzato nello studio di diverse caratteristiche di reti neurali dissociate. Le principali varianti dell'esperimento proposto sono ulteriormente spiegate nella sezione di discussione.

Protocol

1. Preparazione di neuronale cultura su un MEA Piatto colture neuronali sui chip MEA, come descritto 29. La descrizione di una procedura simile è anche disponibile 9 e nella sezione di discussione. Ruotare il sistema di riscaldamento MEA sul 5-10 min prima di iniziare la registrazione di minimizzare lo stress termico sperimentato dalle cellule: destinazione temperatura impostata del regolatore di temperatura a 37 ° C e accendere la piastra di riscaldamento sotto del MEA stesso (disponibile in più commerciale sistemi MEA) e, se disponibile, un coperchio riscaldato al fine di ridurre significativamente l'evaporazione. Sterilizzare tappi permeabile prima di ogni uso in autoclave con calore umido (30 min, 130 ° C). Per evitare l'evaporazione e prevenire cambiamenti di osmolarità, mantenere le colture coperte di cappucci durante la registrazione. Posizionare la coltura neuronale dell'amplificatore 30 min prima di avviare effettivamente la registrazione. NOTA: semplicemente spostando le culture dal incubator all'amplificatore interromperà significativamente l'attività spontanea per circa mezz'ora. Durante questo tempo, la temperatura si stabilizza terreno di coltura. Se un circuito carbair è disponibile, avviare la circolazione di carbair (una miscela di 5% di CO 2 e il 95% O 2 + N 2) per esperimenti più lunghi di un paio d'ore: culture richiedono che per mantenere entrambi i livelli di ossigeno e pH stabile. 2. Selezione dei parametri di registrazione per MEA Acquisition Selezionare la larghezza di banda del filtro software per rilevare picchi (cioè, Multi-Unit Activity – MUA) 30: nella forma RawDataDisplay contrassegnare la casella di controllo '300 Hz-3 kHz'. Avviare l'acquisizione dei dati: premere il tasto 'Start' in forma RawDataDisplay. Guadagno impostato soglia per il rilevamento picco nel RawDataDisplay a 7. NOTA: a seconda della specificità / selettività compromesso desiderato e sul adottata rilevarealgoritmo ion, questa soglia può essere impostata tra 6 e 10 volte la deviazione standard calcolata. Impostare Memory Soglia per 2 sec e premere il pulsante 'Lock' in assenza di attività spiking è visibile sul display (entrambi i comandi sono in forma RawDataDisplay). Mark il 'Stimare SD dal mediana' per calcolare la deviazione standard rumore dalla mediana del valore assoluto del segnale osservato 31,32, se è difficile fornire finestre temporali anche brevi senza spiking attività. Togliere il segno di spunta da questa opzione dopo aver premuto il pulsante 'Lock', come l'algoritmo di base è computazionalmente intensive e può causare il PC per lag. Attivare procedura di individuazione spike (casella 'Spike Detection' in forma RawDataDisplay). Se il rilevamento picco è già in esecuzione (ad esempio, la casella di controllo è già segnato), eliminare picchi rilevati fino a questo momento cliccando sul pulsante 'Reset' pulsante nel modulo di registrazione dati. 3. Selezione di MEA elettrodi per stimolare il calcolo Cultura neuronale e Response Map Record attività spontanea delle cellule neuronali coltivate sulla MEA per 30 minuti: salvare i dati in un file facendo clic sul pulsante 'Record', nella casella del modulo DataRecording 'Picchi', dopo la quantità desiderata di tempo è trascorso (30 min, in questo caso). Identificare i 10 canali più attivi (cioè, 10 canali con il più alto numero di picco), quindi selezionare i canali in qualsiasi layout MEA (sia nella codifica, decodifica o Connection Mappa forme) trascinando il cursore del mouse sulle aree desiderate. Una volta selezionati i canali, fare clic destro in qualsiasi punto del layout di MEA e selezionare 'Aggiungi a sinistra zona sensoriale' nel menu pop-up: questi elettrodi verranno utilizzati per fornire la stimolazione elettrica al punto 3.5. Verificare che stimolatore e l'amplificatore MEA siano collegati correttamente: tutte le configurazioni require due fili per canale di stimolazione desiderato, mentre sarà necessario un cavo coassiale in più per portare il segnale sincronia (si prega di consultare i manuali degli strumenti specifiche per gli schemi di collegamento). Procedere poi per attivare lo stimolatore on. Definire i parametri di stimolo in forma Connection mappa. Tutte le stimolazioni consegnati alla cultura sono onde di tensione piazza bifasica. Set mezza durata a 300 msec e l'ampiezza di 1,5 V pp 33. NOTA: Gli stimoli grande abbastanza per evocare in modo affidabile risposte neurali molto probabilmente compromesso la registrazione dell'attività degli stessi siti. Nel resto della carta, elettrodi utilizzati per la consegna stimolazione non dovrebbero essere selezionati per la registrazione di informazioni rilevanti. Record risposta alla stimolazione: premere il pulsante Start nella forma ConnectionMap. Una serie di stimoli 30, con un intervallo di 5 sec è, a sua volta, consegnato automaticamente da ciascuno degli elettrodi selezionati, mentre le risposte sono annotazionecato dalle restanti 59 elettrodi. Calcolare una mappa connessione (cioè, la probabilità di osservare una risposta da un elettrodo entro un intervallo di tempo dopo la consegna di stimolo da un elettrodo differente) per ogni canale stimolare attraverso qualsiasi software matematica o SpyCode, un'applicazione sviluppata in passato (e liberamente disponibili su richiesta) per eseguire calcoli sui dati neurali 28. Dalle mappe di connessione, seleziona i migliori elettrodi: eliminare tutti gli elettrodi stimolanti che non evocano le risposte (cioè nella finestra di tempo dopo stimolazione, sparando i tassi non sono significativamente superiori durante la cottura spontanea). Selezionare, tra gli altri elettrodi, la coppia con il minimo saltare di là da nelle risposte. In particolare per ogni elettrodo stimolante, calcolare il numero medio di picco di ogni elettrodo di registrazione, quindi calcolare la differenza tra gli elettrodi corrispondenti per tutti stimolanti elettrodi coppie. Selezionare la coppia per which la somma dei valori assoluti delle differenze di risposta su tutti i canali di registrazione è più alta. Selezionare una di queste elettrodi per codificare le informazioni sensoriali dal lato sinistro del robot e l'altro per codificare le letture dal lato destro: per fare ciò, trascinare il cursore del mouse su un elettrodo, fare clic destro sul layout MEA selezionare 'Aggiungi a sinistra zona sensoriale' (o 'Aggiungi a zona sensoriale destra'). 4. Il collegamento della Cultura neuronale con il Robot: Selezione di codifica e programmi di decodifica Impostare 'Coding Type', sotto forma di codifica di Linear. Definire aliquote minime e massime di stimolazione in forma di codifica. Utilizzare l'intervallo predefinito di 0,5-2 Hz. Impostare il parametro 'Jitter', sotto forma di codifica a 0. Impostare i parametri degli algoritmi di decodifica del modulo di decodifica (peso e coefficiente di estinzione) a 1, per una cultura moderatamente attivo (~ 1 picco / sec per channEL). Definire un nuovo paio di parametri se i tassi di cottura fortemente e costantemente si discostano da questo valore. Vedi la discussione per l'esatta funzione di parametri di decodifica. Impostare l'algoritmo di decodifica parametri scoppiare nel modulo di decodifica. Impostare peso 0 (tempo di decadimento è poi irrilevante), a meno distinzione tra picchi e burst è oggetto di studio. NOTA: I valori suggeriti al punto 4.4 produrranno movimenti del robot lisce e velocità compatibili con i tempi di reazione del robot per le culture di ratto primarie moderatamente attivi. I parametri scoppio hanno esattamente la stessa funzione di quelli descritti nel passo 4.4, ma l'evento di attivazione è il rilevamento di una raffica invece di un picco: la velocità effettiva di ciascuna ruota è semplicemente la somma dei contributi di punte e scoppi rilevati. 5. Progettazione di navigazione Arena per il robot Nel modulo Designer Arena virtuale, scegliere tra delimitate (i confini dell'arena sono visibili al robot e iompassable) o illimitato (se le uscite del robot da un lato dell'arena, sarà immediatamente rientrare da opposto) Arena e impostare la dimensione dell'arena in pixel. Non utilizzare arene limitate dimensioni inferiori a 100 x 100 pixel, per consentire movimento significativo. Non utilizzare ostacoli con un raggio inferiore 5 pixel come possono semplicemente cadere tra le linee di vista del robot. Tenete a mente che molto grandi dimensioni dell'arena possono causare prestazioni del computer a degradare: se è necessaria una grande arena, le prestazioni del software di test con l'arena desiderato prima di iniziare difficili da ripetere gli esperimenti. Impostare robot posizione di partenza sia manualmente (cliccare sul pulsante 'Selezione manuale' in forma Arena Designer virtuale, quindi la posizione desiderata) oppure specificando le coordinate del robot a esperimento inizio nel 'Robot posizione di partenza' campi. Aggiungere qualsiasi numero di ostacoli invalicabili all'interno dell'arena. O collocarli uomodualmente nell'arena dopo aver cliccato sul pulsante 'Aggiungi Ostacolo manualmente' o il numero e la dimensione impostata gamma. Fare clic sul pulsante 'Genera Arena' per generare l'arena con le caratteristiche selezionate. Si verificheranno Nessuna modifica finché non si preme questo tasto. Salvare dell'arena progettato e caricare il file relativo, prima dell'uso in un esperimento, con i pulsanti di comando nella parte inferiore del modulo Designer Arena virtuale. 6. La selezione di elettrodi MEA per registrare neuronale attività dalla cultura Selezionare elettrodi temporanei registrazione quelli su cui diverse risposte, al punto 3.8, sono stati osservati: gli elettrodi che hanno mostrato risposte più grandi in seguito alla stimolazione dalla 'sinistra' (o 'right') elettrodo costituirà la 'sinistra' (o 'right') elettrodi di registrazione. Non utilizzare elettrodi che non presentavano risposte significative a uno elettrodo stimolante per controllare il robot. From menu pop-up di layout MEA, selezionare 'Aggiungi alla zona del motore di sinistra' (o 'Aggiungi alla zona del motore destra') per definire elettrodi di registrazione. Selezionare le funzioni di registrare in forma Experiment Manager. In questa fase, i picchi e di stimolazione di tempo francobolli sono le uniche informazioni rilevanti. Eseguire un test drive 10 min: avviare il robot gestito facendo clic sul pulsante Avvia Experiment in forma Experiment Manager, fare clic di nuovo dopo che sono trascorsi 10 minuti. NOTA: Una volta impostati tutti i parametri (codifica e decodifica, arena robot, stimolante e registrazione elettrodi, caratteristiche di record), una selezione nome di file chiederà registrato il nome di file e la destinazione, poi il robot inizierà a muoversi nella sua arena, seguendo le regole definite. Tutte le caratteristiche selezionate vengono salvate automaticamente e in tempo reale. Ripetere le fasi 3.6 e 6.1 sui dati acquisiti nel passo 6.3, al fine di selezionare elettrodi di registrazione di dati raccolti durante una corsa effettiva robot (vedi discussion per la logica di questo approccio in due fasi). 7. Esecuzione di un esperimento Neuro-robotica Seleziona nella Experiment Gestore formare i dati da registrare: segnare il Spike, Robot e caselle di controllo stimoli dati. Lanciare un robot run pre-learning: fare clic sul pulsante 'Start Experiment' in forma Experiment Manager. Selezionare nuovi nomi di file per i file di dati, quando richiesto. Quando sono trascorsi 30 minuti, fare di nuovo clic sul pulsante 'Start Experiment' per fermare la corsa del robot. Accendere il protocollo di apprendimento (contrassegnare la casella 'Invia Tetanic Stimulation Dopo Hit' in forma Experiment Manager) ed eseguire la corsa robot formazione, della stessa lunghezza della fase di pre-formazione (ad esempio, 30 min). Ricordarsi di nomi di file di input diverso quando viene richiesto per evitare di sovrascrivere i dati dal punto 7.2. Spegnere il protocollo di apprendimento di nuovo (deselezionare la casella di controllo 'Deliver Tetanic Stimulation After Hit') Ed eseguire il robot run post-learning. Ancora una volta, ricordatevi di cambiare i nomi dei file per prevenire la sovrascrittura. 8. Secondo Response Map Computation Ripetere i passaggi 3,1-3,6. Utilizzare i dati di queste registrazioni per testare se eventuali modifiche sono state indotte sia nei modelli spontanei o evocati attività da parte del protocollo di apprendimento.

Representative Results

Il quadro sperimentale sviluppato consentito il test se è possibile uno scambio di informazioni tra una cultura di neuroni e la realizzazione virtuale di un robot fisica 34. La Figura 1 mostra diversi campioni di percorsi ottenuti percorse da un robot virtuale in 20 min esperimenti in condizioni diverse : da sinistra a destra un esperimento adeguato ad anello chiuso, un esperimento robot 'vuoto MEA' (non le cellule vengono piastrate su MEA per questo esperimento di controllo) e un esperimento robot anello aperto (frequenza di stimolazione è costante invece di codificare informazioni sensore) sono rappresentati. Le tracce rappresentativi confermano che un'interazione bidirezionale tra gli elementi neuronali e artificiali è necessaria per ottenere buone prestazioni di navigazione del robot. Tuttavia, il robot sperimenta diversi risultati contro gli ostacoli. Nella Figura 2, le prestazioni di navigazione del robot, expressed come pixel percorsi tra i successivi colpi, è mostrato in diverse condizioni. Le prime due colonne mostrano la distribuzione delle distanze percorse negli esperimenti di controllo di cui sopra ('MEA vuoto' e configurazioni ad anello aperto), mentre la terza e la quarta colonna mostrano le prestazioni senza e con, rispettivamente, la consegna di stimolazione tetanica segue ciascuna urtare un ostacolo. L'introduzione della stimolazione tetanica (Cf. procedura, punto 7.2) migliora significativamente la distanza percorsa tra due colpi consecutivi, migliorando così le prestazioni di navigazione del robot 35. Nella Figura 3, le prestazioni di navigazione di un robot con differenti condizioni di decodifica viene presentato. A tal fine, è stata adottata una configurazione un'arena diversa. Ciò ha contribuito a quantificare navigazione successo del robot all'interno dell'arena 36: come descritto nel passaggio 4.1 della procedura, il robot èpresentato una serie di brevi tracce. Il tasso di successo è semplicemente il rapporto tra il numero di tracce incrociate successo oltre il numero di tracce presentati. In particolare, durante gli esperimenti è stata eseguita un'identificazione tempo reale di punte scoppio e isolato. I paradigmi di decodifica differiscono l'uno dall'altro a causa del peso relativo delle esplosioni e picchi isolati (Cf. procedura, punti 3.5-3.6 e discussione). Figura 1: Una rete neuronale e un robot hanno uno scambio bidirezionale di informazioni Questa figura mostra tre percorsi rappresentativi percorsa dal robot sopra 20 minuti di esperimento.. In particolare, le aree verde chiaro sono gratuiti per il robot di muoversi in, mentre verde scuro pixel rappresentano ostacoli invalicabili che il robot può percepire attraverso i suoi sensori di distanza. In ogni prova, il robot inizia in la sezione in alto a sinistra dell'arena e viaggia alla sua posizione finale, raffigurato come un grande punto di colore rosa. I piccoli punti neri rappresentano risultati contro un ostacolo, mentre il percorso codice colore fornisce un'indicazione della evoluzione temporale del movimento del robot. La barra di colore sulla destra esprime tempo trascorso dall'inizio dell'esperimento in minuti. (A) percorso seguito durante un esperimento anello chiuso. (B) percorso seguito durante un esperimento MEA 'vuoto' (non le cellule sono coltivate in MEA di superficie). (C) percorso seguito durante un esperimento ad anello aperto (rate stimolazione è costante tutto l'esperimento). Cliccate qui per vedere una versione più grande della figura. Figura 2: i risultati di prestazione sono influenzati da chiuse-loop e stimolazione tetanica. Questo grafico riporta le distribuzioni delle distanze percorse da parte del robot tra i successivi colpi in diverse condizioni. In particolare, i primi due distribuzioni rappresentano esperimenti di controllo ('vuoto' per la registrazione senza neuroni placcato sulla MEA, 'loop Open' (OL) per sperimentare un robot 'cieco'). Le ultime due colonne rappresentano la condizione 'circuito chiuso' senza (CL) e con (CL + TS) il protocollo di apprendimento attuata attraverso Tetanic Stimulation (TS), di essere consegnato alla cultura seguente colpi contro un ostacolo. In ogni casella, il segmento orizzontale centrale rappresenta la mediana della distribuzione, la piazza vuota il valore medio, la barra centrale si estende fino al primo e terzo quartile e baffi estende ai 5 ° e 95 ° percentile. Valori anomali sono rappresentati come i diamanti. Le statistiche sono state eseguite utilizzando il Kruskall-Wallis analisi un modo di varianzain fila: il confronto a coppie Student-Newman-Keuls rivela che tutti i valori medi sono significativamente differenti con p <0.05. Figura 3: decodifica influenza le prestazioni robotico Il grafico rappresenta la probabilità, per un determinato algoritmo di decodifica, del robot per navigare con successo attraverso un breve tratto in un periodo di tempo limitato.. Identificazione delle raffiche e picchi isolati viene eseguita in tempo reale durante l'esperimento stesso. Nel primo caso ('Picchi') tutti i picchi rilevati presentano lo stesso peso relativo, per il secondo e terzo distribuzioni un peso di 0 è stato fissato rispettivamente, picchi, isolati e picchi appartenenti ad uno scoppio. Le ultime due colonne rappresentano i risultati ottenuti nel caso in cui tutte le punte sono contabilizzati, ma con un diverso peso relativo secondo la loro posizione.In particolare nella quarta colonna isolato picchi stata data maggiore peso relativo di eventi di scoppio, mentre il peso è invertito per la decodifica relativo alla quinta dati della colonna. In ogni grafico, la linea centrale rappresenta la mediana della distribuzione, il quadrato vuoto il valore medio, mentre la barra centrale si estende al primo e terzo quartile e le basette estende ai 5 ° e 95 ° percentile. Le statistiche sono state eseguite utilizzando il Kruskall-Wallis analisi uno della varianza a ranghi. Il confronto a coppie (metodo Student Newman Keuls,) rivela che differenze significative (p <0.05) si possono osservare tra le colonne 1 e 4, 2 e 4, 2 e 5, 2 e 3.

Discussion

In questo documento un'architettura neuro-robotica basa su un controller neurale (cioè, una rete di neuroni provenienti dalla corteccia o l'ippocampo di ratti embrionali), bidirezionalmente collegata ad un robot virtuale, viene presentato. Il robot, che ha sensori e ruote, è costretto a muoversi in un'arena statico con ostacoli ed il suo compito consiste di evitare collisioni.

Il primo e forse più critico aspetto della procedura descritta è la preparazione delle culture stesse, come il tasso di fallimento tenderà ad essere significativo anche nelle migliori condizioni tecniche. Una descrizione dettagliata delle tecniche di coltura, tuttavia, al di fuori del campo di applicazione del presente lavoro. Come regola generale, le registrazioni dovrebbero verificarsi quando la frequenza di scarica della rete raggiunge un livello stabile, di solito dopo 3 settimane in vitro. Una indicazione di massima delle culture sani è la presenza di attività elettrofisiologica spontanea in vari chann registrazioneEls (almeno 20 canali oltre 60 disponibili). Tali colture sono caratterizzati da un elevato grado di neuronale interconnettività. In tali condizioni, l'attività neurale di solito viene fortemente sincronizzato e, a volte, visualizzare gli eventi epilettiformi, con chiodare intenso seguito da minuti-lunghi periodi di silenzio 37. Entrambe queste caratteristiche presentano un problema: sincronizzazione eccessiva renderà impossibile distinguere risposte a stimoli di diversi elettrodi, mentre le culture espongono attività epilettiforme risponderanno al primo stimolo di un lungo sfogo di attività, seguito da un periodo di silenzio, indipendentemente qualsiasi stimoli successiva consegna. Entrambi questi problemi possono essere fortemente migliorati con l'impiego di colture fantasia 35, in cui la popolazione neurale è diviso in due o più debolmente sottogruppi interconnessi.

Un altro problema è che le risposte neurali dipendono in larga misura la distribuzione del stimul arrivoi 38,39. In un esperimento anello chiuso, la stimolazione erogata è una funzione delle letture del sensore, che, a loro volta, sono una conseguenza del movimento del robot e quindi delle risposte neurali stessi. Ciò implica che non vi è alcun modo semplice di stabilire in anticipo quali risposte saranno osservati durante l'esperimento vero e proprio. Di conseguenza, la selezione di elettrodi di ingresso-uscita deve contare su approssimazioni successive. Nel protocollo descritto, un processo a due stadi (cioè, i punti 5.5 e 6.4) viene implementato per cercare di determinare una mappa connessione. Nella prima fase, una sequenza regolare di stimolazioni viene fornito e risposte a tali stimoli sono utilizzati per ricavare una prima mappa connessione e un insieme di canali di registrazione temporanea. Questa configurazione viene quindi utilizzato per eseguire il test drive descritto al punto 6.4 e selezionare i canali di registrazione che saranno monitorati durante l'esperimento vero e proprio.

Nella sezione Risultati, un rappresentante res navigazioneult e miglioramenti immediati apportati dall'introduzione di un paradigma di apprendimento sono presentati. Durante la descrizione di protocollo, diverse altre possibili varianti sperimentali sono menzionati. Ad esempio, i due principali sistemi di codifica implementati in HyBrainWare2 (lineari e stocastici) dove sviluppati per indagare il ruolo esatto di temporale variabilità ingresso sul codice neurale 38. Nel caso lineare, frequenza di stimolazione istantanea è una funzione di parametri definiti dall'utente e sensori robot registrazioni. Nel caso stocastico, ogni istanza tempo ha una data probabilità di essere scelto per fornire uno stimolo. Tale probabilità è calcolata automaticamente dal HyBrainWare2 in modo che i tassi di stimolazione attesi corrisponde a quello del primo caso. La possibilità di aggiungere jitter di codifica lineare fornisce una transizione tra i due casi sopra descritti. Allo stesso modo, esplorando diverse combinazioni di parametri nella sezione di decodifica potrebbe aiutare a far luce sulla preciruolo se di scoppiare in reti neurali in vitro. La velocità di ciascuna ruota del robot aumenta proporzionalmente al parametro peso ogni volta che un evento viene rilevato nell'area di uscita corrispondente, mentre il coefficiente di estinzione indica il tempo, in secondi, uno dei contributi prende a perdere 50% del suo valore . Il decadimento è un semplice esponenziale. Queste varianti sono già state prese in considerazione nella progettazione attuale di HyBrainWare2, ma molte più possibilità di ricerca sono aperti se si possono introdurre ulteriori modifiche nel software o setup sperimentale.

Una limitazione piuttosto significativo del protocollo qui descritto è il requisito del software sviluppato personalizzato, HyBrainWare2 (disponibile gratuitamente su richiesta a tutti gli utenti interessati). Questo software è stato progettato per un insieme di dispositivi (stimolatore, scheda di acquisizione, amplificatore MEA) di un modello e produttore specifico. Mentre è infatti possibile adattarlo a lavorare su diconfigurazioni fferent, la conversione avrà una certa abilità di programmazione. Allo stesso modo, le opzioni incluse coprono solo una serie limitata di tutte le domande sperimentali che potrebbero essere indagati attraverso una tale impostazione. Ad esempio, l'algoritmo di rilevamento picco implementato nell'architettura presentato (tempo preciso rilevamento picco 40) è completamente definita da diversi parametri hard-coded che devono essere cambiato se il soggetto di registrazione è molto diverso da reti neurali dissociate (ad esempio, cellule cardiache o fette). Infine, il protocollo apprendimento consiste nella fornitura di un corta, ad alta frequenza (2 sec di stimolo 20 Hz, ogni impulso stimolo è lo stesso di quelli utilizzati per codificare le informazioni sensoriali) stimolazione dopo ciascuna hit ostacolo. Se il robot incontra un ostacolo con il suo lato destro, la stimolazione tetanica viene consegnato l'elettrodo che di solito i codici di informazione a destra e lo stesso vale per i colpi del lato sinistro. Questo protocollo è hardcoded e non può be variata dall'utente senza modificare il software uscire.

Mentre la configurazione qui presentata non è il primo sistema incarnato per esperimenti ibridi, a circuito chiuso 20,23,27,41,42, quelli progettati in passato si sono concentrati su un singolo tesi sostenuta da dati provenienti da un numero limitato di preparati analoghi . D'altra parte, la configurazione descritta è stato utilizzato per un gran numero di esperimenti (più di 100 culture sono stati registrati dal 2012) con preparazioni diverse per modularità e di origine, mentre gli esperimenti stessi affrontati diversi problemi (es impatto della stimolazione tetanica e pertinenza di scoppio, come presentato nei risultati). Nel prossimo futuro, le nuove sessioni sperimentali sono previsti per verificare gli effetti duraturi sia stimolazione tetanica e regolazione e la relazione tra stimolazione regolarità e osservate risposte. Un altro problema da affrontare è il legame tra l'attività spontanea e osservata, conl'idea di aggiungere un nuovo algoritmo di decodifica che tiene conto della storia passata e di attività di stimolazione 43.

Divulgazioni

The authors have nothing to disclose.

Acknowledgements

Gli autori desiderano ringraziare Ph.D. studente Marta Bisio per la coltura e manutenzione di reti neuronali oltre Micro-elettrodi Array e Dr. Marina Nanni e Dr. Claudia Chiabrera di NBT-IIT per l'assistenza tecnica per le procedure di dissezione e di dissociazione. La ricerca che ha portato a questi risultati ha ricevuto finanziamenti dal Settimo Programma Quadro dell'Unione Europea (ICT-FET FP7 / 2007-2013 FET giovani esploratori regime), contratto di sovvenzione n ° 284772 BRAIN BOW ( www.brainbowproject.eu ). Gli autori desiderano inoltre ringraziare Silvia Chiappalone per il suo aiuto nel produrre la grafica utilizzata nell'introduzione.

Materials

Name of Reagent/Material Company
Stimulus Generator 4002 Multi Channel Systems
MEA1060-Inv-BC Multi Channel Systems
TC02 Multi Channel Systems
NI 6255 Acquisition Card National Instruments
Microsoft Visual Studio 2008 Microsoft
2078P Multichannel System-National Instruments adapter board Developed at University of Genova (Italy)
Matlab 2010 Mathworks

Riferimenti

  1. Fetz, E. E. Volitional control of neural activity: implications for brain–computer interfaces. The Journal of Physiology. 579 (3), 571-579 (2007).
  2. Carmena, J. M., et al. Learning to control a brain–machine interface for reaching and grasping by primates. PLoS Biology. 1 (2), e42 (2003).
  3. Azin, M., Guggenmos, D. J., Barbay, S., Nudo, R. J., Mohseni, P. A miniaturized system for spike-triggered intracortical microstimulation in an ambulatory rat. Biomedical Engineering, IEEE Transactions on. 58 (9), 2589-2597 (2011).
  4. Angotzi, G. N., Boi, F., Zordan, S., Bonfanti, A., Vato, A. A programmable closed-loop recording and stimulating wireless system for behaving small laboratory animals. Scientific Reports. 4, (2014).
  5. Maher, M., Pine, J., Wright, J., Tai, Y. -. C. The neurochip: a new multielectrode device for stimulating and recording from cultured neurons. Journal of Neuroscience. 87 (1), 45-56 (1999).
  6. Olsson, R. H., Buhl, D. L., Sirota, A. M., Buzsaki, G., Wise, K. D. Band-tunable and multiplexed integrated circuits for simultaneous recording and stimulation with microelectrode arrays. Biomedical Engineering, IEEE Transactions on. 52 (7), 1303-1311 (2005).
  7. Zanos, S., Richardson, A. G., Shupe, L., Miles, F. P., Fetz, E. E. The Neurochip-2: an autonomous head-fixed computer for recording and stimulating in freely behaving monkeys. Neural Systems and Rehabilitation Engineering. IEEE Transactions on. 19 (4), 427-435 (2011).
  8. Reger, B. D., Fleming, K. M., Sanguineti, V., Alford, S., Mussa-Ivaldi, F. A. Connecting brains to robots: an artificial body for studying the computational properties of neural tissues. Artificial Life. 6 (4), 307-324 (2000).
  9. Hales, C. M., Roston, J. D., Potter, S. M. How to culture, record and stimulate neuronal networks on micro-electrode arrays (MEAs). Journal of Visualized Experiments. (39), 2056 (2010).
  10. Gross, G., Rieske, E., Kreutzberg, G., Meyer, A. A new fixed-array multi-microelectrode system designed for long-term monitoring of extracellular single unit neuronal activity in vitro. Neurosci Lett. 6 (2), 101-105 (1977).
  11. Potter, S. M., DeMarse, T. B. A new approach to neural cell culture for long-term studies. Journal of Neuroscience Methods. 110 (1), 17-24 (2001).
  12. le Feber, J., Stegenga, J., Rutten, W. L. The effect of slow electrical stimuli to achieve learning in cultured networks of rat cortical neurons. PLoS One. 5 (1), e8871 (2010).
  13. Marom, S., Shahaf, G. Development learning and memory in large random networks of cortical neurons: lessons beyond anatomy. Quarterly reviews of biophysics. 35 (1), 63-87 (2002).
  14. Shahaf, G., Marom, S. Learning in networks of cortical neurons. The Journal of Neuroscience. 21 (22), 8782-8788 (2001).
  15. Pelt, J., Vajda, I., Wolters, P. S., Corner, M. A., Ramakers, G. J. Dynamics and plasticity in developing neuronal networks in vitro. Progress in Brain Research. 147, 171-188 (2005).
  16. Chiappalone, M., Bove, M., Vato, A., Tedesco, M., Martinoia, S. Dissociated cortical networks show spontaneously correlated activity patterns during in vitro development. Brain Research. 1093 (1), 41-53 (2006).
  17. Tateno, T., Jimbo, Y., Robinson, H. Spatio-temporal cholinergic modulation in cultured networks of rat cortical neurons: spontaneous activity. Neuroscienze. 134 (2), 425-437 (2005).
  18. Masquelier, T., Deco, G. Network bursting dynamics in excitatory cortical neuron cultures results from the combination of different adaptive mechanism. PLoS One. 8 (10), e75824 (2013).
  19. Wagenaar, D. A., Madhavan, R., Pine, J., Potter, S. M. Controlling bursting in cortical cultures with closed-loop multi-electrode stimulation. The Journal of Neuroscience. 25 (3), 680-688 (2005).
  20. Martinoia, S., et al. Towards an embodied in vitro electrophysiology: the NeuroBIT project. Neurocomputing. 58-60, 1065-1072 (2004).
  21. Mussa-Ivaldi, F. A., et al. New perspectives on the dialogue between brains and machines. Frontiers in Neuroscience. 4 (1), 44 (2010).
  22. Warwick, K., et al. Controlling a Mobile Robot with a Biological Brain. Defence Science Journal. 60 (1), (2010).
  23. Kudoh, S. N., et al. Vitroid–the robot system with an interface between a living neuronal network and outer world. International Journal of Mechatronics and Manufacturing Systems. 4 (2), 135-149 (2011).
  24. Jimbo, Y., Tateno, T., Robinson, H. Simultaneous induction of pathway-specific potentiation and depression in networks of cortical neurons. Biophysical Journal. 76 (2), 670-678 (1999).
  25. Chiappalone, M., Massobrio, P., Martinoia, S. Network plasticity in cortical assemblies. European Journal of Neuroscience. 28 (1), 221-237 (2008).
  26. Mulas, M., Massobrio, P., Martinoia, S., Chiappalone, M. A simulated neuro-robotic environment for bi-directional closed-loop experiments. Paladyn. 1 (3), 179-186 (2010).
  27. Novellino, A., et al. Connecting neurons to a mobile robot: an in vitro bidirectional neural interface. Computational Intelligence and Neuroscience. 2007 (12725), 1-13 (2007).
  28. Bologna, L. L., et al. Investigating neuronal activity by SPYCODE multichannel data analyzer. Neural Networks. 23 (6), 685-697 (2010).
  29. Frega, M., et al. Cortical cultures coupled to micro-electrode arrays: a novel approach to perform in vitro excitotoxicity testing. Neurotoxicology and Teratology. 34 (1), 116-127 (2012).
  30. Quian Quiroga, R., Panzeri, S. Extracting information from neuronal populations: information theory and decoding approaches. Nature Reviews Neuroscience. 10 (3), 173-185 (2009).
  31. Donoho, D. L., Johnstone, J. M. Ideal spatial adaptation by wavelet shrinkage. Biometrika. 81 (3), 425-455 (1994).
  32. Martinez, J., Pedreira, C., Ison, M. J., Quian Quiroga, R. Realistic simulation of extracellular recordings. Journal of neuroscience methods. 184 (2), 285-293 (2009).
  33. Wagenaar, D. A., Pine, J., Potter, S. M. Effective parameters for stimulation of dissociated cultures using multi-electrode arrays. Journal of Neuroscience Methods. 138 (1-2), 27-37 (2004).
  34. Tessadori, J., Mulas, M., Martinoia, S., Chiappalone, M. . Biomedical Robotics and Biomechatronics (BioRob), 2012 4th IEEE RAS & EMBS International Conference on. , 332-337 (2012).
  35. Tessadori, J., Bisio, M., Martinoia, S., Chiappalone, M. Modular neuronal assemblies embodied in a closed-loop environment: toward future integration of brains and machines. Frontiers in Neural Circuits. 6, (2012).
  36. Tessadori, J., et al. Neural Engineering (NER). , 899-902 (2013).
  37. Colombi, I., Mahajani, S., Frega, M., Gasparini, L., Chiappalone, M. Effects of antiepileptic drugs on hippocampal neurons coupled to micro-electrode arrays. Frontiers in Neuroengineering. 6, 10 (2013).
  38. Gal, A., Marom, S. Entrainment of the intrinsic dynamics of single isolated neurons by natural-like input. Journal of Neuroscience. 33 (18), 7912-7918 (2013).
  39. Mainen, Z. F., Sejnowski, T. J. Reliability of spike timing in neocortical neurons. Science. 268 (5216), 1503-1506 (1995).
  40. Maccione, A., et al. A novel algorithm for precise identification of spikes in extracellularly recorded neuronal signals. Journal of neuroscience methods. 177 (1), 241-249 (2009).
  41. DeMarse, T. B., Wagenaar, D. A., Blau, A. W., Potter, S. M. The neurally controlled animat: biological brains acting with simulated bodies. Autonomous Robots. 11 (3), 305-310 (1023).
  42. Bakkum, D. J., Chao, Z. C., Potter, S. M. Spatio-temporal electrical stimuli shape behavior of an embodied cortical network in a goal-directed learning task. Journal of Neural Engineering. 5 (3), 310-323 (2008).
  43. Truccolo, W., Hochberg, L. R., Donoghue, J. P. Collective dynamics in huma and monkey sensorimotor cortex: predicting single neuron spikes. Nature Neuroscience. 13 (1), 105-111 (2010).

Play Video

Citazione di questo articolo
Tessadori, J., Chiappalone, M. Closed-loop Neuro-robotic Experiments to Test Computational Properties of Neuronal Networks. J. Vis. Exp. (97), e52341, doi:10.3791/52341 (2015).

View Video