Este protocolo descreve etapas para usar o novo software, SwarmSight, para o seguimento do frame-por-frame de insetos posições da antena e narigudo de vídeos de câmera web convencional usando computadores convencionais. O software livre, open-source processa quadros cerca de 120 vezes mais rápido do que os seres humanos e realiza-se no melhor do que a precisão humana.
Muitos insetos cientificamente e agricultural importantes usam antenas para detectar a presença de compostos químicos voláteis e estender sua tromba durante a alimentação. A capacidade de rapidamente obter medições de alta resolução dos movimentos naturais de antena e narigudo e avaliar como eles mudam em resposta a manipulações químicas, do desenvolvimento e genéticas pode auxiliar a compreensão do comportamento de insetos. Estendendo o nosso trabalho anterior na avaliação agregada enxame de insetos ou movimentos de grupo animal de natural e vídeos de laboratório usando o software de análise de vídeo SwarmSight, desenvolvemos um módulo de software novo, livre e aberto, apêndice SwarmSight De controle (SwarmSight.org) para o seguimento do frame-por-frame de inseto antena e narigudo posições de vídeos de câmera web convencional usando computadores convencionais. O software processa quadros cerca de 120 vezes mais rápidos do que os seres humanos, realiza na melhor precisão humana e, usando a 30 quadros por segundo vídeos (fps), pode capturar a dinâmica da antena até 15 Hz. O software foi usado para controlar a resposta da antena do mel de abelhas para dois odores e encontrou significativas médios retrações da antena longe da fonte de odor cerca de 1 s, após apresentação de odor. Observamos antena posições densidade calor mapear a formação de cluster e cluster e significa dependência de ângulo na concentração do odor.
A maioria dos artrópodes movem antenas ou outro apêndice a amostra ambientais pistas e sinais no tempo e no espaço. Os animais podem usar as antenas para navegar o seu ambiente, detectando sinais sensoriais como químicos voláteis e estímulos gustativos e mecânica1,2,3,4. Em insetos, as antenas contêm receptores sensoriais que se ligam a químicos voláteis4,5,6 e transmitiram este sinal através de neurônios sensoriais olfativos ao cérebro central regiões1,7 ,8,9. Os insetos podem ajustar posições de antenas para modular a informação sobre entrada odores4,10,11. Esta modulação facilita respostas comportamentais activamente informadas para odores e suas plumas12,13.
Muitos insetos, incluindo Hymenopterans (por exemplo, as abelhas e zangões), lepidópteros (por exemplo, borboletas) e dípteros (por exemplo, moscas e mosquitos), entre outros, alimentam, estendendo sua probóscide14 , 15 , 16 , 17 , 18 , 19 , 20 , 21. extensão proboscis confiantemente foi usado no passado para uma variedade de aprendizagem e memória tarefas22,23,24,25,26, 27,28,29,30,31. Da mesma forma, a avaliação quantitativa do movimento de antenas com alta resolução temporal e espacial poderia produzir insights sobre a relação entre o estímulo, o comportamento e estado interno do animal. Trabalho com efeito anterior mostrou como os movimentos da antena contêm uma rica quantidade de informações sobre o rastreamento de abelha do mel, do ambiente e como os movimentos mudam com aprendizagem32,33,34, 35,36,37,38.
Na última década, métodos para observar o comportamento animal tem sido grandemente acelerados pelos avanços em câmeras de vídeo de alta resolução, computador velocidades e algoritmos de visão de máquina de processamento. Tarefas como detecção de animais, contando, acompanhamento e análises de preferência lugar tem sido ajudadas com software sofisticado que pode processar vídeos de comportamento animal e extrato relevante mede39,40, 41,42,,43,44,,45,46,47.
Estas tecnologias também ajudaram o acompanhamento dos movimentos de antena e narigudo insetos. É possível que humanos avaliadores para usar um cursor do mouse para controlar manualmente a posição das antenas. No entanto, enquanto este método pode ser exato, a tarefa é demorada, e fadiga e humana desatenção podem resultar em resultados não-confiáveis. Preparação e equipamento especial podem ser usados para reduzir a necessidade de software complexos. Por exemplo, uma instalação usou uma câmera de alta velocidade e pintou as pontas das antenas para controlar o movimento de antena48. Os usuários também podem ser solicitado para selecionar quadros-chave de vídeos para auxiliar o software detectar a localização da antena e narigudo49. Outra abordagem detectou os dois clusters de maior movimento para identificar as antenas, mas ele não detecta a localização de narigudo50. Outro pacote de software pode detectar locais de antena e narigudo, mas requer cerca de 7,5 s de tempo de processamento por quadro51, que poderia ser proibitivo para estudos de observação em tempo real ou a longo prazo. Finalmente, é possível personalizar pacotes de software comerciais (por exemplo, EthoVision) para executar a tarefa46, mas seus custos de licenciamento e formação podem ser proibitivos.
Com o método descrito aqui, nós estendemos nosso trabalho anterior do movimento análise software41 para rastrear a localização das antenas de inseto e tromba com os seguintes objetivos: (1) nenhum requisito de hardware especial ou preparação de animais complexa, (2). quadro de processamento em tempo real (fps 30 ou mais rápido) em um computador convencional, (3) facilidade de uso e (4) open-source, de código facilmente extensível.
O método novo resultante e software open-source, SwarmSight apêndice rastreamento, não requer pintura das dicas de antenas, pode usar uma câmera de correia fotorreceptora do consumidor para capturar vídeos e quadros de vídeo de processos em 30-60 fps em um computador convencional ( A Figura 1). O software utiliza arquivos de vídeo como entrada. O usuário localiza a posição da cabeça do inseto no vídeo e, após o processamento, um arquivo de valores separados (CSV) vírgula é produzido com as localizações das antenas e narigudo. O software é capaz de ler centenas de formatos de vídeo diferentes (incluindo formatos produzidos pela maioria das câmeras digitais) através do uso do FFmpeg biblioteca52.
Figura 1: saída de configuração e software Animal. (A), A forrageira mel de abelha com sua cabeça e corpo contido em um arnês. (B) Odor fonte é colocado na frente do animal, uma câmera de vídeo está posicionado acima, e uma fonte de vácuo é colocada atrás do animal. (C) a antena dica narigudo variáveis e detectadas pelo software SwarmSight do vídeo. (D), o usuário posiciona o sensor de antena sobre o animal e ajusta os parâmetros de filtro. O software detecta as posições da antena e narigudo (anéis amarelos).Por favor clique aqui para ver uma versão maior desta figura.
Primeiro, o corpo do inseto e sua cabeça são contidos em um arnês tal que os movimentos da antena e narigudo são facilmente observados (figura 1A). Uma fonte de odor é colocada na frente do inseto, com uma fonte de vácuo colocada atrás, para remover os odores do ar e minimizar potenciais efeitos de adaptação sensorial (figura 1B). Uma câmera da web convencional é colocada acima da cabeça do inseto em um tripé. Um LED pode ser posicionado no modo de exibição da câmera para indicar quando o odor é apresentado.
Figura 2: sistema de coordenadas da antena. X, Y valores usam o sistema de coordenada de vídeo, onde canto superior esquerdo é a origem e o aumento de valores de X e Y quando se movendo em direção ao canto inferior direito. Ângulos são expressos em graus em relação a frente da cabeça (geralmente a fonte de odor). Um valor “0” significa que a linha formada pelo flagelo a antena está apontando diretamente na frente do animal. Todos os ângulos são positivos, exceto quando um pontos de antena para a direção oposta (por exemplo, pontos flagelo direita para a esquerda). Clique aqui para ver uma versão maior desta figura.
Após a filmagem, o arquivo de vídeo é aberto com o software de SwarmSight, onde o usuário posiciona o widget antena Sensor (Figura 1, quadrado preto) sobre a cabeça do inseto e inicia a reprodução do vídeo. Quando os resultados são salvo, o arquivo CSV conterá o X, Y posições da antena dicas, os ângulos da antena em relação a frente da cabeça (Figura 2) e o narigudo X, posição Y. Além disso, uma métrica do sector dominante é calculada para cada antena. A métrica mostra que, dos cinco setores 36 graus em torno de cada antena, continha o maior número de pontos considerados susceptível de ser as antenas e pode ser útil se as métricas de posição/ângulo da antena não são confiáveis devido a ruidosos ou caso contrário problemáticos vídeos.
Brevemente, o software funciona por meio de um conjunto de filtros de movimento53 e uma inundação relaxado preenchimento algoritmo54. Para encontrar pontos de antena provável, são utilizados dois filtros: um filtro de diferença 3 consecutivos-quadro-41,55 e um filtro de56 median-fundo subtração. Um filtro de limite de distância de cor é utilizado para detecção de ponto de narigudo. Top 10% dos pontos de cada filtro são combinados, e um algoritmo de preenchimento de inundação que inspeciona pontos contíguos com lacunas até 2 pixels (px) localiza pontos extremos. Paralelo quadro decodificação, processamento e pipelines de renderização e memória otimizada alocação do fluxo de dados de filtro atinge alto desempenho. O cru x e y coordenadas valores produzidos pelo software são pós-processados com um quadro 3-rolamento filtro mediano57 (ver discussão). As instruções para baixar o código fonte completo podem ser encontradas on-line58.
Abaixo é um protocolo para preparar uma forrageira de abelha do mel para antena de rastreamento. Um protocolo similar pode ser usado para acompanhar os movimentos de antena/narigudo de qualquer outro insecto. Na seção de resultados, nós descrevemos uma saída de rastreamento de antena de amostra que é detectada pelo software, a comparação entre a saída de software para rastreamento realizada por avaliadores humanos e avaliação do movimento de antenas em resposta a cinco odorantes.
O método apresentado aqui permite rastreamento em tempo real dos movimentos da antena e narigudo insetos sem a necessidade de hardware ou preparações especiais de animais.
Limitações:
Apesar dessas vantagens, existem algumas limitações do método. Estes incluem a exigência de que a cabeça do animal é restrito de movimento, a necessidade do usuário selecionar a localização e orientação do animal para cada vídeo, a exigência de ter acesso a um computador com Windows e a incapacidade do software para controlar movimento em três dimensões (3D) e em algumas posições de apêndice visualmente ambígua descritas abaixo.
O software requer que a cabeça do animal é fixo no lugar e não se move durante o vídeo. Isto é semelhante para os preparativos de anterior trabalho48,,49,50,51. É possível modificar o software para permitir a detecção automática de cabeça rotações, no entanto, isto teria consomem tempo de processamento adicional e introduzir uma nova fonte de erro. Se o software modificado detectar a rotação da cabeça incorretamente, isso afetaria os ângulos de antenas, como a computação é relativo para o ângulo de rotação de cabeça. Atualmente, o usuário seleciona a orientação da cabeça uma vez por vídeo. Esta abordagem, embora não sem erro humano, minimiza erros de cálculo do ângulo quando a cabeça não tem permissão para mover-se durante o vídeo.
O software também requer um Windows 7 (ou posterior) sistema operacional (SO). O objetivo era tornar o software fácil de instalar, configurar e usar pelos usuários, sem programação ou sofisticadas habilidades de administração de computador. Nós decidimos Windows alvo porque é amplamente disponível, e em casos onde o acesso é limitado, máquinas virtuais (por exemplo, VirtualBox, VMware, Parallels) com Windows podem ser facilmente criadas. Esta escolha de sistema operacional extremamente simplifica a instalação do software através da utilização de um instalador fácil de usar, command-line-livre e evita erros específicos para diferentes OSs.
O software controla somente a posição dos apêndices no espaço 2D. Insetos são conhecidos para mover sua antena em 3D, o que poderia significar que a informação importante é perdida quando coordenadas 2D só são medidas. Enquanto o uso de múltiplas câmeras ou espelhos poderia ajudar na coleta as informações adicionais necessárias para a localização de 3D, é possível calcular, com o uso de relações trigonométricas, uma posição de fora-de-avião estimada por supondo que as antenas são segmentos de linha única de comprimento constante e único movimento em um lado do avião a câmera. Para as abelhas, esta suposição prende verdadeira para obter estimativas aproximadas para a posição em 3D, mas não seria necessariamente o caso para outras espécies e situações.
O software não irá detectar corretamente a antenas e narigudo dica locais em algumas situações ambíguas. Se um animal se move a uma antena para que, no vídeo, ele sobrepõe uma tromba estendida, o software irá detectar provavelmente a ponta da antena como a ponta do probóscide. O ângulo da antena, no entanto, ainda provavelmente serß processado corretamente (da parte de não-sobreposição). Da mesma forma, se as dicas de antena mover diretamente acima da cabeça do animal (ou seja, não nos lados) Então o software pode somente detectar a parte da antena que é visível fora da cabeça, ou assumir o local anterior da antena ou detectar espúrio ruído de vídeo como o local da antena. Em ambas as situações, mesmo humanos avaliadores têm dificuldade em discernir a antena do probóscide ou a cabeça. Para atenuar esse problema, recomendamos a aplicação de um filtro mediano57 de rolamento 3-frame, simétrica ao cru X e Y coordenadas produziram pelo software. Este filtro remove as flutuações grandes transitória (single-frame) posição e preserva mais movimentos de posição da antena. Nós achamos que o filtro 3-quadro melhor do que sem filtro, realizada enquanto filtros mais amplas (por exemplo, 5, 11 ou 15 frames) reduziram precisão. Código de exemplo R que usa o filtro e um tutorial em vídeo pode ser encontrado on-line58.
Valor como uma ferramenta científica:
A disponibilidade de um método para rapidamente obter movimentos precisos apêndice inseto em uma maneira cost-effective tem o potencial de abrir novas áreas de investigação.
Reflexo de extensão narigudo (PER) é uma resposta comportamental comumente usada para investigar a aprendizagem e a memória de uma variedade de insetos,59. Estudos anteriores geralmente têm contado com uma medida de estendido ou não binária do PER, embora análises de vídeo e eletromiográficas mostraram-se muito mais complexas topologias de narigudo movimentos65,66. O método aqui permite rápida quantificação dos movimentos do narigudo em alta resolução temporal e espacial.
Movimentos do inseto de antena em resposta aos odores são mal compreendidos. Uma razão para isto é que as antenas tendem a mover-se tão rapidamente que um meio custo-benefício, automatizado para obter dados de movimento de antena não esteve disponível. O método apresentado aqui pode ser usado para obter rapidamente dados de movimento de antena para um grande número de insetos em um grande número de condições. Isto poderia ajudar, por exemplo, pesquisadores investigando o mapeamento entre os movimentos de antena em resposta a vários estímulos, odores voláteis em particular. Usando câmeras que capturam frames a 30 Hz, o software pode ser usado para caracterizar a dinâmica do movimento da antena até 15 Hz (limite de Nyquist). Se houver necessidade de caracterização em frequências mais altas, câmeras com maiores taxas de captura (por exemplo, 60 ou 120 fps) poderiam ser utilizadas. No entanto, um computador mais rápido pode ser necessária para processar vídeos mais elevados de fps em tempo real. Nós especulamos que classes de odores e possivelmente até mesmo alguns odores individuais, têm a característicos inatos movimentos da antena. Se essas classes ou compostos poderiam ser descobertos, desconhecido odores ou sua classe poderia ser detectado de movimento da antena de insetos destreinados. Se existe um mapeamento de tal, então, a combinação de dados suficientes de movimento de antena e algoritmos de aprendizagem de máquina de estado da arte deve começar a descobri-lo. Além disso, como o mapeamento de mudanças em resposta à aprendizagem, formas durante o desenvolvimento, ou é interrompido com intervenções genéticas poderiam oferecer insights sobre as funções do sistema olfativo.Finalmente, este trabalho poderia dar insights sobre deteção artificial de odores se revela métodos de amostragem ideal para odores em ambientes complexos.
Trabalho futuro:
Aqui, nós mostramos que os dados de movimento de antena podem ser rapidamente obtidos e analisados: respostas de comportamento significativa podem ser detectadas a partir dos dados gerados pelo nosso software, e foram identificadas várias áreas de investigação futura.
Os cursos de tempo de antena estímulo-suscitou angle desvios e recuperação de linha de base e quaisquer efeitos de rebote de estímulo-conclusão e sua dependência na concentração do odor podem ser investigados e modeladas matematicamente. Além disso, quaisquer alterações dos movimentos de antena induzida pelo repetido ou condicionado contrário também pode ser avaliado com o software.
Também pode ser explorada melhor diferenciação dos odores. Neste estudo, ambos os odores, em puro e 35 x versões diluídas suscitou respostas semelhantes: as antenas, em média, apareceram rapidamente retirar-se longe da fonte de odor e retornar para linhas de base pré-odor após alguns segundos. Podemos especular que mesmo as versões diluídas podem ter sido muito forte estímulo olfativo para o mel de abelhas. Se true, uma ampla gama de concentrações pode ser usada para determinar se as respostas da antena diferenciam os odores. Além disso, a análise mais sofisticada melhor pode revelar diferenças nos movimentos da antena em resposta a diferentes odores. Nós fizemos os arquivos de dados usados para gerar números neste manuscrito disponível para pesquisadores interessados no site SwarmSight67.
Além disso, enquanto fora do escopo deste manuscrito, o software pode ser estendido para processar vídeos de animais colocados em câmaras com duplos espelhos em ângulo de 45° (ver Figura 1 , por exemplo). Isso pode ser usado com precisão localizar e rastrear os apêndices e seu movimento no espaço 3D. No entanto, os algoritmos para rastreamento 3D seria exigidos eficientemente: (a) a ambiguidade entre várias antenas quando eles são visíveis em um dos espelhos do lado, (b) corretos para imperfeições em ângulos do espelho e (c) responsáveis por distorções devido a câmera posicionamento.
Finalmente, ganhos adicionais na precisão da posição pode ser realizado através do uso de um Kalman filtro68, que modelos e utiliza informações de estado físico como apêndice velocidade e aceleração para restringir locais previstos. No entanto, os ganhos na precisão devem ser avaliados contra quaisquer reduções de velocidade devido a cálculos adicionais.
Conclusão:
Muitos insetos usam antenas para amostra ativamente compostos voláteis em seus ambientes locais. Padrões de movimentos da antena podem fornecer a introspecção do inseto odor percepção e como é afetado por alterações genéticas, compostos tóxicos e condicionado. Da mesma forma, os movimentos de narigudo têm sido utilizados para avaliar a percepção de odor e sua modulação. No entanto, obter rapidamente grandes quantidades de dados de movimento de alta resolução apêndice tem sido difícil. Aqui, um protocolo e o software é descrito que automatiza essa tarefa. Em resumo, temos criado e demonstrou como a combinação de hardware de baixo custo, uma preparação comum do animal e o software de código aberto podem ser usados para obter rapidamente dados de movimento de apêndice de insetos em alta resolução. A saída do software, como ele supera o humanos classificadores em velocidade e precisão, e como os seus dados de saída podem ser analisados e visualizados foram mostrados.
The authors have nothing to disclose.
JB, SMC e RCG foram apoiadas pelo NIH R01MH1006674 para SMC e NIH R01EB021711 a RCG. CMJ e BHS foram apoiados pelo projeto de laboratório de ideias de NSF diante “Decifrando o código olfativo” a BHS. Agradecemos a Kyle Steinmetz, Taryn Oboyle e Rachael Halby por sua ajuda na realização desta pesquisa.
Insect harness | N/A | N/A | Use materials needed for Protocol sections 1-3.1.1 of Smith & Burden (2014) |
Odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Vacuum source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
LED connected to odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Low Voltage Soldering Iron | Stannol | Low Voltage Micro Soldering Iron 12V, 8W | |
DC Power Supply | Tekpower | HY152A | |
White sheet of paper | Georgia-Pacific | 998606 | Any white sheet of paper can be used as alternative |
Tripod | AmazonBasics | 50-Inch Lightweight Tripod | Optional |
Camera | Genius | WideCam F100 | FLIR Flea3 or another camera with manual focus can be used. |
Camera software | Genius | N/A | Software comes with camera. On MacOS, Photo Booth app can be used to record videos. |
Camera shutter speed software | Genius | N/A | Genius camera software allows shutter speed setting. In Mac OS, iGlasses by ecamm can be used instead: http://www.ecamm.com/mac/iglasses/ |
Windows Operating System | Microsoft | Windows 7 Professional | Versions 7 or later are compatible. Oracle VirtualBox, Parallels Desktop, or VMWare Fusion can be used to create a Windows virtual machine in MacOS environments. |
SwarmSight software | SwarmSight | Appendage Tracking | Download from http://SwarmSight.org |
R software | R Project | R 3.4.0 | Download from: https://cran.r-project.org/bin/windows/base/ |
R Studio software | RStudio | RStudio Desktop | Download from: https://www.rstudio.com/products/rstudio/download/ |