Dit protocol worden de stappen beschreven voor het gebruik van de nieuwe software, SwarmSight, voor het bijhouden van de frame-voor-frame van insecten antenne en proboscis posities van conventionele web camera video’s met behulp van conventionele computers. De gratis, open-source software verwerkt frames ongeveer 120 keer sneller dan mensen en presteert op beter dan menselijke nauwkeurigheid.
Veel wetenschappelijk en agrarisch belangrijke insecten gebruiken antennes om te detecteren van de aanwezigheid van vluchtige chemische stoffen en uitbreiden van hun slurf tijdens het voeden. De mogelijkheid om snel verkrijgen van hoge-resolutie metingen van de natuurlijke bewegingen van de antenne en proboscis en beoordelen hoe ze veranderen in reactie op chemische-, ontwikkelings- en genetische manipulaties kan helpen het begrip van insecten gedrag. Door de uitbreiding van onze eerdere werk over de evaluatie van de totale insecten zwerm of dierlijke groep bewegingen van natuurlijke en laboratorium-video’s met behulp van de video analysesoftware SwarmSight, ontwikkelden we een nieuwe, gratis en open-source softwaremodule, SwarmSight aanhangsel (SwarmSight.org) bijhouden voor het frame-voor-frame bijhouden van insecten antenne en proboscis posities in conventionele web camera video’s met behulp van conventionele computers. De software verwerkt frames ongeveer 120 keer sneller dan de mens, presteert op beter dan menselijke nauwkeurigheid en, met behulp van 30 raamwindow via tweede (fps) video’s, kan vangen antennal dynamiek tot 15 Hz. De software werd gebruikt om het spoor van de antennal respons van de bijen tot twee geuren en gevonden significante gemiddelde antennal volumeherstel weg van de bron van de geur ongeveer 1 s na de presentatie van de geur. Antenne positie dichtheid warmte kaart clustervorming en cluster en betekenen hoek afhankelijkheid van geur-concentratie waargenomen.
Meeste geleedpotigen verplaatsen antennes of andere aanhangsel om een monster van milieu aanwijzingen en signalen in tijd en ruimte te. De dieren kunnen de antennes gebruiken om te navigeren van hun omgeving door het detecteren van sensorische signalen zoals chemische vluchtige stoffen en smaak en mechanische stimuli1,,2,,3,4. Bij insecten bevatten de antennes sensorische receptoren die binden aan chemische vluchtige stoffen4,5,6 en dit signaal doorgeeft via olfactorische sensorische neuronen naar centrale hersenen gebieden1,7 ,8,9. De insecten kunnen aanpassen antennes posities te moduleren van informatie over binnenkomende geuren4,10,11. Deze modulatie vergemakkelijkt actief geïnformeerd gedrags reacties op geuren en hun pluimen12,13.
Veel insecten, waaronder Hymenopterans (bijvoorbeeld honingbijen en hommels), vlinders (bijvoorbeeld vlinders) en Dipterans (b.v., vliegen en muggen), onder anderen, voeden door uitbreiding van hun snuit14 , 15 , 16 , 17 , 18 , 19 , 20 , 21. uitbreiding van de proboscis is betrouwbaar gebruikt in het verleden voor een verscheidenheid van leren en geheugen taken22,23,24,25,26, 27,28,29,30,31. Kwantitatieve beoordeling van antennes verkeer met een hoge temporele en ruimtelijke resolutie zou kunnen ook inzicht in de relatie tussen de prikkel, het gedrag, en de interne toestand van het dier opleveren. Inderdaad vorige werk heeft aangetoond hoe de antennal bewegingen bevatten een rijke hoeveelheid aan informatie over honing honingbij tracking van het milieu en hoe de bewegingen veranderen met het leren van32,33,34, 35,,36,,37,38.
In het laatste decennium, hebben methoden voor het waarnemen van dierlijk gedrag aanzienlijk versneld door voorschotten in hoge resolutie video camera’s, computer verwerking snelheden en de machine vision algoritmen. Taken zoals dierlijke detectie, tellen, bijhouden en plaats voorkeur analyses hebben geholpen met geavanceerde software die video’s van dierlijk gedrag kan verwerken en extract relevante maatregelen39,40, 41,42,43,44,45,46,47.
Deze technologieën hebben ook geholpen bijhouden van insecten antenne en proboscis bewegingen. Het is mogelijk voor menselijke beoordelaars een muiscursor wilt gebruiken om het handmatig bijhouden van de positie van de antennes. Hoewel deze methode kan nauwkeurig, de taak is echter tijdrovend, en menselijke onoplettendheid en vermoeidheid kunnen leiden tot onbetrouwbare resultaten. Speciale uitrustingen en voorbereiding kunnen worden gebruikt om de behoefte voor complexe software te verminderen. Bijvoorbeeld één setup gebruikt een high-speed camera en de toppen van de antennes om bij te houden van de antenne verkeer48geschilderd. Gebruikers kunnen ook worden gevraagd om te selecteren van keyframes van video’s om te helpen de software bij de opsporing van de antenne en proboscis locatie49. Een andere benadering ontdekt de twee grootste clusters van de motie ter identificatie van de antennes, maar het niet worden gevonden door de proboscis locatie50. Een ander softwarepakket antenne en proboscis locaties kan detecteren, maar vereist ongeveer 7.5 s verwerkingstijd per frame51, dat zou onbetaalbaar voor real-time of op lange termijn waarneming studies. Tenslotte, het mogelijk is om aan te passen (bijvoorbeeld EthoVision) commerciële softwarepakketten voor het uitvoeren van de taak46, maar hun licentie- en opleiding kosten onbetaalbaar kunnen worden.
Met de hier beschreven methode, we uitgebreid onze eerdere werk op beweging analyse software41 voor het bijhouden van de locaties van insecten antennes en snuit met de volgende doelstellingen: (1) geen behoefte aan speciale hardware of complexe dierlijke voorbereiding, (2). frame in real-time verwerking (30 fps of sneller) op een conventionele computer, (3) gemak van gebruik, en (4) open-source, gemakkelijk uitbreidbaar code.
De resulterende nieuwe methode en open-source software, Bijhouden van SwarmSight-aanhangsel, vereist geen schilderij van de antennes tips, kunt een consument webcamera vastleggen van video’s en processen videoframes bij 30-60 fps op een conventionele computer ( Figuur 1). De software neemt video bestanden als invoer. De gebruiker zoekt op de positie van het hoofd van insecten in de video en, na verwerking, een door komma’s gescheiden waarden (CSV) bestand is geproduceerd met de locaties van de antennes en de snuit. De software is geschikt voor het lezen van honderden verschillende video formaten (met inbegrip van de formaten geproduceerd door de meeste digitale camera’s) door het gebruik van de FFmpeg bibliotheek52.
Figuur 1: dierlijke Setup en software uitvoer. (A) A honey bee forager met haar hoofd en het lichaam worden gefixeerd in een harnas. (B) geur bron wordt geplaatst voor het dier, een video-camera is gepositioneerd boven, en een vacuüm bron wordt geplaatst achter het dier. (C) de antenne uiteinde en proboscis variabelen gedetecteerd door de software van de SwarmSight van de video. (D) de gebruiker de antenne-sensor op het dier plaatst en past de parameters van de filter. De software detecteert de posities van het antenne en proboscis (gele ringen).Klik hier voor een grotere versie van dit cijfer.
Een insect van lichaam en haar hoofd zijn eerste plaats gefixeerd in een harnas zodanig dat de antenne en proboscis bewegingen gemakkelijk (figuur 1A waargenomen worden). Een bron van de geur is voor het insect, geplaatst met een vacuüm bron geplaatst achter, om de geuren te verwijderen uit de lucht en het minimaliseren van de potentiële effecten van sensorische aanpassing (figuur 1B). Een conventionele webcamera is boven het insect hoofd op een statief geplaatst. Een LED kan worden geplaatst binnen de cameraweergave te geven wanneer de geur wordt gepresenteerd.
Figuur 2: antenne coördinatensysteem. X, Y-waarden gebruiken de video coördinatensysteem, waar linker bovenhoek is de oorsprong en de verhoging van X- en Y-waarden wanneer richting de bodem juiste hoek. Hoeken worden uitgedrukt in graden ten opzichte van de voorkant van het hoofd (meestal de bron van de geur). Een waarde van “0” betekent dat de regel gevormd door het flagellum van de antenne direct voor het dier wijst. Alle hoeken zijn positief, behalve wanneer de punten van een antenne aan de tegengestelde richting (bijvoorbeeld juiste flagellum punten naar links). Klik hier voor een grotere versie van dit cijfer.
Na het filmen, wordt het video bestand geopend met de software van de SwarmSight, waar de gebruiker de antenne Sensor widget (Figuur 1 d, zwart vierkant) op het hoofd van het insect plaatst, en begint het afspelen van de video. Wanneer de resultaten worden opgeslagen, het CSV-bestand bevat de X, Y-posities van de antenne tips, de hoeken van de antenne ten opzichte van de voorkant van het hoofd (Figuur 2), en de snuit X, Y-positie. Bovendien, wordt een dominante sector-metric berekend voor elke antenne. De metrische laat zien welke van de vijf sectoren van de 36 graden rond elke antenne die de meeste punten geacht kunnen worden van de antennes, en kunnen nuttig zijn als de antenne positie/hoek statistieken niet betrouwbaar als gevolg van lawaaierige of anderszins problematische video’s zijn.
Kortom, de software werkt met behulp van een set van beweging filters53 en een ontspannen overstroming vulling algoritme54. Vind je waarschijnlijk antenne punten, twee filters worden gebruikt: een 3-opeenvolgende-frame verschil filter41,55 en een mediaan-achtergrond aftrekken-56 -filter. Een kleurenfilter afstand drempel wordt gebruikt voor de detectie van de punt van de snuit. De top 10% van de punten van elk filter worden gecombineerd, en een overstroming vulling algoritme dat aaneengesloten punten met tussenruimten maximaal 2 pixels (px inspecteert) zoekt extreme punten. Parallelle frame decoderen, verwerking, en rendering pijpleidingen en geoptimaliseerde geheugen toewijzing van de gegevensstroom filter bereikt hoge prestaties. De ruwe x- en y-coördinaat waarden geproduceerd door de software zijn post verwerkt met een 3-frame voortschrijdend gemiddelde filter57 (Zie discussie). De instructies voor het downloaden van de volledige broncode kunnen worden gevonden online58.
Hieronder is een protocol voor te bereiden op een honing honingbij forager antenne bijhouden. Een vergelijkbaar protocol kan worden gebruikt voor het bijhouden van de bewegingen van de antenne/proboscis van elke andere insecten. In het gedeelte ‘ resultaten ‘ beschrijven we een antenne trace voorbeelduitvoer die wordt herkend door de software, de vergelijking van de output van de software wordt uitgevoerd door menselijke beoordelaars en beoordeling van antennes beweging in reactie op vijf odorant bijhouden.
De methode die hier gepresenteerd kunt real-time tracking van insecten antenne en proboscis bewegingen zonder speciale dierlijke preparaten of hardware.
Beperkingen:
Ondanks deze voordelen zitten ziedaar sommige beperktheid van de methode. Deze omvatten van de eis dat het hoofd van het dier wordt beperkt van beweging, de noodzaak voor de gebruiker selecteren de locatie en richting van het dier voor elke video, de vereiste toegang hebben tot een Windows-computer, en van de software onvermogen om bij te houden verkeer in drie dimensies (3D) en in sommige visueel dubbelzinnig aanhangsel posities die hieronder worden beschreven.
De software vereist dat het hoofd van het dier wordt bevestigd in plaats en niet tijdens de video beweegt is. Dit is vergelijkbaar met de voorbereidingen van eerdere werk48,49,50,51. Het is mogelijk om de software zodat de automatische detectie van hoofd rotaties te wijzigen, echter dit zou verbruiken extra verwerkingstijd en introduceren een nieuwe bron van de fout. Mochten de gewijzigde software detecteren de hoofd rotatie onjuist, zou dit invloed op de hoeken van de antennes, zoals hun berekening ten opzichte van de hoofd rotatiehoek is. Op dit moment selecteert de gebruiker de hoofd richting eenmaal per video. Deze aanpak, minimaliseert terwijl niet zonder menselijke fouten, hoek rekenfouten, wanneer de kop niet is toegestaan om te verplaatsen tijdens de video.
De software vereist ook een Windows 7 (of hoger) besturingssysteem (OS). Het doel was om de software gemakkelijk te installeren, instellen en gebruiken door gebruikers zonder programmeren of geavanceerde administratie computervaardigheden. We besloten naar doel Windows omdat het overal verkrijgbaar, en in gevallen waarin toegang beperkt is, virtuele machines (bijvoorbeeld VirtualBox, VMware, Parallels) met Windows gemakkelijk kunnen worden gemaakt. Deze keuze van OS sterk vereenvoudigt de softwareinstallatie met behulp van een easy-to-use, Command-Line-lijn-vrije installateur en vermijdt bugs die specifiek zijn voor verschillende besturingssystemen.
De software houdt alleen de positie van de aanhangsels in 2D ruimte. Insecten staan bekend om hun antenne in 3D, dat zou kunnen betekenen dat belangrijke informatie verloren gaat wanneer alleen 2D-coördinaten worden gemeten. Terwijl het gebruik van meerdere camera’s of spiegels helpen zou bij het verzamelen van de aanvullende informatie die nodig is voor 3D lokalisatie, is het mogelijk om te berekenen, ervan uitgaande dat de antennes zijn met het gebruik van trigonometrische betrekkingen, een geschatte uit-van-plane positie door enkellijns segmenten van constante lengte en enige beweging aan de ene kant van het vliegtuig van de camera. Voor bijen, deze veronderstelling geldt voor ruwe schattingen voor de positie in 3D, maar niet noodzakelijkerwijs het geval voor andere soorten en situaties zou zijn.
De software zal niet naar behoren herkent de antennes en de proboscis tip locaties in enkele dubbelzinnige situaties. Als een dier een antenne verplaatst zodat, in de video, het overlapt een langere snuit, de software zal waarschijnlijk het uiteinde van de antenne te detecteren als het uiteinde van de proboscis. De antenne-hoek zal echter nog steeds waarschijnlijk worden berekend correct (uit het deel van de niet-overlappende). Op dezelfde manier als de uiteinden van de antenne direct boven het hoofd van het dier (dat wil zeggen, niet aan de zijkanten verplaatsen) dan de software mogelijk alleen detecteren van het deel van de antenne dat is zichtbaar buiten het hoofd, veronderstellen de vorige locatie van de antenne of detecteren van valse Video lawaai als locatie van de antenne. In beide gevallen hebben zelfs menselijke beoordelaars moeite comforthotel de antenne van de snuit of het hoofd. Om te verhelpen dit probleem, is het raadzaam een 3-frame, symmetrische rollende mediaan57 filter toepassen op de ruwe X en Y coördinaten geproduceerd door de software. Dit filter verwijdert grote voorbijgaande (single-frame) positie schommelingen, en behoudt langer antenne positie bewegingen. We hebben vastgesteld dat de 3-frame filter beter dan geen filter, presteerde terwijl grotere filters (bijvoorbeeld 5, 11 of 15 frames) nauwkeurigheid verminderde. Voorbeeld R-code die gebruikmaakt van het filter en een video-tutorial kan worden gevonden online58.
Waarde als een wetenschappelijk instrument:
De beschikbaarheid van een methode om snel nauwkeurige insect aanhangsel bewegingen op een kosteneffectieve manier heeft het potentieel om te openen nieuwe terreinen van onderzoek.
Proboscis extensie reflex (PER) is een veelgebruikte gedragsmatige reactie om leren en geheugen van allerlei insecten59te onderzoeken. Eerdere studies hebben over het algemeen vertrouwd op een binaire uitgebreid-or-not maatregel van PER, hoewel video en Electromyografische analyses is gebleken dat veel meer complexe topologieën tot65,66van de bewegingen van de snuit. De methode hier kunt snelle kwantificering van proboscis bewegingen in hoge temporele en ruimtelijke resoluties.
Insect antenne bewegingen in reactie op geuren zijn slecht begrepen. Een reden hiervoor is dat de antennes neiging te bewegen zo snel dat een rendabele, geautomatiseerde middelen om antenne verkeer gegevens te verkrijgen niet beschikbaar is geweest. De methode die hier gepresenteerd kan snel antenne beweging om gegevens te verkrijgen voor grote aantallen van insecten in een groot aantal voorwaarden worden gebruikt. Dit zou helpen, bijvoorbeeld onderzoekers onderzoeken de toewijzing tussen antenne bewegingen in reactie op verschillende stimuli, in het bijzonder volatiele geuren. Met behulp van camera’s die het opnemen van frames bij 30 Hz, de software kan worden gebruikt voor het karakteriseren van antennal verkeer dynamiek tot 15 Hz (Nyquist limiet). Als karakterisering in hogere frequenties nodig is, kunnen de camera’s met hogere tarieven van de opname (bijvoorbeeld 60 of 120 fps) worden gebruikt. Echter, een snellere computer mogelijk moet video’s met hogere fps in real-time verwerken. Wij speculeren dat klassen van geuren en zelfs sommige individuele geuren, karakteristiek aangeboren antennal bewegingen hebben. Als deze klassen of verbindingen ontdekt, onbekende worden kunnen kon geuren of hun klasse worden opgespoord vanaf antennal verkeer van ongetrainde insecten. Als een dergelijke toewijzing bestaat, dan is de combinatie van voldoende antenne verkeer gegevens en stand van de techniek machine leren algoritmen moet beginnen om het te ontdekken. Ook, hoe dat toewijzing in reactie verandert op het leren, vormen tijdens de ontwikkeling, of is verstoord met genetische ingrepen kunnen bieden inzicht in de functies van de olfactorische systeem.Tot slot, dit werk kan inzicht geven in kunstmatige detectie van geuren als het openbaart optimale bemonsteringsmethoden voor geuren in complexe omgevingen.
Toekomstige werkzaamheden:
Hier, we toonden dat antenne verkeer gegevens snel kan worden verkregen en geanalyseerd: belangrijke gedrag reacties uit de gegevens die zijn gegenereerd door onze software kunnen worden opgespoord, en verschillende gebieden van nader onderzoek werden geïdentificeerd.
Het tijdsverloop van stimulus-ontlokte antenne hoek afwijkingen en herstel op basislijn en eventuele effecten van stimulus-sluiting rebound en haar afhankelijkheid van geur concentratie kunnen worden onderzocht en mathematisch worden gemodelleerd. Bovendien, wijzigingen van antenne bewegingen geïnduceerd door appetitive of aversieve conditionering kan ook worden beoordeeld met de software.
Betere differentiatie van geuren kan ook worden onderzocht. In deze studie, geuren, in pure zowel 35 x verdunde versies ontlokte soortgelijke reacties: de antennes, gemiddeld, leek te snel trekken weg van de bron van de geur en pre geur basislijnen terugkomen na een paar seconden. Wij speculeren dat zelfs de verdunde versies zeer sterke olfactorische stimuli voor de bijen geweest. Als de waarde true is, kan een breder scala van concentraties worden gebruikt om te bepalen als de antennal reacties de geuren onderscheiden. Bovendien kan meer verfijnde analyse beter onthullen verschillen in antennal bewegingen in reactie op de verschillende geuren. We hebben de gegevensbestanden gebruikt voor het genereren van cijfers in dit manuscript beschikbaar aan interesse onderzoekers op de SwarmSight website67gemaakt.
Worden bovendien, terwijl buiten de werkingssfeer van dit manuscript, de software zou kunnen uitgebreid verwerken van video’s van dieren geplaatst in kamers met dubbele spiegels schuin 45 ° (Zie Figuur 1 d bijvoorbeeld). Dit kan worden gebruikt voor het nauwkeurig lokaliseren en bijhouden van de aanhangsels en hun beweging in de 3D-ruimte. Echter, de algoritmes voor 3D-tracking zouden moeten efficiënt: (a) eenduidig tussen meerdere antennes wanneer ze zichtbaar in een van de zijspiegels, (b) correct voor onvolkomenheden in de hoeken van de spiegel zijn, en (c) rekening voor verstoringen als gevolg van de camera positionering.
Ten slotte, extra winsten in positie nauwkeurigheid kan worden gerealiseerd via het gebruik van een Kalman filter68, welke modellen en maakt gebruik van fysieke statusgegevens zoals aanhangsel snelheid en versnelling te beperken voorspelde locaties. Eventuele winsten in nauwkeurigheid dient echter tegen eventuele verlagingen in snelheid als gevolg van extra berekeningen worden geëvalueerd.
Conclusie:
Veel insecten gebruiken antennes actief proeven van vluchtige stoffen in hun lokale omgeving. Patronen in antennal bewegingen kunnen inzicht geven in de perceptie van de insecten geur en hoe het wordt beïnvloed door airconditioning, toxische verbindingen en genetische veranderingen. Proboscis bewegingen zijn ook gebruikt om het beoordelen van geur, perceptie en de modulatie. Echter snel verkrijgen van grote hoeveelheden met een hoge resolutie aanhangsel verkeer gegevens moeilijk geweest. Hier wordt een protocollen en een softwareprogramma dat automatiseert deze taak beschreven. Kortom, hebben we gemaakt en aangetoond hoe de combinatie van goedkope hardware, een gemeenschappelijke dierlijke voorbereiding, en de open-source software kunnen worden gebruikt snel hoge resolutie insect aanhangsel beweging om gegevens te verkrijgen. De output van de software, hoe het menselijke beoordelaars in snelheid en nauwkeurigheid overtreft, en hoe de uitvoergegevens kan worden geanalyseerd en gevisualiseerd werden getoond.
The authors have nothing to disclose.
JB, SMC en RCG werden ondersteund door de NIH R01MH1006674 aan SMC en NIH R01EB021711 aan RCG. CMJ en BHS werden ondersteund door NSF ideeën lab project op “kraken de olfactorische code” aan BHS. Wij danken Kyle Steinmetz, Taryn Oboyle en Rachael Halby voor hun hulp bij het uitvoeren van dit onderzoek.
Insect harness | N/A | N/A | Use materials needed for Protocol sections 1-3.1.1 of Smith & Burden (2014) |
Odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Vacuum source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
LED connected to odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Low Voltage Soldering Iron | Stannol | Low Voltage Micro Soldering Iron 12V, 8W | |
DC Power Supply | Tekpower | HY152A | |
White sheet of paper | Georgia-Pacific | 998606 | Any white sheet of paper can be used as alternative |
Tripod | AmazonBasics | 50-Inch Lightweight Tripod | Optional |
Camera | Genius | WideCam F100 | FLIR Flea3 or another camera with manual focus can be used. |
Camera software | Genius | N/A | Software comes with camera. On MacOS, Photo Booth app can be used to record videos. |
Camera shutter speed software | Genius | N/A | Genius camera software allows shutter speed setting. In Mac OS, iGlasses by ecamm can be used instead: http://www.ecamm.com/mac/iglasses/ |
Windows Operating System | Microsoft | Windows 7 Professional | Versions 7 or later are compatible. Oracle VirtualBox, Parallels Desktop, or VMWare Fusion can be used to create a Windows virtual machine in MacOS environments. |
SwarmSight software | SwarmSight | Appendage Tracking | Download from http://SwarmSight.org |
R software | R Project | R 3.4.0 | Download from: https://cran.r-project.org/bin/windows/base/ |
R Studio software | RStudio | RStudio Desktop | Download from: https://www.rstudio.com/products/rstudio/download/ |