이 프로토콜 기존의 컴퓨터를 사용 하 여 기존의 웹 카메라 비디오에서 곤충 안테나 및 코 위치의 프레임별으로 추적을 위한 새로운 소프트웨어, SwarmSight, 사용 하기 위한 단계를 설명 합니다. 무료, 오픈-소스 소프트웨어 프레임 약 120 배를 인간 보다 더 빨리 처리 하 고 이상의 인간의 정확도에서 수행 합니다.
많은 과학적 농업으로 중요 한 곤충은 안테나를 사용 하 여 휘발성 화합물의 존재를 감지 하 여 수 유 하는 동안 그들의 코를 확장. 능력을 빠르게 자연 안테나와 코 움직임의 고해상도 측정을 얻을 하 고 그들이 어떻게 화학, 발달, 및 유전자 조작에 대 한 응답에서 변경 평가 곤충 행동의 이해를 도움이 됩니다. 평가 집계 곤충 떼 또는 동물 그룹에서 자연 스러운 움직임과 실험실 동영상 비디오 분석 소프트웨어 SwarmSight를 사용 하 여 우리의 이전 작업을 확장 하 여 우리 개발 했다 소설, 무료 및 오픈 소스 소프트웨어 모듈 SwarmSight 돌출부 기존의 컴퓨터를 사용 하 여 기존의 웹 카메라 비디오에서 (SwarmSight.org) 곤충 안테나 및 코 위치의 프레임별으로 추적을 위한 추적. 소프트웨어 처리 프레임 약 120 배 더 빠른 인간 보다, 인간의 정확도, 보다 더 나은 수행 하 고, 더듬이 역학을 캡처할 수 있습니다 두 번째 (fps) 동영상을 초당 30 프레임을 사용 하 여 최대 15 Hz. 소프트웨어 두 냄새 꿀벌의 더듬이 응답을 추적 하 고 중요 한 말 더듬이 retractions 냄새 소스 1에서 발견 하는 데 사용 되었다 냄새 프레 젠 테이 션 후 s. 안테나 위치 밀도 열 클러스터 형성 및 클러스터 지도 및 각도 냄새 농도에 의존을 의미 관찰 합니다.
대부분 절지동물 이동 안테나 또는 다른 돌출부 시간과 공간에 환경 단서와 신호를 샘플 합니다. 동물 화학 휘발성, 미각 및 기계적 자극1,2,,34등 감각 신호를 감지 하 여 자신의 환경을 탐색 하는 안테나를 사용할 수 있습니다. 곤충, 안테나 포함 화학 휘발성4,,56 바인딩할 중앙 두뇌 지역1,7 후 각 감각 신경 통해이 신호를 감각 수용 체 ,,89. 곤충은 들어오는 냄새4,,1011에 대 한 정보를 변조 하 안테나 위치를 조정할 수 있습니다. 이 변조 용이 적극적으로 정보 행동 응답 냄새와 그들의 깃털12,13.
많은 곤충, 등 (예: 꿀 꿀벌과 땅벌) Hymenopterans, Lepidopterans (예를 들면, 나비), Dipterans (예를 들어, 파리와 모기), 다른 가운데, 그들의 코14 를 확장 하 여 피드 , 15 , 16 , 17 , 18 , 19 , 20 , 21. 코 확장을 안정적으로 다양 한 학습 및 메모리 작업22,23,,2425,26, 에 대 한 과거에 사용 되었습니다 27,,2829,,3031. 마찬가지로, 높은 시간적 및 공간적 해상도 안테나 운동의 양적 평가 자극, 행동, 그리고 동물의 내부 상태 사이 관계에 대 한 통찰력을 생성할 수 있습니다. 실제로 이전 작업 더듬이 움직임 풍부한 양의 환경의 꿀 꿀벌 추적에 대 한 정보를 포함 하는 어떻게 하 고 어떻게 움직임32,,3334, 학습 변화를 보이고 있다 35,36,,3738.
지난 10 년간, 동물 행동 관찰 방법이 되어 크게 가속 발전 고해상도 비디오 카메라에 의해 컴퓨터 처리 속도, 및 머신 비전 알고리즘. 동물 검색, 계산, 추적, 및 장소 환경 분석 같은 작업 동물 행동의 동영상을 처리할 수 있는 정교한 소프트웨어와 함께 왔 되었습니다 있다 및 추출 관련 측정39,40, 41,42,43,44,45,,4647.
이러한 기술에는 곤충 안테나와 코 움직임의 추적 주 었 있다. 마우스 커서를 사용 하 여 수동으로 안테나의 위치를 추적 하는 인간의 평가 대 한 가능 하다. 그러나,이 방법은 될 수 있지만 정확 하 게, 작업은 시간이 걸리고, 그리고 인간의 부주의 피로 신뢰할 수 없는 결과가 발생할 수 있습니다. 특별 한 장비와 준비를 복잡 한 소프트웨어에 대 한 필요성을 줄이기 위해 사용할 수 있습니다. 예를 들어 한 설치 고속 카메라를 사용 하며 안테나 운동48를 추적 하기 위해 안테나의 끝을 그렸다. 사용자가 수 또한 검출 하는 안테나와 코 위치49에서 소프트웨어를 돕기 위해 동영상의 키 프레임을 선택 하 게 됩니다. 또 다른 방법은 감지 안테나, 식별 하기 위해 두 개의 큰 모션 클러스터 하지만 코 위치50검색 하지 않습니다. 다른 소프트웨어 패키지 안테나 및 코 위치를 검색할 수 있습니다 하지만 약 7.5 필요 처리 시간 당 프레임51, 실시간 또는 장기 관측 연구에 대 한 금지 될 수 있는 s. 마지막으로,46작업 수행 하려면 (예: EthoVision) 상용 소프트웨어 패키지를 사용자 지정할 수 있습니다 하지만 그들의 라이센스 및 훈련 비용 금지 될 수 있습니다.
여기 설명 하는 방법을 우리 곤충 안테나 및 다음 목표와 코의 위치를 추적 하기 위해 모션 분석 소프트웨어41 에 우리의 이전 작업 확장: 특별 한 하드웨어 또는 복잡 한 동물 준비에 대 한 요구 (1) (2) 실시간에 처리 하는 프레임 (30 fps 또는 빠르게) 기존 컴퓨터의 사용, 및 (4) 오픈-소스, 쉽게 확장 가능한 코드 (3) 쉽게에.
결과 소설 방법 및 오픈 소스 소프트웨어, SwarmSight 돌출부 추적, 안테나 팁의 회화를 요구 하지 않는다, 비디오, 그리고 프로세스는 기존의 컴퓨터 (에 30-60 fps 비디오 프레임 캡처 소비자 웹 카메라를 사용할 수 있습니다. 그림 1)입니다. 소프트웨어 입력으로 비디오 파일을 사용합니다. 사용자는 비디오에서 곤충 머리의 위치를 찾습니다 하 고, 처리 후 쉼표로 구분 된 값 (.csv) 파일은 안테나와 코의 위치와 생산. 소프트웨어는52FFmpeg 라이브러리 사용 하 여 수백 개의 다른 비디오 포맷 (를 포함 하 여 대부분의 디지털 카메라에 의해 생성 하는 형식)을 읽을 수 있는.
그림 1: 동물 설치 및 소프트웨어 출력. (A) A의 머리와 몸을 마구에 절제 된 꿀 꿀벌 사실. 소스는 동물, 비디오 카메라 앞에 배치 하는 (B) 냄새, 위에 있고 진공 소스 동물 뒤에 배치 됩니다. (C) 안테나 끝과 코 변수는 비디오에서 SwarmSight 소프트웨어에 의해 감지. (D) 사용자 동물 이상의 안테나 센서를 배치 하 고 필터 매개 변수를 조정 합니다. 소프트웨어는 안테나와 코 위치 (노란색 반지)를 검색합니다.이 그림의 더 큰 버전을 보려면 여기를 클릭 하십시오.
첫째, 곤충의 몸과 머리는 제 지 마구에는 안테나와 코 움직임은 쉽게 관찰 (그림 1A). 냄새 소스 뒤에, 공기에서 냄새를 제거 하 고 감각 적응 (그림 1B)의 잠재적인 영향을 최소화 하려면 배치 진공 소스와 곤충, 앞에 배치 됩니다. 기존의 웹 카메라는 삼각대에 곤충의 머리 위에 배치 됩니다. LED 냄새 제시 되는 때를 나타내기 위해 카메라의 뷰 내에서 배치 될 수 있습니다.
그림 2: 안테나 좌표계. X, Y 값 사용 하 여 비디오 좌표 시스템 왼쪽 위가 X 및 Y 값 증가 오른쪽 하단 모서리 쪽으로 이동할 때. 각도 머리 (일반적으로 악취 소스)의 앞에 관하여도 표시 됩니다. “0” 값 안테나 생물체에 의해 형성 된 선 동물 앞 직접 가리키는 의미 합니다. 모든 각도 긍정적, 제외 하 고 때 반대 방향으로 (예를 들어, 왼쪽 오른쪽 편 포인트) 안테나 포인트 이다. 이 그림의 더 큰 버전을 보려면 여기를 클릭 하십시오.
촬영 후 비디오 파일 사용자는 곤충의 머리 위에 안테나 센서 위젯 (그림 1D, 검은 사각형)을 배치 하 고 비디오 재생을 시작 SwarmSight 소프트웨어와 함께 열립니다. .Csv 파일은 X 포함 됩니다 결과 저장할 때 안테나의 Y 위치 팁, 안테나 각도 (그림 2), 머리와 코의 앞에 상대적인 X, Y 위치. 또한, 지배적인 분야 통계는 각 안테나에 대 한 계산 됩니다. 통계 쇼는 각 안테나를 둘러싼 5 36도 분야의 가장 포인트를 포함 된 안테나, 될 것으로 간주 하 고 안테나 위치/각도 통계 시끄러운 또는 그렇지 않으면 문제가 비디오 인해 신뢰할 수 없는 경우 유용할 수 있습니다.
간단히, 소프트웨어 동작 필터53 와54편안한 홍수 채우기 알고리즘 집합을 사용 하 여 작동 합니다. 두 필터는 사용 가능성이 안테나 포인트를 찾으려면: 3 연속 프레임 차이 필터41,55 와 중간 배경 빼기56 필터. 컬러 거리 임계값 필터 코 포인트 감지에 사용 됩니다. 각 필터의 포인트의 최고 10% 결합 되 고 2 픽셀 (px) 최대 간격으로 연속 포인트를 검사 하는 홍수 채우기 알고리즘 극단적인 포인트를 찾아냅니다. 병렬 프레임 디코딩, 처리 및 렌더링 파이프라인 및 최적화 된 메모리 할당 필터 데이터 흐름의 고성능을 달성 한다. 원시 x 및 y 좌표 값은 소프트웨어에 의해 생성 되는 3 프레임 롤링 메디아 필터57 와 사후 처리 ( 내용참조). 전체 소스 코드를 다운로드 하는 지시는 온라인58찾을 수 있습니다.
아래는 안테나 추적 꿀 꿀벌 사실을 준비 하는 프로토콜이입니다. 유사한 프로토콜 다른 곤충의 안테나/코 움직임을 추적 하기 위해 사용 될 수 있습니다. 결과 섹션에서 우리는 인간의 점자 및 안테나 운동 5 odorants에 대 한 응답에서의 평가 의해 수행 하는 관리 소프트웨어를 출력의 비교 소프트웨어에 의해 감지 되는 샘플 안테나 추적 출력을 설명 합니다.
여기에 제시 된 메서드는 특별 한 동물 준비 또는 하드웨어를 필요로 하지 않고 곤충 안테나와 코 움직임의 실시간 추적을 수 있습니다.
제한 사항:
이러한 장점에도 불구 하 고 메서드의 몇 가지 제한 사항이 있습니다. 이 동물의 머리 운동, 위치 및 각 비디오에 대 한 동물의 방향을 선택 하는 사용자에 대 한 필요성에서에서 제한 된다 요구를 포함 Windows 컴퓨터 및 소프트웨어의 추적 하는 무 능력에 대 한 액세스를 요구 3 차원 (3D) 및 아래에 설명 된 일부 시각적으로 모호한 돌출부 위치 운동.
소프트웨어는 동물의 머리 장소에 고정 되어 비디오 동안 이동 하지 해야 합니다. 이전 작업48,49,,5051의 준비와 비슷합니다. 그러나 그것은 머리 회전의 자동 검색을 허용 하도록 소프트웨어를 수정할 수,,이 추가 처리 시간을 소비 하 고 오류의 새로운 소스를 소개 것. 수정 된 소프트웨어 제대로 머리 회전을 감지 한다면,이 것이 영향을 안테나 각도 그들의 계산 머리 회전 각도 기준으로. 현재, 사용자는 비디오에 한 번씩 머리 방향을 선택합니다. 이 이렇게, 동안 인간의 오류 없이 각도 계산 오류 때 최소화 머리 비디오 중에 이동할 수 없습니다.
소프트웨어에는 Windows 7 (또는 이상) 운영 체제 (OS)도 필요합니다. 목표는 소프트웨어를 보다 쉽게 설치, 설치, 및 프로그래밍 또는 정교한 컴퓨터 관리 기술 없이 사용자가 사용 하기 했다. 그것은 널리, 그리고 그것에 접근은 제한 하는 경우에서 windows 가상 컴퓨터 (예를 들어, 버추얼 박스, vm 웨어, 패 러 랠) 쉽게 만들 수 있기 때문에 대상 창 하기로. 운영 체제의이 선택은 크게 사용 하기 쉬운, 명령행 라인 무료 설치 프로그램을 통해 소프트웨어 설치를 간소화 하 고 다른 Os에 특정 버그를 피 한다.
소프트웨어는만 2 차원 공간에는 부속의 위치를 추적합니다. 곤충만 2D 좌표를 측정 하는 경우 중요 한 정보가 손실 됩니다 하는 것을 의미할 수도 있고 3 차원에서 그들의 안테나를 이동 알려져 있습니다. 동안 여러 카메라 또는 거울을 사용 하 여 3D 지역화에 필요한 추가 정보 수집에 도움이 수, 계산, 삼각 관계, 여 예상된 밖으로의 비행기 위치를 사용 하 여 가정 하는 안테나는 가능 하다 일정 길이의 선 세그먼트를 단일 하 고 카메라 비행기의 한쪽에만 이동 합니다. 꿀 꿀벌에 대 한이 가정 거친 예측 3d, 위치에 대 한 진정한 보유 하 고 있지만 반드시 다른 종 및 상황에 대 한 경우 되지 않을 것 이다.
안테나와 코 소프트웨어 올바르게 검색 하지 것입니다 팁 몇 가지 모호한 상황에서 위치. 동물 겹치도록, 비디오, 확장된 코 안테나 이동, 소프트웨어는 코 끝으로 가능성이 안테나의 끝을 감지 합니다. 그러나 안테나 각도, 것입니다 여전히 아마 계산 올바르게 (에서 겹치지 않는 부분). 마찬가지로, 안테나 팁 (즉, 양쪽에)에 동물의 머리 바로 위에 이동 하는 경우 다음 소프트웨어만 안테나는 머리의 외부에 표시 되는 부분을 감지 안테나의 이전 위치를 가정 하거나 가짜 감지 안테나 위치에로 비디오 잡음입니다. 두 상황에서 조차 인간의 점자 코 또는 머리에서 안테나를 분별 하는 어려움이 있다. 이 문제를 완화 하려면 원시 X 및 Y에 3 프레임, 대칭 회전 평균57 필터 적용 좋습니다 좌표는 소프트웨어에 의해 제작. 이 필터는 큰 과도 (단일 프레임) 위치 변동, 제거 하 고 더 긴 안테나 위치 움직임을 유지. 우리는 3 프레임 필터 넓은 필터 (예: 5, 11, 또는 15 프레임) 정확도 감소 하는 동안 필터, 보다 더 나은 수행을 발견 했다. 예를 들어 R 코드를 필터 및 비디오 자습서를 사용 하 여 온라인58찾을 수 있습니다.
과학적인 도구로 값:
메서드를 빠르게 비용 효율적인 방식으로 움직임을 정확한 곤충 돌출부의 여부는 조사의 새로운 영역을 열어.
코 확장 반사 (%)은 조사 학습 및 곤충59의 다양 한 메모리를 일반적으로 사용 되 행동 응답 이다. 비록 비디오 및 시 분석 코 움직임65,66에 훨씬 더 복잡 한 토폴로지를 보여 이전 연구 일반적으로 당의 이진 확장 또는 아닙니다 측정에 의존 했습니다. 여기 메서드는 높은 시간적, 공간적 해상도에 코의 급속 한 정량화를 수 있습니다.
냄새에 대 한 응답에서 곤충 안테나 움직임 제대로 이해 하 고. 이 이유 하나는 안테나 너무 빠르게 안테나 운동 데이터를 비용 효율적인, 자동화 된 수단 사용할 수 되지 않은 이동 하는 경향이. 여기에 제시 된 방법은 빠르게 많은 조건에서 곤충의 큰 숫자에 대 한 안테나 운동 데이터를 가져오는 데 사용 될 수 있습니다. 이 수 원조, 예를 들어 안테나 움직임 다양 한 자극, 특히 휘발성 냄새에 대 한 응답에서 간의 매핑을 조사 연구. 30 Hz에서 프레임을 캡처하는 카메라를 사용 하 여 소프트웨어를 사용할 수 있는 더듬이 운동 역학 특성 15 Hz (Nyquist 한계). 더 높은 주파수에서 특성, 필요한 경우 더 높은 캡처 속도 (예를 들어, 60 또는 120 fps)와 카메라 활용 수 있습니다. 그러나, 더 빠른 컴퓨터는 실시간으로 더 높은 fps 비디오를 처리 하는 데 필요할 수 있습니다. 우리는 냄새, 그리고 어쩌면 일부 개별 냄새의 클래스 특성 타고 난 더듬이 움직임을가지고 추측. 경우 해당 클래스 또는 화합물 발견, 알 수 없는 수 냄새 또는 그들의 클래스 일반인된 곤충의 더듬이 움직임에서 검출 될 수 있는. 이러한 매핑이 존재 하는 경우 충분 한 안테나 운동 데이터와 첨단 기계 학습 알고리즘의 조합 그것을 폭로 하기 시작 한다. 또한, 어떻게 그 매핑, 개발 하는 동안 양식을 학습에 대 한 응답 변경 또는 함께 방해 유전자 개입 후 각 시스템의 기능에 대 한 통찰력을 제안할 수 있었다.마지막으로, 복잡 한 환경에서 냄새에 대 한 최적의 샘플링 방법을 계시 하는 경우이 작품 냄새의 인공 감지에 대 한 통찰력을 줄 수 있었다.
미래의 작업:
여기, 우리가 보였다는 안테나 운동 데이터 빠르게 획득 하 고 수 분석: 중요 한 동작 응답 우리의 소프트웨어에 의해 생성 된 데이터를 사용 하 여 검색 하 고 추가 조사의 여러 영역을 발견 했다.
자극을 elicited 안테나의 시간 과정 각도에서 편차와 기준선 복구와 어떤 자극 결론 리바운드 효과 그것의 의존 냄새 농도 조사 하 고 수학적으로 모델링 될 수 있습니다. 또한, appetitive에 의해 유도 된 안테나의 변경 또는 혐오 컨디셔닝 또한 소프트웨어 평가 될 수 있다.
냄새의 더 나은 차별화는 또한 탐험 수 있습니다. 이 연구에서는 순수에 냄새와 희석된 버전 x 35 elicited 비슷한 응답: 안테나, 평균, 빠르게 냄새 소스에서 철수 하 고 몇 초 후 사전 냄새 기준선에 반환에 등장. 우리는 심지어 희석된 버전 꿀 꿀벌에 대 한 매우 강한 후 각 자극을 되었을 수 있습니다 추측 하고있다. True 인 경우 농도의 광범위 한 범위 만약 더듬이 응답 차별화 냄새 확인을 사용할 수 있습니다. 또한, 보다 정교한 분석 더 나은 다른 냄새에 대 한 응답에서 더듬이 움직임에 차이 계시 할지도 모른다. 우리는이 원고를 SwarmSight 웹사이트67에 관심 있는 연구자 수에 숫자를 생성 하는 데 사용 하는 데이터 파일을 만들었습니다.
또한,이 원고를의 범위 밖에 소프트웨어는 이중 거울 (예를 들어 그림 1D 참조) 45 ° 각도와 챔버에 배치 하는 동물의 동영상 처리를 연장 수 있습니다. 이 정확 하 게 지역화 하 고는 부속 및 3D 공간에서 그들의 움직임을 추적 사용 될 수 있습니다. 그러나, 3 차원 추적을 위한 알고리즘 해야 효율적으로: (a) (b) 미러 각도, 결함에 대 한 올바른 사이드 미러 중 하나에 표시 하 고 (c) 카메라 때문에 왜곡에 대 한 계정 때 여러 안테나 사이 구분 포지셔닝.
마지막으로, 위치 정확도에 추가 상승은 칼만 필터68, 모델의 사용을 통해 실현 될 수 및 돌출부 속도 및 가속도 예측된 위치를 제한 하려면 같은 물리적 상태 정보를 활용. 그러나, 정확도에 어떤 이익 든 지 어떤 추가 계산 때문에 속도 감소에 대하여 평가 되어야 한다.
결론:
많은 곤충은 그들의 지역 환경에 휘발성 화합물을 적극적으로 안테나를 사용 합니다. 더듬이 움직임 패턴 곤충 냄새 인식 및 컨디셔닝, 독성 화합물, 그리고 유전 변경에 의해 영향에 대 한 통찰력을 제공할 수 있습니다. 마찬가지로, 코 움직임 냄새 인식 및 그것의 변조를 평가 하기 위해 사용 되었습니다. 그러나, 급속 하 게 고해상도 돌출부 운동 데이터의 대량을 얻기 어려운 되었습니다. 여기, 프로토콜 및 소프트웨어 같은 작업을 자동화 하는 설명 되어 있습니다. 요약 하자면, 우리 생성 하 고 시연 어떻게 저렴 한 하드웨어의 조합, 일반적인 동물 준비, 그리고 오픈 소스 소프트웨어 빠르게 고해상도 곤충 돌출부 운동 데이터를 가져오는 데 사용할 수 있습니다. 소프트웨어, 그것은 속도와 정확성, 인간의 점자를 능가 하는 어떻게의 출력 데이터를 분석 하 고 시각화 수 어떻게 출력 표시 했다.
The authors have nothing to disclose.
JB, SMC, 및 RCG SMC에 NIH R01MH1006674와 RCG NIH R01EB021711에 의해 지원 되었다. CMJ와 BHS NSF 아이디어 연구소 프로젝트에 의해 지원 되었다에 “” BHS를 후 각 코드를 크래킹. 우리가이 연구에서 그들의 지원에 대 한 카일 Steinmetz, 린 Oboyle, 그리고 레이첼 Halby 감사 합니다.
Insect harness | N/A | N/A | Use materials needed for Protocol sections 1-3.1.1 of Smith & Burden (2014) |
Odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Vacuum source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
LED connected to odor delivery source | N/A | N/A | Use materials needed for Protocol section 3 of Smith & Burden (2014) |
Low Voltage Soldering Iron | Stannol | Low Voltage Micro Soldering Iron 12V, 8W | |
DC Power Supply | Tekpower | HY152A | |
White sheet of paper | Georgia-Pacific | 998606 | Any white sheet of paper can be used as alternative |
Tripod | AmazonBasics | 50-Inch Lightweight Tripod | Optional |
Camera | Genius | WideCam F100 | FLIR Flea3 or another camera with manual focus can be used. |
Camera software | Genius | N/A | Software comes with camera. On MacOS, Photo Booth app can be used to record videos. |
Camera shutter speed software | Genius | N/A | Genius camera software allows shutter speed setting. In Mac OS, iGlasses by ecamm can be used instead: http://www.ecamm.com/mac/iglasses/ |
Windows Operating System | Microsoft | Windows 7 Professional | Versions 7 or later are compatible. Oracle VirtualBox, Parallels Desktop, or VMWare Fusion can be used to create a Windows virtual machine in MacOS environments. |
SwarmSight software | SwarmSight | Appendage Tracking | Download from http://SwarmSight.org |
R software | R Project | R 3.4.0 | Download from: https://cran.r-project.org/bin/windows/base/ |
R Studio software | RStudio | RStudio Desktop | Download from: https://www.rstudio.com/products/rstudio/download/ |