본 연구는 주관적 평가와 객관적 평가를 결합한 사용성 테스트의 실험적 패러다임을 제시한다. 객관적 평가는 NeuroIS(Neuro-Information-Systems) 방법을 채택했으며 주관적 평가는 사용성 설문지와 NASA-Task Load Index(NASA-TLX) 척도를 채택했습니다.
본 연구에서는 경영정보시스템(MIS)에서 신기술의 사용성 테스트를 위한 실험적 패러다임을 소개한다. 사용성 테스트에는 주관적 평가와 객관적 평가가 모두 포함되었습니다. 주관적인 평가를 위해 사용성 설문지와 NASA-TLX 척도를 채택했습니다. 객관적인 평가를 위해 NeuroIS(Neuro-Information-Systems) 방법을 사용했습니다. NeuroIS 관점에서 이 연구는 다중 모드 측정을 위해 모바일 fNIRS와 시선 추적 안경을 사용하여 실제 행동 실험에 사용되는 인지 신경과학 도구의 생태학적 타당성 문제를 해결했습니다. 본 연구에서는 사물인터넷(IoT)에 통합된 증강현실(AR)을 실험 대상으로 활용했다. 두 가지 정보 검색 모드(AR 대 웹사이트) 간의 신경 영상 데이터, 생리학적 데이터, 사용성 설문지 및 NASA-TLX 척도 데이터의 차이를 비교한 결과, AR을 사용한 정보 검색은 소비 의사 결정 과정에서 웹사이트를 통한 정보 검색에 비해 효율성이 높고 인지 부하가 낮았습니다. 사용성 실험 결과는 소매업의 신흥 기술인 AR이 소비자 경험을 효과적으로 향상시키고 구매 의도를 높일 수 있음을 보여줍니다. 본 연구의 주관적 평가와 객관적 평가를 결합한 실험 패러다임은 증강현실, 가상현실, 인공지능, 웨어러블 기술, 로봇공학, 빅데이터 등 신기술의 사용성 테스트에 적용될 수 있다. 그것은 신흥 기술의 채택과 인간-컴퓨터 상호 작용에서 사용자 경험을 위한 실용적인 실험 솔루션을 제공합니다.
일반적으로 증강 현실, 가상 현실, 인공 지능, 웨어러블 기술, 로봇 공학 및 빅 데이터로 대표되는 소비자와 상호 작용하는 6가지 프론티어 기술은 소비자 행동의 많은 이론적 모델을 재구성하고 있습니다1. 증강 현실(AR)은 소비자 경험을 향상시키고 소비자 만족도를 향상시킬 수 있는 새로운 기술입니다. 텍스트 정보, 이미지, 비디오 및 기타 가상 항목을 실제 시나리오에 겹쳐서 가상과 현실을 융합하여 설명, 안내, 평가 및 예측을 통해 현실 세계의 정보를 향상시킵니다2. AR은 새로운 종류의 인간-컴퓨터 상호 작용을 제공하여 소비자에게 몰입형 쇼핑 경험을 제공하고 많은 응용 프로그램의 개발로 이어졌습니다3,4. 그러나 AR 서비스에 대한 소비자의 수용은 여전히 미미하므로 많은 기업들이 AR 기술 5,6을 채택하는 것에 대해 신중합니다. 기술 수용 모델(TAM)은 새로운 정보 기술의 채택 행동을 설명하고 예측하는 데 널리 사용되어 왔다 7,8. TAM에 따르면, 새로운 기술의 채택 의도는 주로 유용성에 달려 있습니다9. 그러므로, TAM 관점에서 AR 서비스의 느린 소비자 수용에 대한 가능한 설명은 새로운 기술들의 유용성과 관련될 수 있으며, 이는 쇼핑하는 동안 AR의 유용성을 평가할 필요성을 강조한다(10,11).
사용성(usability)은 특정 사용자(12)에 의해 특정 맥락에서 특정 목표를 달성하는 효과성, 효율성 및 만족으로 정의된다. 현재 사용성을 평가하는 데는 주관적 평가와 객관적 평가의 두 가지 주요 방법이 있다13. 주관적 평가는 주로 설문지와 척도를 사용한 자기보고 방법에 의존합니다. 이러한 연구 라인에 이어, 이 연구에서 사용된 설문지는 목표를 달성하기 위한 정보 검색 모드와 관련된 5가지 특징을 포함했다: (1) 효율성, (2) 사용 용이성, (3) 기억력(기억하기 쉬움), (4) 만족도(정보 검색 모드가 편안하고 쾌적함), (5) 다른 대상에 대한 일반화 가능성14,15,16. 또한, 학습자(17)의 인지 시스템에 대한 특정 작업을 수행하는 동안의 부하를 나타내는 인지 부하는 유용성(18, 19)의 또 다른 핵심 지표이다. 따라서 본 연구에서는 NASA 작업 부하 지수(NASA-TLX)13,20을 주관적인 지표로 사용하여 AR을 사용하여 쇼핑하는 것과 웹사이트 서비스를 사용하여 쇼핑하는 동안 인지 부하를 측정했습니다. 자기보고 방법은 개인이 자신의 태도 및/또는 이전 행동을 정확하게 보고할 수 있는 능력과 의지에 의존한다는 점은 주목할 만하다.21 잘못된 보고, 과소 보고 또는 편견의 가능성을 열어둔다. 따라서 객관적인 측정은 전통적인 주관적 방법(22)을 보완하는 귀중한 수단이 될 수 있다.
NeuroIS(Neuro-Information-Systems) 방법은 AR 사용성을 객관적으로 평가하는 데 사용됩니다. 2007년 ICIS 컨퍼런스에서 Dimoka et al.이 만든 NeuroIS는 정보 시스템(IS)23 분야에서 점점 더 많은 관심을 받고 있습니다. NeuroIS는 인지 신경과학의 이론과 도구를 사용하여 IS 기술의 개발, 채택 및 영향을 더 잘 이해합니다24,25. 현재까지 기능적 자기 공명 영상 (fMRI), 뇌파 검사 (EEG), 양전자 방출 컴퓨터 단층 촬영, 자기 뇌파 검사 (MEG) 및 기능적 근적외선 분광법 (fNIRS)과 같은인지 신경 과학 도구가 NeuroIS 연구26,27에서 일반적으로 사용됩니다. 예를 들어, Dimoka와 Davis는 fMRI를 사용하여 웹 사이트와 상호 작용할 때 피험자의 활성화를 측정했으며, 사용 편의성이 전두엽 피질 (PFC) 28의 활성화에 영향을 미친다는 사실을 밝혔습니다. 유사하게, EEG를 사용하여, Moridis et al. 정면 비대칭이 유용성과 밀접한 관련이 있음을 발견했다29. 이러한 결과는 PFC가 유용성에 중요한 역할을 할 수 있음을 나타냅니다.
이전의 NeuroIS 연구에서 성과가 있었지만, 이 연구에 사용된 패러다임은 생태학적 타당성이 낮은 피험자의 신체 움직임을 제한하여 이론적, 실제적 기여를 제한했습니다. 쇼핑하는 동안 AR과 같은 기술과 상호 작용하려면 자유로운 신체 움직임이 필요하며 주제 제약은 He et al.22에서 논의된 바와 같이 소비자 경험을 크게 손상시킵니다. 따라서 정보 시스템의 유용성 테스트를 위해서는 생태 학적 타당성이 높은 뇌 영상 도구가 필요합니다. 이와 관련하여, fNIRS는 독특한 기술적 이점을 가지고 있다: fNIRS 실험 동안, 피험자들은 어느 정도 자유롭게 움직일 수 있다(30 ). 예를 들어, 이전 연구에서는 휴대용 fNIRS31을 사용하여 사이클링과 같은 여러 야외 활동 중에 피험자의 뇌 활성화를 측정했습니다. 또한, fNIRS는 비용이 저렴하고 오랜 기간 동안 뇌 활성화를 측정할 수 있다32. 본 연구에서는 웹사이트 대비 AR의 쇼핑 서비스를 이용하면서 피험자의 인지 부하 수준을 객관적으로 측정하기 위해 fNIRS를 사용하였다.
아이트래킹은 최근 몇 년 동안 사용성 테스트에서 사용자의 시각적 주의를 감지하는 데 유용한 정신생리학적 기술이었으며33 NeuroIS 연구에서도 널리 사용되었습니다34. 이 기술은 관찰자의 초점이 주의가 향하는 곳으로 이동하고, 시각적 주의가 정신적 과정을 나타내며, 시각적 주의의 패턴이 인간의 인지 전략을 반영한다고 가정하는 눈-마음 가설에 의존합니다(35,36,37). AR 연구 분야에서 Yang 등은 시선추적을 사용하여 AR 광고가 소비자의 호기심과 관심을 증가시켜 광고에 대한 태도를 개선한다는 것을 발견했다38. 현재 연구에서는 시선추적을 사용하여 총 고정 기간, 평균 고정 기간, 고정 빈도, 단속 빈도, 평균 단속 기간 및 평균 스캔 경로 길이와 같은 매개변수를 포함하여 피험자의 주의력을 측정했습니다.
요약하면, 본 연구에서는 AR 어플리케이션을 예로 들어 주관적 평가와 객관적 평가를 결합한 사용성 테스트 방법을 제안한다. 주관적 평가에는 사용성 설문지와 NASA-TLX 척도를 사용하였고, 객관적 평가에는 fNIRS와 시선추적을 결합한 멀티모달 척도를 사용하였다39,40.
실험 설계
실험 재료: 실제 쇼핑 상황을 시뮬레이션하기 위해 실험실에 제품 선반을 만들고 두 가지 브랜드의 미네랄 워터를 실험 재료로 선반에 배치했습니다. 필수품으로 미네랄 워터를 선택한 이유는 참가자들이 직업적 배경, 성별 및 구매 능력에 근거한 주관적인 평가에 편견이 없기 때문입니다. 브랜드의 가격, 용량 및 친숙도는 관련 없는 변수의 간섭을 제거하기 위해 통제되었습니다( 재료 표 참조).
사용성 테스트에는 스마트폰 기반 AR 애플리케이션(보충 그림 1)과 웹사이트(보충 그림 2)의 두 가지 조건이 포함되었습니다. AR 애플리케이션은 AR 엔진을 기반으로 프로그래밍되었습니다. 이 웹 사이트는 프론트 엔드의 경우 Bootstrap을, 백엔드의 경우 Flask를 기반으로 Python을 사용하여 개발되었습니다. AR 애플리케이션과 웹사이트는 스마트폰에서 실행 및 탐색되었습니다. 두 가지 브랜드의 미네랄 워터 중 하나는 AR 조건에서 실험 재료로 사용되었고 다른 하나는 웹 사이트 조건에서 사용되었습니다.
실험 작업: 참가자들은 IoT 애플리케이션 컨텍스트에서 파생된 4가지 정보 검색 작업(수질, 저장 온도, 일치하는 식단 및 리터당 가격)을 수행하도록 요청받았습니다. 이 네 가지 정보 항목은 소비자가 미네랄 워터를 구입할 때 일반적으로주의를 기울이는 것입니다. 참가자가 작업을 완료하는 데 시간 제약이 없었습니다.
수질: 미네랄 워터의 품질에는 일반적으로 총 용존 고형물(TDS)과 pH 값의 두 가지 지표가 포함됩니다. TDS는 미네랄 함량을 반영하고 pH 값은 물의 산도/알칼리도를 나타냅니다. 이 두 지표는 미네랄 워터에 함유 된 미량 원소와 관련이 있으며 맛에 영향을 미칩니다. 예를 들어, Bruvold와 Ongerth는 TDS 함량41에 따라 물의 감각 품질을 5 가지 등급으로 나눴습니다. Marcussen et al. 물은 100-400 mg/L TDS42 범위에서 우수한 감각적 특성을 가지고 있음을 발견했습니다. 본 연구에 사용된 두 브랜드의 미네랄 워터의 TDS와 pH 값은 각각 TDS와 pH 측정기를 사용하여 측정한 후 AR 애플리케이션과 웹사이트에 표시했습니다. 작업을 수행하는 동안 참가자는 미네랄 워터의 TDS 및 pH 값을 보고하고 이 값이 공칭 범위 내에 있는지 확인해야 했습니다. AR 조건에서 참가자는 물병을 스캔하여 이 정보를 얻을 수 있습니다. 웹사이트 조건에서 참가자는 (1) 생수 병 뒷면의 숫자 코드 찾기, (2) 생수의 TDS 및 pH 값을 얻기 위해 쿼리 상자에 숫자 코드 입력, (3) 웹사이트에서 생수의 공칭 범위 검색, (4) TDS 및 pH 값이 제품의 공칭 범위 내에 있는지 구두로 보고합니다.
보관 온도: 광천수의 품질은 온도 변화로 인해 운송 및 보관 중에 저하될 수 있습니다. 실험에 따르면 미네랄 워터의 적절한 온도는 운송 및 보관 중에 5 °C에서 25 °C 사이입니다. 이 온도 범위에서, 물에는 나쁜 냄새가 나지 않는다(43). 본 실험에서는 두 종류의 미네랄 워터를 서로 다른 장소에 보관하는 온도를 AR 어플리케이션 및 웹사이트에 표시하였다. 작업을 수행하는 동안 참가자는 저장 위치와 해당 수온을 보고해야 했습니다. AR 조건에서 참가자는 물병을 스캔하여 이 정보를 얻을 수 있습니다. 웹 사이트 조건에서 참가자는 쿼리 상자에 숫자 코드를 입력하여이 정보를 얻을 수 있습니다.
어울리는 식단: 다양한 브랜드의 미네랄 워터는 독특한 미네랄 성분과 기포 함량으로 인해 다양한 메뉴에 적합합니다44. 본 실험에서, 두 가지 미네랄 워터에 대한 식이 권장 사항을 AR 애플리케이션 및 웹사이트에 표시하였다. 작업을 수행하는 동안 참가자들은 미네랄 워터가 메뉴의 음식과 어떻게 일치하는지 보고해야 했습니다. AR 조건에서 참가자는 물병을 스캔하여 이 정보를 얻을 수 있습니다. 웹 사이트 조건에서 참가자는 웹 사이트에서이 정보를 검색 할 수 있습니다.
리터당 가격: 현재 중국의 생수병 라벨에는 리터당 가격 정보가 표시되지 않습니다. 이것은 소비자가 다른 종류의 미네랄 워터의 단가 차이를 구별하기 어렵게 만듭니다. 따라서 본 실험에서는 참가자들에게 리터당 가격을보고해야했습니다. AR 애플리케이션에서 참가자는 물병을 스캔하여 리터당 가격을 직접 얻을 수 있습니다. 웹 사이트 조건에서 정보는 라벨의 단가와 부피에서 계산할 수 있습니다.
이 연구는 표 1에 설명된 대로 참가자 포함 및 제외 기준과 함께 참가자 내 설계를 사용했습니다. 총 40명의 참가자가 실험을 완료했습니다(남성 20명, 여성 20명, 평균 연령 = 21.31± 1.16세). 모든 참가자는 Jiangsu University of Science and Technology의 학부생이었고 무작위로 두 그룹(A와 B)으로 배정되었습니다. 순서 효과를 피하기 위해 실험 순서는 두 그룹(A/B)에서 균형을 이루었습니다. 구체적으로 한 그룹은 AR 조건을 먼저 수행한 다음 웹 사이트 조건을 수행했고, 다른 그룹은 웹 사이트를 먼저 수행한 다음 AR 조건을 수행했습니다. 참가자들은 실험 준비를 완료하고, 기구를 착용하고, 실험 작업을 수행해야 했습니다. 실험 간 간격은 피질 활성화가 기준선 수준으로 돌아갈 수 있도록 10초로 설정되었으며, 후속 작업에서 교차 영향을 피했습니다. AR/웹사이트 실험이 끝나면 참가자들은 사용성 설문지와 NASA-TLX 척도를 작성해야 했습니다. 실험 순서도는 그림 1에 나와 있습니다. 실험 설정의 사진은 그림 2에 나와 있습니다.
표 1: 연구에 대한 포함 및 제외 기준. 이 표를 다운로드하려면 여기를 클릭하십시오.
그림 1: 실험 순서도. 각 실험은 ~45분 동안 지속되었으며 작업 사이에 10초의 휴식 시간이 있었습니다. 이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.
그림 2: 실험 장면의 설정 예. 실험 재료, 참가자 및 장비가 표시됩니다. 이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.
프로토콜 내의 중요한 단계
실험 중에 결과의 신뢰성을 보장하기 위해 몇 가지 단계가 고려되었습니다. 첫째, 실험에 사용된 미네랄 워터의 브랜드에 익숙한 참가자는 브랜드에 대한 지식을 바탕으로 작업을 수행했을 것이기 때문에 제외되었습니다. 둘째, 참가자들은 참가자들이 AR 및 웹 사이트 운영에 익숙해 지도록 다른 브랜드의 미네랄 워터를 사용하여 사전 실험을 완료했습?…
The authors have nothing to disclose.
이 연구는 장쑤성 교육부 철학 및 사회 과학 연구 프로젝트(2018SJA1089), 장쑤성 해외 연구 장학금(JS-2018-262), 저장성 자연과학 재단(LY19G020018) 및 중국 국립 자연 과학 재단(NSFC)(72001096).
AR Engine | Unity Technologies | 2020.3.1 | AR development platform |
AR SDK | PTC | Vuforia Engine 9.8.5 | AR development kit |
Eye Tracker (eye tracking glasses) | SMI, Germany | SMI ETG | Head-mounted eye tracking system |
Eye Tracker Recording software | SMI, Germany | iViewETG Software | Eye Tracker Recording software |
fNIRS probes | Artinis Medical Systems BV, Netherlands | Artinis PortaLite | Light source: Light emitting diodes Wavelengths: Standard nominal 760 and 850 nm |
fNIRS software | Artinis Medical Systems BV, Netherlands | OxySoft 3.2.70 | fNIRS data recording and analysis software |
Mineral Water | Groupe Danone | Badoit | Experimental material in the AR condition Capacity: 330ml Price: 6 |
Mineral Water | Nestlé | Acqua Panna | Experimental material in the website condition Capacity: 250ml Price: 5.4 |
Skin Preparation Gel | Weaver and Company | Nuprep | Clean the forehead skin of the participants |
Smartphone | Xiaomi | Redmi K30 Ultra | Smartphone-based AR application and website |