Summary

Onderzoek naar de productie van gebaren in de aanwezigheid van communicatie-uitdagingen

Published: January 26, 2024
doi:

Summary

Hier presenteren we een protocol dat de zichtbaarheid van de gesprekspartner manipuleert om de impact ervan op de productie van gebaren in interpersoonlijke communicatie te onderzoeken. Dit protocol is flexibel voor geïmplementeerde taken, onderzochte gebaren en communicatiemodaliteit. Het is ideaal voor bevolkingsgroepen met communicatieproblemen, zoals tweedetaalleerders en personen met een autismespectrumstoornis.

Abstract

Begrijpen waarom sprekers hun co-speech handgebaren aanpassen wanneer ze met gesprekspartners spreken, biedt waardevol inzicht in hoe deze gebaren bijdragen aan interpersoonlijke communicatie in face-to-face en virtuele contexten. De huidige protocollen manipuleren de zichtbaarheid van sprekers en hun gesprekspartners tegelijkertijd in een face-to-face context om de impact van zichtbaarheid op de productie van gebaren te onderzoeken wanneer communicatie een uitdaging is. In deze protocollen voeren sprekers taken uit zoals het onderwijzen van woorden uit een onbekende tweede taal of het vertellen van de gebeurtenissen in cartoonvignetten aan een gesprekspartner die een andere deelnemer of een bondgenoot is. Bij het uitvoeren van deze taken zijn sprekers zichtbaar of niet-zichtbaar voor hun gesprekspartner, en is de spreker zichtbaar of niet-zichtbaar voor de deelnemer. In de woordleertaak produceren sprekers en gesprekspartners die voor elkaar zichtbaar zijn meer representatieve gebaren, die betekenis overbrengen via handvorm en beweging, en deiktische (wijzende) gebaren dan sprekers en gesprekspartners die niet voor elkaar zichtbaar zijn. In het narratieve hervertelprotocol produceerden adolescenten met een autismespectrumstoornis (ASS) meer gebaren bij het spreken met zichtbare gesprekspartners dan niet-zichtbare gesprekspartners. Een grote kracht van het huidige protocol is de flexibiliteit in termen van de onderzochte taken, populaties en gebaren, en het huidige protocol kan zowel in videoconferenties als in face-to-face contexten worden geïmplementeerd. Het huidige protocol heeft dus het potentieel om het begrip van gebarenproductie te vergroten door de rol ervan in interpersoonlijke communicatie in populaties met communicatieproblemen op te helderen.

Introduction

Co-spraakgebaren (tot nu toe gebaren) – betekenisvolle handbewegingen die gelijktijdig met spraak worden geproduceerd – dragen bij aan interpersoonlijke communicatie door informatie over te brengen die een aanvulling vormt op de verbale inhoud1. Volgens de meest gebruikte taxonomie 2,3 kunnen gebaren worden onderverdeeld in drie categorieën: representatieve gebaren, die referenten overbrengen via hun vorm en beweging (bijv. de handen heen en weer wapperen om vliegen over te brengen); beat-gebaren, die de nadruk leggen via eenvoudige puntvormige bewegingen (bijv. de dominante hand iets naar beneden bewegen in combinatie met elk woord in de zin “op dit moment”); en deiktische gebaren, die de aandacht vestigen op de aan- of afwezigheid van een entiteit door te wijzen (bijvoorbeeld de duim naar achteren zwaaien om iets achter zichzelf aan te geven). Representatieve gebaren kunnen verder worden onderverdeeld in twee extra categorieën: iconische gebaren, die concrete referenten overbrengen (bijv. een vogel), en metaforische gebaren, die metaforische referenten overbrengen (bijv. extase). Omdat gebaar en spraak voortkomen uit dezelfde conceptuele inhoud, zijn ze in betekenis nauw verwant 4,5. Door te dienen als een iconisch visueel medium voor communicatie, kunnen gebaren helpen compenseren wanneer zich problemen voordoen bij het begrijpen van gesproken taal6, hetzij als gevolg van individuele factoren zoals beperkte vaardigheid in de gesproken taal 7,8 of omgevingsfactoren zoals moeite met het horen van spraak 9,10. Gebaren zijn dus een integraal onderdeel van het begrijpen van interpersoonlijke communicatie in face-to-face en virtuele contexten, en geven inzicht in hoe sprekers en luisteraars informatie multimodaal overbrengen en begrijpen.

Er zijn verschillende gestructureerde interactieve taken ontwikkeld om te meten hoe gebaren de interpersoonlijke communicatie beïnvloeden. Deze taken omvatten interviews, waarin deelnemers reageren op vragen door hun persoonlijke ervaringen te beschrijven 11,12; beeldbeschrijving, waarbij een statisch beeld aan de deelnemers wordt gepresenteerd om 13,14 te beschrijven; puzzel oplossen, waarbij deelnemers beschrijven hoe ze een puzzel kunnen oplossen door onderdelen juist ruimtelijk te oriënteren15,16; regiebepaling, waarbij deelnemers de opdracht krijgen om aanwijzingen te geven naar een locatie die luisteraars niet kennen 17,18,19; en verhalende hervertelling, waarbij deelnemers een cartoon bekijken die een opeenvolging van gebeurtenissen weergeeft en deze vervolgens 20,21,22 vertellen. Veel van de taken die in de hierboven genoemde studies worden gebruikt, omvatten ruimtelijke inhoud en actie, die gebaar met bijzondere doeltreffendheid overbrengt 15,23,24,25. In de taken voor de hierboven genoemde onderzoeken produceren deelnemers doorgaans gebaren in combinatie met taal, en wordt informatie die via gebaren wordt overgebracht en de relatie met gelijktijdig geproduceerde taal beoordeeld. Als alternatief kunnen deelnemers een opname bekijken van iemand die gebaart (of niet gebaart) en taal produceert bij het voltooien van een van deze taken, waarna het begrip van de deelnemers wordt beoordeeld. Al deze taken kunnen zowel virtueel als face-to-face worden uitgevoerd, waardoor gegevens van een breed scala aan deelnemers kunnen worden verzameld en tussen modaliteiten kunnen worden vergeleken.

De impact van gebaren op interpersoonlijke communicatie is geïmplementeerd bij een breed scala aan deelnemers. Van bijzonder belang waren populaties met communicatieproblemen, waaronder jonge kinderen 26,27,28,29,30, gebruikers van een tweede taal (L2) 8,31,32,33, personen met een autismespectrumstoornis (ASS)20,21,22,34, personen met specifieke taalstoornis 35,36,37, personen met afasie 12,38, personen met hersenletsel39 en personen die stotteren40,41. Dit werk heeft aangetoond dat, hoewel veel van deze populaties gebaren kunnen gebruiken om de communicatie te vergemakkelijken, sommigen, zoals personen met een autismespectrumstoornis, moeite kunnen hebben met het benutten van gebaren om effectief te communiceren. De bevindingen suggereren dat dit te wijten kan zijn aan de mate waarin deze populaties rekening houden met het ontwerp van het publiek en omgevingssignalen, wat de praktische implicaties van deze verklaringen voor de impact van gebaren op communicatie benadrukt.

Een belangrijk kenmerk dat inzicht geeft in de impact van gebaren op interpersoonlijke communicatie is de zichtbaarheid van de gesprekspartner. Een vraag van groot belang op het gebied van gebarenonderzoek is de mate waarin deelnemers gebaren maken voor hun eigen voordeel, wat wijst op het overdragen van cognitieve operaties op het lichaam, versus het voordeel van hun gesprekspartners, wat wijst op het gebruik van gebaar om te communiceren. Deze vraag is onderzocht door de impact van de (niet-)zichtbaarheid van de gesprekspartner op de productie van gebaren te onderzoeken in face-to-face contexten via het gebruik van een ondoorzichtige partitie26,42, alsook in telefooncontexten13 en virtuele contexten43. Over het algemeen geven de resultaten van dit werk aan dat, hoewel sprekers gebaren maken voor hun eigen voordeel, ze meer representatieve gebaren produceren wanneer ze communiceren met zichtbare dan niet-zichtbare gesprekspartners, terwijl de productie van beat-gebaren vergelijkbaar is, ongeacht de zichtbaarheid van de gesprekspartner. Zo suggereren ze dat representatieve gebaren communicatie in verschillende contexten vergemakkelijken, wat suggereert dat sprekers rekening houden met het perspectief van hun gesprekspartners en hun gebarenproductie dienovereenkomstig aanpassen. Hoewel eerder onderzoek naar het effect van zichtbaarheid van gesprekspartners een belangrijke rol heeft gespeeld bij het verschaffen van inzicht in de bijdragen van gebaren aan interpersoonlijke communicatie, heeft het zich gericht op Engels als eerste taal (L1) in typisch ontwikkelende populaties, dus het is onduidelijk of de bevindingen kunnen worden uitgebreid naar populaties met communicatieproblemen. Twee van dergelijke populaties zijn L2-leerlingen, die moeite kunnen hebben om te communiceren via spraak in de doeltaal, en kinderen met ASS, van wie de verbale en non-verbale communicatie abnormaal zijn. Bovendien is er weinig onderzoek gedaan naar de impact van de zichtbaarheid van de gesprekspartner op de productie van gebaren in virtuele contexten, waardoor het effect van de zichtbaarheid van de gesprekspartner op de deelnemer kan worden losgekoppeld van het effect van de zichtbaarheid van de deelnemer op de gesprekspartner, dus de reproduceerbaarheid van bevindingen uit deze contexten is momenteel onduidelijk. Ten slotte is er enig onderzoek gedaan naar de impact van de zichtbaarheid van de gesprekspartner op de productie van specifieke soorten gebaren, dus het is onduidelijk of de productie van andere soorten gebaren op dezelfde manier wordt beïnvloed door de zichtbaarheid van de gesprekspartner.

De hieronder beschreven protocollen manipuleren de zichtbaarheid van de gesprekspartner om de productie van gebaren in uitdagende omstandigheden te onderzoeken: L2-woordleren en verhalende hervertelling door personen met ASS. Het L2-protocol voor het leren van woorden slaat een brug tussen onderzoek naar de impact van het observeren van gebaren op het leren van L2-woorden en onderzoek naar de bijdrage van gebaren aan communicatie via een interactief woordleerparadigma. In dit paradigma leren deelnemers die niet bekend zijn met de doeltaal woorden in de doeltaal en leren deze woorden vervolgens aan andere deelnemers die niet bekend zijn met de doeltaal, waardoor de impact van de zichtbaarheid van de gesprekspartner op de productie van gebaren kan worden onderzocht in de vroegste stadia van L2-verwerving in een gesprekscontext. Het paradigma van cartoonhervertelling maakt gebruik van een veelgebruikte narratieve herverteltaak waarbij verschillen in gebarenproductie zijn waargenomen wanneer de zichtbaarheid van de gesprekspartner wordt gemanipuleerd met een nieuwe populatie: adolescenten met ASS. Deze populatie is van belang omdat de taalontwikkeling, inclusief de productie van gebaren, volwassen is in de adolescentie, en ASS brengt problemen met zich mee met verbale en non-verbale communicatie, inclusief gebaren, evenals een gebrek aan gevoeligheid voor de communicatieve behoeften van gesprekspartners. Samen geven deze protocollen inzicht in de mate waarin de productie van gebaren afhankelijk is van – en omgekeerd kan compenseren voor – spraak wanneer interpersoonlijke communicatie uitdagend is.

Op basis van bevindingen die aantonen hoe de zichtbaarheid van de luisteraar de gebarenproductie beïnvloedt door L1 Engelstaligen 13,26,42,43, werd verondersteld dat deelnemers meer algemene gebaren en meer representatieve gebaren zouden produceren bij het bespreken van L2-woorden met een zichtbare dan een niet-zichtbare gesprekspartner. Op basis van bevindingen die afwijkingen in de productie van gebaren bij ASS20,44 aantoonden, werd verondersteld dat adolescenten met ASS minder algemene gebaren en minder representatieve en deictische gebaren zouden produceren dan typisch ontwikkelende (TD) adolescenten. Bovendien werd op basis van bevindingen die aantoonden dat ASS moeite met het nemen van perspectief met zich meebrengt45, verondersteld dat de gebarenproductie door adolescenten met ASS niet significant zou verschillen in de aanwezigheid van zichtbare en niet-zichtbare gesprekspartners. Ten slotte werd een interactie tussen diagnose en zichtbaarheid voorspeld, zodat de productie van gebaren niet zou verschillen door zichtbaarheid voor adolescenten met ASS, maar wel voor TD-adolescenten.

Protocol

Alle deelnemers gaven schriftelijke toestemming en alle protocollen werden goedgekeurd door de Institutional Review Boards van de gastinstelling. De protocollen voor het leren van L2-woorden en het hervertellen van cartoons werden geïmplementeerd in de onderzoeken waarop de representatieve resultaten zijn gebaseerd21,33. Hoewel deze protocollen tot nu toe alleen in persoonlijke contexten zijn uitgevoerd, wordt momenteel een gere…

Representative Results

L2 woord lerenImplementatie: De hieronder gerapporteerde resultaten zijn gebaseerd op gegevens verzameld van 52 gezonde deelnemers (21 mannen, 31 vrouwen; leeftijd: M = 20,15, SD = 1,73, bereik = 18-28) volgens het hierboven beschreven protocol. Alle spraak en gebaren werden gecodeerd door een primaire codeur, die niet blind kon zijn voor de zichtbaarheidsomstandigheden, aangezien de gegevens van zowel de spreker als de gesprekspartner werde…

Discussion

Het huidige protocol manipuleert de zichtbaarheid van de spreker en gesprekspartner ten opzichte van elkaar en geeft inzicht in de impact ervan op de productie van gebaren onder uitdagende omstandigheden: L2-woordleren en narratieve hervertelling door adolescenten met ASS. Dit protocol kan zowel persoonlijk als virtueel worden geïmplementeerd, waardoor de zichtbaarheid van deelnemer en gesprekspartner tegelijkertijd of onafhankelijk kan worden gemanipuleerd. Het kan een breed scala aan …

Declarações

The authors have nothing to disclose.

Acknowledgements

De ontwikkeling en validatie van het L2-protocol voor het leren van woorden werd ondersteund door een National Defense Science and Engineering Graduate (NDSEG) Fellowship (32 CFR 168a), uitgegeven door het US Department of Defense Air Force Office of Scientific Research. De ontwikkeling en validatie van het protocol voor het hervertellen van cartoons met adolescenten met ASS werd ondersteund door een Ruth S. Kirschstein Institutional National Research Service Award (T32) van de National Institutes of Mental Health. De auteur bedankt Rachel Fader, Theo Haugen, Andrew Lynn, Ashlie Caputo en Marco Pilotta voor hulp bij het verzamelen en coderen van gegevens.

Materials

Computer Apple Z131 24" iMac, 8-core CPU & GPU, M3 chip
Conference USB microphone Tonor B07GVGMW59
ELAN The Language Archive Software application used to transcribe speech and gesture
Video Recorder Vjianger B07YBCMXJJ FHD 2.7K 30 FPS 24 MP 16X digital zoom 3" touch screen video recorder with renote control and tripod
Weschler Abbreviated Scale of Intelligence Pearson 158981561 Used to verify full scale IQ ≥ 80 in Morett et al. (2016)

Referências

  1. Hostetter, A. B. When do gestures communicate? A meta-analysis. Psychological Bulletin. 137, 297 (2011).
  2. McNeill, D. . Hand and Mind. , (1992).
  3. McNeill, D. . Gesture and thought. , (2005).
  4. Alibali, M. W., Kita, S., Young, A. J. Gesture and the process of speech production: We think, therefore we gesture. Language and Cognitive Processes. 15, 593-613 (2000).
  5. McNeill, D. So you think gestures are nonverbal. Psychological Review. 92 (3), 350-371 (1985).
  6. Dargue, N., Sweller, N., Jones, M. P. When our hands help us understand: A meta-analysis into the effects of gesture on comprehension. Psychological Bulletin. 145 (8), 765 (2019).
  7. Dahl, T. I., Ludvigsen, S. How I see what you’re saying: The role of gestures in native and foreign language listening comprehension. The Modern Language Journal. 98 (3), 813-833 (2014).
  8. Sueyoshi, A., Hardison, D. M. The role of gestures and facial cues in second language listening comprehension. Language Learning. 55 (4), 661-699 (2005).
  9. Drijvers, L., Özyürek, A. Visual context enhanced: The joint contribution of iconic gestures and visible speech to degraded speech comprehension. Journal of Speech, Language, and Hearing Research. 60 (1), 212-222 (2017).
  10. Obermeier, C., Dolk, T., Gunter, T. C. The benefit of gestures during communication: Evidence from hearing and hearing-impaired individuals. Cortex. 48 (7), 857-870 (2012).
  11. Feyereisen, P., Havard, I. Mental imagery and production of hand gestures while speaking in younger and older adults. Journal of Nonverbal Behavior. 23, 153-171 (1999).
  12. Sekine, K., Rose, M. L., Foster, A. M., Attard, M. C., Lanyon, L. E. Gesture production patterns in aphasic discourse: In-depth description and preliminary predictions. Aphasiology. 27 (9), 1031-1049 (2013).
  13. Bavelas, J. B., Gerwing, J., Sutton, C., Prevost, D. Gesturing on the telephone: independent effects of dialogue and visibility. Journal of Memory and Language. 58 (2), 495-520 (2008).
  14. Melinger, A., Levelt, W. J. Gesture and the communicative intention of the speaker. Gesture. 4 (2), 119-141 (2004).
  15. Emmorey, K., Casey, S. . Gesture, Thought and Spatial Language. , (2001).
  16. Hilverman, C., Brown-Schmidt, S., Duff, M. C. Gesture height reflects common ground status even in patients with amnesia. Brain and Language. 190, 31-37 (2019).
  17. Austin, E. E., Sweller, N., Van Bergen, P. Pointing the way forward: Gesture and adults’ recall of route direction information. Journal of Experimental Psychology: Applied. 24 (4), 490 (2018).
  18. Austin, E. E., Sweller, N. Presentation and production: The role of gesture in spatial communication. Journal of Experimental Child Psychology. 122, 92-103 (2014).
  19. Sassenberg, U., Van Der Meer, E. Do we really gesture more when it is more difficult. Cognitive Science. 34 (4), 643-664 (2010).
  20. de Marchena, A., Eigsti, I. M. Conversational gestures in autism spectrum disorders: asynchrony but not decreased frequency. Autism Research. 3 (6), 311-322 (2010).
  21. Morett, L. M., O’Hearn, K., Luna, B., Ghuman, A. S. Altered gesture and speech production in ASD detract from in-person communicative quality. Journal of Autism and Developmental Disorders. 46 (3), 998-1012 (2016).
  22. Silverman, L. B., Eigsti, I. -. M., Bennetto, L. I tawt i taw a puddy tat: Gestures in canary row narrations by high-functioning youth with autism spectrum disorder. Autism Research. 10 (8), 1353-1363 (2017).
  23. Alibali, M. W. Gesture in spatial cognition: Expressing, communicating, and thinking about spatial information. Spatial Cognition and Computation. 5 (4), 307-331 (2005).
  24. Hostetter, A. B., Alibali, M. W. Visible embodiment: gestures as simulated action. Psychonomic Bulletin & Review. 15 (3), 495-514 (2008).
  25. Hostetter, A. B., Alibali, M. W. Language, gesture, action! A test of the gesture as simulated action framework. Journal of Memory and Language. 63 (2), 245-257 (2010).
  26. Alibali, M. W., Don, L. S. Children’s gestures are meant to be seen. Gesture. 1 (2), 113-127 (2001).
  27. Austin, E. E., Sweller, N. Getting to the elephants: Gesture and preschoolers’ comprehension of route direction information. Journal of Experimental Child Psychology. 163, 1-14 (2017).
  28. Crais, E. R., Watson, L. R., Baranek, G. T. Use of gesture development in profiling children’s prelinguistic communication skills. American Journal of Speech-Language Pathology. 18 (1), 95-108 (2009).
  29. Dargue, N., Sweller, N. Donald Duck’s garden: the effects of observing iconic reinforcing and contradictory gestures on narrative comprehension. Journal of Experimental Child Psychology. 175, 96-107 (2018).
  30. Dargue, N., Sweller, N. Learning stories through gesture: Gesture’s effects on child and adult narrative comprehension. Educational Psychology Review. 32, 249-276 (2020).
  31. Emir Özder, L., Özer, D., Göksun, T. Gesture use in L1-Turkish and L2-English: Evidence from emotional narrative retellings. Quarterly Journal of Experimental Psychology. 76 (8), 1797-1816 (2023).
  32. Lin, Y. -. L. Gestures as scaffolding for L2 narrative recall: The role of gesture type, task complexity, and working memory. Language Teaching Research. , (2021).
  33. Morett, L. M. When hands speak louder than words: The role of gesture in the communication, encoding, and recall of words in a novel second language. The Modern Language Journal. 98 (3), 834-853 (2014).
  34. Huang, Y., Wong, M. K. -. Y., Lam, W. -. Y., Cheng, C. -. H., So, W. -. C. Gestures in storytelling by preschool Chinese-speaking children with and without autism. Frontiers in Psychology. 11, 573212 (2020).
  35. Botting, N., Riches, N., Gaynor, M., Morgan, G. Gesture production and comprehension in children with specific language impairment. British Journal of Developmental Psychology. 28 (1), 51-69 (2010).
  36. Evans, J. L., Alibali, M. W., McNeil, N. M. Divergence of verbal expression and embodied knowledge: Evidence from speech and gesture in children with specific language impairment. Language and Cognitive Processes. 16 (2-3), 309-331 (2001).
  37. Mainela-Arnold, E., Alibali, M. W., Hostetter, A. B., Evans, J. L. Gesture-speech integration in children with specific language impairment. International Journal of Language & Communication Disorders. 49 (6), 761-770 (2014).
  38. de Beer, C., et al. How much information do people with aphasia convey via gesture. American Journal of Speech-Language Pathology. 26 (2), 483-497 (2017).
  39. Demir, &. #. 2. 1. 4. ;. E., Fisher, J. A., Goldin-Meadow, S., Levine, S. C. Narrative processing in typically developing children and children with early unilateral brain injury: seeing gesture matters. Developmental Psychology. 50 (3), 815 (2014).
  40. Maessen, B., Rombouts, E., Maes, B., Zink, I. The relation between gestures and stuttering in individuals with Down syndrome. Journal of Applied Research in Intellectual Disabilities. 35 (3), 761-776 (2022).
  41. Mayberry, R. I., Jaques, J. . Gesture Production During Stuttered Speech: Insights into the Nature of Gesture-Speech Integration. Language and Gesture. Language Culture and Cognition. , (2000).
  42. Alibali, M. W., Heath, D. C., Myers, H. J. Effects of visibility between speaker and listener on gesture production: some gestures are meant to be seen. Journal of Memory and Language. 44 (2), 169-188 (2001).
  43. Mol, L., Krahmer, E., Maes, A., Swerts, M. Seeing and being seen: The effects on gesture production. Journal of Computer-Mediated Communication. 17 (1), 77-100 (2011).
  44. So, W. -. C., Wong, M. K. -. Y., Lui, M., Yip, V. The development of co-speech gesture and its semantic integration with speech in 6- to 12-year-old children with autism spectrum disorders. Autism. 19 (8), 956-968 (2015).
  45. Colozzo, P., Morris, H., Mirenda, P. Narrative production in children with autism spectrum disorder and specific language impairment. Canadian Journal of Speech-Language Pathology & Audiology. 39, 316-332 (2015).
  46. Wechsler, D. . Wechsler Abbreviated Scale of Intelligence. , (1999).
  47. Macwhinney, B. . The CHILDES project part 1: The CHAT transcription format. , (2009).
  48. Morett, L. M. In hand and in mind: Effects of gesture production and viewing on second language word learning. Applied Psycholinguistics. 39 (2), 355-381 (2018).
  49. Mol, L., Krahmer, E., Maes, A., Swerts, M. The communicative import of gestures: Evidence from a comparative analysis of human-human and human-machine interactions. Gesture. 9 (1), 97-126 (2009).

Play Video

Citar este artigo
Morett, L. M. Examining Gesture Production in the Presence of Communication Challenges. J. Vis. Exp. (203), e66256, doi:10.3791/66256 (2024).

View Video