Implicit Interaction with Textual Information using Physiological Signals

Show full item record

Permalink

http://urn.fi/URN:ISBN:978-951-51-4071-5
Title: Implicit Interaction with Textual Information using Physiological Signals
Author: Barral, Oswald
Contributor: University of Helsinki, Faculty of Science, Department of Computer Science
Helsinki Institute for Information Technology HIIT
Thesis level: Doctoral dissertation (article-based)
Abstract: Implicit interaction refers to human-computer interaction techniques that do not require active engagement from the users. Instead, the user is passively monitored while performing a computer task, and the data gathered is used to infer implicit measures as inputs to the system. Among the multiple applications for implicit interaction, collecting user feedback on information content is one that has increasingly been investigated. As the amount of available information increases, traditional methods that rely on the users' explicit input become less feasible. As measurement devices become less intrusive, physiological signals arise as a valid approach for generating implicit measures when users interact with information. These signals have mostly been investigated in response to audio-visual content, while it is still unclear how to use physiological signals for implicit interaction with textual information. This dissertation contributes to the body of knowledge by studying physiological signals for implicit interaction with textual information. The research targets three main research areas: a) physiology for implicit relevance measures, b) physiology for implicit affect measures, and c) physiology for real-time implicit interaction. Together, these provide understanding not only on what type of implicit measures can be extracted from physiological signals from users interacting with textual information, but also on how these can be used in real time as part of fully integrated interactive information systems. The first research area targets perceived relevance, as the most noteworthy underlying property regarding the user interaction with information items. Two experimental studies are presented that evaluate the potential for brain activity, electrodermal activity, and facial muscle activity as candidate measures to infer relevance from textual information. The second research area targets affective reactions of the users. The thesis presents two experimental studies that target brain activity, electrodermal activity, and cardiovascular activity to indicate users' affective responses to textual information. The third research area focuses on demonstrating how these measures can be used in a closed interactive loop. The dissertation reports on two systems that use physiological signals to generate implicit measures that capture the user's responses to textual information. The systems demonstrate real-time generation of implicit physiological measures, as well as information recommendation on the basis of implicit physiological measures. This thesis advances the understanding of how physiological signals can be implemented for implicit interaction in information systems. The work calls for researchers and practitioners to consider the use of physiological signals as implicit inputs for improved information delivery and personalization.Implisiittinen vuorovaikutus viittaa ihmisen ja tietokoneen välisen vuorovaikutuksen tekniikoihin, jotka eivät vaadi käyttäjän tarkkaavaisuutta. Tämän sijaan järjestelmä kerää käyttäjästä tietoja passiivisesti ja käyttää näitä tietoja operatiivisina syötteinä. Esimerkiksi viestiä kirjoitettaessa (eksplisiittinen vuorovaikutus) järjestelmä tunnistaa tekemämme kirjoitusvirheen ja automaattisesti korjaa väärin kirjoitetun sanan (implisiittinen vuorovaikutus). Implisiittinen vuorovaikutus mahdollistaa näin uusia vuorovaikutuskanavia vaivaamatta lainkaan käyttäjää. Mittauslaitteiden kehityksen myötä implisiittisessä vuorovaikutuksessa voidaan hyödyntää myös fysiologisia signaaleja, kuten aivovasteita ja kardiovaskulaarisia reaktioita. Näiden signaalien analyysi paljastaa tietoja käyttäjän kiinnostuksen kohteista ja tunteista suhteessa tietokoneen esittämään sisältöön, ja tarjoaa näin järjestelmälle paremmat mahdollisuudet vastata käyttäjän tarpeisiin. Väitöskirjani tarkoituksena on tutkia käyttäjien fysiologisia signaaleja sekä kerätä tietoa heidän reaktioistaan ja mielipiteistään suhteessa tekstipohjaiseen informaatioon ja käyttää näitä signaaleja ja tietoja implisiittisen vuorovaikutuksen mahdollistamiseksi. Tarkkaan ottaen tarkoituksenani on tutkia a) fysiologisten signaalien kykyä kertoa siitä, miten kiinnostavana käyttäjä kokee lukemansa tekstin, b) fysiologisten signaalinen käyttökelpoisuutta ennustamaan, minkälaisia tunnereaktiota (esim. huvittuneisuutta) tekstit herättävät lukijassa sekä, c) fysiologisen signaalien käyttökelpoisuutta reaaliaikaisessa implisiittisessä vuorovaikutuksessa. Tutkimuksen tulokset osoittavat, että fysiologiset signaalit tarjoavat toimivan ratkaisun reaaliaikaiseen implisiittiseen vuorovaikutukseen tekstipohjaisten sisältöjen parissa. Tutkimuksen löydösten pääviesti tutkimusyhteisölle ja alan ammattilaisille on se, että implisiittisinä syötteinä fysiologiset signaalit helpottavat informaation kulkua ja parantavat personalisoimista ihmisen ja tietokoneen välisessä vuorovaikutuksessa.
URI: URN:ISBN:978-951-51-4071-5
http://hdl.handle.net/10138/231561
Date: 2018-03-01
Subject:
Rights: This publication is copyrighted. You may download, display and print it for Your own personal use. Commercial use is prohibited.


Files in this item

Total number of downloads: Loading...

Files Size Format View
Implicit.pdf 2.686Mb PDF View/Open

This item appears in the following Collection(s)

Show full item record