Veel mensen zullen weleens hebben gehoord van verzekeraar Lemonade. Als je bij hen een schadeclaim indient, hoef je geen ellenlange papieren in te vullen. Je spreekt gewoon een videoboodschap in, waarin je vertelt wat er is gebeurd. Een AI-algoritme analyseert die boodschap, inhoudelijk en emotioneel, en kan zo heel nauwkeurig bepalen of de claim terecht is. Zo ja, dan betalen ze binnen een paar minuten uit. Maar is er een vermoeden van fraude, dan ga je een ander traject in.
De kosten van Lemonade zijn vele malen lager dan van traditionele verzekeraars. In de eerste plaats omdat ze minder fraudegevallen kennen. En in de tweede plaats doordat de backofficekosten door de inzet van AI vele malen lager zijn. Want in plaats van mensen doen bots het werk.

CustomerFirst is benieuwd: hoe werkt deze technologie? Welke toepassingen zijn er? Wanneer zal emotion sensing ook ingezet gaan worden in het contactcenter? En willen klanten wel dat hun emoties geanalyseerd worden?

Diepgaande inzichten
Daar kan Gabi Zijderveld, Chief Marketing Officer bij Affectiva, meer over vertellen. Affectiva is een Amerikaanse spin-off van MIT Media Lab. Ze gebruiken beeld- en spraakanalysetechnologie om te begrijpen hoe mensen reageren op bijvoorbeeld content of systemen. Ze analyseren hoe mensen iets zeggen en wat dat zegt over hun emoties op dat moment. Zijderveld vertelt: ‘Wij hebben meer dan 9 miljoen gezichten uit 87 landen geanalyseerd met zelflerende modellen. Die modellen zijn nu in staat om complexe uitdrukkingen en emoties te herkennen. Ook hebben we modellen die getraind zijn om iemands emotie te halen uit diens stemgeluid. Los van elkaar is de technologie al heel krachtig, maar gecombineerd kun je nog complexere emotionele situaties herkennen.’
Voor marketing- of customer servicetoepassingen is vaak alleen een analyse van stemgeluid of gezicht echter al voldoende om te beoordelen wat iemand op dat moment voelt. In die situaties heb je immers al contextuele informatie. De eerste klanten van Affectiva, zo’n acht jaar geleden, waren grote adverteerders die wilden weten hoe het publiek respondeert op een advertentie of commercial. Voorheen waren ze aangewezen op kwantitatief en kwalitatief marktonderzoek. Bij kwantitatief marktonderzoek kunnen respondenten met een smiley aangeven of ze een reclameboodschap wel of niet leuk vinden; de feedback is dus heel beperkt. Kwalitatief onderzoek middels focusgroepen geeft wel meer inzicht, maar is duur, tijdrovend en geeft alleen maar de reacties van een kleine groep mensen weer. ‘Met onze software kunnen adverteerders die twee vormen combineren. Ze krijgen diepgaand inzicht in hoe grote groepen mensen de commercial beoordelen.’ Het werkt eenvoudig: mensen krijgen een opt-in die vraagt of het oké is als hun gezichtsuitdrukking wordt geanalyseerd. ‘Onze ervaring is dat de overgrote meerderheid meewerkt’, zegt Zijderveld.

Gedragsadvies
Een doelgroep die zich daarna aandiende, was de automotive industrie. Autofabrikanten willen graag begrijpen hoe mensen zich gedragen in hun auto, met als doel om de verkeersveiligheid en rij-ervaring te verbeteren. ‘In eerste instantie was het puur bedoeld om te leren: wat doen mensen in hun auto? Worden ze afgeleid door hun telefoon? Vallen ze in slaap? Zijn ze oplettend maar raken ze verward doordat ze de verkeerssituatie of de borden niet goed begrijpen? In tweede instantie gingen autofabrikanten deze tool ook inzetten om mensen daadwerkelijk advies te geven. Bijvoorbeeld door te zeggen dat iemand eigenlijk te moe is om te rijden. Of door een moeder erop te wijzen dat haar kind nog achterin het kinderzitje zit’, illustreert Zijderveld.
De derde focusmarkt van Affectiva was de gezondheidszorg. Zo zetten psychologen de software in om tijdens videosessies met cliënten betere feedback te krijgen en zo gerichter advies te geven. Een andere zorgverlener heeft op basis van de software een tool ontwikkeld voor kinderen met autisme. De tool helpt hen om emoties bij anderen beter te herkennen, want dat is voor autisten erg lastig. Zeker nu alle zorgverleners – van ziekenhuizen tot ggz en ouderenzorg – modellen ontwikkelen om meer zorg op afstand te bieden, neemt de interesse voor emotion sensing toe.
Een andere markt is het onderwijs, waar e-learning inmiddels een grote vlucht neemt. Daardoor kunnen docenten niet meer aan de gezichtsuitdrukking van hun leerlingen zien of ze de stof moeilijk of makkelijk vinden. Dat neemt software nu van ze over. Ook geeft de software inzicht of iemand de lesstof boeiend vindt of maar saai.


Contactcentermedewerkers begeleiden
Emotion sensing wordt ook ingezet in customer service. Cogito, dat net als Affectiva voortkomt uit MIT, focust zich met spraakanalyse op deze markt. Het bedrijf voert tijdens een telefoongesprek een streaming analyse uit en adviseert de contactcentermedewerker hoe hij of zij het best kan reageren met hele simpele aanwijzingen, zoals ‘toon op dit moment empathie’, of ‘pas je snelheid aan’. Tevens meet de software de klanttevredenheid op basis van hoe mensen iets zeggen en geeft zo ieder gesprek een score.
Naast het registreren van emoties van klanten kunnen contactcenters ook meten hoe het met de medewerkers gaat. Zijderveld: ‘Je kunt bijvoorbeeld analyseren hoe een agent in zijn vel zit. Heeft iemand pauze nodig? Is iemand uitgeput door stress thuis en daardoor wat kribbig? Als je dat weet, kun je medewerkers ondersteuning bieden. Iedereen weet immers dat ontspannen contactcentermedewerkers aan de telefoon veel klantvriendelijker zijn dan mensen die stress ervaren of moe zijn.’

Emotion sensing kan eveneens worden ingezet om te herkennen wanneer teamleden worden over- of ondervraagd. Op die manier kun je de workload zo samenstellen dat medewerkers voldoende worden uitgedaagd, zonder dat ze voortdurend op hun tenen hoeven te lopen. Medewerkers worden zo veel productiever.
Door emotiedata op te slaan, kun je leren wat iemands grondlijn is, waardoor je nog veel specifiekere feedback kunt geven. Dit maakt het interessanter, maar ook wel een beetje creepy. Want wat gaat een werkgever met die data doen? Het is heel mooi als je een burn-out kunt zien aankomen en tijdig kunt ingrijpen om te voorkomen dat een medewerker afbrandt. Maar wat als die werkgever medewerkers moet ontslaan? Het is ethisch natuurlijk niet juist om data die je gebruikt om medewerkers beter te laten presteren op dat moment te gebruiken om de zwakpresteerders eruit te filteren.

Daarom adviseert Zijderveld werkgevers dan ook om heel voorzichtig te zijn met de inzet van deze technologie. ‘Wees heel transparant over wat je wel en niet doet. Je kunt emotion sensing alleen toepassen om medewerkers daadwerkelijk te helpen.’
Een manier overigens om de privacygevoeligheid te verminderen, is het analyseren van de emotiedata ‘at the edge’. Zoals autofabrikanten doen om hun klanten te waarschuwen als ze te moe of gestresst zijn om te rijden. Zijderveld: ‘Dit betekent dat je de data niet naar een centrale database stuurt en ook niet bewaard. Niemand ziet de data, behalve het algoritme.’

Roep om regulatie
De van origine Nederlandse CMO van Affectiva vestigt ook de aandacht op de privacybescherming van consumenten. Emoties zijn zo ongeveer het meest privacygevoelige wat mensen hebben. Ze moeten heel goed begrijpen waar ze ja tegen zeggen als ze toestemming geven hun stem te analyseren. Dat geldt niet alleen voor emotion sensing, maar voor alle AI-toepassingen om klantgedrag beter te begrijpen. ‘Als je AI toepast om klantgedrag of -emoties te analyseren, kun je niet volstaan met een simpele opt-in. En al helemaal niet met 60 pagina’s privacyvoorwaarden waar je even een vinkje voor kunt aanklikken’, benadrukt Zijderveld.

Ze waarschuwt ook dat als een bepaalde technologie er eenmaal is, hij vaak wordt gebruikt door partijen die minder nadenken over de gevolgen. En soms door partijen die de technologie inzetten op manieren waarvoor die niet is ontworpen. ‘Ik vind dan ook dat er veel meer regulatie zou moeten komen. In Europa is de privacywetgeving beter op orde dan in de VS, maar ook bij jullie wordt nog altijd toegestaan dat de privacyvoorwaarden onduidelijk zijn. Het leeuwendeel van de mensen begrijpt echt niet waar ze ja tegen zeggen als ze een vinkje zetten in een opt-in vakje. Het probleem is dat wetgevers deze technologieën nog niet goed begrijpen, en dus ook het gevaar niet inzien. Eigenlijk zouden consumenten veel harder moeten roepen om transparantie. Ik vind het onze rol als techbedrijf om de awareness voor dit onderwerp te verhogen. Het zou mooi zijn als we een maatschappelijke discussie kunnen aanzwengelen hoe ver je met emotion sensing zou willen gaan.’