Binnen gebieden waar het draait om klantervaring lijkt AI algemeen geaccepteerd te zijn. Volgens 67% van de respondenten kan AI de klantenservice van de bedrijven waarmee ze communiceren verbeteren. Meer dan de helft (54%) vindt dat organisaties die AI gebruiken hun klanten meer voordelen bieden, dan organisaties die dat nog niet doen en 47% zegt al gewend te zijn aan klantenservice op basis van AI-diensten. Tweederde (64%) verwacht dat de meeste grote afdelingen van organisaties binnen nu en de komende tien jaar zullen draaien op AI en automatisering.

Klantinteractie
Toch leeft er onder de consumenten op verschillende punten nog wantrouwen in AI en blijft er voorkeur voor menselijk contact. Ondanks dat ze aangeven AI bij klantinteractie prima te vinden, communiceert 71% van de respondenten nog steeds liever met een mens dan met AI. Zo vertrouwt  74% een diagnose van een menselijke arts eerder dan wanneer een AI-oplossing dit doet. Ook als de AI-oplossing vaker gelijk heeft, maar zijn beslissing niet kan uitleggen. Zo’n 51% denkt dat een zelfrijdende (autonome) auto betere beslissingen kan nemen om een ongeluk te voorkomen dan een menselijke bestuurder. Toch vindt 65% dat AI in zo’n situatie een menselijke bestuurder niet mag overrulen.

Immoreel gedrag
Een sterke meerderheid (86%) denkt dat AI zichzelf kan evolueren naar immoreel gedrag; meer dan een kwart (27%) vindt dat dit al is gebeurd. Bijna de helft (48%) zegt dat het aannemelijk is dat generatieve AI op den duur bewust of zelfbewust zal worden. Bijna een derde (30%) maakt zich zorgen dat AI de mens te afhankelijk maakt. Dit is een lichte stijging ten opzichte van de 27% uit eerder onderzoek in 2019. Slechts 16% van de respondenten maakt zich helemaal geen zorgen over AI. ‘Het is logisch dat er een bepaalde mate van tegenstrijdige gevoelens ontstaan nu AI dankzij toepassingen als ChatGPT is doorgedrongen tot het grote publiek. Laten we niet vergeten dat veel mensen de voordelen van deze technologie al zien’, licht Rob Walker van Pega toe. ‘Misschien is het daarom ook wel onvermijdelijk dat hoe meer aandacht er is voor deze technologie, hoe groter de angst is voor sciencefictionachtige 'doemscenario's'. Daarom is het voor organisaties zo belangrijk transparant te zijn over hun AI-systemen en wat ze leveren. Maar ook om ethische bias-tests uit te voeren om te monitoren en te controleren hoe hun AI-systemen zich te allen tijde 'gedragen'.

Hulpmiddel
Uit de studie blijkt verder dat het algemeen bewustzijn ten aanzien van AI als hulpmiddel voor dagelijks gebruik is gegroeid. Zo zegt meer dan de helft van de respondenten zich te realiseren dat het merendeel alle foto's (55%) en video's (55%) die ze zien, zijn gemaakt met behulp van deze technologie. Tegelijkertijd neemt ook de bezorgdheid toe omdat het steeds lastiger wordt om echt en nep van elkaar te onderscheiden en te bepalen wat door een mens en wat door AI is gegeneerd. Bij het voorleggen van een lang artikel geeft bijna tweederde (63%) aan niet te kunnen zeggen of het door AI of een mens was geschreven; bij het tonen van foto's was dit 59% en bij video's 58%. Meer dan de helft (56%) ervaart dit ook bij tv-reportages die ze hebben gezien. Walker: ‘Consumenten houden AI toch nog op afstand als het gaat om het nemen van grote, impactvolle beslissingen en willen in hun contact met organisaties de menselijke interactie behouden. De beste manier om technologieën zoals AI te omarmen, is door ze te gebruiken om bestaande menselijke vaardigheden aan te vullen en te verbeteren.’

Onderzoeksbureau Savanta vroeg in opdracht van Pega vijfduizend consumenten over de hele wereld naar hun mening over AI, de voortdurende evolutie ervan en de manieren waarop ze met deze technologie omgaan.