Iets meer dan de helft van de ondervraagden (51 procent) beseft dat AI een telefoongesprek kan voeren zonder dat de gesprekspartner doorheeft met een computer te praten. Daarnaast weet 62 procent dat een door AI geschreven tekst niet altijd als zodanig herkenbaar is.

Over de werking van taalmodellen bestaat veel onzekerheid. Een kwart van de ondervraagden denkt dat AI argumenten afweegt zoals een mens. Nog eens 57 procent weet niet of een large language model (LLM) zelf kan redeneren. Achttien procent geeft het antwoord dat Conclusion als correct aanmerkt: dat AI niet redeneert zoals een mens.

Bastiaan Sjardin, Chief Technology Officer bij Conclusion, benadrukt dat taalmodellen werken op basis van patronen in data en waarschijnlijkheden. 'Dat is indrukwekkend, maar het is geen menselijk redeneren.' Volgens hem moeten gebruikers zelf verantwoordelijk blijven voor belangrijke beslissingen en de technologie als assistent inzetten.

Van de ondervraagden weet 68 procent dat AI-bedrijven gebruikersgesprekken inzetten om hun systemen te verbeteren. Dat bewustzijn gaat echter niet vanzelf samen met het consequent controleren van antwoorden, blijkt uit de gerapporteerde cijfers. Ook over verantwoordelijkheid bij fouten lopen de opvattingen uiteen. Bijna de helft (48 procent) ziet in dat niet altijd duidelijk is wie verantwoordelijk is voor een foutief AI-advies. Daartegenover denkt 26 procent dat dit altijd helder is.

'We hoeven niet iedereen op te leiden tot AI-expert', aldus Sjardin. Wel moeten gebruikers volgens hem beseffen dat overtuigend geformuleerde antwoorden onjuist kunnen zijn. Naarmate AI vaker een rol krijgt bij beslissingen over zorg, geld en werk, wordt die basiskennis volgens hem belangrijker.