AI is definitief doorgebroken bij het grote publiek. Wat is er allemaal veranderd?

Als mensen AI horen, denken ze vaak aan robots die de wereld overnemen, het bekende Hollywood-narratief. Recent doorgebroken is met name generative AI, die allerlei dingen kan genereren, niet alleen teksten, beelden en plaatjes, maar misschien ook wel volledige applicaties. Vorig jaar waren we bij Pega al flink bezig met generative AI, vooral voor ons low-code platform. We waren één van de eersten die daarmee aan de slag gingen en hebben dat het afgelopen jaar verder uitgebouwd.

Op welke manier?

Eén van de aspecten is hoe je de creativiteit van generative AI kunt gebruiken om sneller nieuwe applicaties te ontwikkelen en te bedenken. Dit geldt niet alleen voor ons als bedrijf, maar ook voor onze klanten. We hebben bijvoorbeeld een tool genaamd GenAI BluePrint. Het idee hierachter is dat als je een nieuwe applicatie wilt maken, je niet meer wekenlang met consultants in een vergaderkamer hoeft te zitten om alles van scratch af aan te bedenken. In plaats daarvan kun je nu je business requirements op een hoog niveau invoeren en direct een voorbeeld van de applicatie zien. Als je bijvoorbeeld een applicatie wil maken voor klachtenafhandeling, krijg je meteen een voorbeeld te zien van hoe het proces eruit zou kunnen zien, welk datamodel handig zou kunnen zijn en welke persona’s ermee interacteren, zoals customer service agents en klanten die klachten indienen via de website.

Is er een soort ‘snoepwinkel’ waar je kunt kiezen wat voor jouw bedrijf van toepassing is?

Het is vooral gebaseerd op best practices voor een hele reeks processen. Maar we benutten ook de creatieve kracht van generative AI. Dus je kunt ook met een compleet nieuw proces aankomen, waarin nog geen best practice in het systeem aanwezig is. Toch zal het AI-systeem dan een prototype kunnen voorstellen.

Hoe waarborgen jullie deze vertrouwelijkheid en accuraatheid in de praktijk?

We hebben strikte protocollen en beveiligingsmaatregelen om te zorgen dat vertrouwelijke data veilig blijft. We zorgen ervoor dat klantgegevens niet worden gebruikt voor het trainen van nieuwe generatieve modellen, tenzij daar expliciete toestemming voor is gegeven. Daarnaast blijven we voortdurend de ontwikkelingen in de gaten houden en passen we onze werkwijzen aan om de hoogste standaard van databeveiliging te garanderen.

Zijn er specifieke sectoren waar je ziet dat deze technologie bijzonder goed wordt toegepast?

We zien dat generative AI vooral veel potentieel heeft in sectoren waar snel op veranderingen moet worden ingespeeld, zoals de financiële sector, gezondheidszorg en natuurlijk customer service. In de financiële sector kan generative AI helpen bij het snel ontwikkelen van applicaties voor compliance en risicobeheer. In de gezondheidszorg zien we toepassingen in het creëren van gepersonaliseerde behandelplannen en het verbeteren van patiëntenzorg en in customer service helpt het bij het sneller en efficiënter afhandelen van klantvragen en klachten.

Zijn er nog andere ontwikkelingen waar jullie momenteel aan werken?

We zijn continu bezig met het verbeteren van onze AI-technologieën en aan het uitbreiden van de mogelijkheden die we onze klanten kunnen bieden. Een van onze focusgebieden is het verder optimaliseren van de klantbeleving en het bieden van nog meer maatwerkoplossingen. Ook blijven we investeren in onderzoek en ontwikkeling om voorop te blijven lopen in de AI-markt.

Wetgeving en regelgeving met betrekking tot AI is actueel en Europa beweegt ook in bepaalde richtingen. Hoe kijken jullie daartegenaan?

Wij zijn groot voorstander van het invoeren van verantwoord gebruik van AI en regelgeving daaromheen. Het klinkt misschien apart, maar als platformleverancier geloven we sterk in het belang van verantwoorde technologie. Er is vaak een schijnbare tegenstelling tussen wetgeving en innovatie, maar daar geloof ik niet in. Je kunt geen technologie innoveren die niet op een verantwoorde manier wordt gebruikt. Dat is technologie die we simpelweg niet willen. Goede richtlijnen en regelgeving zijn juist een teken van volwassenheid in de sector.

De recente Europese AI Act  bevat veel verstandige bepalingen. Het regelt zaken als transparantie, antidiscriminatie, fairness, privacy en de mogelijkheid om accurate en robuuste beslissingen te nemen. Op een hoger niveau wordt er ook gekeken naar het doel van een bepaalde applicatie. Vergelijk het met hoe je in de GDPR kijkt naar het doel van dataverzameling. Als het doel gerechtvaardigd is, dan is het toegestaan, mits aan bepaalde voorwaarden wordt voldaan.

Kun je voorbeelden geven van hoe deze regelgeving praktisch wordt toegepast?

De regelgeving introduceert het idee van risicobeoordeling: hoog-risico versus laag-risico toepassingen. Hoog-risico toepassingen, zoals beslissingen over toegang tot financiële diensten (bijvoorbeeld het verstrekken van leningen), vallen onder strengere regelgeving. Laag-risico toepassingen, zoals het tonen van marketingboodschappen of het bieden van hulp aan iemand die de klantenservice belt, vallen onder minder strenge regels. Dit is een pragmatische manier om te kijken naar waar de technologie voor wordt gebruikt en welke potentiële risico’s ermee gepaard gaan.

Een duidelijke focus op het beschermen van gebruikers en het waarborgen van verantwoorde AI-toepassingen?

Absoluut. Het is essentieel om transparantie en fairness te waarborgen én om te zorgen dat de technologie niet leidt tot schade. Dit betekent dat sommige toepassingen verboden zijn, maar dat zijn meestal toepassingen die niemand echt wil.

'Geen wondermiddel of nachtmerrie, maar nuttige tool'

Vaak wordt regelgeving rondom technologie gezien als iets dat innovatie beteugelt. Jullie houding lijkt daarentegen juist positief tegenover regelgeving te staan. Kun je dat toelichten?

Ja, ik denk dat onze houding redelijk uniek is. Als je de geschiedenis van Pega bekijkt, zie je dat we altijd een consistente positie hebben ingenomen over verantwoord gebruik van technologie. Dit in tegenstelling tot sommige van onze Big Tech-collega’s die er anders over denken. Het is overigens inherent aan de filosofie van Pega. We zijn een Amerikaans bedrijf, maar gevestigd aan de oostkust, wat toch een andere mentaliteit met zich meebrengt dan de westkust. We hebben een aanpak van ‘niet praten, maar doen’. Onze oprichter, Alan Trefler, is ooit begonnen als schaker en raakte geïnteresseerd in informatisering met de gedachte dat we slimmere systemen konden maken om met uitzonderingen om te gaan. Dat principe is in de loop der jaren verder uitgebreid. Hierdoor zijn we altijd realistisch gebleven en hebben we minder oog voor de sprookjes – zowel de nachtmerries als de ideale wensdromen – en meer voor de realiteit.

Het lijkt erop dat deze filosofie niet alleen goed is voor de bedrijfsvoering, maar ook voor de klantrelatie?

Het is inderdaad goed voor je karma… Zonder gekheid: het is belangrijk om achter het werk dat je doet te kunnen staan, zowel als ontwikkelaar als consument van de technologie. Op de lange termijn denk ik ook dat het verstandig is. Er is geen toekomst voor onverantwoordelijke technologie. Klanten stemmen uiteindelijk met hun voeten; als ze niet blij zijn met hoe hun data wordt behandeld, zullen ze overstappen naar een andere dienstverlener. Je kunt er dus voor kiezen om alle regels los te laten en er een chaos van te maken, of je kunt op een volwassen manier kijken naar wat wel en niet acceptabel is. Door de risico’s te minimaliseren binnen duidelijke kaders, kun je optimaal profiteren van de technologie.

Hoe vertalen jullie dat naar de dagelijkse praktijk?

We hebben strikte protocollen en beveiligingsmaatregelen om ervoor te zorgen dat vertrouwelijke data veilig blijft en niet wordt misbruikt. We trainen onze AI-modellen alleen met data waarvoor expliciete toestemming is gegeven en zorgen ervoor dat beslissingen die door onze systemen worden genomen robuust en accuraat zijn. Daarnaast evalueren we voortdurend de ethische implicaties van onze technologieën om ervoor te zorgen dat ze worden gebruikt voor het grotere goed en niet leiden tot schade.

En resoneert deze aanpak ook bij de klanten van Pega en daarmee ook bij hun eindklanten?

Zeker! Wetgeving schept kaders, maar daarbinnen moet je nadenken over hoe je waarde kunt creëren. Je kunt proberen om de laatste centen uit je klanten te wringen, maar je kunt ook relevante relaties met ze opbouwen door elke interactie waardevol te maken. Het commerciële succes volgt dan vanzelf. In klantenservice kun je technologie gebruiken om efficiënter te werken, wat iedereen wil. Maar je kunt ook verder gaan en kijken waar die klantenserviceproblemen ontstaan en proberen die te voorkomen voordat de klant contact met het bedrijf opneemt.

Dus jullie grijpen echt in op de bedrijfsprocessen en kijken kritisch waar het beter kan?

Precies. Open een willekeurig jaarverslag van een Nederlandse bank en je ziet waarschijnlijk dat een van hun pijlers het leveren van een frictieloze gebruikerservaring is. Dat moet je dan ook echt proberen waar te maken.

Hoe zorg je ervoor dat deze benadering wordt geïntegreerd in de dagelijkse praktijk bij jullie klanten?

We werken nauw samen met onze klanten om te begrijpen wat hun missie en doelen zijn. Vervolgens helpen we hen technologieën te implementeren die hun bedrijfsprocessen verbeteren en klantrelaties versterken. Dit betekent dat we niet alleen kijken naar efficiëntere workflows, maar ook naar hoe we proactief kunnen zijn in het oplossen en voorkomen van problemen. Door deze aanpak kunnen bedrijven een meerwaarde bieden aan hun klanten en tegelijkertijd hun eigen processen optimaliseren.

Hoe werkt die benadering in praktijk?

Een voorbeeld is het gebruik van AI om serviceproblemen te identificeren voordat ze escaleren. Stel dat een klant problemen heeft met een product. Met behulp van AI kunnen we patronen herkennen die wijzen op mogelijke problemen en deze proactief aanpakken. Dit kan variëren van het automatisch sturen van een oplossing voordat de klant contact opneemt, tot het verbeteren van het product zelf om toekomstige problemen te voorkomen. Door deze aanpak kunnen bedrijven niet alleen hun klantenservice verbeteren, maar ook de klanttevredenheid en loyaliteit vergroten.

Hoe zien jullie de toekomst van AI-technologie?

Onze visie is wat we noemen de autonomous enterprise. Net zoals je zelfrijdende auto’s hebt, willen we zelfrijdende bedrijven creëren. Dit betekent dat AI-systemen autonoom kunnen werken om bedrijfsdoelen te bereiken, waarbij mensen nog steeds de controle hebben. Vergelijk het met een navigatiesysteem in een auto: je bepaalt de bestemming, en het systeem kiest de beste route. In een bedrijf zou je kunnen zeggen: dit zijn mijn doelstellingen, los het op. AI gebruikt dan zijn creativiteit en toegang tot verschillende informatiebronnen om de beste manier te vinden om die doelen te bereiken.

Wat zijn onontbeerlijke elementen om dit te realiseren?

Het belangrijkste is dat AI-systemen toegang hebben tot de juiste kennis en informatie, en in staat zijn om acties te ondernemen. Ze moeten kunnen begrijpen wat de doelen van de eindgebruiker zijn, informatie kunnen verzamelen en verwerken, en vervolgens de juiste stappen kunnen ondernemen. Door deze elementen te combineren met planning en besluitvorming, kunnen we AI-systemen ontwikkelen die echt autonoom opereren en waarde toevoegen aan de bedrijfsvoering.

Met altijd een mens in the loop?

Niet zozeer in the loop, maar juist in control. Dat is een belangrijk verschil. Er zijn use cases waarbij het essentieel is dat de mens betrokken is voor goedkeuring of het toestaan van bepaalde acties. Maar er zijn ook situaties waarin je nauwkeurige controle wilt hebben over welke tools en informatiebronnen gebruikt mogen worden en welke niet. In die gevallen kan AI wel autonome beslissingen nemen en acties uitvoeren. Dat klinkt misschien eng, maar we zijn het al gewend. Denk bijvoorbeeld aan je mobiel bankieren-app die gepersonaliseerde berichten toont. Er zit niet iemand in een contactcenter die dergelijke berichten handmatig goedkeurt.

Hoe ver zijn we van zo’n autonomous enterprise en hoeveel tijd zal dat nog in beslag nemen?

Er zijn al veel use cases waar AI nuttig kan samenwerken met medewerkers. Bijvoorbeeld in klantenservice, waar een deel van de vragen automatisch wordt afgehandeld door een bot, maar de mogelijkheid blijft om met een mens te praten. Of andersom, waar een AI-systeem een probleem detecteert en automatisch opschaalt naar een menselijke agent.

Zijn er al praktische toepassingen van deze visie?

Bijvoorbeeld in een contactcenter kan AI proactief een deel van de vragen afhandelen voordat een klant met een mens spreekt. Stel dat ik voor de vierde keer bel over een betaling en het systeem ziet dat de betaling inmiddels is verwerkt. Het kan dan een bericht afspelen dat mijn abonnement weer actief is en dat alles in orde is, zonder dat ik een medewerker hoef te spreken. Dit zijn voorbeelden waarbij autonome en menselijke interacties samenwerken.

Wat is de volgende stap in deze ontwikkeling?

Het verder integreren van proactieve probleemoplossingen door beter inzicht en gebruik van data. Dit is een gebied waar nog veel winst te behalen valt met AI. Dat kan op zowel macroniveau als microniveau. Op macroniveau kun je technieken zoals proces mining gebruiken om te kijken waar de bottlenecks zitten. Je kunt dan zien welke servicecases typisch twee keer zo lang duren als gemiddeld en vervolgens je complete proces optimaliseren. Op microniveau kun je meer gericht kijken naar individuele klanten. Bijvoorbeeld, als je ziet dat een klant problemen heeft met zijn internetverbinding of betalingen, kun je proactief kijken wat er aan de hand is en het probleem oplossen voordat de klant zelf contact met je opneemt. Het gaat er vooral om dat je de klant laat weten dat je het probleem hebt opgemerkt en eraan werkt.

Waar zie je deze ontwikkelingen naartoe gaan?

Ik ben al meer dan 30 jaar actief in dit veld en het is ongelooflijk om te zien hoe snel technologie zich ontwikkelt en hoeveel potentieel er nog is voor de toekomst. Mijn visie is dat we steeds meer gebruik zullen maken van AI om processen te optimaliseren en klanten proactief te ondersteunen. We zullen zien dat bedrijven steeds meer vertrouwen op autonome systemen om hun bedrijfsvoering te verbeteren en de klanttevredenheid te verhogen.

Waar gaat dit eindigen of beter waar zou jij willen dat het eindigt?

Dat is een goede vraag. Het is lastig te voorspellen waar het eindigt, zeker als je bedenkt dat hoe meer je weet over een gebied, hoe complexer het wordt om voorspellingen te doen. Maar er zijn wel enkele voorspelbare patronen. Eén daarvan is het volwassen worden van technologie, waarbij het belangrijk is om grenzen te stellen aan toepassingen die je niet zou moeten willen. Nu, met generatieve AI zien we een verschuiving. Mensen gebruiken het voor alledaagse taken, zoals het maken van koekjesrecepten of het voorbereiden van een spreekbeurt. Als mensen thuis AI gebruiken voor persoonlijke taken, beginnen ze zich af te vragen waarom ze dezelfde technologie niet kunnen toepassen in hun werk. Bijvoorbeeld, een manager van een klantenservice die ziet hoe zijn kind AI gebruikt voor een schoolproject, zal zich afvragen waarom zijn bedrijf niet hetzelfde doet. Dit leidt tot doorbraken in zinvolle toepassingen van AI in het bedrijfsleven. Het helpt bedrijven om praktischer na te denken over wat ze willen bereiken met AI en welke toepassingen zinvol zijn. De brede acceptatie van AI zorgt ervoor dat mensen zich comfortabeler voelen bij het gebruik ervan in een zakelijke context.

Is er al een versnelling gekomen in de ontwikkeling?

Dat kun je wel zeggen. Over het algemeen zie je dat het besef groeit dat AI een praktische tool is – geen wondermiddel, maar iets wat je praktisch kunt gebruiken. Dit besef helpt bij het bepalen wat je wel en niet moet willen met AI. De technologie zelf blijft zich ook snel ontwikkelen. Meer proactieve vormen zoals agent-based AI, bieden nog veel ruimte voor ontwikkeling. Hoe controleer je bijvoorbeeld een AI-agent die zelfstandig beslissingen neemt?

‘Er is geen toekomst voor onverantwoordelijke technologie’

Sinds PegaWorld wordt er gesproken over ‘left brain/right brain’ AI. Kun je uitleggen wat dat betekent?

Dat concept komt een beetje uit mijn koker. Het idee was om een metafoor te vinden die buiten het technische domein ligt, zodat iedereen het kan begrijpen. We hebben zoveel nieuwe technieken dat het soms moeilijk is om het overzicht te bewaren. De rechterhersenhelft staat voor creativiteit en intuïtie, zoals generative AI. De linkerhersenhelft staat voor rationele, analytische processen, zoals het voorspellen van klantgedrag, interpreteren van data en geautomatiseerde beslissingen nemen. Het helpt bedrijven om de balans te vinden tussen creatief en rationeel gebruik van AI. Het idee is dat je beide aspecten benut voor optimale resultaten.

Tekst Kel Koenen | Foto’s Zuiver Beeld