Mooie stap in strijd tegen online haatzaaien
![Mooie stap in strijd tegen online haatzaaien](/__uuid/2b74e009-ef8e-4555-b0e1-c64da385904b/ai_haatzaaien_textgain.jpg)
Textgain, een AI-spin-off van de Universiteit Antwerpen, won een Europese AI-wedstrijd en ontwikkelt een baanbrekend taalmodel om haatzaaien op internet tegen te gaan.
De komende twaalf maanden bouwt Textgain aan CaLICO, 's werelds eerste geavanceerde Large Language Model (LLM) dat haatspraak in alle officiële EU-talen herkent en verwerkt. Hiermee streeft het bedrijf ernaar om op de lange termijn marktleider te worden in meertalige AI-gebaseerde haatspraakdetectie. ‘Grote taalmodellen, vooral commerciële, weigeren toxische taal te verwerken’, vertelt Guy De Pauw, ceo van Textgain. ‘Dit maakt het bijna onmogelijk om ze te gebruiken voor haatspraakverwerking. Wij bouwen nu een taalmodel vanaf nul dat dit soort inhoud kan verwerken — zonder het te genereren.’
Textgain kreeg onlangs een flinke impuls door als een van de vier winnaars uit de bus te komen van de Large AI Grand Challenge, een wedstrijd voor Europese AI-ontwikkelaars waaraan 94 internationale bedrijven deelnamen. De overwinning leverde niet alleen €250.000 op, maar ook twee miljoen uur ontwikkeltijd op een Europese supercomputer, waardoor de training van nieuwe AI-modellen aanzienlijk versneld wordt. Coo Redouan el Hamouchi benadrukt: ‘In onze gedigitaliseerde wereld is er een groeiende behoefte aan geavanceerde tools om inhoud te modereren. Meertaligheid is daarbij essentieel. We zijn verheugd dat we onze applicatie sneller kunnen trainen, zodat deze verschillende talen en culturen binnen de Europese Unie aankan.’
De komende jaren richt Textgain zich op de ontwikkeling van het AI 'Hate Speech' model, met een geschatte waarde van enkele miljoenen euro's. Met het oog op internationale expansie zal het bedrijf daarna – vanuit een marktleiderspositie – verder werken aan de ontwikkeling van SaaS-toepassingen. ‘We hebben een unieke positie in de verzadigde markt van AI-aanbieders’, verklaart De Pauw. ‘Enerzijds omdat we ons eigen taalmodel ontwikkelen, in plaats van voort te bouwen op bestaande AI-modellen. Dit plaatst ons meteen naast grote spelers zoals OpenAI, Google en Meta. Anderzijds onderscheiden we ons door onze academische benadering. We werken samen met beleidsmakers, veiligheidsdiensten, sociale organisaties en wetenschappers. Betrouwbaarheid en precisie zijn belangrijker dan generieke oplossingen en onrealistische beloftes.’
Textgain blijft zich inzetten om maatschappelijke problemen in kaart te brengen met AI-technologie. ‘De Europese Unie heeft strikte normen gesteld’, zegt De Pauw. ‘De technologie moet transparant, verklaarbaar en ethisch zijn. Het is de enige manier om mensen vertrouwen te geven in nieuwe technologie.’ El Hamouchi bevestigt dit: ‘Onze ambitie herinnert ons ook aan onze enorme verantwoordelijkheid. Daarom doen we er alles aan om aan de hoogste ethische normen te voldoen. We bouwen en onderhouden zeer strikte processen om de privacy te beschermen.’