Antwerps AI-bedrijf leidt Europees onderzoek naar online haatspraak

De bestorming van het Amerikaanse Capitool was een voorbeeld van waar een hardnekkige desinformatiecampagne toe kan leiden. ©AFP

Het Antwerpse taaltechnologiebedrijf Textgain krijgt de leiding over een Europees onderzoekscentrum naar online haatspraak en desinformatie. De opgedane inzichten moeten experts helpen om onder andere radicalisering de pas af te snijden.

U hebt het misschien ook al gemerkt, maar het gaat er op sociale media ranziger aan toe dan ooit te voren. Dat is meer dan louter een buikgevoel. Het Antwerpse AI-bedrijf Textgain publiceerde midden vorig jaar een analyse van wat op Belgische sociale media zoal wordt gepost. De conclusie? In vijf jaar gingen racisme en dreigtaal maal drie, seksisme verdubbelde in hoeveelheid.

Het is een trend die overal ter wereld waarneembaar is. Of het nu om van de pot gerukte complottheorieën, racisme, extremisme of andere haatpraat gaat, het internet bulkt er hoe langer hoe meer van. Begin dit jaar werd nog eens duidelijk tot welke toestanden dat kan leiden, toen een door desinformatie en haatspraak opgejutte bende het Amerikaanse Capitool bestormde.

Textgain

Textgain is een spin-off van de Universiteit Antwerpen. Aan de onderzoeksgroep CLiPS gebeurt daar onderzoek op het kruispunt van taal en technologie.

De AI-technologie van Textgain kan uit enorme ladingen ongestructureerde tekst inzichten puren. Die kunnen worden ingezet door marketeers, maar evengoed door de politie of overheden om online strafbare feiten boven te spitten.

Textgain werkte onder andere al voor de baggeraar en havenbouwer DEME, de VRT, de Nederlandse politie en de Europese Commissie.

Zowel private internetbedrijven als overheden zoeken dan ook een manier om daar een antwoord op te formuleren. Momenteel wordt daarbij volop de kaart van censuur getrokken. Maar experts zijn ervan overtuigd dat er een betere manier bestaat om met die online dreiging om te gaan.

Dat is meteen de reden waarom de Europese Unie begin dit jaar het European Observatory of Online Hate (EOOH) in het leven riep. Dat onderzoekscentrum zal, onder leiding van het Antwerpse Textgain, greep proberen te krijgen op online trends, waarna experts met die informatie aan de slag kunnen gaan. Niet om te censureren, maar om gericht tegengewicht te bieden.

CLiPS

Textgain werd in 2015 opgericht als spin-off van de Universiteit Antwerpen. De wetenschappers Guy De Pauw, Tom De Smedt en Walter Daelemans ontwikkelden er in de vakgroep CLiPS (Computational Linguistics en Psycholinguistics) een algoritme dat, als het gevoed wordt met voldoende taal, automatisch patronen weet te herkennen. Dat kan gaan om meta-informatie - is deze tekst geschreven door een man of een vrouw, een jong of oud persoon, een intravert of een extravert iemand? - maar evengoed over sentimenten zoals tevredenheid of haat.

Wij kunnen observeren, maar het is aan de experts om onze inzichten om te zetten in beleid.
Guy De Pauw
CEO TextGain

Die zelflerende technologie wordt vandaag gebruikt door een breed scala aan klanten, van marketeers die willen achterhalen hoe hun nieuwe product online wordt onthaald tot overheden. In die laatste categorie deed Textgain eerder voor de Europese Unie al onderzoek naar 'maatschappelijk kwalijke trends' zoals haatspraak en racisme.

De oprichting van EOOH bouwt voort op dat eerdere werk voor Europa, legt CEO Guy De Pauw uit. 'Enerzijds is het de bedoeling onze technologie uit te breiden naar alle 24 landstalen in de Europese Unie. Anderzijds willen we met dit project de nodige experts rond ons verzamelen die ook nuttige dingen kunnen aanvangen met wat wij vinden. Wij kunnen observeren, maar de experts kunnen die inzichten ook omzetten in concreet beleid.'

Bij EEOH worden meer dan 50 experts en organisaties betrokken, gaande van Europese politie- en veiligheidsdiensten en mensenrechtenorganisaties tot beleidsmakers en terrorisme-experten. Ook het Belgische antiterreurorgaan OCAD werkt mee. Europa trekt 1,2 miljoen euro aan subsidies uit voor het project.

Lees verder

Advertentie
Advertentie
Advertentie

Gesponsorde inhoud

Gesponsorde inhoud