De sociale media lijken soms op de vuilbak van de maatschappij. De goorste praat wordt op het internet gesmeten en gaat daar een eigen leven leiden. De Belgische start-up Textgain heeft nu een AI-model ontwikkeld dat daar paal en perk aan moet stellen. Hun tool kan in 24 talen haatspraak detecteren.
24 talen onder de loep
Het bedrijf peuterde hiervoor 250.000 euro los bij de Europese Commissie en het volledige model zou op punt moeten staan tegen 2025. Het model met de naam CaLICO zou dan haatspraak moeten kunnen detecteren in 24 talen. Het bedrijf wist ook twee miljoen uur ontwikkeld tijd te krijgen op de Europese supercomputer Lumi in Finland. Het bedrijf werkt samen met medewerkers in verschillende landen om de culturele achtergronden van toxisch taalgebruik te begrijpen en in kaart te brengen. Vervolgens zou het taalmodel onder meer racistische praat moeten kunnen identificeren.
Textgain is een Belgische bedrijf, ooit gestart als spin-off van de Universiteit van Antwerpen. Vorig jaar bracht het een AI-tool op de markt die bedrijfsdocumenten kan verwerken zonder gevoelige informatie te delen met derden. Met de AI-tool Rhetoric hebben ze al een tool die nieuwsberichten van Vlaamse mediabedrijven scant op haatspraak.
