Hoe komt het dat AI racistisch is?
Rijden we in de (nabije) toekomst van punt A naar B in auto’s die zichzelf besturen? De verwachting is dat er tegen 2035 of 2040 volledig zelfrijdende auto’s op onze wegen zullen rijden. Volgens veel specialisten is dit de meest realistische prognose, want er zijn nog heel wat obstakels te overwinnen.
De zelfrijdende auto moet bijvoorbeeld nog wettelijke toestemming krijgen om zichzelf te besturen, en ook de verkeerswetgeving moet worden aangepast. Verder moeten de wegenkaarten voortaan in real time worden geüpdatet en moet ervoor worden gezorgd dat de zelfrijdende auto een blikveld van 360 graden heeft, ongeacht de omstandigheden. En, last but not least, een zelfrijdende auto moet zo ‘getraind’ zijn dat hij alle obstakels, ziet, begrijpt en er passend op reageert.
In de labo’s autofabrikanten wordt AI – wat anders – inzet om auto’s slimmer te maken. Maar ook AI moet ergens de mosterd vandaan halen, en daar lijkt er een probleempje te zitten.
AI die voetgangers detecteert, zou het een pak lastiger hebben om kinderen of mensen met een donkere huidskleur te herkennen. In het geval van de kinderen zou het te maken hebben met het feit dat ze kleiner zijn en anders bewegen dan de modellen waarop AI studeert.
En hoe zit het met onze medemens met een kleurtje? Is AI racistisch? Wetenschappers denken dat AI mensen met een kleur minder herkent, omdat de foto’s en filmpjes die worden gebruikt om AI te trainen onvoldoende divers zijn. De computer heeft met andere woorden meer mensen met een lichte huidskleur gezien om te ‘leren' wat een voetganger is en kan die dus ook beter herkennen.
Foto: screenshot YouTune/Bright
