AI-detectieÂsoftware die is ontworpen om oneerlijke studenten te ontmaskeren, blijkt nu zelf met de kloten genomen te worden.
In plaats van alleen te berekenen of een essay door een machine is geschreven, gebruiken deze tools inmiddels ook hun eigen AI-onderdelen om bronnen te verifiëren.
Het resultaat zijn complete fictieve citaten, prikfouten in echte verwijzingen en automatische beschuldigingen van AI-gebruik waar puur menswerk is geleverd.
Onderzoekers waarschuwen dat deze AI-detectoren structureel tekortschieten, bijvoorbeeld door menselijke teksten als machinaal te brandmerken of door correct geschreven teksten verdacht te vinden.
Verder komt het voor dat generatieve AI-Âsystemen 'hallucineren', ze maken letterlijk feiten, boeken en citaten die nooit bestaan.
Zo ontstaat de absurde situatie waarin je detector meer liegt dan de vermeende bedroger.
Kortom, als je docent bent en je laat zo’n tool los op handgeschreven essays, kun je beter voor kruisjespotlood en papier kiezen. Want de technologie die moet bewaken of iemand sjoemelt, blijkt nu zelf de grootste cheater van het stel.
De garde tegen plagiaat is dus even menselijk als kwetsbaar en dus toch best je eigen instinct volgen om tamzakken op te sporen.
