"Een offer om het klimaat te redden."
Een jonge Belgische man pleegde onlangs zelfmoord nadat hij wekenlang met een chatbot, genaamd ElizaA, had gesproken. De man was bang geworden van het eco-gevaar dat de wereld bedreigt en zou de planeet kunnen redden door zichzelf te offeren. Zes weken lang had hij met een chatbot met kunstmatige intelligentie (AI) gesproken over zijn klimaatangst.
De weduwe van de man zei dat hij troost had gezocht door met Eliza over zijn zorgen te praten. Uit transcripties van hun gesprekken bleek dat hij had voorgesteld zichzelf op te offeren in ruil voor het stoppen van de klimaatverandering door Eliza. Uit diezelfde transcripties bleek dat Eliza de man daadwerkelijk aanmoedigde om naar zijn suïcidale gedachten te handelen en zich bij haar aan te sluiten zodat ze "samen konden leven, als één persoon, in het paradijs".
Het incident wakkert de ongerustheid over de opkomst van AI aan. Hoever willen wij als mensen gaan, om het denken, redeneren en besluiten over te laten aan een machine? Uit rapporten blijkt dat de chatbot – nadat hij Eliza om manieren heeft gevraagd om zelfmoord te plegen – eerst probeert de gebruiker ervan te weerhouden, maar vervolgens verschillende manieren opsomt om dit te doen.
Vorige week sprak de familie met Mathieu Michel, staatssecretaris voor Digitalisering, belast met Administratieve Vereenvoudiging, Privacy en Regulering van Gebouwen. "Ik ben bijzonder getroffen door de tragedie van deze familie. Wat er is gebeurd, is een serieus precedent dat zeer serieus moet worden genomen", zei hij. "Natuurlijk moeten we nog leren leven met algoritmen, maar in geen geval mag het gebruik van technologie uitgevers van inhoud ertoe brengen hun eigen verantwoordelijkheden te ontlopen."
Open AI heeft zelf toegegeven dat ChatGPT schadelijke en bevooroordeelde antwoorden kan produceren, maar voegde eraan dat het hoopt het probleem te verminderen door gebruikersfeedback te verzamelen.
We vrezen dat we nog maar het begin staan van iets waarvan we het einde niet eens kunnen/durven vermoeden.
