Wetenschappers vergelijken gevaren AI met een pandemie of een kernoorlog.
Honderden topbestuurders van bedrijven in kunstmatige intelligentie hebben opgeroepen tot meer waakzaamheid over de mogelijke gevaren van de technologie. "Het verkleinen van de risico's op uitsterven als gevolg van AI moet een wereldwijde prioriteit zijn, net zoals andere maatschappelijke risico's zoals pandemieën en kernoorlogen", luidt het korte statement.
De non-profitorganisatie Center for AI Safety (CAIS) publiceerde de verklaring, die ruim 350 keer is ondertekend. De verklaring verschijnt op hetzelfde moment dat in Zweden politici uit de Europese Unie en de Verenigde Staten samenkomen om te praten over de mogelijkheden om AI-bedrijven aan meer regels te onderwerpen.
AI-innovators en onderzoekers maken zich zorgen over zowel het doemscenario van een ongecontroleerde superintelligente AI, als over de minder sciencefictionachtige - maar waarschijnlijkere - schade die kan voortvloeien uit overhaaste implementatie van de technologie. Ze denken dan aan cyberaanvallen, oplichting, desinformatie, surveillance en vooringenomenheid. AI kan binnenkort worden ingezet om bijvoorbeeld verkiezingen te manipuleren, grootschalige financiële fraude te plegen, nieuwe wapensystemen te ontketenen en de ergste vormen van politieke propaganda te vergemakkelijken.
Het zijn geen verwarde geesten die de weg kwijt zijn of wappies, maar een behoorlijk deel van de 'AI-elite' die dit gevaar onderschrijven. Ze hopen dat wereldwijde regelgeving dit risico indamt. Indrukwekkend is de lijst van wetenschappers en leiders uit de techwereld die een manifest hiertoe heeft ondertekend van het Center for AI Safety, een gezaghebbende organisatie uit San Francisco die de maatschappelijke risico's van AI wil beperken.
Onder meer experten van Microsoft en Google ondertekenden de waarschuwing, maar ook Sam Altman, de oprichter van AI-chatbot ChatGPT. Het 37-jarige wonderkind achter ChatGPT waarschuwt al een tijdje voor zijn eigen creatie. Volgens hem kan het “ernstig fout gaan” als de nieuwe technologie niet wordt gereguleerd. Ook Twitter-baas Elon Musk - die zelf al veel heeft geïnvesteerd in de technologie - waarschuwde al eerder dat AI “de beschaving kan vernietigen”.
