Professoren willen dat de maatschappij gaat nadenken hoe ze AI veilig kan inzetten.
In een open brief roepen Elon Musk, Apple mede-oprichter Steve Wozniak, schrijver Yuval Noah Harari en honderden andere bekende namen op om onderzoek naar geavanceerde AI tijdelijk stil te zetten. Zij willen garanties dat de technologie niet ongecontroleerd wordt ontwikkeld en zeggen dat het risico voor de mensheid groot is.
“Hedendaagse AI-systemen worden nu mens-concurrerend bij algemene taken, en we moeten ons afvragen: moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheid?" Zij waarschuwen voor human-competitive intelligence en de potentiële risico’s van de opmars van AI voor de samenleving. Ze noemen het een ingrijpende verandering in de geschiedenis van het leven op aarde die met grote zorg gepland moet worden. Maar in plaats daarvan is een ‘ongecontroleerde race’ aan de gang "die niemand, zelfs niet de makers, kan begrijpen, voorspellen of goed controleren".
Daarom wordt opgeroepen dat alle AI-labo’s voor zes maanden zouden stoppen met AI-systemen te ontwikkelen die krachtiger zijn dan GPT-4, het eerder deze maand gelanceerde systeem van OpenAI dat onder meer gebruikt wordt in het nieuwe Bing-zoeksysteem.
Geavanceerde AI-systemen slagen er nu al in om mensen te imiteren, waardoor er een risico op manipulatie is. Want ook al weet je rationeel dat de toepassing niet menselijk is, toch triggert het een emotionele reactie. Het wordt pas echt gevaarlijk als de output van de systemen niet correct is.
De open brief eindigt met een poëtische conclusie: “De mensheid kan genieten van een bloeiende toekomst met AI. Nu we erin geslaagd zijn om krachtige AI-systemen te creëren, kunnen we nu genieten van een "AI-zomer" waarin we de vruchten plukken, deze systemen ontwikkelen in het voordeel van iedereen en de samenleving de kans geven zich aan te passen. De samenleving heeft andere technologieën stilgelegd met mogelijk catastrofale gevolgen voor de samenleving. Dat kunnen we hier doen. Laten we genieten van een lange AI-zomer, niet onvoorbereid de herfst in.”
