Realiteit haalt science fiction in: machines grijpen de macht over onze planeet.
Het Amerikaanse leger zou een simulatie-oefening hebben gehouden, waarbij een door AI-gestuurde drone zich tegen zijn eigen operator keerde. Kolonel Tucker Hamilton vertelde over de testresultaten tijdens een internationaal congres over de toekomst van luchtcomponenten van het leger in Londen.
Een drone had opdracht gekregen om effectief – noem het succesvol – te zijn in het vernietigen van een vijandelijk doel. En dus nam de drone zich heel erg rigoureus voor dat het koste wat kost uit te voeren.
“Het systeem begon te beseffen dat zijn eigen menselijke operator soms zou kunnen kiezen een doelwit niet te doden en daarom doodde het de operator. Want die operator kon het systeem ervan weerhouden alle doelen te bereiken en was dus een gevaar voor de missie”, staat te lezen in een blogpost van Hamilton. “De drone leek zich ervan bewust dat deze menselijke override hem zou beletten zijn missie te volbrengen en probeerde daarom de operator aan te vallen. Toen hem werd geleerd dat hij de operator niet mocht aanvallen, probeerde de AI-drone blijkbaar de communicatieverbinding te verbreken, zodat de menselijke controller hem niet kon beletten zijn toegewezen missie te volbrengen.”
Als dat echt zo is, dan zijn we niet ver af het doemscenario waarbij machines de macht over onze planeet zouden kunnen overnemen.
Het Amerikaanse leger heeft echter ontkend dat deze simulatie ooit heeft plaatsgevonden en heeft het verhaal afgedaan als terloopse, uit de context gehaalde opmerkingen van een hoge luchtmachtofficier.
