Ruim 65.000 Franstalige lezers kochten dit najaar ‘C'était ça ou mourir’, het debuut van de Haïtiaans-Québécoise schrijver Thélyson Orélien. Ze leefden mee met Jonas Dorléon, een leraar geschiedenis die Port-au-Prince ontvlucht en dwars door Amerika naar Canada trekt. De Fnac bekroonde het boek als roman van het jaar en de jury's van de Goncourt, Renaudot, Femina en Médicis zetten het op hun eerste selectielijsten. Tot de Canadese uitgeverij Boréal op 21 oktober bekendmaakte dat artificiële intelligentie was gebruikt bij het schrijven. Het boek wordt niet meer herdrukt en de uitgeverij wil niet langer met Orélien samenwerken. En zo zitten duizenden ontroerde lezers plots met een merkwaardige vraag: wie heeft hen eigenlijk zo diep geraakt?
Een account met honderd volgers
Het begon op 21 september, met een anoniem account op X dat ‘Balance ton Claude’ heette. Een woordspeling op de #MeToo-slogan ‘Balance ton porc’ en vermoedelijk ook een verwijzing naar Claude, de chatbot van Anthropic. Het account had amper honderd volgers, maar wist binnen enkele dagen meer dan vier miljoen weergaven te verzamelen. Daar kunnen heel wat gevestigde literaire critici alleen maar van dromen.
De mensen achter het account hadden twintig passages uit de roman door Pangram gehaald, een Amerikaans programma dat beweert te kunnen herkennen of een tekst door AI werd geschreven. Het oordeel was telkens hetzelfde: honderd procent machinaal. Geen twijfel, geen voorbehoud, geen ‘we vermoeden dat’. Gewoon een digitaal vonnis met de stelligheid van een parkeerwachter die je vijf minuten te laat bij je wagen ziet verschijnen.
Achter het account bleek onder meer Samuel Fitoussi te zitten, essayist, columnist bij Le Figaro en zelf investeerder in artificiële intelligentie. Hij verklaarde te vrezen voor het verval van het menselijke lezen en schrijven en vond dat de lezers bedrogen waren.
Vier dagen later haalde de Académie Goncourt het boek van haar lijst. De jury stelde dat de roman naar alle waarschijnlijkheid grotendeels het product van artificiële intelligentie was en wees daarnaast op plagiaat in oudere teksten van de auteur. Opmerkelijk genoeg had juryvoorzitter Philippe Claudel twee dagen eerder nog ‘onweerlegbare bewijzen’ geëist.
Ook elders begon de literaire wereld plots zenuwachtig in haar koffiekopje te roeren. Een kleinere prijs in Straatsburg werd ingetrokken en aan een andere schrijver gegeven, terwijl een boekenbeurs in Québec de optredens van Orélien als eregast annuleerde. Een auteur die enkele weken eerder nog als een nieuwe literaire ontdekking werd binnengehaald, zag zijn carrière in recordtempo veranderen in een behoorlijk ongemakkelijke aflevering van ‘Wie is de mol?’.
Een heksenjacht met een algoritme
De verdediging liet niet lang op zich wachten. Bestsellerauteur Virginie Grimaldi sprak op Instagram van ‘een regelrechte lynchpartij’, Marc Levy noemde de aanklagers op de radio ‘een account van racisten’ en Virginie Despentes verwierp de methode van Pangram volledig.
Die kritiek was niet zomaar uit de lucht gegrepen. Een roman van Sophie Jomain uit 2009, geschreven jaren voordat ChatGPT bestond, kreeg van hetzelfde detectieprogramma een score van 94 procent AI. Tenzij Sophie Jomain destijds al over een tijdmachine beschikte, zegt dat toch iets over de betrouwbaarheid van zulke systemen.
Zelfs Max Spero, de topman van Pangram, waarschuwde dat zijn programma nooit het laatste woord mag hebben. Een AI-detector kan aanwijzingen opleveren, maar is geen rechtbank die op basis van een percentage beslist wie een boek heeft geschreven.
Dat de eerste schrijver die zo publiekelijk door een algoritme werd veroordeeld een migrant uit Haïti was, en dat de beschuldigingen afkomstig waren van een anoniem account waarbij een columnist van een conservatieve krant betrokken bleek, gaf de zaak bovendien een politieke en maatschappelijke bijsmaak. Grasset, de Franse uitgever van het boek, sprak in september nog van ‘absoluut vertrouwen’ in zijn auteur.
Orélien zelf bleef aanvankelijk eveneens bij zijn verhaal. Hij noemde de beschuldigingen ‘laster en ketterij’, verklaarde dat hij in 2017 aan de roman was begonnen en in 2019 al een eerste versie had afgewerkt. Digitale hulpmiddelen had hij naar eigen zeggen uitsluitend gebruikt voor historisch onderzoek en voor uitdrukkingen in vreemde talen.
Op 13 oktober moest hij wel iets anders toegeven. Als jonge schrijver in Canada had hij teksten van anderen overgenomen, waaronder een column uit 2013 die vrijwel volledig vertaald bleek uit een Filipijnse krant. Hij sprak van ‘onaanvaardbare fouten’ die hij had gemaakt omdat hij ‘te gehaast’ was. Een verklaring die misschien nog werkt wanneer je de trein mist, maar iets minder overtuigend klinkt wanneer je andermans teksten onder je eigen naam publiceert.
Orélien beloofde ook bewijzen te leveren voor de ontstaansgeschiedenis van zijn roman, maar vier dagen later zag hij daarvan af.
De vergeten opdracht
Ondertussen waren er nog andere merkwaardige sporen opgedoken. Op een website van Orélien stond in een tekst uit 2023 over de Québécoise literatuur, midden in een alinea, een zin die daar niet thuishoorde: ‘Bespreek de rol van Québec als hoeder van het Franse taalerfgoed in Amerika.’
Het literaire vakblad ActuaLitté zag daarin een mogelijke opdracht aan een chatbot die per ongeluk in de uiteindelijke tekst was blijven staan. Een beetje zoals een kok die zijn recept publiceert en vergeet de instructie ‘voeg nu de ingrediënten toe’ eruit te halen. Al erkende het blad dat ook een menselijke auteur zo'n werknotitie kan laten staan.
Libération ontdekte bovendien dat op hetzelfde domein een nieuwssite van de schrijver had gedraaid waarvan de teksten eveneens als volledig machinaal werden beoordeeld. Opnieuw ging het om detectieresultaten, niet om sluitend bewijs, maar de stapel vraagtekens werd er bepaald niet kleiner op.
De doorslag kwam uiteindelijk van Boréal zelf. De Canadese uitgeverij liet de werkbestanden van de roman extern onderzoeken en vond in de technische gegevens van sommige bestanden sporen van AI-gebruik. Dat stond haaks op wat Orélien zijn uitgever herhaaldelijk had verzekerd, schreef Boréal, al zou de volledige omvang van dat gebruik mogelijk nooit bekend worden.
Op 28 oktober verdween de roman ook van de laatste selectielijst van de Renaudot. De Fnac liet weten de situatie opnieuw te bekijken, maar had haar bekroning op dat moment nog niet ingetrokken. Dinsdag ging de Goncourt naar Philippe Jaenada, zonder de roman die in september nog tot de grote kanshebbers had behoord.
Wat de jury niet zag
Het ongemakkelijkste aan deze hele affaire heeft eigenlijk weinig met Orélien zelf te maken. Een roman waarbij volgens de eigen uitgever AI in het schrijfproces werd gebruikt, passeerde twee uitgeverijen, een hele reeks redacteurs, verschillende prestigieuze literaire jury's en tienduizenden lezers zonder dat het gebruik werd opgemerkt.
Sterker nog, het boek werd geprezen, bekroond en op verschillende lijstjes gezet. De literaire wereld was enthousiast, totdat iemand een aantal passages in een computerprogramma stopte en dat programma begon te roepen dat er iets niet klopte.
Daarbij blijft natuurlijk de vraag hoeveel AI precies heeft bijgedragen aan het eindresultaat. Dat is niet hetzelfde als vaststellen dat een chatbot de volledige roman heeft geschreven. Maar het feit dat de uitgeverij na onderzoek de samenwerking verbrak, maakt de zaak een stuk ernstiger dan een losse beschuldiging op sociale media.
ActuaLitté had in september overigens al een vernietigende kritiek gepubliceerd onder de titel ‘En als de literaire rentree geen groot boek meer herkent?’. Die kritische stem verdronk aanvankelijk in het gejuich.
En nu reageert de uitgeverswereld zoals ze wel vaker reageert wanneer er een probleem opduikt dat niemand heeft zien aankomen: door software aan te schaffen.
De Madrigall-groep van Antoine Gallimard, waartoe onder meer Flammarion, Minuit en Casterman behoren, wil vanaf januari alle binnenkomende manuscripten door een detectieprogramma halen. Welk programma daarvoor wordt gebruikt en wat er precies gebeurt wanneer een tekst verdacht wordt bevonden, is nog niet duidelijk.
Albin Michel voert dergelijke controles al uit, al is de uitslag daar niet doorslaggevend. Een Franse dienstverlener heeft ondertussen zelfs een ‘label menselijke creatie’ gekocht, waarmee boeken gecertificeerd kunnen worden op basis van een schriftelijke verklaring van de auteur, enkele detectietests en een gesprek over het schrijfproces.
Je moet de ironie toch even laten bezinken. Uitgeverijen die al eeuwenlang bestaan om manuscripten te lezen en te beoordelen, schakelen nu machines in om te ontdekken of andere machines misschien hebben meegeschreven. Het is een beetje alsof een wijnproever zijn neus niet meer vertrouwt en voortaan aan een computer vraagt of de fles wel naar wijn ruikt.
En hier?
Je hoeft overigens niet naar Parijs te kijken om te zien hoe snel de boekenwereld verandert. In mei bleek een Zuid-Hollandse firma die ook schuurpapier en polsbandjes verkoopt, meer dan tweeduizend non-fictieboeken met AI te hebben geproduceerd. Aan een tempo van ongeveer tien per dag, welteverstaan.
Die boeken werden aangeboden bij onder meer bol.com, Bruna en De Slegte. Alleen bol.com vermeldde duidelijk dat ze door een machine waren geschreven. Wie dacht dat een schrijver maandenlang op een zolderkamertje zat te zwoegen op zijn manuscript, kan dus tegenwoordig ook gewoon bij een onderneming terechtkomen die tussen twee bestellingen schuurpapier door nog even een boek over persoonlijke ontwikkeling laat genereren.
Volgende week opent Boektopia in Antwerp Expo, met honderden Nederlandstalige auteurs en duizenden nieuwe titels. Maar of Vlaamse uitgeverijen hun manuscripten systematisch op AI-gebruik controleren, en hoe ze zouden reageren wanneer een succesvolle roman verdacht blijkt, is voor lezers niet duidelijk. Van een gezamenlijke afspraak binnen de sector is voorlopig geen sprake.
En daarmee komen we bij de vraag die deze hele affaire zo interessant maakt.
Wie Orélien verdedigt, heeft op bepaalde punten gelijk. Een AI-detector is geen rechtbank, een anoniem account geen garantie op degelijk onderzoekswerk en een schrijver die in een week tijd van veelbelovend debutant tot paria wordt herleid, verdient meer dan een percentage op een computerscherm.
Ook wie zegt dat duizenden lezers oprecht ontroerd waren door het verhaal, heeft een punt. Hun emoties worden niet plots minder echt omdat er mogelijk een chatbot aan bepaalde passages heeft meegewerkt. Wie moest huilen bij het lot van Jonas Dorléon, heeft die tranen tenslotte niet achteraf door een computer laten produceren.
Maar een roman is ook meer dan een verzameling goed gekozen woorden. Wanneer je een boek koopt, ga je er doorgaans van uit dat iemand die zinnen heeft bedacht, gewogen, geschrapt en herschreven. Dat achter het verdriet van een personage een mens zit die dat verdriet heeft gevoeld, gezien of zich op zijn minst heeft kunnen voorstellen.
Precies die verwachting maakt het verschil tussen een roman en een willekeurige tekst die toevallig goed in elkaar zit.
En dat is misschien wel het pijnlijkste aan dit verhaal. Niet dat een schrijver mogelijk meer hulp van AI kreeg dan hij wilde toegeven, maar dat een groot deel van de literaire wereld eerst enthousiast applaudisseerde en vervolgens een algoritme nodig had om zich af te vragen waarvoor het eigenlijk applaudisseerde.
De Franse literatuur heeft daarmee een behoorlijk ongemakkelijke les gekregen: misschien moeten uitgevers en juryleden niet alleen leren hoe ze AI kunnen herkennen, maar vooral opnieuw vertrouwen op hun eigen vermogen om kritisch te lezen. Want wanneer je een machine nodig hebt om je te vertellen of een boek goed is, wordt het stilaan moeilijk uit te leggen waarom die machine het niet gewoon zelf zou schrijven.
(Foto: YouTube)
