3 juni 2024
Van Prometheus naar Icarus
Generatieve AI en het einde van de menselijke wetenschap
Het hek is van de dam, we zijn nu reeds als academici grotendeels afhankelijk van generatieve AI (genAI). Het is alsof we geen keuze meer hebben. Nauwelijks is er tegenkanting, want de mogelijkheden van AI lijken ons onbegrensd, en momenteel zien we enkel en grijpen we gretig naar de opportuniteiten waarmee de nieuwe technologie ons overspoelt. Het helpt, dus waarom niet?
Zeventien collega's gaven in de media aan waarvoor ze generatieve AI (genAI) zonder blikken en blozen inzetten (De Standaard, 4 mei 2024). Het is evident dat genAI gebruikt wordt om complexe problemen aan te pakken. Daar is ook helemaal niets mis mee: je vervangt technologie door nieuwe technologie om dergelijke vraagstukken efficiënter aan te pakken. Tenminste, als je weet wat je aan het doen bent en kan inschatten of de resultaten betrouwbaar zijn. Onze collega's hebben geleerd onderzoek op een analoge manier uit te voeren, dus zit dat wel goed. Als wetenschapsfilosofen stellen we ons wel een aantal vragen bij het gebruik van genAI voor de taken waarbij voorheen nog geen technologie werd ingezet: kort door de bocht zijn dat taken die geen grote rekencapaciteit vergen.
We nemen het voorbeeld van projectaanvragen. Academici staan de laatste twintig jaar onder grote druk om geld binnen te rijven via onderzoeksprojecten. Het opstellen daarvan is een uiterst tijdsintensieve onderneming en de slaagkans zit zowat (in het algemeen) rond twintig procent. Dat systematisch gedwongen zoeken naar externe financiering legt een laagje stof op ons moreel kompas. Je moet een onderzoek bedenken dat loopt over enkele jaren, partners zoeken, een budget opstellen, waarschijnlijke resultaten opsommen, een impactanalyse toevoegen en dies meer. Geen wonder dat academici dat willen overlaten aan genAI. Je hoeft geen glazen bol te hebben om een proliferatie van aanvragen te voorspellen op korte termijn. Al die aanvragen dienen te worden beoordeeld, dus zal de neiging om reviews te laten schrijven door genAI even zozeer toenemen. Het gebeurt nu reeds in mindere mate; je kan het de reviewers niet kwalijk nemen, toch? Want reviewen kost veel tijd, wordt niet vergoed en betekent zo goed als niets op het curriculum vitae. We erkennen dus zeker één groot mogelijk voordeel dat een brede en diepe inzet van genAI in de academische wereld met zich mee kan brengen: de gemiddelde academische werkweek van 55 uur zou kunnen worden teruggebracht tot een normale veertigurenweek. Als humanisten verwelkomen we deze gedachte, maar we mogen zelf niet naïef zijn en als wetenschapsfilosofen moeten we ook het bredere plaatje durven bekijken.
Langzaamaan verschijnt een zeer groot probleem aan de horizon. Als we projectaanvragen laten schrijven door genAI en de beoordeling er eveneens aan overlaten, dan voel je aan dat er iets gaat mislopen. De analyse van de data laten we ook over aan genAI; het trekken van de conclusies, het schrijven van de teksten eveneens. Indien we zo aan wetenschap gaan doen en bij elk aspect van de onderzoekcyclus generatieve AI gaan inzetten, dan laten we het over aan genAI om te bepalen hoe wetenschap zich verder zal ontwikkelen. Je kan filters bedenken en limieten opleggen om alles wat op mensenmaat te houden, maar uiteindelijk is het vooral genAI die nog de teksten zal gebruiken, voorheen geschreven door … genAI. We dragen geleidelijk het eigenaarschap van het wetenschappelijk denken over aan genAI.
De cursussen worden geschreven door genAI op basis van kennis ontwikkeld door genAI, de presentaties voor de colleges worden gemaakt door aan genAI de cursusteksten voor te leggen. Het examen wordt opgesteld en verbeterd door genAI. Zo komt ook het hoger onderwijs in handen van AI. Alle niveaus van het onderwijs: want sinds kort laten we het opstellen van lesvoorbereidingen, werkblaadjes en toetsen (opstellen en verbeteren) meer en meer over aan genAI.
De studenten mogen volgend academiejaar genAI gebruiken voor hun masterthesissen, zo toeteren de universiteiten om ter snelst. In een Radio 1-interview (4 mei 2024) liet een studente (anoniem) weten dat ze nu reeds zowat de helft van het opstellen van een thesis overliet aan ChatGPT: van onderzoek bedenken tot resultaten kritisch verwerken. Ze weet eigenlijk niet zo of dat allemaal wel mocht. Blijft ze zitten dan hoeft ze zich volgend academiejaar die vraag alvast niet meer te stellen. Dat ze slaagt met een ChatGPT-thesis is overigens geen zekerheid: in sommige domeinen is de kwaliteit van genAI kantje-boordje. GenAI leert natuurlijk wel – het is AI voor iets – maar het blijkt ook het eigen werk te vergeten. Dit catastrofaal vergeten verschijnt door het overschrijven van eerdere synthetische informatie. Mensen hebben het voordeel te slapen: dan consolideren levende wezens hun ervaringen. Of hoe dromen het verschil maken (onwillekeurig denken we nu aan het schitterende scifi-verhaal van Philip K. Dick uit 1968: Do Androids Dream of Electric Sheep?). En, ja, er is al onderzoek gedaan naar de impact van 'slapen' op de geheugenwerking van neurale netwerken, zie dit artikel in Nature Communications.
Het is naïef te denken dat we makkelijk zullen kunnen detecteren wat de menselijke bijdrage nog zal zijn aan onderzoek. Collega Mortelmans van de UA stelde in genoemde reportage dat het nu al onmogelijk is. Volgens hem gebruiken 80% van de doctoraatsstudenten dagelijks genAI terwijl 80% van hun begeleiders daarvan niet op de hoogte zijn (lees: ze zien het niet). Tot zover de transparantie. Vandaag merk je genAI-gebruik enkel nog op wanneer de 'auteurs' stommiteiten begaan door teksten niet stilistisch coherent te maken en/of overduidelijke genAI-passages niet te schrappen (zoals: 'Ik kan hier niet op antwoorden omdat mijn data-input dateert van voor 2020') en/of gehallucineerde bronnen op te sommen. Het getuigt van weinig mensenkennis te denken dat gebruikers steeds verantwoord met genAI zullen omgaan.
Verantwoord ermee omgaan betekent voor ons dat we het eigenaarschap van onze teksten en de wetenschappelijke ontwikkeling behouden. Wanneer we ondoordacht met onze teksten de chatbots – in elke fase van onderzoek of onderwijs – voeden, zal meer en meer genAI gebruikmaken van teksten geproduceerd door genAI. De goedbedoelde OpenAccess gooit onze kennis te grabbel aan de chatbots. Wetenschap wordt uiteindelijk 'copyright' genAI. Alle wetenschappelijke kennis wordt synthetisch (niet in kantiaanse zin).
Als deze dystopie zich realiseert dan is er niemand die nog weet wat betrouwbaar is en wat niet. Er is nu al geen garantie meer dat de afgestudeerde studenten de vaardigheid daartoe hebben ontwikkeld.
De dystopie kan zichzelf oplossen door een automatische collaps van het model: als generatieve AI overmatig gevoed wordt door generatieve AI, herhalen de modellen patronen die ze al eerder tegenkwamen en de informatie die je aan patronen kan onttrekken, is behoorlijk eindig, zie dit artikel. Vrolijk worden wij als humanistische wetenschapsfilosofen daar niet van, want het impliceert meteen ook een totale collaps van het wetenschappelijke denken. Wil je de helse spiraal doorbreken, dan moet genAI blijvend getraind worden door menselijke teksten. Als we de epistemologische apocalyps willen vermijden dan kunnen wetenschappers niet anders dan te stoppen met het inschakelen van genAI bij alle aspecten van de onderzoekscyclus of tenminste de toegang ontzeggen tot hun publicaties. Dat laatste wordt moeilijk: nogal wat universiteiten dwingen hun onderzoekers hun werk in OpenAccess aan te bieden (ook de VUB, maar principieel weigert alvast één van ons). Als universiteiten laks blijven ten aanzien van genAI-gebruik, zullen meer en meer onderzoekers daartoe overgaan, zo niet komen ze in een minder concurrentiële positie (ze kunnen kwantitatief niet op tegen wie genAI inzet). Wie geen genAI gebruikt, werkt zichzelf buiten.
Hoe gaat dat aflopen? De informatie om dat uit te maken is er. Tijd dat we zelf dus nog eens goed nadenken over wat we aan het doen zijn. De universiteiten reageren bijzonder traag en willen vooral zien wat genAI hen opbrengt: veel studenten en veel publicaties.
Wij zijn Icarus: blind voor de gevolgen, ongebreideld vertrouwen, overmoedig. Laten we hopen deze ultieme vervreemding van de mens spoedig tegen te kunnen houden. Als we het onderwijs en onderzoek overlaten aan genAI, het denken en leren denken, wat maakt ons dan nog tot mens?
NB Dit stuk kwam tot stand zonder enig gebruik van genAI.
Meer van Gustaaf Cornelis en Marijke Van Vlasselaer