24 december 2024
AI is de (nieuwe) opium van het volk
Artificiële intelligentie lijkt zich een permanente weg gebaand te hebben in ons dagelijks leven. Die tendens veroorzaakt ongerustheid bij zowel experts als burgers. Dit artikel gaat uitsluitend over een aantal gevaren met betrekking tot de normalisatie van het gebruik van Open AI-toepassingen zoals ChatGPT in ons dagelijks leven.
Met de enigszins provocerende titel boven deze tekst verwijs ik naar Karl Marx’ bekende citaat uit Zur Kritik der Hegelschen Rechtsphilosophie, waarin hij religie de opium van het volk noemde. Hiermee bedoelde hij dat religie de mens ervan weerhoudt verandering te brengen in zijn sociale en economische onderdrukking door de 'verdovende werking’ ervan. Religie verdooft als het ware het volk, net als opium dat kan doen. Ook artificiële 'intelligentie’ wordt op een vergelijkbare 'verdovende’ manier gebruikt.
Zowel opium als AI kunnen een verdovende werking hebben op de menselijke geest, zij het op verschillende manieren. Beide werken verdovend en verslavingsstimulerend. Waar opium een direct effect op het brein uitoefent door pijn te verlichten en een verslavend euforisch gevoel na te bootsen, werkt AI op een meer cognitief en intellectueel niveau: door gemak en snelheid te bieden in het verkrijgen van informatie.
Zowel opium als AI kunnen een verdovende werking hebben op de menselijke geest, zij het op verschillende manieren. Beide werken verdovend en verslavingsstimulerend. Waar opium een direct effect op het brein uitoefent door pijn te verlichten en een verslavend euforisch gevoel na te bootsen, werkt AI op een meer cognitief en intellectueel niveau: door gemak en snelheid te bieden in het verkrijgen van informatie.
Chatbots zoals ChatGPT geven informatie over gelijk welk onderwerp. Dat gebeurt steeds meer op een zeer overtuigende en geloofwaardige manier. Hier zit echter het addertje. Deze systemen zijn verre van objectief. Ze geven nog te vaak incorrecte informatie en verwijzen meer dan eens naar onbestaande en zelfverzonnen bronnen.
AI-systemen worden op punt gesteld via datatraining. Dat betekent: hoe meer data, hoe hoger het geloofwaardigheidsgehalte (en niet per se de waarheidsgetrouwheid!) van de uitkomst van zo’n chatbot. De verkregen informatie is, naast gedeeltelijk of volledig incorrect, vaak allesbehalve objectief, aangezien de data die hiervoor gebruikt worden niet altijd kloppen met de reële werkelijkheid. Ze zijn afkomstig van het internet, dat overloopt van onnauwkeurige en bevooroordeelde informatie. Zo krijgen we een valse indruk van objectiviteit en accuraatheid. Over dit laatste valt nog te zeggen dat artificiële intelligentie – en ChatGPT in het bijzonder – een kampioen is in het verzinnen van gebruikte en tevens onbestaande informatiebronnen.
Door de opkomst van AI en specifieke toepassingen zoals AI-gestuurde chatbots kunnen onze kritische denkvaardigheden stevig ondermijnd worden. Mensen zijn gewoontedieren, en wanneer men gewend raakt aan het snel ontvangen van (twijfelachtige) informatie die op het eerste gezicht betrouwbaar lijkt, zonder die voldoende te verifiëren, kan dit leiden tot een sterke afname van de bereidheid tot het stellen van kritische vragen en het controleren van bronnen: een bijzonder zorgwekkend fenomeen in een tijd waarin desinformatie op de loer ligt.
Hierbij wil ik de essentiële rol van educatieve instellingen hierin benadrukken. Zij moeten er namelijk voor zorgen dat hun leerlingen bewustgemaakt worden van deze beperkingen van AI. En bovenal zou men zich – meer dan ooit – moeten richten op de ontwikkeling van vaardigheden zoals kritisch denken, vooral op vlak van informatieverwerving en -verwerking.
Beschouw dit artikel als een oproep tot het inzien van de potentiële gevaren van chatbots zoals ChatGPT, en vooral de impact die het stelselmatig gebruik ervan in de hand werkt. Hoewel het ongetwijfeld in veel situaties voordelig kan zijn, is het essentieel dat we actief zoeken naar een evenwicht tussen het gebruik van AI en het behoud van onze kritische vaardigheden en autonomie.
Meer van Zeno J. Roels