Het kan je bijna niet ontgaan zijn: grote techbedrijven zijn dol op grote woorden. Óf ze beloven dat AI de toverstaf is die alles anders maakt. Óf ze verspreiden apocalyptische boodschappen over hoe AI een eigen leven gaat leiden en de wereld gaat verwoesten zodra het de kans krijgt zich aan onze controle te onttrekken. In beide gevallen presenteren de techno's zichzelf als de oplossing. Dus je kan beide standpunten het best met een korrel zout nemen.
Ook de publieke opinie over AI raakt steeds meer gepolariseerd: veel bedrijven zetten nog altijd op AI in om efficiënter te worden, terwijl mensen die zich druk maken over auteursrecht, creativiteit en het milieu AI vaak helemaal afwijzen.
Dat roept de vraag op of een nuchtere kijk op AI überhaupt mogelijk is. En zo ja, wat dat in de praktijk betekent.
Vind je dit een interessant onderwerp, dan kan ik het boek 'AI Snake Oil' zeer aanbevelen. Het gaat over wat AI echt kan en wat niet. En daarmee ontkracht het veel van de hysterische beweringen uit Silicon Valley.
De auteurs, Arvind Narayanan en Sayash Kapoor, doen al lang onderzoek naar AI en weten dus waar ze het over hebben. Ze bieden een heel genuanceerd beeld van AI. Ze prikken generalisaties en valse beloftes door en juist daardoor ga je het echte potentieel van AI zien. Hun doel is je basiskennis te geven waarmee je echte vooruitgang van hype kan onderscheiden. Meer niet.
Om te beginnen wijzen ze erop dat alleen al de afkorting AI problematisch is, omdat die een heel gebied van zeer uiteenlopende technologieën beschrijft. Ze vergelijken het met het gebruik van het woord voertuig voor alle vormen van vervoer die we kennen: auto's, bussen, space shuttles, fietsen. Dat helpt niet voor een helder gesprek: 'er zijn felle discussies over de vraag of voertuigen milieuvriendelijk zijn, terwijl niemand doorheeft dat de ene kant van het debat het over fietsen heeft en de andere kant over vrachtwagens'.
Het boek helpt je waardevolle vormen van AI, die hun beloftes waarmaken, te onderscheiden van wat zij snake oil noemen: kwakzalverij.
Vervolgens leggen ze uit wat tekort schiet aan de soorten AI die tegenwoordig mega investeringen aantrekken, door inzicht te geven in hoe die technologieën werken. Neem chatbots. Die worden getraind om statistische patronen te leren uit trainingsdata (grotendeels van het web gehaald), en genereren daarna tekst op basis van die patronen. De auteurs waarschuwen dat chatbots niet per se onthouden wat er in hun trainingsdata staat.
'Wanneer een chatbot begint te antwoorden, heeft hij geen samenhangend beeld van het antwoord dat hij gaat geven. In plaats daarvan voert hij een absurd groot aantal berekeningen uit om te bepalen wat het eerste woord van het antwoord moet zijn. Nadat hij bijvoorbeeld honderd woorden heeft uitgevoerd, bepaalt hij welk woord het meest logisch is op basis van jouw prompt plus de honderd woorden die hij tot dan toe heeft gegenereerd.'
Als je het zo omschrijft, dan klinkt het niet echt als iets wat het voortbestaan van de mensheid bedreigt, eerder als een heel omslachtige manier om menselijke taal na te bootsen. Het verklaart ook meteen waarom GenAI zoveel energie en water verbruikt. Narayanan en Kapoor noemen het een 'computational expensive' aanpak: 'om één token - een deel van een woord - te genereren, moet ChatGPT ruwweg een biljoen rekenkundige bewerkingen uitvoeren'.
Als je beseft dat een chatbot niet meer is dan een voorspelling van het volgende woord, wordt duidelijk dat het moeite en oefening kost om chatbots op de juiste manier te gebruiken. Onjuist gebruik is meestal veel makkelijker en sneller, dus daar komen we al te vaak op uit. Zo zal het ook werk kosten om generatieve AI goed te gebruiken en op een passende manier te integreren.
Begrijpen wat AI is en hoe het werkt helpt om de grote claims van big tech beter te beoordelen. En het neemt in ieder geval een hoop angst weg. De nuchtere benadering van Narayanan en Kapoor blijkt ook wanneer ze bespreken hoe AI in de media wordt omschreven, vaak in de vorm van robots, terwijl AI in feite vooral wordt gebruikt om patronen in data te herkennen: 'Het lijkt meer op Microsoft Excel dan op de Terminator'.
In plaats van te discussiëren of AI de mensheid gaat uitroeien of transformeren, gebruiken wij het dus liever voor heel praktische doelen: duurzaamheidsteams ontlasten die verzuipen in het werk.