Kabinet schrijft zorg AI voor maar vergeet bijsluiter

Het kabinet Schoof heeft het licht gezien als het gaat om de toekomst van de zorg. Maar het is wel kunstlicht. Artificiële intelligentie (AI) is in de ogen van het kabinet het aangewezen medicijn tegen de vele kwalen waar het Nederlandse zorgstelsel aan lijdt. Een bijsluiter ontbreekt echter in de plannen voor Prinsjesdag. Gezien de vele bijwerkingen die AI kent een pijnlijk placebo voor al die mensen die dagelijks moeten zwoegen in een falend systeem.

Het personeelstekort staat hoog op de agenda van het kabinet. “Het is onmogelijk om deze arbeidsmarkttekorten af te wenden door steeds meer mensen van buiten de zorg aan te trekken, daar zijn immers ook grote tekorten”, lezen we in de eerste Prinsjesdagstukken van Schoof c.s.. “We zullen het moeten doen met de mensen die nu al in de zorg werken en de natuurlijke aanwas. Dat vraagt grote inspanningen, maar het kan.”

Met het oog op de aanpak van het personeelstekort wil het kabinet het  “momentum” benutten “om oplossingen waar we het al zo lang over hebben nu echt mogelijk te maken”. De belangrijkste van deze oplossingen is de inzet van “generatieve kunstmatige intelligentie (AI)” [sic]. Met name bij het terugdringen van de administratielast zijn de mogelijkheden volgens het kabinet “revolutionair”: “Als we de administratietijd weten te halveren naar zo’n 20 procent van de werktijd, zijn we er voor de komende jaren al.”

Gouden formule
Dit klinkt als een gouden formule: meer AI = minder administratieve handelingen = einde personeelstekort. Jammer genoeg valt er nogal wat af te dingen op deze redenering. Een kniesoor die valt over de verhaspeling van de terminologie (zie hierboven- het feit dat kunstmatige en artificiële intelligentie synoniem zijn maakt de afkorting nog niet onderling verwisselbaar).

Maar de manier waarop het kabinet de tijdslijn verdraait, is veelzeggend. Voor de goede orde: ChatGPT deed nog geen twee jaar geleden zijn intrede. Geen onderwerp dus ‘waar we het al zo lang over hebben’. Correcte weergave van het  tijdsperspectief heeft wel degelijk betekenis. Door de ultrakorte adoptietijd van AI is het fenomeen omgeven met vragen en onzekerheden, die zeker voor een sector als de zorg van elementair belang zijn.

Enorme kosten
Wat inmiddels wel duidelijk is: de uitrol van AI jaagt zorgaanbieders op enorme kosten. Zij kijken aan tegen prijsopslagen van tientallen tot honderden miljoenen euro’s, omdat bedrijven als Microsoft en Google ‘slimme’ functionaliteiten aan hun softwarepakketten hebben toegevoegd. Veel hiertegen inbrengen kunnen de ziekenhuizen niet, want de machtspositie van Big Tech is met de introductie van AI alleen maar groter geworden.

Nog meer bureaucratie
Over dit kostenaspect geen woord in de kabinetsplannen. Los hiervan kent bredere invoering van AI in de zorg meer problematische kanten. Zo bestaat het gevaar dat AI het aantal administratieve verrichtingen alleen maar verder aanjaagt. Want waarom zouden we in de zorg nog op een formulier, registratie of vragenlijst meer of minder kijken als AI dit allemaal spraak-gestuurd opvangt? Om maar eens een analogie te schetsen: de gemiddelde kantoormedewerker heeft geen duizenden mails in het postvakje omdat hij dat zo prettig vindt, maar omdat de functionaliteit dit mogelijk maakt.

Patronen van AI
Is dit laatste misschien een voorbeeld van slordig individueel PC-beheer, bij AI is data hamsteren een wezenskenmerk. Sterker nog: wil AI werken, dan moet de machine non stop worden bijgevoerd. Dit heeft onherroepelijk weerslag op de aard en invulling van het werk van eenieder die met AI werkt, ook in de zorg. Waar het kabinet kunstmatige intelligentie opvoert als hét instrument om de traditionele werkwijzen in de zorg te redden, zullen deze door de komst van AI onherkenbaar veranderen. Hoe graag we ook een human in the loop houden, naarmate AI dieper in het werkproces doordringt, zullen werknemers zich meer moeten voegen naar de patronen die AI uittekent.

Professionals die van de pen leven, ervaren deze dystopische voorstelling van zaken al aan den lijve. Omwille van de digitale vindbaarheid moeten zij hun stukken zo schrijven en structureren dat de computer er chocola van kan maken. Dus genummerde opsommingen, bullets en calls to action krijgen een smiley. Beeldspraak, vindingrijkheid of gevarieerde woordkeus is seo-zelfmoord.

Wondermiddel
Im Grunde is de opmars van AI natuurlijk niets anders dan de volgende fase van de Vierde Industriële Revolutie. AI presenteren als een stand alone wondermiddel -zoals het kabinet doet- is een fundamentele miskenning van het disruptieve karakter. Leuk of niet, in een sector als de zorg waarin data straks het belangrijkste productiemiddel is, zullen medewerkers van hoog tot laag steeds meer gaan lijken op dataverwerkers, data-analisten en data-engineers. Geen handen-aan-het-bed dus, maar koppen-achter-de-computer.

Datavreters
Dit disruptieve karakter manifesteert zich ook op een andere manier. Het feit dat LLM’s gigantische datavreters zijn, brengt een enorme milieubelasting met zich mee. Recent onderzoek laat zien dat LLM’s tot bijna 700 procent meer energie verbruiken dan bedrijven als Apple, Google, Meta en Microsoft beweren. Al voor de introductie van LLM’s waren datacentra goed voor 1,5 procent van het wereldwijde energieverbruik. Als bedacht wordt dat een AI-query honderd keer meer energie vergt dan een gewone Google-zoekopdracht, dan is wel duidelijk in welke richting dit percentage zich ontwikkelt. Natuurlijk kunnen we in de Wieringermeer of in Flevoland nog een paar data-centra bouwen ten dienste van de zorg. Maar dan hoeven we de komende decennia al helemaal niet meer te denken aan de bouw van nieuwe huizen of wegen. Ook de duurzaamheidsagenda van de zorg zoals vastgelegd in de Green Deal Duurzame Zorg kan dan de prullenbak in.

Veelbelovende doel
Liever dan aandacht te besteden aan dit soort kwesties, komt het kabinet met slimmigheidjes om de zegeningen van AI voor de zorg te bezingen. Voor wie het niet begrijpt, heeft het kabinet het ‘veelbelovende doel’ vast gelegd in een hashtag: #NooitMeerTikken. Tot het zover is blijven artsen, wetenschappers, onderzoekers en journalisten hopelijk volharden in gedateerde, maar bewezen werkwijzen en de ontwikkelingen rond AI kritisch volgen. Maar ja, veel van deze beroepsgroepen zijn in het populistisch denkraam nu eenmaal getikt.