AI, chatbots en LLM’s gaan de zorg diepgaand veranderen. Wie durft nog te twijfelen aan deze bewering? Dat technologie diep ingrijpt, ziet ook bestuursvoorzitter Mark Van Houdenhoven van Careyn. Maar hij vraagt zich hardop af of we de juiste weg inslaan. “Wij lopen achter hypes aan, terwijl we niet eens weten hoe het werkt.” Wel wordt steeds duidelijker dat nieuwe technologie nú vooral een monopolistisch verdienmodel stut waarin particuliere belangen zwaarder tellen dan maatschappelijke doelen.
“Ik word de laatste tijd benaderd door allerlei leveranciers met de vraag waarom ik in de ouderenzorg nog geen ChatGPT gebruik, want dan komt alles goed”, schetst Van Houdenhoven de vergezichten die hij door vertegenwoordigers van de tech-industrie krijgt voorgeschoteld. “Dan heb ik minder dokters, verpleegkundigen en verzorgenden nodig. Alle problemen worden opgelost door ChatGPT, terwijl we de uitkomsten niet eens snappen. Als er een nieuw geneesmiddel wordt ontwikkeld, moeten we dat jaren testen. Nu moeten dokters maar diagnoses gaan stellen met ChatGPT omdat er een paar artikelen zijn waaruit blijkt dat het goed gaat.”
Vooruitgang
Bestuurder, hoogleraar en columnist Van Houdenhoven heeft een naam hoog te houden als kritisch observator van digitale ontwikkelingen in de zorg. Eerder uitte herhaaldelijk kritiek op het feit dat ziekenhuizen naar zijn idee aan de leiband lopen van de leveranciers van elektronische patiëntendossiers (EPD’s).
Maar wie denkt dat hier een techno-hater spreekt, heeft het mis. “Ik sta juist bekend als iemand die technologie omarmt”, reageert Van Houdenhoven. “Ik houd van innovatie. Maar de vraag is hoe we die inzetten. Nieuwe technologie brengt absoluut vooruitgang, maar de vraag is hoe die voortuitgang in de samenleving wordt verdeeld. Wie strijkt de winst van de vooruitgang op? En dan heb ik het niet alleen over winst in euro’s, maar ook over de impact op de samenleving. Komen er nieuwe banen of verdwijnen ze juist? Worden mensen er gelukkiger van? Wordt de democratie er beter van?”
Misinformatie
Vooralsnog is er volgens Mark Van Houdenhoven op al deze punten reden tot zorg. Zo ziet hij geregeld ongelukken gebeuren, waarvan de schade voor rekening van het collectief komt. “Artificiële intelligentie wordt gevoed met data. Zonder die data is AI niks. Dus wat je erin stopt, krijg je eruit. Als een bedrijf misinformatie van het internet sleept en daar AI-modellen op bouwt, krijg je nog meer misinformatie, alleen wordt die als intelligentie verkocht. We hebben gezien wat dit kan veroorzaken in de samenleving. Facebook en TikTok zorgen via hun algoritmes dat gebruikers verslaafd raken. Het internet zit vol met racisme en misinformatie. En de gevolgen van misinformatie, zoals verslaving, mogen wij oplossen, terwijl we niet eens weten wat er in het algoritme zit.”
Verkoopfuik
De vaak ondoorgrondelijke werking van AI-modellen kan volgens Van Houdenhoven ook welbewuste manipulatie in de hand werken. “Als we niet weten hoe het model achter Chat GPT werkt en welke data het opeet, zou het kunnen zijn dat bedrijven achter de schermen algoritmes beïnvloeden.” Keuzehulpen en beslis-ondersteunende modellen kunnen zo veranderen in een verkoopfuik. “Het zou kunnen dat een farmaceut achter de schermen het algoritme zo beïnvloedt dat de dokter bij een bepaalde diagnose altijd bij het geneesmiddel van de betreffende farmaceut uitkomt. Maar dat kunnen we niet weten, want het model is geheim.”
Big Tech lonkt naar zorg
Over de intenties van Big Tech hoeven we ons volgens Van Houdenhoven geen illusies te maken. “Die bedrijven zijn er niet op om de mensheid beter te maken of om de zorg te verbeteren. Die willen gewoon zoveel mogelijk geld verdienen en dat zie je in alle acties terug. Amazon heeft nu voor vijf dollar per maand een all you can eat-abonnement van vijftig geneesmiddelen. Is dat vooruitgang? Wat vinden we ervan als straks Apple, Amazon, Google of Microsoft met alle data die ze hebben zorgverzekeringen gaan verkopen? De gezondheidszorg is hun grote droom, want daar zit het geld.”
Winst voor samenleving
Deze honger naar nieuwe markten en winstmaximalisatie staat vanzelfsprekend op gespannen voet met de maatschappelijke doelstellingen van een sector als de zorg. Toch is het volgens Van Houdenhoven verkeerd om dan maar deuren en ramen dicht te houden. “We moeten technologie niet tegen houden. Je hebt mensen die willen stoppen met data verzamelen en AI. Dat lijkt me onmogelijk. De vraag is: hoe verleggen we de focus zo dat het de samenleving verbetert? Dat gesprek moet in de samenleving plaats vinden. Nu wordt die data eigendom van grote monopolies. De vraag is hoe we die data kunnen omzetten in winst voor de samenleving in plaats van in winst voor bedrijven die de data monopoliseren.”
Scepsis
Het door Van Houdenhoven beoogde maatschappelijke gesprek is om meer dan één reden een lastige opgave, zeker voor een sector als de zorg waar nog altijd flinke scepsis leeft ten aanzien van de toepassing van digitale technologie. “Digitale technologie heeft ons de afgelopen jaren veel gebracht, maar je zult weinig zorgmedewerkers treffen die vinden dat hun werk leuker is geworden”, erkent Van Houdenhoven. “Ze moeten veel administreren, computers ondersteunen onvoldoende, programma’s werken nog niet… Dat is geen verwijt, maar een simpele constatering.”
Een mogelijk gebrek aan animo om als gesprekspartner op te treden is misschien wel het minste obstakel voor een maatschappelijke dialoog over digitalisering. De echte spelbreker is natuurlijk de ongelijke machtsverhouding tussen de deelnemers. “Het gaat over de machtigste bedrijven ter wereld. Die zijn vaak machtiger dan landen”, vat Van Houdenhoven het probleem samen.
Monopolisering
En die machtspositie lijkt alleen maar sterker te worden. Door verticale integratie van de AI-keten, ook wel aangemerkt als de ‘AI-stack‘, komen de productie van chips, cloud-computing, AI-ontwikkeling en de distributie van applicaties steeds meer in handen van enkele partijen. Chipfabrikant Nvidia bijvoorbeeld, tevens AI-partner van Microsoft, heeft ruwweg 85 procent van de wereldwijde markt in handen. En Amazon, Google en Microsoft zijn samen goed voor twee derde van de wereldwijde cloud-capaciteit.
Regulering
“Door de geschiedenis heen zie je dat monopolisering ook leidt tot politieke macht”, constateert Van Houdenhoven. “Vroeger had je de spoorwegen en oliemaatschappijen. Vandaag gaat het over de monopolisering van data, waardoor de betrokken bedrijven machtiger zijn dan ooit. Wat zij doen heeft enorme impact op de samenleving. En we hebben daar geen invloed op. Het is tijd dat we dit bijsturen, maar dat is lastig, want wie zit er aan tafel als het gaat over de toekomst van AI? Dat zijn de bedrijven die AI maken. En je denkt toch niet dat ze zichzelf vrijwillige regulering opleggen?”
Techno-optimisme
Een maatschappelijk debat over digitalisering kent ook nog eens subtiele uitdagingen. Sluipenderwijs hebben de waarden en normen uit de tech-wereld zich in ons collectieve bewustzijn genesteld. Dat blijkt wel uit onze niet aflatende fascinatie voor tech-entrepreneurs als Elon Musk. Zelfs de wetenschap dat ze met de spelregels rommelen kan de romance niet verstoren.
Waar de Sint Maartenskliniek onder leiding van Van Houdenhoven enkele jaren geleden al een dwarslaesie-patiënt liet wandelen met behulp van een hersenimplantaat, gaat alle aandacht nu uit naar Musk’s Neuralink, dat onlangs iets vergelijkbaars deed. “Over onze ingreep zijn allemaal wetenschappelijke publicaties”, reageert Van Houdenhoven. “Bij de club van Elon Musk zijn die er niet, want dat noemen ze bedrijfsgeheim. Musk heeft een grote droom: alle satellieten overnemen om alle dataverkeer in handen te krijgen. Wat vinden wij daar als samenleving nu van? Iedereen vindt hem een held. Dat is het techno-optimisme dat nu heerst.”
Toch is er wat Van Houdenhoven betreft maar één manier om uit de huidige patstelling te komen. “Alleen samen kunnen we bijsturen. Consumenten moeten opstaan, politici moeten opstaan, dokters opstaan, ík moet opstaan… Het moet niet langer gaan over geld verdienen, maar over de visie achter het gebruik van de technologie en welke samenleving we daarbij voor ogen hebben.”
Dit is een artikel van Dutch Health Hub. Wil je op de hoogte blijven van al het nieuws uit de zorgsector? Neem dan een kijkje op de hub en meld je aan voor de online community.
