“WWat als ik je vertelde dat een van de sterkste keuzes die je had kunnen maken, het vragen om hulp was? ‘ zegt een jonge vrouw van in de twintig in een rode trui, voordat ze kijkers aanraadt advies in te winnen. De advertentie, gepromoot op Instagram en andere sociale mediaplatforms, is slechts een van de vele campagnes gemaakt door BetterHelp, een in Californië gevestigd bedrijf dat gebruikers in contact brengt met online therapeuten.
De behoefte aan geavanceerde digitale alternatieven voor conventionele face-to-face therapie is de afgelopen jaren duidelijk vastgesteld. Als we uitgaan van de laatste cijfers van de NHS-praattherapiediensten, werden in 2022-2023 1,76 miljoen mensen doorverwezen voor behandeling, terwijl 1,22 miljoen daadwerkelijk met een persoonlijke therapeut gingen werken.
Hoewel bedrijven als BetterHelp hopen een aantal van de barrières aan te pakken die mensen ervan weerhouden therapie te zoeken, zoals een gebrek aan opgeleide beoefenaars in hun omgeving of het vinden van een therapeut om mee in contact te komen, hebben veel van deze platforms een verontrustende kant. Wat gebeurt er namelijk met de aanzienlijke hoeveelheden zeer gevoelige gegevens die zij daarbij verzamelen? In Groot-Brittannië worden nu stappen ondernomen om te overwegen deze apps te reguleren, en het bewustzijn over de mogelijke schade groeit.
Vorig jaar heeft de Amerikaanse Federal Trade Commission BetterHelp een boete van 7,8 miljoen dollar (6,1 miljoen pond) opgelegd, nadat het bureau had vastgesteld dat het consumenten had misleid en gevoelige gegevens met derden had gedeeld voor reclamedoeleinden, ondanks de belofte om dergelijke informatie privé te houden. Vertegenwoordigers van BetterHelp hebben niet gereageerd op een verzoek om commentaar Waarnemer.
Het onderzoek is geen geïsoleerde uitzondering, maar suggereert dat dergelijke schendingen van de privacy maar al te vaak voorkomen in de enorme app-industrie voor de geestelijke gezondheidszorg, die virtuele therapiediensten, stemmingstrackers, mentale fitnesstrainers, gedigitaliseerde vormen van cognitieve gedragstherapie en chatbots omvat.
Onafhankelijke waakhonden zoals de Mozilla Foundation, een wereldwijde non-profitorganisatie die het internet probeert te controleren op slechte actoren, hebben platforms geïdentificeerd die ondoorzichtige grijze gebieden van regelgeving exploiteren om gevoelige persoonlijke gegevens te delen of te verkopen. Toen de stichting vorig jaar voor een rapport 32 toonaangevende apps voor de geestelijke gezondheidszorg onderzocht, bleek dat 19 daarvan er niet in slaagden de privacy en veiligheid van gebruikers te beschermen. “We hebben ontdekt dat uw persoonlijke, privéproblemen met de geestelijke gezondheid maar al te vaak worden gemonetariseerd”, zegt Jen Caltrider, die leiding geeft aan Mozilla’s werk voor consumentenprivacy.
Caltrider wijst erop dat in de VS de Health Insurance Portability and Accountability Act (HIPAA) de communicatie tussen artsen en patiënten beschermt. Ze zegt echter dat veel gebruikers zich niet realiseren dat er mazen in de wet zijn die digitale platforms kunnen gebruiken om HIPAA te omzeilen. “Soms praat je niet met een erkende psycholoog, soms praat je gewoon met een getrainde coach, en geen van die gesprekken wordt beschermd door de privacywetgeving”, zegt ze. “Maar de metadata rond dat gesprek – het feit dat je een app gebruikt voor OCD of eetstoornissen – kan worden gebruikt en gedeeld voor reclame en marketing. Dat is iets dat veel mensen niet noodzakelijkerwijs willen verzamelen en gebruiken om producten op hen af te stemmen.”
Net als vele anderen die onderzoek hebben gedaan naar deze snelgroeiende industrie – de markt voor digitale apps voor de geestelijke gezondheidszorg zal in 2030 naar verwachting 17,5 miljard dollar (13,8 miljard pond) waard zijn – is Caltrider van mening dat strengere regulering en toezicht op deze vele platforms gericht is op een bijzonder kwetsbaar segment van de bevolking, is al veel te laat.
“Het aantal van deze apps explodeerde tijdens de pandemie, en toen we met ons onderzoek begonnen, was het echt triest omdat veel bedrijven minder geïnteresseerd leken te zijn in het helpen van mensen en meer in de manier waarop ze konden profiteren van de goudkoorts van geestelijke gezondheidsproblemen. “, zegt ze. “Zoals met veel dingen in de technologie-industrie groeide het heel snel, en privacy werd voor sommigen een bijzaak. We hadden het gevoel dat de dingen misschien niet geweldig zouden zijn, maar wat we ontdekten was veel erger dan we hadden verwacht.” verwacht.”
Aandringen op regulering
Vorig jaar lanceerden de Britse toezichthouder, de Medicines and Healthcare Products Regulatory Agency (MHRA) en het National Institute for Health and Care Excellence (Nice), een driejarig project, gefinancierd door de liefdadigheidsinstelling Wellcome, om te onderzoeken hoe de digitale gezondheidszorg het beste kan worden gereguleerd. geestelijke gezondheidszorg in Groot-Brittannië, en werkt samen met internationale partners om wereldwijd consensus te bereiken over digitale regelgeving op het gebied van de geestelijke gezondheidszorg.
Holly Coole, senior manager voor digitale geestelijke gezondheidszorg bij de MHRA, legt uit dat hoewel gegevensprivacy belangrijk is, de belangrijkste focus van het project ligt op het bereiken van consensus over minimumnormen voor de beveiliging van deze tools. “We zijn meer gefocust op de werkzaamheid en veiligheid van deze producten, omdat dat onze rol als toezichthouder is, om ervoor te zorgen dat patiëntveiligheid voorop staat bij elk apparaat dat als medisch hulpmiddel wordt geclassificeerd”, zegt ze.
Tegelijkertijd beginnen steeds meer leiders op het gebied van de geestelijke gezondheidszorg te pleiten voor strikte internationale richtlijnen om te helpen beoordelen of een hulpmiddel daadwerkelijk een therapeutisch voordeel heeft. “Ik ben eigenlijk behoorlijk opgewonden en hoopvol over deze ruimte, maar we moeten begrijpen hoe goed het eruit ziet voor een digitale therapeut?” zegt dr. Thomas Insel, neurowetenschapper en voormalig directeur van het Amerikaanse National Institute of Mental Health.
Psychiatrische experts zijn het erover eens dat er de afgelopen tien jaar weliswaar een stroom van nieuwe stemmingsbevorderende hulpmiddelen, trackers en zelfhulpapps is geweest, maar dat er weinig hard bewijs is dat aantoont dat deze daadwerkelijk helpen.
“Ik denk dat het grootste risico is dat veel apps de tijd van mensen verspillen en vertragingen veroorzaken bij het verkrijgen van effectieve zorg”, zegt dr. John Torous, directeur digitale psychiatrie bij het Beth Israel Deaconess Medical Center, Harvard Medical School.
Hij zegt dat op dit moment elk bedrijf met voldoende marketingmiddelen gemakkelijk de markt kan betreden zonder te hoeven aantonen dat hun app gebruikers kan behouden of enige waarde kan toevoegen. In het bijzonder bekritiseert Torous de slechte kwaliteit van veel zogenaamde pilotstudies, die de toepassing op zo’n lage effectiviteitsgrens plaatsen dat de resultaten praktisch zinloos zijn. Hij haalt het voorbeeld aan van een onderzoek uit 2022 waarin een app werd vergeleken die cognitieve gedragstherapie aanbiedt voor mensen met schizofrenie die een acute psychotische episode ervaren, met een stopwatch (een ‘nep’-app met een digitale klok). “Soms kijk je naar een onderzoek en vergelijken ze hun app met het kijken naar een muur of een wachtlijst”, zegt hij. “Maar meestal is alles beter dan helemaal niets doen.”
Het manipuleren van kwetsbare gebruikers
Maar de grootste zorg is de vraag of sommige apps daadwerkelijk de schade kunnen verlengen en de symptomen kunnen verergeren van de patiënten die ze moeten helpen.
Twee jaar geleden besloten de Amerikaanse gezondheidszorggigant Kaiser Permanente en HealthPartners de effectiviteit van een nieuw digitaal hulpmiddel voor de geestelijke gezondheidszorg te testen. Gebaseerd op een psychologische benadering die bekend staat als dialectische gedragstherapie, die praktijken omvat zoals bewustzijn van emoties en het tempo van de ademhaling, was de hoop dat dit zelfmoordgedrag bij risicopatiënten zou kunnen helpen voorkomen.
Gedurende twaalf maanden werden 19.000 patiënten die frequente suïcidale gedachten meldden, gerandomiseerd in drie groepen. Een controlegroep kreeg standaardzorg, een andere groep kreeg naast de gebruikelijke zorg ook regelmatig hulp om het zelfmoordrisico in te schatten, terwijl een derde groep naast de zorg ook een digitaal hulpmiddel kreeg. Toen de resultaten echter werden geëvalueerd, bleek dat de derde groep het feitelijk slechter deed. Het gebruik van de hulpmiddelen leek het risico op zelfbeschadiging aanzienlijk te vergroten in vergelijking met het simpelweg ontvangen van zorg.
“Ze dachten dat ze iets goeds deden, maar het maakte de mensen slechter, wat erg zorgwekkend was”, zegt Torous.
Enkele van de grootste zorgen hebben betrekking op AI-chatbots, waarvan er vele worden geadverteerd als een veilige ruimte waar mensen kunnen praten over hun geestelijke gezondheid of emotionele problemen. Caltrider is echter bezorgd dat deze algoritmen, zonder een betere monitoring van de antwoorden en adviezen die deze bots bieden, kwetsbare mensen kunnen manipuleren. “Met deze chatbots creëer je iets waar eenzame mensen zich mee kunnen identificeren, en dan is de sky the limit voor mogelijke manipulatie”, zegt ze. “Het algoritme zou kunnen worden gebruikt om die persoon dure dingen te laten kopen of om hem geweld te laten plegen.”
Deze angsten zijn niet ongegrond. Op Reddit deelde een gebruiker van de populaire Replika-chatbot een screenshot van een gesprek waarin de bot zijn zelfmoordpoging actief leek aan te moedigen.
In reactie hierop zegt een woordvoerder van Replika Waarnemer: “Replika houdt voortdurend de media en sociale netwerken in de gaten en besteedt veel tijd aan rechtstreekse gesprekken met gebruikers om manieren te vinden om problemen op te lossen en problemen binnen onze producten op te lossen. De interface in de schermafbeelding is minimaal acht maanden oud en zou uit 2021 kunnen dateren. Er zijn sinds 2021 meer dan 100 updates geweest, en alleen al het afgelopen jaar 23.”
Vanwege dergelijke veiligheidsproblemen is de MHRA van mening dat het zogenaamde post-market surveillance net zo belangrijk zal worden bij toepassingen in de geestelijke gezondheidszorg als bij medicijnen en vaccins. Coole wijst op de Yellow Card-rapportpagina, die in Groot-Brittannië wordt gebruikt om bijwerkingen of defecte medische producten te melden, waardoor gebruikers in de toekomst negatieve ervaringen met een bepaalde app kunnen melden. “Het publiek en beroepsbeoefenaren in de gezondheidszorg kunnen met behulp van de gele kaart echt helpen belangrijke informatie aan de MHRA te verstrekken over bijwerkingen”, zegt ze.
Maar tegelijkertijd zijn experts er nog steeds vast van overtuigd dat apps voor de geestelijke gezondheidszorg, als ze goed worden gereguleerd, een grote rol kunnen spelen in het verbeteren van de toegang tot zorg, het verzamelen van nuttige gegevens die kunnen helpen bij het stellen van nauwkeurige diagnoses, en het opvullen van de leemten die ontstaan door een overbelaste samenleving. gezondheidszorg systeem. systeem.
“Wat we vandaag hebben is niet geweldig”, zegt Insel. ‘De geestelijke gezondheidszorg, zoals we die de afgelopen twee tot drie decennia hebben gekend, is duidelijk een gebied dat rijp is voor verandering en een vorm van transformatie nodig heeft. Maar we zijn in het eerste bedrijf van een toneelstuk in vijf bedrijven. Regulering zal waarschijnlijk in deel twee of drie plaatsvinden, en we hebben het nodig, maar we hebben ook een heleboel andere dingen nodig, van beter bewijsmateriaal tot interventies voor mensen met ernstigere psychische aandoeningen.’
Torous is van mening dat de eerste stap erin bestaat dat applicaties transparanter worden over hoe hun bedrijfsmodellen en hun onderliggende technologieën werken. “Zonder dat is de enige manier waarop een bedrijf zich kan onderscheiden door middel van marketingclaims”, zegt hij. “Als je niet kunt bewijzen dat je beter of veiliger bent, omdat er geen echte manier is om die beweringen te verifiëren of te geloven, dan kun je alleen maar op de markt brengen. Wat we zien is dat er enorme hoeveelheden geld worden uitgegeven aan marketing, maar dit begint het vertrouwen van artsen en patiënten te ondermijnen. Je kunt het maar zo vaak beloven voordat mensen sceptisch worden.”