Wordt ontslagen op basis van WhatsApp-gesprekken
Onderzoekers hebben een methode ontwikkeld om depressies te kunnen diagnosticeren, zonder daadwerkelijk met de patiënt te hoeven praten. Dit klinkt als een handige toevoeging, maar is eigenlijk een doodenge ontwikkeling. Dit is waarom.
Waarom een geautomatiseerde depressiedetector gevaarlijk is
“Hoe voel je je daarbij?” Het is het eerste waar ik aan denk bij een psycholoog. Praten over gevoelens, verklaren waar ze vandaan komen en vooral hoe je ermee om moet gaan: dat is wat een psycholoog doet. Dit beeld gaat in de toekomst behoorlijk veranderen.
Althans, als het aan stel knappe koppen ligt. Onderzoekers aan de Massachusetts Institute of Technology (MIT) zijn namelijk bezig met een ‘neuraal netwerk dat depressie kan detecteren’. De eerste resultaten zijn veelbelovend en de computer heeft het in bijna 80 procent van de gevallen bij het juiste eind. Met een beetje goede wil kun je dus spreken van een depressiedetector.
De robot komt op een heel gelegen tijdstip. Er is steeds meer aandacht voor psychische gezondheid en mensen zetten daarom sneller de stap naar professionele hulp, met lange wachtrijen tot gevolg.. Voor niets gaat de zon op en psychologensessies kosten geld: een computer op basis van kunstmatige intelligentie zou een hoop geld besparen.
Volgens het paper heeft het team een methode ontwikkeld waarbij een machine audio en tekst analyseert, en vervolgens mentale problemen zoals depressie kan opsporen. De computer, die gebruikmaakt van kunstmatige intelligentie (AI), let hierbij niet op de context van het gesprek, maar maakt enkel gebruik van ‘rauwe data’. Vooral het woord ‘context’ is hierbij van belang, maar daar kom ik later op terug.
Psychologie is mensenwerk, toch?
Een professional, zoals een psycholoog, stelt momenteel diagnoses op basis van standaardvragen en observatie. Er wordt bijvoorbeeld gelet op je intonatie, recente wijzigingen in je (gevoels)leven en eerdere ervaringen met mentale problemen. De depressiedetector doet ongeveer hetzelfde, maar dan met behulp van data. Zo verwoordt men het zelf in het persbericht:
‘MIT-onderzoekers hebben een neuraal netwerk ontwikkeld dat door middel van tekst en audiobestanden uit interviews spraakpatronen kan herkennen die wijzen op depressie. Hierdoor kan accuraat worden voorspeld of een cliënt daadwerkelijk depressief is, zonder aanvullende informatie over de vragen en antwoorden nodig te hebben.’
Om te kijken hoe goed de depressiedetector werkt hebben de onderzoekers 142 mensen ondervraagd met behulp van een chatbot. De respondenten bestaan uit mensen mét een depressiediagnose, en mensen zonder. Na afloop werden alle antwoorden (zowel audio als tekst) verzameld, en geanalyseerd door de machine. De AI had dus geen specifieke voorkennis en de respondenten mochten vrijuit antwoorden.
Zoals je weet antwoorden mensen niet altijd even logisch, grijpen ze vaak terug naar eerdere dingen uit een gesprek en introduceren soms uit het niets nieuwe feiten. Een fikse klus dus voor een machine. Helemaal als de computer belast is met een zware taak als het stellen van een diagnose.
De resultaten waren echter zeer positief. Bij de tekstanalyse had de machine gemiddeld zeven vragen en antwoorden nodig om tot de juiste diagnose te komen. Qua audio-analyse is er nog werk aan de winkel: de depressiedetector had hier gemiddeld 30 vragen en antwoorden nodig om te zeggen of iemand depressief is. Over het algemeen was de diagnose in 77 procent van de gevallen accuraat, zo meldt het paper.
Depressiedetector is heel eng
De onderzoekers schrijven dat de AI bedoeld is om depressies eerder op het spoor te komen, en daar schuilt volgens mij een gevaar in. Een depressie vaststellen is namelijk niet zo makkelijk als een gebroken been herkennen.
Psychologen volgen een jarenlange opleiding om te oefenen in het lezen van mensen, het analyseren van hun antwoorden en hen zo goed mogelijk helpen. Wat gebeurt er wanneer de depressiedetector zegt dat iemand wel depressieve gedachten heeft, en een psycholoog niet?
Volg Commen op Facebook en Instagram voor meer verhalen over alles dat er in ons hoofd omgaat.
Daarbij letten professionals tijdens het stellen van een diagnose op de context van vragen en antwoorden. De AI laat dit achterwege en kijkt puur naar de data. Dit is problematisch, omdat context ontzettend belangrijk is voor mensen. Iedereen die weleens verkeerd geciteerd is of het onderwerp van een misplaatste roddel was, weet waar ik het over heb. Mensen bedoelen zelden écht wat ze zeggen.
Het is volgens mij echter nog veel gevaarlijker wanneer andere beroepen dan zorgprofessionals met de depressiedetector aan de slag gaan. Het persbericht doet echter vermoeden dat dit wel het geval is:
‘Een patiënt moet zelf actief hulp zoeken om gediagnosticeerd te worden. Mobiliteit, geldkosten en (gebrek aan) motivatie zorgen er echter voor dat veel mensen niet de juiste hulp zoeken. Passieve, automatische monitoring van menselijke communicatie kan er daarom voor zorgen dat depressies eerder gedetecteerd worden, met alle positieve gevolgen van dien.’
AI denkt een hoop, maar weet weinig
Ik weet niet hoe het bij jou zit, maar ik denk bij het lezen van deze passage direct aan een nieuwe toepassing uit George Orwell’s bekende boek 1984. Volgens mij moeten we helemaal niet op een passieve manier ‘gemonitord’ willen worden: het risico op misbruik is namelijk veel te groot.
Stel je voor dat je in de toekomst je baan verliest omdat je werkgever je WhatsApp-gesprekken, e-mails en werktelefoontjes heeft geanalyseerd. Uit je taalgebruik, flauwe grappen en slechte meme-keus blijkt dat je wellicht depressief bent, en daar zit je baas niet op te wachten. Een nieuwe baan zoeken wordt minstens zo lastig, omdat uit je sollicitatie-teksten blijkt dat je zo emotioneel instabiel als Britney Spears in 2007 bent.
Erger nog, wat gebeurt er als zo’n AI wordt ingezet tijdens politieverhoringen, of rechtszaken? Het probleem met neurale netwerken is dat ze een black box zijn: niemand weet precies hoe het werkt. Er gaan antwoorden in, er wordt een hoop geanalyseerd en vervolgens wordt er een conclusie getrokken. We hebben alleen geen idee hoe het werkt.
AI, neurale netwerken, depressiedetector – het zijn allemaal fancy namen voor hippe technieken, maar in werkelijkheid zijn ze nog helemaal niet zo vergevorderd als we denken. De context van gesprekken buiten beschouwing laten tijdens het stellen van een diagnose is niet alleen een grote tekortkoming, maar zelfs gevaarlijk.
Psychologen hebben geen perfecte track-record, maar depressiedetectors ook niet. We moeten daarom heel voorzichtig omgaan met wat een depressiedetector denkt, en vooral vertrouwen houden in het oordeel van getrainde professionals.
- ADHD & ADD
- Angststoornis
- Anorexia
- ASS
- BED
- Boekrecensies
- Borderline
- Boulimia
- Burn-out
- Column
- Dagelijks leven
- Depressie
- DIS
- Dood & Rouw
- Drang & Dwang
- Drangstoornis
- Dwangstoornis
- Eenzaamheid
- Eetstoornis
- Geen categorie
- Herstel
- Interviews
- Koopgids
- Kopzorgen
- Lichaam & Geest
- Liefde & relaties
- Maatschappij
- Medicatie
- Mijn Rouwe Reis
- Naasten
- Narcisme
- Perfectionisme
- Persoonlijkheidsstoornis
- Pesten
- Piekeren
- Psychologie
- PTSS
- Schizofrenie
- Seks
- Social media
- Stempels
- Stress
- Studentenleven
- Therapie en zorg
- Trauma
- Vriendschap
- Zelfbeschadiging
- Zelfmoord