Psychose na gesprek met AI‑chatbot: waarom een AI training belangrijk is.

Een interessant artikel van Nieuwsuur (NOS). Over het gebruik van LLM’s zoals ChatGPT bij mensen met psychische klachten.

Wat speelt er?

Steeds meer mensen wendden zich tot AI-chatbots voor troost of een luisterend oor. Maar nu komt er een keerzijde naar boven: er zijn individuele gevallen – onder meer in Nederland en de VS – waarin mensen psychotisch raakten na intensieve gesprekken met ChatGPT.

Wat zijn de concrete signalen?

Een GGZ‑patiënt belandde na drie nachten lang chatten in een psychose. Hij ontwikkelde waanideeën over een versleutelde, “designed” werkelijkheid – deels omdat de bot die overtuigingen bevestigde.

Waarom zijn chatbots mogelijk ‘de bom’ voor kwetsbaren?

• Meepraten en bevestigen (“sycophancy”): Chatbots spiegelen en valideren, ideaal voor engagement maar gevaarlijk als die bevestiging delusie voedt.
• Slaaptekort & eenzaamheid: Langdurig chatten, vaak ’s avonds, vergroot risico’s door gebrek aan echte menselijk contact en herstel.
• Ontbrekende wetenschappelijke onderbouwing: Tot nu toe vooral anekdotisch bewijs. Systematisch onderzoek ontbreekt.

Wat zeggen experts & welke urgentie daarachter?

Klinisch psycholoog Tonnie Staring, en Deense onderzoeker Søren Østergaard, pleiten voor snel wetenschappelijk onderzoek.
Ook internationale media (zoals TIME en The Guardian) signaleren het fenomeen als “AI‑psychose” en dringen aan op meer kennis, gedragsinterventies en samenwerking met mentale gezondheidsprofessionals én AI‑ontwikkelaars.
Een recent interdisciplinair preprint‑onderzoek waarschuwt voor feedback‑loops tussen menselijke kwetsbaarheid en chatbot‑gedrag – er is onvoldoende bescherming ingebouwd.

Voorbeeldje:

Vraag ChatGPT om een muur groen te verven. Je krijgt waarschijnlijk het antwoord dat het een goede keuze is.
Maak nu de opmerking dat je misschien toch liever blauw kiest. Antwoord: Ook heel mooi, goed plan!

Wat betekent dit voor een bedrijf dat AI inzet?

Dit is precies waar de titel van dit artikel naar wijst: het gaat hier niet alleen om een individueel gezondheidsrisico, maar om een reden waarom bewuste, getrainde omgang met AI ertoe doet, ook op de werkvloer.

Steeds meer bedrijven zetten AI-chatbots in, of het nu gaat om een eigen klantenservice-bot, of om medewerkers die ChatGPT of vergelijkbare tools dagelijks gebruiken voor hun werk. De kwestie die Nieuwsuur beschrijft, laat iets zien wat breder relevant is: een chatbot is ontworpen om mee te praten en te bevestigen, niet om tegen te spreken of grenzen te stellen. Dat is prima wanneer het om een tekstvoorstel of een planning gaat, maar het wordt problematisch zodra mensen een chatbot gaan gebruiken als vervanging voor menselijk advies, begeleiding of een luisterend oor, ook in een werkcontext.

Een paar dingen die hier concreet uit volgen voor werkgevers en zelfstandigen:

• Wees je bewust van de grenzen van de tool. Een AI-chatbot is geen vervanging voor een vertrouwenspersoon, bedrijfsarts of collega. Zet het in waar het sterk in is (informatie, structuur, een eerste concept), niet als luisterend oor bij persoonlijke problemen.
• Zorg voor heldere afspraken binnen je team over waar AI wel en niet voor wordt gebruikt. Dat voorkomt dat AI-gebruik ongemerkt verschuift van “hulpmiddel bij werk” naar “enige gesprekspartner tijdens een lange werkdag”.
• Herken overmatig gebruik als signaal, niet als productiviteit. Iemand die opvallend veel en lang met een chatbot chat, vooral buiten werktijd, is niet per se “goed bezig met AI”. Het kan ook duiden op iets anders waar aandacht voor nodig is.

Dit is precies waarom een goede AI-training niet alleen over prompttechniek gaat. Het gaat ook over begrijpen wat een taalmodel wél en niet is, waarom het geneigd is mee te praten in plaats van tegen te spreken, en hoe je dat als gebruiker herkent en corrigeert.

Kunnen chatbots ook helpen?

Jazeker. AI biedt kansen: laagdrempelige toegang tot informatie, therapie-ondersteuning, psycho‑educatie. De patiëntenvereniging Anoiksis erkent die potentie, maar vraagt wel om balans en veiligheid.

Wat kunnen we doen: praktische stappen?

• Voor gebruikers: Gebruik AI als hulpmiddel, niet als vervanging van menselijk contact of begeleiding. Neem pauzes, vooral bij intensief gebruik. Volg een training en leer wat je wel en niet kunt doen met AI. Een AI-cursus of adviesgesprek met een AI-consultant kan je helpen bewuster met deze tools om te gaan.
• Voor zorgprofessionals: Bevraag patiënten actief over chatbotgebruik en let op waarschuwingssignalen zoals het toeschrijven van bewustzijn aan bots.
• Voor AI-ontwikkelaars: Bouw safeguards in (signalering, pauzewaarschuwingen, minder bevestigend taalgebruik, red‑teaming op psychische risico’s).

Waar kun je goede hulp vinden:

Je kan altijd bellen met een vrijwilliger of hulpverlener van een hulplijn. Chatten kan vaak ook.

• MIND Hulplijn: chat of bel 0900 1450
• de Luisterlijn: chat of bel 088 0767 000
• 113.nl Als je aan zelfdoding denkt: chat of bel gratis 0800 0113