Unge søger hjælp hos AI: Psykiatrifonden kalder på regulering

Flere unge bruger i dag chatbots som samtalepartner, når de har det psykisk svært. Det viser en ny undersøgelse fra Psykiatrifonden, som samtidig advarer om manglende sikkerhed og regulering på området.

Ifølge undersøgelsen svarer fire ud af ti unge mellem 18 og 29 år, at de har brugt en chatbot som ChatGPT til samtaler om psykisk trivsel.

“Vi ved fra Psykiatrifondens egen undersøgelse, at når vi spørger de 18-29-årige, svarer fire ud af ti ja til en eller flere gange at have brugt en chatbot som ChatGPT til samtaler om psykisk trivsel. Det globale eksperiment uden regulering er lige nu en realitet,” siger Marianne Skjold, direktør i Psykiatrifonden.

Nyt webunivers om chatbots og psykisk trivsel

Psykiatrifonden lancerer søndag et nyt webunivers, hvor borgere kan læse om fordele, faldgruber og etiske dilemmaer ved at bruge chatbots som en form for terapeut.

Her sættes der fokus på både mulighederne og risiciene ved den hastigt voksende teknologi, som i stigende grad bliver en del af menneskers mest sårbare samtaler.

Let adgang gør teknologien attraktiv

En af årsagerne til, at mange unge vælger chatbots, er den nemme adgang. De er gratis, altid tilgængelige og kræver ingen ventetid.

“Det koster ikke noget, der er ingen ventetid, og lyset er tændt døgnet rundt. Det er let at forstå, at chatbots kan ligne en oplagt og kærkommen mulighed for at få hjælp til de svære tanker,” siger Marianne Skjold.

Hun peger samtidig på, at lange ventetider i psykiatrien kan være med til at skubbe flere i retning af digitale løsninger.

Mangler menneskelig forståelse

Selvom chatbots kan tilbyde samtaler, mangler de ifølge Psykiatrifonden afgørende menneskelige egenskaber.

“En chatbot kan kun reagere på det, du skriver. Den kan ikke opfange kropslige signaler. Den kan ikke fornemme stilhed, nervøsitet eller tårer. Og den kan ikke stille spørgsmål på baggrund af en menneskelig fornemmelse af, hvad der ligger bag ordene. Det, du ikke siger – eller skriver”, siger Marianne Skjold.

Ifølge hende er netop det menneskelige samspil afgørende i samtaler om psykisk trivsel.

Efterlyser regulering og debat

Psykiatrifonden opfordrer nu til en bred debat om, hvordan chatbots skal bruges i forbindelse med psykisk sygdom og kriser.

“Når en chatbot går fra at være en avanceret søgemaskine til at være samtalepartner eller ligefrem terapeut, skal vi åbne øjnene og stille meget skarpt på, hvad det reelt er, vi har sat i gang,” siger Marianne Skjold.

Hun peger på behovet for både regulering og tydelig information til brugerne.

“Digitale redskaber, der fungerer som terapi eller rådgivning, skal være sikre og velfunderede. Det er hverken realistisk eller nødvendigvis ønskværdigt at stoppe udviklingen, men vi skal være mere opmærksomme.”

Samtidig rejser hun spørgsmål om fremtidens rammer:

“Måske skal vi mærke chatbots ligesom cigaretpakker? Måske skal vi regulere AI og chatbots på internationalt niveau? Hvordan gør vi det? Og hvem har ansvaret? Det er en af de vigtigste samtaler lige nu verden over, og den skal vi deltage aktivt i”.

Behov for oplysning og ansvar

Ifølge Psykiatrifonden er der behov for mere viden og oplysning om både muligheder og risici ved chatbots – særligt blandt unge.

“Kunstig intelligens kan blive en hjælp. Men kun hvis den udvikles og hegnes ind bevidst og ansvarligt”, siger Marianne Skjold.