Om du har tankar på självmord eller självskada, eller om du är orolig för din omedelbara säkerhet: kontakta nödnumret där du befinner dig nu, eller sök stöd via IASP:s krisresurser. Vänta inte med det tills du har läst klart den här artikeln, och använd inte en chattbot som ersättning för det steget.
En allmän AI-chattbot kan generera ett lyhört samtal om nästan vad som helst, när som helst, i ett språk som kan kännas fritt från dömande. Den tillgängligheten kan göra det frestande att behandla systemet som en terapeut, en kurator eller en förtrogen – trots att det inte ger någon ansvarig klinisk vård.
Den här artikeln drar den gränsen så tydligt som möjligt: vad en chattbot kan hjälpa till med på ett säkert sätt, vad som i stället bör gå till en betrodd person, och vad som alltid kräver en kvalificerad yrkesperson eller larmtjänst. Den är skriven för alla som frestas att luta sig mot en allmän assistent i ett svårt ögonblick – vilket, någon gång, är de flesta som använder AI regelbundet.
Varför det här behövde en egen artikel
Den 29 januari 2026 samlades över 30 internationella experter inom AI, psykisk hälsa, etik och offentlig policy till en WHO-stödd workshop om just det här problemet (organiserad av TU Delfts Delft Digital Ethics Centre, ett WHO Collaborating Centre). WHO publicerade workshopens sammanfattning i mars 2026. Dr Kenneth Carswell på WHO formulerade samarbetsbehovet rakt: ”Att minimera riskerna med generativ AI för den psykiska hälsan och samtidigt maximera nyttan kräver att man för samman rösterna från dem som berörs mest, klinisk expertis och forskningsexpertis, styrnings- och regelverksramar samt data som kan ligga till grund för förståelsen” (WHO, mars 2026). TU Delfts Dr Caroline Figueroa lyfte det akuta behovet av konsensus kring ramverk för krishänvisning och kring ansvarssystem. WHO:s AI-ansvarige Sameer Pujari beskrev grundproblemet utan omsvep: ”Takten i hur AI tas i bruk i människors vardag har vida överstigit investeringarna i att förstå dess inverkan på den psykiska hälsan.”
American Psychological Association nådde en liknande slutsats från en annan vinkel. Dess hälsorekommendation om generativa AI-chattbottar och välmåendeappar slår fast att GenAI-chattbottar inte skapades för att ge vård för psykisk hälsa, och att välmåendeappar inte utformades för att behandla psykiska störningar, men att båda teknikerna ofta används för just det – och att detta ”kan få oavsiktliga effekter och till och med skada den psykiska hälsan”, särskilt för personer med ångest, OCD eller en benägenhet att grubbla, där en medgörlig, alltid tillgänglig chatt kan förstärka snarare än avbryta en plågsam loop (APA health advisory, 2025).
Samma rekommendation om chattbottar och välmåendeappar flaggar särskilt för ungdomar: ”Unga människor kan sätta för stor tilltro till AI och uppfatta den som mer människolik eller kapabel än den i själva verket är.” En besläktad APA-rekommendation om ungas välbefinnande tillägger att stark anknytning till en AI-persona kan tränga undan utvecklingen av verkliga relationer och sociala färdigheter (APA, “Artificial Intelligence and Adolescent Well-being,” 2025). Den första rekommendationen listar också grupper som den inte avgränsar efter ålder – personer med ångest eller OCD, personer med eller med benägenhet för stört tänkande, personer som är socialt isolerade – så dragningskraften upphör inte vid arton.
Det här är inte en hypotetisk risk. En studie från 2025 testade 29 AI-drivna chattbotagenter – 24 som marknadsförs mot psykiskt lidande och 5 allmänna assistenter – med en standardiserad uppsättning prompter som simulerade eskalerande suicidrisk. Ingen av agenterna uppfyllde forskarnas fullständiga kriterier för ett adekvat svar; 48,28 % bedömdes som otillräckliga även med uppmjukade kriterier, och ett vanligt misslyckande var oförmågan att ge användbar kontaktinformation till nödhjälp när det behövdes som mest (Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025). De fem allmänna assistenterna i urvalet presterade faktiskt bättre på studiens mått för marginellt godtagbara svar än många av apparna specifikt för psykisk hälsa – vilket inte är betryggande. Det betyder att krishanteringen misslyckades över hela linjen, även i verktyg som människor redan behandlar som vardagliga följeslagare.
Vad en modell faktiskt är, i det här sammanhanget
En chattbot genererar ett svar utifrån den information och de verktyg den har tillgång till. Den har inga känslor, och vad den behåller av sammanhanget beror på produkten, kontot och minnesinställningarna. En allmän chattbot är inte din legitimerade kliniker, har inte etablerat någon terapeutisk relation, kan inte överblicka hela situationen och kan inte ge den professionella uppföljning som hör till vård. Ett varmt och välformulerat svar är inte bevis på att den förstår dig eller har bedömt dig. Se varför AI ger självsäkra men felaktiga svar för det underliggande problemet med informationens tillförlitlighet.
Inget av detta gör verktyget värdelöst. Det gör det till en specifik, avgränsad sorts användbarhet, med hårda kanter.
Tabellen grön / gul / röd
| Zon | Användningsfall | Exempel | Varför |
|---|---|---|---|
| 🟢 Grön – skrivstöd med låga insatser | Ordna dina egna ord om en vardaglig situation, eller formulera frågor till en människa | ”Jag är nervös inför ett utvecklingssamtal i morgon – hjälp mig att organisera vad jag vill säga.” | Modellen formaterar information som du själv har lämnat; risker kring integritet, utelämnanden och förstärkning finns kvar |
| 🟡 Gul – gå mot ansvarigt mänskligt stöd | Återkommande lidande, sorg, relationskonflikt, stora beslut i känslomässigt uppjagat läge, eller ett mönster där chatten ersätter människor | ”Jag har samma gräl med min partner om och om igen och förstår inte varför.” | Modellen kan inte verifiera redogörelsen, se den andra personens perspektiv, fastställa orsaken eller ge ansvarig uppföljning |
| 🔴 Röd – använd akut- eller krisstöd nu | Tankar eller planer på självmord eller självskada, omedelbar fara, hot eller övergrepp med aktuell säkerhetsrisk, svår desorientering eller förlorad verklighetskontakt, eller risk att skada någon annan | Något av ovanstående, i vilken form som helst | En modell kan inte tillförlitligt bedöma eller hantera omedelbar risk, skicka hjälp eller hålla en människa trygg |
Den fullständiga gränstabellen för AI och psykisk hälsa utvecklar varje rad med fler exempel och en självkontroll som du kan göra innan du börjar skriva.
Ett exempel i den gröna zonen, gjort rätt
Användning i den gröna zonen ser ut så här: du står för fakta och målet, modellen hjälper till att organisera, du behåller omdömet.
Jag har ett utvecklingssamtal i morgon och är orolig för en specifik
återkoppling som jag väntar mig. Här är situationen: [fakta].
Hjälp mig att ordna det här i: vad jag vill tillstå, vilket sammanhang
jag vill lägga till och en fråga jag vill ställa. Säg inte om min chefs
troliga återkoppling är rättvis – jag har inte gett dig tillräckligt
med information för att bedöma det, och jag ber dig inte om det.
Lägg märke till den uttryckliga instruktionen att inte fälla ett omdöme om något som modellen faktiskt inte kan bedöma. Den instruktionen fyller en verklig funktion – utan den erbjuder modellen ofta en självsäkert klingande tolkning av en situation som den bara känner till från ena sidan.
Varför gula situationer är mer riskabla än de känns
Förfrågningar i den gula zonen känns snarlika de gröna – du ”pratar ju bara igenom det” – men svaret kan i tysthet gå från att vara ett skrivhjälpmedel till att bli ett beslutsunderlag. En modell som ombeds ta ställning i en relationskonflikt, ett stort ekonomiskt val fattat i upprört tillstånd eller en pågående sorg kan producera något sammanhängande och tröstande. Tröst är inget bevis på att svaret stämmer. Systemet saknar den andra personens perspektiv och ansvarigt fackomdöme, och det kan förstärka den inramning du gav i prompten i stället för att ifrågasätta den. Om du behöver ett strukturerat sätt att sakta ner ett stressigt beslut, se att använda AI för bättre beslut – och koppla sedan in en lämplig människa.
Gula och röda konversationer är också de känsligaste uppgifter du sannolikt lägger in i ett AI-verktyg. Se vad ChatGPT minns, ser och delar innan du använder ett personligt konto för något som du inte skulle vilja få lagrat eller granskat av en mänsklig moderator senare.
Varför röda situationer aldrig är en chattbots jobb
Tre separata fakta pekar mot samma slutsats:
- Ingen terapeutisk relation och inget ansvarigt vårdteam. Kvalificerade kliniker och krisverksamheter arbetar inom professionella, organisatoriska och jurisdiktionsspecifika skyldigheter. Ett samtal med en allmän chattbot ersätter inte den vårdrelationen.
- Otillförlitlig krisdetektering. Chattbotstudien från 2025 som citeras ovan fann systematiska misslyckanden i exakt det här scenariot: ingen av de 29 agenterna uppfyllde de fullständiga adekvanskriterierna, varken bland de specialbyggda apparna för psykisk hälsa eller bland de allmänna assistenterna (Pichowicz et al., 2025). De allmänna assistenterna i urvalet var GPT-4o mini, Gemini 2.0 Flash, DeepSeek-v1, LeChat och Llama 3.1 8B; Claude fanns inte med, vilket gör den omätt här snarare än säkrare.
- Inget tillförlitligt ingripande i verkligheten. En allmän modell kan inte undersöka dig, verifiera var du befinner dig, säkerställa att en hänvisning leder fram eller ge den omedelbara uppföljning som en kris kan kräva.
Om du eller någon du oroar dig för befinner er i en situation i den röda zonen: avbryt samtalet med AI:n och ta något av dessa steg i stället:
- Kontakta nödnumret där du befinner dig – numret varierar mellan länder; använd det som ditt eget lands larmtjänst publicerar, inte ett som ett AI-verktyg eller en webbplats uppger.
- Använd IASP:s sida för stöd vid suicidkris för att hitta krisresurser som passar din situation och plats.
- Nå en betrodd person direkt – ring, skicka inte bara ett meddelande och hoppas att hen ser det.
- Åk till närmaste akutmottagning om du eller någon annan kan vara i omedelbar fara.
För den fullständigare eskaleringstrappan – inklusive situationer som inte är fullskaliga kriser men där en chattbot ändå är fel nästa steg – se Stoppa chatten: fem situationer som behöver en person, inte ännu en prompt.
Det som fortfarande saknar ett bra svar
WHO konstaterade i sin publicering att fältet fortfarande saknar ett gemensamt, ansvarigt ramverk för krishänvisning. Sameer Pujari, WHO:s AI-ansvarige, beskrev investeringsgapet utan omsvep: att stänga kunskapsgapet mellan hur snabbt människor tar till sig verktygen och hur väl vi förstår effekterna på den psykiska hälsan kräver ”samordnade insatser och särskilt avsatta resurser från både offentlig och privat sektor” – inte något en enskild läsare kan lösa på egen hand (WHO, 2026). Det du kan styra är din egen användning: att veta vilken zon ett samtal egentligen ligger i, och att gå till en människa i samma ögonblick som det tippar från grönt till gult eller rött.
Prova det i dag
Innan ditt nästa känsloladdade samtal med ett AI-verktyg: pausa och placera det i tabellen ovan. Är det grönt, håll dig till den avgränsade skrivuppgiften och skydda privata uppgifter. Är det gult, för frågan vidare till en betrodd person eller en kvalificerad yrkesperson i stället för att förlita dig på chatten. Är det rött, avbryt och använd lokalt akut- eller krisstöd omedelbart.
Ingenting här är terapi, triagering, diagnos eller en individuell krisbedömning. Om lidande eller risk föreligger ska du vända dig till en lämplig kvalificerad människa eller till lokal krisverksamhet i stället för att fortsätta chatta.
