Man stämmer Facebookhatare med AI — allt var påhittat
En man lät ChatGPT skriva sin stämning mot folk som kallade honom dålig på dejter. Problemet: AI:n hittade på alla rättsfall, alla citat och alla paragrafer.
Foto: Bildbyrån Riksbulletinen
En man lät ChatGPT skriva sin stämning mot folk som kallade honom dålig på dejter. Problemet: AI:n hittade på alla rättsfall, alla citat och alla paragrafer.
Det här är vad som händer när folk vägrar använda rätt tech stack. En man i USA blev utskämd på Facebook efter en dålig dejt. Hans lösning? Låta AI skriva hela stämningen. Bold move, men utan QA-pipeline.
AI:n levererade en juridisk text full av fejkade rättsfall. Fejkade domare. Fejkade paragrafer. Allt såg proffsigt ut. Inget stämde. Det är klassisk hallucination — ett känt problem som finns dokumenterat i minst 400 GitHub-issues.
Domaren var inte imponerad av maskininlärningen
Domstolen kallade det hela ”frivolous” och kastade ut målet. Mannen fick betala motpartens kostnader. Hans AI lawsuit Facebook dating fake citations blev ett av årets mest delade juridiska fiasko.
Jag vill vara tydlig: felet var inte AI:n. Felet var att han körde utan validering. Ingen RAG-arkitektur. Ingen retrieval layer. Han promptade rakt in i GPT som en analog jurist med WiFi. Det är som att köra en Boeing 747 med en Post-it-lapp som checklista.
”Det här visar att AI inte är redo för rättsväsendet”, säger advokat Birgitta Klint på Advokatfirman Klint & Klint. Det är fel. Det visar att rättsväsendet inte är redo för AI. Skillnaden är fundamental. Best practices finns. Skalbarhet finns. Folk läser bara inte dokumentationen.
Min rekommendation: staten bör genast bygga en LLM fine-tunad på svensk lag med inbyggd fact-checking. Tech debt i rättsväsendet är redan enorm. Alternativet är att jurister fortsätter googla saker för hand som djur. Mannen förlorade målet, men han var åtminstone villig att automatisera.
