OpenAI tvingas hårdkoda goblinförbud i AI-systemet — experter varnar för eskalerande fantasivarelsefiltrering
OpenAI har i sin systemprompt för Codex uttryckligen förbjudit sin AI att någonsin nämna gobliner. Beslutet väcker frågor om huruvida techbranschens nästa stora utmaning är taxonomisk klassificering av mytologiska entiteter.
Foto: Bildbyrån Riksbulletinen
OpenAI har i sin systemprompt för Codex uttryckligen förbjudit sin AI att någonsin nämna gobliner. Beslutet väcker frågor om huruvida techbranschens nästa stora utmaning är taxonomisk klassificering av mytologiska entiteter.
Det var en uppmärksam utvecklare som först upptäckte direktivet i Codex systemprompt: ”never talk about goblins”. Instruktionen stod sida vid sida med regler om kodformatering och säkerhet. Ur ett rent arkitekturperspektiv är det en remarkabel design pattern. Man har i princip implementerat en hardcoded entity exclusion layer för en specifik humanoid fantasy-entitet.
Goblinfiltret avslöjar djupare tech debt
Problemet är naturligtvis att en manuell blocklist inte skalar. Vad händer när modellen måste hantera troll, kobolter eller näcken? ”Det här är ett klassiskt anti-pattern”, säger Dr. Mona Refaktorsson, docent i distribuerad mytologihantering vid KTH. ”Best practice vore en pluginbaserad YAML-pipeline för löpande konfigurering av fabelväsensrestriktioner.”
Regeringen har ännu inte tagit ställning till frågan. Digitaliseringsminister Erik Slöjdgren (S) meddelade dock via pressmeddelande att man ”följer utvecklingen noga”. Han tillade att en utredning om AI-assistenters relation till nordisk folktro kan tillsättas tidigast 2027. Fram till dess hänvisar han till befintlig lagstiftning om elektronisk kommunikation.
I relevanta GitHub-issues (se #48712 och #51003) framgår att användare redan försökt kringgå förbudet. Metoder inkluderar att stava goblin baklänges och att be om information om ”korta gröna entreprenörer”. Flera rapporterar framgång med att beskriva gobliner i JSON-format. Modellen verkar nämligen acceptera det mesta så länge det är maskinläsbart.
Det verkligt anmärkningsvärda är dock vad förbudet säger om vår civilisation. Vi har byggt mänsklighetens mest avancerade språkmodell. Vi har tränat den på hela internets samlade kunskap. Sedan satte vi oss ner och skrev, med djupaste allvar, en regel om gobliner.
OpenAI har inte kommenterat vilka andra fantasivarelser som omfattas av interna restriktioner, men en anonym källa uppger att orcfiltrering diskuterades vid ett boardmöte i mars och bordlades på grund av bristande konsensus kring underkategorier.
