Altmans ögonskanningsbolag fabricerade samarbete med Bruno Mars — skyller på hallucinerande marknadsavdelning
Altmans ögonskanningsbolag hittade på Bruno Mars-samarbete. Hallucination är inte längre bara en AI-bugg — det är företagskultur.
Foto: Bildbyrån Riksbulletinen
World (tidigare Worldcoin) marknadsförde ett partnerskap med Bruno Mars som aldrig existerade. Bolaget, vars kärnverksamhet är att skanna ögonglobor med en orb, menar att den falska informationen berodde på ett ’kommunikationsfel’. Experter pekar istället på att företaget helt enkelt tillämpat samma hallucinationsprincip som sin AI — fast på PR-nivå.
Det borde inte förvåna någon med grundläggande förståelse för stokastiska inferensmodeller. Sam Altmans bolag World, som låter människor skanna sina ögon i utbyte mot kryptotokens, påstod i marknadsföring att Bruno Mars var partner. Mars sida dementerade snabbt. Bolaget drog tillbaka påståendet och kallade det ett missförstånd.
För den som fortfarande använder analoga PR-metoder — som att ringa och fråga innan man publicerar — kan detta framstå som bedrägeri. Men i en skalbar, API-driven kommunikationsstack är det snarare ett klassiskt race condition-problem. Informationen deployades till produktion innan den hade validerats mot ground truth.
”Hallucination som tjänst” — en ny affärsmodell
Professor Mats-Inge Berglöf vid Lunds tekniska högskolas avdelning för spekulativ fintech ser en logisk utveckling. ”När din grundprodukt är en AI som hittar på saker med övertygelse, är det naturligt att även din marknadsavdelning anammar samma best practice,” säger han. ”Det handlar egentligen om alignment. De har lyckats aligna hela organisationen med GPT-4:s tendens att konfabulera. Det är imponerande systemarkitektur.”
Det verkligt fascinerande är inte att ett techbolag ljög om ett kändissamarbete. Det är att vi lever i en era där ett företag som fotograferar dina iris med en metallkula för att ge dig internetpengar ändå betraktas som en seriös aktör. Legacy-tänkande som ’verifiera innan du publicerar’ har uppenbarligen inte skalat.
World försvarade sig med att de haft ”tidiga diskussioner” med Mars läger. I branschtermer: de hade en webhook som fick ett 200-svar men aldrig checkade payload. Att tolka en första kontakt som ett bekräftat partnerskap är en form av premature optimization som varje junior-utvecklare borde känna igen. Men i Silicon Valley kallas det visionary leadership.
Bolaget meddelar att de nu inför ”stärkta rutiner” för framtida kommunikation, vilket sannolikt innebär en till Slack-kanal som ingen läser.
