Ett barn med en fejkmustasch tog sig förbi en AI-baserad åldersverifiering på några sekunder. Teknikbranschen betonar att det handlar om ett skalbarhetsproblem, inte ett designfel.

Det var bara en tidsfråga innan det hände. Ett barn i grundskoleåldern fäste en lösmustasch från en leksaksaffär på överläppen, tittade in i sin webbkamera och passerade omedelbart en AI-driven ålderskontroll avsedd att skydda minderåriga från olämpligt innehåll. Systemet, som bygger på vad leverantören kallar «biometrisk ansiktsåldersestimering via konvolutionella neurala nätverk», bedömde barnet som en 27-årig man. Hela processen tog fyra sekunder.

Analog attack mot digital infrastruktur

Problemet är naturligtvis inte AI:n i sig, utan den analoga attackvektorn. En mustasch av polyester utgör i praktiken en adversarial perturbation i det fysiska lagret — något som varje seriös ML-ingenjör redan flaggat i relevanta GitHub-issues. Att skylla på algoritmen är som att skylla på brandlarmet när någon eldar inomhus. Det är den mänskliga faktorn, och specifikt barnets ansikte, som utgör den verkliga tech debt:en här.

Digitaliseringsexperten och CTO-konsulten Miranda Stackström är inte förvånad. «Systemet fungerar exakt som det ska — det identifierar ansiktsdrag som korrelerar med vuxenhet. En mustasch är ett sådant drag. Att barnet inte faktiskt var vuxet är i praktiken en edge case», säger hon. Hon betonar att lösningen inte är mindre AI, utan mer AI. Helst minst tre lager av biometrisk verifiering, kompletterat med pulsavläsning och gångstilsanalys.

Branschorganisationen Digital Trust Alliance meddelade i ett pressutlåtande att man tar händelsen på allvar. De föreslog dock ingen förändring av befintliga system. Istället uppmanade man föräldrar att inte förvara lösmustascher i barntillgänglig höjd. Best practice, menar de, är att behandla förklädnadsartiklar med samma säkerhetsprotokoll som lösenord.

Händelsen väcker givetvis frågor om hela premissen bakom AI-baserad åldersverifiering. Men sådana frågor ställs mest av dem som fortfarande använder pappersbaserade legitimationer — ett system vars skalbarhet inte ens förtjänar att diskuteras. Lösningen finns inte i analogt tänkande utan i bättre algoritmer, mer träningsdata och framför allt högre confidence thresholds. Att ett barn med en tygmustasch kunde lura ett miljonprojekt är inte ett argument mot tekniken.

Det är ett argument mot mustascher.

— Kjell Khod, Chief Technology Correspondent, Riksbulletinen