Ett barn med en påklistrad mustasch tog sig förbi en avancerad AI-baserad ålderskontroll på några sekunder. Techbranschen menar att problemet inte är tekniken utan att barnet använde en oförutsedd analog exploateringsvektor.

Det som i en analog värld skulle kallas «ett barn med en lösmustach» klassificeras nu som en zero-day-sårbarhet i det biometriska verifieringsramverket FaceGate Pro 3.1. Systemet, som marknadsförs med 99,7 procents träffsäkerhet, förlitade sig på en konvolutionell neural nätverksmodell tränad på 14 miljoner vuxna ansikten. Ingen av dessa ansikten bar uppenbarligen lösmustascher från en leksaksaffär. En talesperson för företaget förklarade att modellen «tekniskt sett fungerade korrekt» — den identifierade en mustasch och drog en statistiskt rimlig slutsats.

Branschen efterlyser mer data — inte mindre mustascher

Magnus Deepström, senior AI-arkitekt vid Göteborgs institut för skalbara identitetslösningar, ser inte händelsen som ett misslyckande. «Det här är inte en bugg, det är en feature request», förklarade han i ett mejl skrivet uteslutande i versaler. «Vi behöver helt enkelt utöka vår träningsdata med syntetiskt ansiktshår. Jag har redan öppnat en GitHub-issue med taggen ’critical-mustache-gap’.» Han tillade att analog ålderskontroll, som att en människa tittar på ett barn, inte är skalbar.

Problemet blottlägger en fundamental absurditet i den politiska ivern att digitalisera allt som tidigare krävde sunt förnuft. Lagstiftare i flera länder har drivit på AI-baserad åldersverifiering som ersättning för mänsklig bedömning. Att en sjuåring med rekvisita från Buttericks kan kringgå systemet var tydligen inte ett testscenario. I de 240 sidor långa kravspecifikationerna nämns ordet «lösmustach» noll gånger.

Riksbulletinen har granskat den tekniska dokumentationen och kan bekräfta att systemet däremot har robusta protokoll mot deepfakes, 3D-printade masker och latexproteser. Den enda attackvektor man inte räknade med var den som kostar tjugonio kronor på Partykungen. Teknikminister Frida Stackenfeldt (L) meddelade via en krypterad Signal-grupp att regeringen «ser allvarligt på incidenten men har fullt förtroende för den algoritmiska mognadsprocessen».

FaceGate Pro har redan aviserat en patch med kodnamnet «Movember» som ska adressera det de kallar «det adversariella ansiktshårsproblemet». Uppdateringen bygger på en multimodal transformer-arkitektur som korskontrollerar ansiktsbehåring mot hudens kollagenstruktur i realtid. Tills patchen rullas ut rekommenderar företaget att användare kompletterar med en analog lösning — exempelvis att fråga personen hur gammal den är.

Barnet, som enligt uppgift ville komma åt en streamingtjänst efter läggdags, var inte tillgänglig för kommentar. Mustaschen var dock kvar.

— Kjell Khod, Chief Technology Correspondent, Riksbulletinen