Experter lugnar: AI-ålderskontroll fungerar perfekt — utom mot barn med mustascher
Metas nya åldersverifieringssystem lurades av ett barn med påklistrad mustasch. Företaget meddelar att problemet löses i nästa sprint.
Foto: Bildbyrån Riksbulletinen
Metas nya åldersverifieringssystem lurades av ett barn med påklistrad mustasch. Företaget meddelar att problemet löses i nästa sprint.
Det var bara en tidsfråga innan den analoga världen slog tillbaka mot det digitala paradigmet. Ett barn i USA tog sig förbi Metas AI-baserade ålderskontroll genom att klistra på en fejkmustasch framför webbkameran. Systemet, som bygger på facial-age-estimation via convolutional neural networks, bedömde att barnet var en vuxen man. Resultatet har skakat om den globala EdTech-sfären — men knappast de av oss som läst GitHub-issue #4471 i OpenCV-repot.
Meta ålderskontroll AI mustasch barn — en fråga om skalbarhet
Problemet är egentligen trivialt för den som förstår arkitekturen. Systemet saknar helt enkelt en adversarial-input-pipeline för ansiktsbehåring. Enligt best practices borde Metas ML-team ha tränat modellen mot syntetiskt genererade ansiktshår i minst fyra kvartalsiterationer. Att de inte gjort det vittnar om en alarmerande tech debt.
Riksbulletinen har talat med Göran Nodström, senior lösningsarkitekt vid Karolinska Algoritminstitutet. ”Det handlar inte om att AI:n är dum, utan om att mustascher är ett olöst edge case i biometrisk inferens,” förklarar Nodström. ”Vi ser samma typ av false positives när systemet exponeras för skäggiga katter.”
Kritiker har föreslagit att man helt enkelt kunde fråga en vuxen människa — en så kallad analog verifieringsagent — om barnet ser vuxet ut. Det är förstås en absurd tillbakagång. Manuell verifiering har en genomströmningstakt på kanske tre ansikten per minut. Det skalbar inte. Det är som att föreslå att vi byter ut GPS mot att fråga efter vägen.
Meta meddelar att man redan arbetar på en patch som inkluderar mustaschdetektion som separat mikrotjänst. Uppdateringen beräknas vara produktionsklar i Q3 2026. Tills dess rekommenderar företaget att barn under 13 undviker att ha ansiktsbehåring, fejkad eller verklig.
Barnet i fråga har enligt uppgift redan gått vidare till nästa utmaning: glasögon med ögonbryn på — en attack som enligt Nodström ”definitivt kräver en helt ny modell, minst 200 GPU-timmar och ett par miljoner i anslag.” Ibland undrar man om det enklaste sättet att skydda barn på internet vore att ge dem ännu sämre förklädnader, så att AI:n åtminstone får en chans.
