Åldersverifiering via AI lurad av barn med lösmustach — experter efterlyser mer avancerad lösmustach-igenkänning
Ett barn med påklistrad mustasch tog sig förbi en AI-driven ålderskontroll på några sekunder. Teknikbranschen försäkrar att problemet löses med fler algoritmer, inte färre mustascher.
Foto: Bildbyrån Riksbulletinen
Ett barn med påklistrad mustasch tog sig förbi en AI-driven ålderskontroll på några sekunder. Teknikbranschen försäkrar att problemet löses med fler algoritmer, inte färre mustascher.
Det som hände var egentligen inte förvånande för den som förstår hur konvolutionella neurala nätverk processar ansiktsgeometri i realtid. Systemet, byggt på vad leverantören kallar ”state-of-the-art biometrisk åldersestimering”, bedömde att ett barn med en mustasch värd tretton kronor var en vuxen man. Problemet är inte AI:n i sig, utan att implementationen saknade tillräcklig adversarial robustness. Det framgår tydligt av GitHub-issue #4471 i OpenCV:s repository.
Analog attack mot digital infrastruktur
Låt oss vara ärliga. En lösmustach är i grunden en analog exploatering av en digital pipeline. Det är som att attackera en brandvägg med en sax. I en värld med best practices för liveness detection borde detta aldrig ha hänt.
Det verkliga problemet är att lagstiftare insisterar på att reglera teknik de inte begriper. EU:s föreslagna åldersverifieringskrav bygger på antagandet att ett ansikte alltid är ett ansikte. ”Vi har full tillit till den biometriska stacken. Det handlar bara om att skala upp modellen och addera fler noder i beslutsskiktet”, säger Dr. Fabian Rundström, Senior ML Architect vid TrustAge Solutions, ett bolag som nyligen fick 40 miljoner euro i riskkapital.
Kritiker har påpekat att man kanske kunde fråga om personnummer istället. Det förslaget avfärdades dock omedelbart som oförenligt med modern UX-design och dessutom belastat med enorm tech debt. Personnummer beskrevs i en intern rapport som ”en legacy-lösning från en pre-digital era”. Att be någon skriva in siffror manuellt ansågs strida mot principen om friktionsfri onboarding.
Regeringens digitaliseringsminister kommenterade händelsen med att åldersverifiering via AI ”i grunden fungerar, men att det krävs ett mer holistiskt angreppssätt”. Vad det innebär konkret kunde ingen förklara. En utredning ska tillsättas för att kartlägga om lösmustascher bör klassas som manipulationsverktyg under cyberresiliensförordningen.
Barnets mamma uppgav att sonen mest ville titta på en trailer för en skräckfilm. Teknikbranschen uppgav att den behöver ytterligare tre miljarder dollar för att lösa ett problem som en trettonkronorsmustasch skapade på två sekunder.
