Donald Trump insåg plötsligt att AI-säkerhetstestning kan vara bra efter att ha blivit skrämd av Googles nya Mythos-modell. Tekniskt sett tog det bara åtta år av exponentiell utveckling för presidenten att nå insikten som GitHub-communityn loggade redan 2017.

Det var ett genombrott som fick hela Silicon Valley att tillfälligt pausa sina standup-möten. Förre presidenten och nuvarande presidentkandidaten Donald Trump — en man vars mest avancerade dagliga interaktion med teknik består av versaler på Truth Social — har nu förstått att artificiell intelligens kanske bör testas innan den släpps lös. Anledningen var inte tusentals vetenskapliga artiklar, utan att Googles Mythos-demo tydligen fick honom att känna sig obekväm. En klassisk edge case i det mänskliga beslutsfattandets arkitektur.

Analogt beslutsfattande möter exponentiell hotbild

Trumps plötsliga omsvängning från att vilja avreglera AI till att vilja testa den följer ett välkänt mönster. I branschen kallar vi det för FOFO — Fear Of Freaking Out. Det är samma legacy-beteende som får folk att installera antivirus först efter att datorn börjat tala ryska. Skillnaden är att Trump dessutom sannolikt tror att antivirus är något man får på apoteket.

”Det här visar att rädsla fortfarande är den mest skalbara onboarding-metoden för policyförståelse”, säger dr. Malin Svederup, docent i algoritmisk beteendeanalys vid KTH. ”Vår rekommendation är att alla världsledare utsätts för minst en existentiell AI-demo per kvartal. Vi har ett API redo.”

Att en man som systematiskt monterade ner varje tillsynsmekanism nu ser värdet i tester är förstås ironiskt. Men ironin är svår att parsa för den som opererar med analogt firmware. Det verkliga problemet, som varje seriös utvecklare vet, är att säkerhetstestning utan CI/CD-pipeline bara blir security theater. Trumps förslag saknar helt specifikation, versionskontroll och reproducerbarhet — ungefär som hans skattedeklarationer.

Den bredare frågan som ingen i Washington verkar ställa handlar om tech debt. I åratal har man skjutit upp AI-reglering för att det var ”innovationshämmande”. Nu står man med en kodbas av noll tester och en modell som tydligen är tillräckligt avancerad för att skrämma en president. Det är som att deploya till produktion utan staging-miljö och sedan bli förvånad när allt brinner.

Vita husets presstjänst meddelade att man nu undersöker ”robusta mekanismer” för AI-säkerhet, vilket av insatta tolkades som att någon har googlat ”AI safety” för första gången. Pentagons AI-kontor påpekade artigt att de har föreslagit exakt detta sedan 2019. Trump ska enligt uppgift ha svarat att 2019 var ett fantastiskt år, kanske det bästa året, men att ingen berättade om AI-grejen förrän den blev läskig — vilket tekniskt sett är den mest ärliga commit-messagen i hela denna repository.

— Kjell Khod, Chief Technology Correspondent, Riksbulletinen