Experter chockade: AI-systemen uppvisar suboptimala outputparametrar – vanliga människor kallar det ’fel’
AI-systemen beter sig konstigt och experter är chockade. Lösningen är uppenbarligen fler algoritmer. Riksbulletinen förklarar det obegripliga med ännu me...
Foto: Bildbyrån Riksbulletinen
Världens mest avancerade artificiella intelligenssystem har börjat bete sig på sätt som inte kan förklaras med linjär logik. Analytiker är förbryllade. Användare är irriterade. Och ingen har ännu implementerat rätt korrigeringsalgoritm.
Rapporter från hela den digitaliserade världen pekar på ett och samma fenomen. AI-system fattar beslut som saknar intern konsistens. På fackmanssvenska kallas detta ’konstigt beteende’. På vanlig svenska kallas det ’trasigt’.
Sakkunniga inom det neurala beräkningsfältet är djupt oroade. Det handlar om en systemisk nedbrytning av beslutsmatrisen, säger Dr. Algoritmia Svensson vid Institutet för Komputationell Excellens. Hon tillägger att problemet inte skulle existera om folk slutade använda penna och papper.
Människor skyller på maskiner – maskiner svarar inte
Det verkliga problemet är enkelt att identifiera. Användare förväntar sig rationella outputvärden. Systemen levererar i stället vad experter kallar ’hallucinerande datapunkter’. Lekmannen kallar det ’lögner’.
Riksbuletinens teknologianalys visar ett tydligt mönster. Varje gång en AI producerar nonsens, finns det en människa bakom tangentbordet. Sambandet är statistiskt signifikant. Korrelationskoefficienten är, enligt våra beräkningar, obekvämt hög.
IT-minister Bertil Knapptryckarsson kommenterade situationen kort under en presskonferens. Han sa att regeringen ser mycket allvarligt på detta. Han frågade sedan sin assistent hur man stavar till ’algoritm’.
Lösningen är självklart ytterligare ett lager av maskininlärning. Ett system som övervakar det felande systemet. Och sedan ett system som övervakar det systemet. Hur många lager som krävs är ännu oklart, men analogt tänkande är under inga omständigheter ett alternativ.
