Allt mer övertygande deepfakes översvämmar nätet
Ansikten skapade av AI blir allt svårare att skilja från verkliga foton – och forskare har nu undersökt om vanliga användare ens har en chans att avslöja dem. Svaret är oroväckande.
Den senaste studien från psykologer vid det amerikanska universitetet Vanderbilt visar att varken daglig teknikvana eller kunskaper om AI garanterar att du känner igen ett konstgjort ansikte. Det avgörande är istället en helt annan, medfödd visuell förmåga – en som vi har mycket liten kontroll över.
När en enda falsk bild stoppade tågtrafiken
Forskarna lyfter fram ett uppmärksammat fall från Storbritannien. En natt, strax efter att regionen skakats av en mindre jordbävning, började ett foto på en rasad järnvägsbro spridas i sociala medier. Bilden såg övertygande ut: en söndrig konstruktion, dramatisk miljö och panikfyllda kommentarer. Den brittiska tågoperatören beslutade att stoppa trafiken för att undvika katastrof.
Det visade sig senare att bron stod helt intakt. Bilden hade skapats med generativ artificiell intelligens. De verkliga konsekvenserna? Stoppade tåg, ekonomiska förluster och kaos i kollektivtrafiken. Det här exemplet visar att vi inte längre talar om harmlösa memes – vi talar om beslut som fattas utifrån falsk visuell information.
Forskning om deepfakes är inte längre en teknisk kuriositet. Det är en reaktion på situationer där genererade bilder börjar påverka säkerhet, ekonomi och politik.
I många år löd expertrådet: "Leta efter förvrängda händer, konstiga tänder eller märkliga skuggor." Problemet är att bildgeneratorer förbättras i rasande takt. Sådana enkla knep fungerar allt sällan, och i många fall ser falska porträtt till och med mer "perfekta" ut än riktiga fotografier.
AI Face Test: forskarna undersöker vem som ser det falska
Teamet från Vanderbilt ville mäta i vilken utsträckning människor kan skilja äkta ansiktsfoton från AI-genererade bilder. För det syftet skapade de ett specialverktyg kallat AI Face Test. Deltagarna fick titta på en serie porträtt och skulle för varje bild avgöra om de såg en riktig person eller en datorskapad figur.
Forskarna kopplade sedan testresultaten till andra egenskaper hos deltagarna. De undersökte bland annat:
- Allmän intelligensnivå
- Erfarenhet av att arbeta med eller använda AI
- Specialiserad förmåga att känna igen ansikten
- Allmän förmåga att känna igen objekt i bilder
Många hade nog antagit att ju mer "tekniskt lagd" en person är, desto bättre på att avslöja deepfakes. Studien visade något helt annat.
Intelligens hjälper inte – det är något annat som räknas
Psykologerna fann att högt IQ, skicklighet inom AI eller yrkeserfarenhet kopplad till bild – som att arbeta som grafiker – inte förklarade några betydande skillnader i förmågan att identifiera konstgjorda ansikten. Personer som räknades som "tekniska" presterade inte bättre än de som använder internet på ett grundläggande sätt.
Den starkaste förklaringsfaktorn visade sig vara den allmänna förmågan att känna igen objekt. Det handlar om en bred, till stor del medfödd egenskap – hur effektivt vi läser av visuella detaljer i vår omgivning: former, texturer och subtila skillnader mellan liknande element.
Personer med en övergenomsnittlig förmåga att "se detaljer" är bättre på att fånga upp onaturliga finesser i syntetiska bilder – svagt brus, alltför jämna ytor eller porer i huden som sitter lite för perfekt.
Dessa deltagare slog konsekvent resten av gruppen när det gällde att skilja AI-genererade ansikten från riktiga. Viktigt nog höll sig deras resultat stabila när forskarna upprepade testerna vid ett senare tillfälle. Det är en stark indikation på att vi har att göra med en beständig egenskap – inte något som enkelt "tränas upp" med några övningar i en app.
Vi har inte alla lika stora chanser i kampen mot desinformation
Studien målar upp en obehaglig bild. I den offentliga debatten hörs ofta: "Lär folk att känna igen falska nyheter så löser sig problemet." När det gäller avancerade AI-genererade bilder räcker det helt enkelt inte. Även en välutbildad och försiktig användare kan bli lurad om det visuella systemet inte fångar upp subtila avvikelser.
Forskarna betonar att det i befolkningen finns ett helt spektrum av individer – från dem som nästan alltid har fel till dem som nästan felfritt identifierar falska ansikten. De flesta av oss hamnar någonstans i mitten, vilket innebär en reell sårbarhet för avancerad visuell manipulation.
| Typ av användare | Chans att avslöja ett falskt ansikte | Viktigaste egenskap |
|---|---|---|
| Örnnögd | Hög | Mycket god objektigenkänning |
| Genomsnittlig internetanvändare | Medel | Ofta rätt, men många misstag |
| Deepfake-känslig person | Låg | Svag förmåga att uppfatta subtila visuella skillnader |
Sådana resultat förändrar synen på digital utbildning. Kurser i "hur man känner igen falska bilder" fyller fortfarande en funktion, men de neutraliserar inte problemet helt. En del mottagare kommer, trots god vilja och teoretisk kunskap, att fortsätta förväxla deepfakes med verkligheten.
En förmåga som också är värdefull inom medicin och vetenskap
Samma allmänna objektigenkänningsförmåga kopplas – enligt andra studier som Vanderbilt-teamet hänvisar till – till framgång i uppgifter som sträcker sig långt bortom bilder på nätet.
Personer som presterar högt i visuella test klarar bland annat bättre av att:
- Upptäcka små förändringar på lungröntgenbilder
- Klassificera blodceller som friska eller cancerdrabbade
- Läsa komplexa notskrifter
- Identifiera kön utifrån fotografier av ögonbotten
För läkare, radiologer och medicinska dataanalytiker är det en mycket god nyhet. Deras dagliga arbete bygger på att se det osedda – mikroskopiska fläckar, oregelbundna kanter och andra "brus" som ett otränat öga ignorerar. Det förklarar också varför vissa specialister snabbare anammar samarbete med AI-system som stöder dem i analys av medicinska bilder.
Objektigenkänningsförmågan fungerar som en gemensam nämnare: den hjälper både i kampen mot deepfakes och vid diagnostisering av sjukdomar utifrån subtila förändringar i medicinska bilder.
Vad forskningen lär oss om vardaglig AI-användning
Slutsatserna motsäger den populära föreställningen att det räcker att "vänja sig vid tekniken" för att lösa problemet med visuell desinformation. Att använda chatbotar, bildgeneratorer eller AI-appar tränar inte ögat till den nivå där det felfritt känner igen ett konstgjort ansikte.
Det flyttar ansvaret från den enskilda användaren till plattformsskapare och beslutsfattare. Eftersom en del människor aldrig kommer att kunna avslöja falska bilder på ett tillförlitligt sätt behövs andra skyddsmekanismer:
- System för att märka AI-genererat innehåll direkt i filerna
- Deepfake-filter och detektorer på sociala plattformar
- Tydliga standarder i nyhetsmedier för bildverifiering
- Lättanvända "second opinion"-verktyg som vanliga användare kan köra innan de delar en bild
Det handlar alltså inte bara om att var och en av oss stirrar intensivt på pixlar. Det mest realistiska scenariot är en kombination av mänsklig intuition och automatiska system som verifierar bildernas äkthet i bakgrunden.
Hur en vanlig användare kan skydda sig mot falska bilder
Forskningen kring AI Face Test visar att en del begränsningar är medfödda – men det betyder inte att vi är helt försvarslösa. I vardaglig internetanvändning hjälper enkla vanor långt:
- Kontrollera bildens källa – kommer den från ett etablerat medium eller ett anonymt konto?
- Använd omvänd bildsökning för att se var bilden dyker upp någon annanstans
- Var uppmärksam på sammanhanget: datum, plats och om det stämmer överens med andra rapporter
- Ha sunt förnuft inför material som väcker extrema känslor – chock, ilska eller eufori
Ögonen kan ha fel, men en serie enkla frågor ställda innan du klickar "dela" räcker ofta för att hindra dig från att omedvetet sprida en förfalskning vidare.
I bakgrunden pågår ett ständigt lopp mellan dem som skapar bildgeneratorer och dem som bygger verktyg för att avslöja dem. Ju mer realistiska syntetiska ansikten blir, desto mer kommer vi att förlita oss på automatiska detektorer, vattenstämplar och lösningar inbyggda i kameror och sociala plattformar. En enskild människas förmåga har alltid sina begränsningar – därför är det så viktigt att utforma hela informationsekosystemet med deepfake-eran i åtanke.
