Allt mer övertygande deepfakes sprider sig på nätet – men kan vi verkligen se igenom dem?
Ansikten skapade av artificiell intelligens blir alltmer sofistikerade, och forskare har nu undersökt om vanliga användare överhuvudtaget har en chans att avslöja dem. Svaret är oroväckande – och handlar om en förmåga de flesta av oss inte ens tänker på.
Den senaste forskningen från Vanderbilt University i USA visar att daglig kontakt med teknik, eller till och med djup kunskap om AI, inte på något sätt garanterar att du kan skilja ett konstgjort ansikte från ett äkta. Det som faktiskt spelar roll är en helt annan, medfödd visuell förmåga – en vi har mycket liten kontroll över.
När en falsk bild stoppade tågtrafiken
Forskarna lyfter fram ett uppmärksammat händelseförlopp från Storbritannien. En natt, efter att regionen skakats av en mindre jordbävning, började ett foto av en kollapsad järnvägsbro cirkulera i sociala medier. Bilden såg övertygande ut: en sönderrasad konstruktion, dramatisk atmosfär och kommentarsfält fyllda av panik.
Det brittiska tågbolaget valde att stoppa all tågtrafik för att undvika en katastrof. Det visade sig senare att bron stod helt intakt. Bilden hade genererats av artificiell intelligens. De verkliga konsekvenserna blev stoppade tåg, ekonomiska förluster och kaos i kommunikationen. Det här handlar alltså inte längre om harmlösa memes – det handlar om beslut som fattas på grundval av falsk visuell information.
Forskning om deepfakes är inte längre en teknisk kuriositet. Det är en direkt reaktion på situationer där AI-genererade bilder börjar påverka säkerhet, ekonomi och politik.
I många år löd expertrådet: "leta efter förvrängda händer, konstiga tänder eller onaturliga skuggor." Men problemet är att bildgeneratorerna förbättras i rasande takt. Sådana enkla knep fungerar inte längre, och i många fall ser falska porträtt faktiskt mer "perfekta" ut än riktiga fotografier.
AI Face Test: forskarna mäter vem som ser igenom bluffen
Teamet från Vanderbilt skapade ett speciellt verktyg kallat AI Face Test för att undersöka i vilken utsträckning människor kan skilja äkta ansiktsfotografier från AI-genererade bilder. Deltagarna visades en rad porträtt och ombads vid varje tillfälle avgöra om de såg en verklig person eller en datorskapad figur.
Forskarna kopplade sedan testresultaten till andra egenskaper hos deltagarna. De undersökte bland annat:
- allmän intelligensnivå,
- erfarenhet av att arbeta med eller använda AI,
- specifika färdigheter i ansiktsigenkänning,
- den allmänna förmågan att känna igen objekt i bilder.
Många människors intuition säger att ju mer "teknikvant" man är, desto lättare borde det vara att avslöja en deepfake. Studien visade något helt annat.
Hög intelligens hjälper inte – det är något annat som räknas
Psykologerna konstaterade att ett högt IQ, flytande AI-kunskaper eller yrkeserfarenhet inom bildhantering – till exempel som grafisk designer – inte förklarade några nämnvärda skillnader i förmågan att identifiera falska ansikten. Personer som betraktas som "teknikexperter" presterade inte bättre än de som använder internet på ett mer grundläggande sätt.
Den starkaste förklarande faktorn var den allmänna förmågan att känna igen objekt. Det handlar om en bred, till stor del medfödd egenskap – hur snabbt och exakt vi läser av visuella detaljer i vår omgivning: former, texturer och subtila skillnader mellan liknande element.
Personer med en ovanligt god förmåga att "se detaljer" lyckas bättre med att fånga upp onaturliga inslag i syntetiska bilder – svaga bildstörningar, alltför jämna ytor och alltför perfekt placerade hudporer.
Dessa deltagare överträffade konsekvent resten av gruppen när det gällde att identifiera AI-genererade ansikten. Viktigt är att deras resultat förblev stabila när forskarna upprepade testerna vid ett annat tillfälle. Det är en stark indikation på att vi talar om en bestående egenskap – inte något man enkelt tränar upp med några övningar i en app.
Vi har inte alla samma chans i kampen mot desinformation
Forskningen målar upp en obekväm bild. Den offentliga debatten präglas ofta av budskapet att om vi "lär folk känna igen falska nyheter löser sig problemet." När det gäller avancerade AI-genererade bilder räcker det inte. Även en välinformerad och försiktig användare kan bli lurad om det visuella systemet inte fångar upp subtila avvikelser.
Forskarna betonar att det i befolkningen finns ett helt spektrum av personer – från dem som nästan alltid har fel, till dem som med stor säkerhet identifierar falska ansikten. De flesta av oss befinner sig någonstans i mitten, vilket innebär en verklig sårbarhet för avancerad visuell manipulation.
| Typ av användare | Chans att avslöja ett falskt ansikte | Viktigaste egenskap |
|---|---|---|
| Örnaöga | Hög | Mycket god förmåga att känna igen objekt |
| Genomsnittlig internetanvändare | Medelhög | Ofta rätt svar, men med många misstag |
| Deepfake-känslig person | Låg | Svag förmåga att uppfatta subtila visuella skillnader |
Dessa resultat förändrar synen på digital utbildning. Kurser i "hur man känner igen falska bilder" är fortfarande meningsfulla, men de kommer inte att neutralisera problemet helt. En del användare kommer, trots goda intentioner och teoretiska kunskaper, fortsätta att förväxla deepfakes med verkligheten.
En förmåga som också är värdefull inom medicin och forskning
Samma allmänna förmåga att känna igen objekt är – enligt andra studier som teamet från Vanderbilt hänvisar till – kopplad till framgång i uppgifter som sträcker sig långt bortom bilder på internet.
Personer som presterar högt på visuella tester klarar sig bättre med bland annat:
- att upptäcka små förändringar på röntgenbilder av lungor,
- att klassificera blodceller som friska eller cancerartade,
- att läsa komplexa noter,
- att avgöra kön utifrån fotografier av ögonbotten.
För läkare, radiologer och medicinska dataanalytiker är det här en mycket positiv nyhet. Deras dagliga arbete bygger på att se det nästan osynliga – mikrofläckar, oregelbundna kanter och andra "störningar" som ett otränat öga inte reagerar på. Det förklarar också delvis varför vissa specialister snabbare anpassar sig till samarbete med AI-system som stöder dem i bilddiagnostik.
Förmågan att känna igen objekt fungerar som en gemensam nämnare: den hjälper både i kampen mot deepfakes och vid diagnosticering av sjukdomar utifrån subtila förändringar i medicinska bilder.
Vad dessa resultat lär oss om AI i vardagen
Slutsatserna från forskningen strider mot den populära uppfattningen att man löser problemet med visuell desinformation bara genom att "vänja sig vid tekniken." Att använda chatbotar, bildgeneratorer eller AI-baserade appar är helt enkelt inte tillräckligt för att träna ögat till en nivå där man felfritt känner igen ett konstgjort ansikte.
Det skiftar ansvaret från den enskilda användaren till plattformsägare och beslutsfattare. Eftersom en del människor aldrig kommer att kunna identifiera falska bilder på ett tillförlitligt sätt, behövs andra skyddsmekanismer:
- system för att märka AI-genererat innehåll direkt i bildfiler,
- deepfake-filter och detektorer på sociala medieplattformar,
- tydliga standarder i nyhetsmedier för bildverifiering,
- lättillgängliga "andrahandsgransknings"-verktyg som vanliga användare kan använda innan de delar en bild.
Det handlar alltså inte om att var och en av oss ska stirra på pixlar. Det mer realistiska scenariot är en kombination av mänsklig intuition och automatiserade system som verifierar bilders trovärdighet i bakgrunden.
Hur en vanlig användare kan skydda sig mot falska bilder
Forskningen om AI Face Test visar att vissa begränsningar är medfödda – men det betyder inte att vi är helt försvarslösa. I den dagliga internetanvändningen är dessa enkla vanor till stor hjälp:
- kontrollera bildens källa – kommer den från ett erkänt medium eller ett anonymt konto,
- använd omvänd bildsökning för att se var bilden dyker upp på andra ställen,
- uppmärksamma sammanhanget: datum, plats och om det stämmer överens med andra rapporter,
- förhåll dig skeptisk till material som väcker extrema känslor – chock, ilska eller eufori.
Ögonen kan bedra oss, men en handfull enkla frågor ställda innan man klickar "dela" räcker ofta för att hindra oss från att omedvetet sprida falsk information vidare.
I bakgrunden pågår ett kapprustning mellan skaparna av bildgeneratorer och de team som bygger verktyg för att avslöja dem. Ju mer realistiska syntetiska ansikten blir, desto mer kommer vi att förlita oss på automatiserade detektorer, vattenstämplar och lösningar inbyggda i kameror och sociala plattformar. En enskild persons förmåga har alltid sina gränser – därför blir det allt viktigare att utforma hela informationsekosystemet med deepfake-eran i åtanke.
