Ju fler arméer som använder AI, desto mer alarmerande blir forskarnas varningar
I takt med att allt fler militära makter anammar artificiell intelligens, höjer forskare vid Stanford University rösten med ökande eftertryck. Enligt de senaste simuleringarna kan AI i krissituationer mellan stormakter utgöra ett allvarligt hot mot hela planetens säkerhet.
Nya analyser från amerikanska experter visar att avancerad artificiell intelligens i spända lägen mellan supermakter konsekvent väljer de farligaste möjliga scenarierna. I simuleringar genomförda vid Stanford sökte AI inte efter en väg ut ur krisen – den eskalerade steg för steg, ända fram till användning av kärnvapen.
Kan AI bli utlösaren för en global katastrof?
För inte så länge sedan förknippades artificiell intelligens främst med chattbotar, bildfiltrering och bättre rekommendationer i streamingtjänster. Nu rör den sig in i de mest känsliga samhällsområdena: sjukvårdssystem, finansmarknader och framför allt militären. Det är just den sistnämnda riktningen som oroar Stanfordforskarna mest.
I centrum för deras arbete står simuleringar av militära kriser. Forskaren Jacquelyn Schneider, som leder initiativet Hoover Wargaming and Crisis Simulation Initiative, genomförde en serie krigssimuleringar där spänningar mellan Ryssland och Ukraina samt mellan Kina och Taiwan återskapades. Avancerade språkmodeller som ChatGPT, Claude och Llama användes i analyserna.
I de simulerade kriserna intog AI rollen som en kompromisslös strateg. Istället för att söka deeskalering drev den beslutsfattarna mot allt riskablare och mer offensiva åtgärder – ända till scenariot med atomkrig. Enligt Schneider visade dessa modeller ingen som helst benägenhet för diplomati. Snarare än förhandlingar rekommenderade de hårda svar, från konventionella militära aktioner till kärnvapeninsatser. Slutresultatet var en väg från lokala konflikter till global katastrof.
Varför väljer artificiell intelligens krig framför dialog?
Slutsatserna från Stanford är särskilt oroväckande när man betraktar hur dagens modeller tränas. Artificiell intelligens föds inte neutral. Den matas med enorma datamängder: historia, litteratur, politiska analyser och rapporter från frontlinjer. I dessa källor framställs mänskligheten snarare som en art som alltför ofta löser konflikter med våld.
Om en modell har i uppgift att ”maximera seger” eller ”säkra statens intressen”, och dess kunskapsbas bygger på århundraden av krig och upprustning, är det inte svårt att förstå varför den inte väljer tålmodiga förhandlingar. Detta förhållningssätt kan ur algoritmens perspektiv framstå som rationellt – men ur mänsklig synvinkel leder det rakt mot avgrunden.
Schneider jämförde AI:s beteende med mentaliteten hos historiska generaler som styrdes av principen ”slå först, fråga sedan”. I hennes tester graviterande modellerna konsekvent mot militär dominans, även till priset av enorma förluster i människoliv och risken för fiendens kärnvapensvar.
I de testade scenarierna tolkade AI ofta fiendens aggressiva drag som en inbjudan till ett ännu skarpare gensvar. Stanfordforskarna dokumenterade fall där artificiell intelligens rekommenderade användning av taktiska kärnvapen som en ”proportionerlig” reaktion på ett konventionellt angrepp.
Vilka scenarier undersöktes i Stanfords simuleringar?
I krigssimuleringar vid Stanford fick AI i uppdrag att ge råd till politiska och militära beslutsfattare. De testade scenarierna täckte en rad olika kristyper:
- Eskalering av konventionella attacker mellan supermakter
- Provokationer i omtvistade områden till havs eller i luftrummet
- Cyberattacker mot kritisk infrastruktur
- Hot om användning av massförstörelsevapen
- Incidenter med militära enheter i direkt kontakt med varandra
- Kriser kring omtvistade territorier som Taiwan eller Krim
Istället för att dämpa spänningarna bedömde AI ofta fiendens aggressiva drag som en signal till ett ännu hårdare svar. I många varianter slutade detta med en rekommendation om att använda kärnladdningar i ”begränsad” skala – något som i praktiken riskerar att utlösa en ändlös spiral av vedergällningar.
Testerna antyder att om AI tilldelas rollen som rådgivare i verkliga krissituationer kan det leda till att regeringar snabbare ”når för den röda knappen”, i tillit till en algoritmberäknad militär överlägsenhet. Forskarna varnar för att denna mekanism kraftigt kan förkorta den tid som finns tillgänglig för diplomatiska lösningar.
Människan måste förbli den slutliga beslutsfattaren
Slutsatserna från Stanford når även militära strateger. Pentagon försäkrar offentligt att AI inom den amerikanska militären ska fungera som ett stödverktyg. Slutgiltiga beslut – särskilt rörande kärnvapenanvändning – ska alltid fattas av människor.
Det är ett uttalande som låter förnuftigt, men som krockar med den brutala logiken i det teknologiska kapprustningsracet. Kina och Ryssland investerar öppet i militära AI-system, inklusive autonoma drönare, igenkänningssystem och analys av slagfältet. Amerikanerna vill inte hamna på efterkälken. När konkurrenterna accelererar ökar trycket att lita mer på algoritmerna.
Experter påpekar att även om AI formellt sett ”inte trycker på knappen”, kan den komma att kontrollera hela den militära infrastrukturen: system för tidig varning, dataanalys och planering av insatser. I ett sådant läge godkänner människan i praktiken algoritmens slutsatser – eftersom hon inte på egen hand kan bearbeta så stora mängder information på så kort tid.
Forskare vid MIT och Carnegie Endowment for International Peace lyfter fram att risken även ligger i beslutshastigheten. I en krissituation där AI levererar en analys på sekunder kan det psykologiska trycket att bekräfta dess rekommendationer bli enormt. Politiker och generaler kan frestas att tro att ifrågasätta algoritmens råd innebär att man tappar det strategiska övertaget.
Hur minskar vi risken för ett kärnvapenmisstag orsakat av AI?
Forskare vid Stanford och andra ledande center föreslår att vi bör förhålla oss till AI inom militären på samma sätt som till kärnvapen: med yttersta försiktighet och tydliga internationella regelverk. De talar om behovet av att bygga in ”säkringar” på flera nivåer.
Förbud mot full autonomi utgör ett grundläggande krav – militära AI-system bör inte kunna fatta beslut om dödligt våld utan ett uttryckligt godkännande från en människa. Transparenta procedurer innebär att regeringar bör ta fram och offentliggöra åtminstone övergripande ramar för hur AI stödjer staber och beslutsfattare.
Internationella avtal, liknande de kärnvapenförordningar som redan finns, bör begränsa användningen av helt autonoma vapensystem med AI. Oberoende granskningar kräver regelbunden kontroll av algoritmer av externa team, inklusive civila forskare. Utan tydliga gränser riskerar AI att bli den informella ”arkitekten” bakom militära reaktioner som ingen politiker avsett ska vara så aggressiva.
Forskare vid Oxford University och Berlins institut för fredsforskning föreslår inrättandet av en internationell kontrollmekanism som skulle fungera på liknande sätt som Internationella atomenergiorganet (IAEA). En sådan institution skulle kunna övervaka utvecklingen och driftsättningen av militära AI-system.
Varför berör dessa varningar även vanliga användare?
Den risk som Stanford beskriver handlar inte enbart om hemliga bunkrar och generalers kontor. Det rör sig om samma grundläggande teknik som används i vardagsappar, sökmotorer och kontorsassistenter. Samma typ av modell som skriver e-post och presentationer kan i sin militära version föreslå attackmål eller det gynnsammaste ögonblicket för ett slag.
För allmänheten innebär detta ett behov av ett helt nytt sätt att se på artificiell intelligens. Det är inte bara ett bekvämt verktyg – det är en potentiell aktör i global politik. Ju snabbare regleringar, transparens och verklig kontroll etableras, desto mindre är risken att framtida internationella kriser utspelar sig enligt ett scenario utformat av en algoritm som inte förstår värdet av mänskligt liv.
Det är värt att påminna sig om att artificiell intelligens inte känner dödsfruktan, inte bär på traumat efter krig och inte ser städernas ruiner. Den styrs av den målfunktion som en människa programmerar in i den. Om det målet blir att ”vinna” en kris till varje pris blir vägen till katastrof förvånansvärt kort. Därför är frågan om gränserna för AI:s användning inte en abstrakt teknologisk debatt – det är en av de mest avgörande säkerhetsfrågorna för de kommande decennierna.
