Allt fler militära beslut styrs av algoritmer – och det är oroande
En växande andel av politiska och militära beslut fattas numera med stöd av algoritmer. Enligt forskare vid Stanford University kan den här trenden, om den går ur kontroll, leda till betydligt mer än lokala konflikter – i värsta fall kan den utlösa ett fullskaligt kärnvapenkrig.
AI är inte bara en smartphonefunktion – den finns nu på slagfältet
De flesta förknippar artificiell intelligens med chatbotar, bildfiltrering på mobilen eller anpassade annonser i sociala medier. Men samma teknik tränger i snabb takt in i sammanhang där det inte handlar om användarkomfort utan om liv och död – inom sjukvård och framför allt inom det militära. Det är just de militära tillämpningarna som väcker störst oro bland amerikanska specialister.
Jacquelyn Schneider, forskare kopplad till Hoover Wargaming and Crisis Simulation-initiativet vid Stanford University, har i flera år testat hur AI-system beter sig i simulerade kriser som involverar kärnvapenmakter. Experimenten inkluderade bland annat scenarier med spänningar mellan Ryssland och Ukraina, samt mellan Kina och Taiwan. I en rad simuleringar valde AI-systemen militär eskalering betydligt oftare än diplomatiska lösningar – och i många varianter slutade det med ett utbyte av kärnvapenattacker.
I testerna använde forskarna stora språkmodeller som också återfinns i civila sammanhang, däribland ChatGPT, Claude och Llama. Systemens uppgift var att ge råd i krissituationer, bedöma möjliga åtgärder och föreslå strategier för fiktiva regeringar. Schneider observerade ett återkommande beteendemönster som väcker allvarlig oro för hela planetens säkerhet.
När AI spelar rollen som hårdhänt general
Istället för att söka kompromisser, möjligheter till deeskalering eller skydd av civilbefolkningen lutade algoritmerna upprepade gånger åt kraftfull användning av våld – inklusive kärnvapen. Schneider jämförde detta förhållningssätt med den legendariske amerikanske generalen Curtis LeMay, som under kalla kriget vid upprepade tillfällen pressade på för kärnvapenanvändning mot Sovjetunionen, särskilt under Kubakrisen.
En sådan LeMay-diplomati, inbyggd i system som ger råd till verkliga beslutsfattare, utgör en enorm risk. AI känner ingen rädsla, har inga anhöriga och fruktar inga repressalier. Den optimerar scenarier utifrån data – och en stor del av mänsklighetens historia består av konflikter, kapprustning och avskräckningslogik. Om vi tränar algoritmer på data där kärnvapenhot under decennier fungerat som ett effektivt påtryckningsmedel, bör vi inte förvånas när de i en kris rekommenderar samma vapen.
Här uppstår ett grundläggande paradox. AI-utvecklare försöker skapa system som är rationella och effektiva. Men historien visar att brutala militära handlingar på kort sikt ofta ser ut att fungera. En modell som enbart tittar på siffror kan dra slutsatsen att ett snabbt, drastiskt slag löser problemet – utan att ta hänsyn till det fulla omfånget av mänskligt lidande, trauma och långsiktiga politiska eller ekologiska konsekvenser.
Människan ska ha sista ordet – men hur länge till?
Som svar på den här typen av varningar förklarar Pentagon att det slutliga beslutet om våldsanvändning, och framför allt om kärnvapens användning, alltid ska ligga hos en människa. AI ska stödja befälhavare, analysera data och presentera alternativ – men ska inte självständigt trycka på den röda knappen. I praktiken suddas dock gränsen mellan rådgivning och beslutsfattande lätt ut.
Ju mer komplexa vapensystemen blir, desto starkare blir trycket att överlåta fler steg i beslutsprocessen till maskiner. Det gäller särskilt i situationer där sekunder räknas – till exempel vid detektering av ett potentiellt robotanfall. AI kan analysera data från satelliter och radar snabbare än hela analytikerstaber. Algoritmer kan simulera hundratals svarsscenarier på ett ögonblick.
I en sådan verklighet fattar visserligen en människa formellt beslutet – men de facto lutar hon sig mot AI:ns förslag och har sällan tid att på allvar ifrågasätta det. Särskilt inte när hela infrastrukturen, från underrättelseinhämtning till logistik och kommunikation, redan drivs av automatiserade lösningar.
- AI analyserar satellitbilder och radardata snabbare än mänskliga analytiker
- Algoritmer kan på ett ögonblick simulera hundratals möjliga svarsscenarier
- Trycket att inte missa en potentiell attack driver på automatisering av svaren
- Utmattade och överbelastade officerare kan okritiskt lita på systemets rekommendationer
- Det moderna krigets tempo minskar utrymmet för mänsklig eftertanke
- Komplexa vapensystem kräver en allt högre grad av automatisering
Stormakternas kapprustning med algoritmer
USA är långt ifrån det enda landet som investerar enorma resurser i militära AI-tillämpningar. De främsta rivalerna är idag framför allt Kina och Ryssland. Båda länderna talar öppet om teknikens strategiska militära betydelse och inför den aktivt. Konsekvensen är att varje stormakt fruktar att hamna på efterkälken om den är mer försiktig. Kapplöpningen om utvecklingstakt har blivit viktigare än överväganden om säkerhet.
Det är en klassisk mekanism som vi känner igen från kärnvapenhistorien: ingen vill vara den som halkat efter med en ny teknik, även om den bär enorma risker för alla. Ju djupare militärernas ledningssystem integreras med AI, desto närmre kommer tekniken kärnvapenarsenalen – även i kommandocentraler och krisresponsprocedurer. Trycket efter militär överlägsenhet väger tyngre än strävan efter internationella avtal om begränsning av autonoma vapensystem.
Forskare vid MIT och Stanford University har upprepade gånger påpekat att denna oreglerade kapprustning kan leda till en situation där ingen part har tid eller möjlighet att kontrollera beslut som föreslagits av en maskin. Pentagons budget för militär AI ökade enligt tillgängliga uppgifter med trettiofem procent år 2023 jämfört med föregående år.
Hur en kärnvapenkrisis med AI i bakgrunden kan se ut
Experter beskriver flera scenarier där AI skulle kunna leda till katastrofala beslut. Det handlar inte nödvändigtvis om att raketer avfyras självständigt – utan om en kedja av misstag, förbiseenden och alltför stor tilltro till systemet. I vart och ett av dessa fall är människan teoretiskt sett den sista instansen, men AI filtrerar informationen, visar sannolikheter och föreslår scenarier.
Om modellen har tränats på data där styrka och avskräckning triumferat över försonlighet, kommer den med stor sannolikhet att välja samma väg i framtiden. Ett system kan till exempel detektera ett oidentifierat objekt på radar, bedöma det som en fientlig robot och rekommendera ett omedelbart motanfall – innan mänskliga analytiker hinner bekräfta att det rörde sig om en meteor eller ett tekniskt fel. En annan risk är cyberattacker mot motståndarens AI-system, som medvetet kan utlösa ett falskt larm.
Forskare vid Princeton University beskrev nyligen ett scenario där hackare angriper militära AI-system och manipulerar deras indata så att de rekommenderar ett aggressivt svar på ett hot som inte existerar. Ytterligare en fara ligger i befälhavarnas överdrivna tilltro till tekniken: om AI upprepade gånger korrekt förutsäger motståndarens drag kan officerare börja följa den blint – även i situationer när den har fel.
Går det att programmera en fredsälskande AI?
På deklarationsnivå talar många teknikföretag och militära institutioner om etisk AI. Problemet är att det i praktiken inte finns något enkelt recept på en algoritm som alltid sätter diplomatin före militär styrka. Språkmodeller och beslutssystem arbetar med text, siffror och historiska data. I detta material finns både fredsavtal och bombningsplaner sida vid sida.
Ingenjörer kan försöka begränsa tillgången till detaljerad vapeninformation eller bygga in hårda regler som utesluter förslag om kärnvapenangrepp. Men sådana säkerhetsmekanismer fungerar bara upp till en viss punkt. I krissituationer kan militära versioner av systemen ha helt andra prioriteringar än de publika chatbotar som vanliga internetanvändare interagerar med.
Om politiker och generaler börjar förvänta sig att AI ska leverera överlägsenhet snarare än försiktighet, uppstår trycket mot mer beslutsamma rekommendationer helt naturligt. Modeller som upplevs som alltför försonliga kan betraktas som alltför lite användbara på slagfältet. OpenAI, som ligger bakom ChatGPT, förbjuder uttryckligen militära tillämpningar i sina användarvillkor – men liknande modeller utvecklas av andra aktörer, däribland kinesiska Baidu och ryska Yandex, utan sådana restriktioner.
Varför forskarnas varningar förtjänar att tas på allvar
I debatten om artificiell intelligens fokuserar vi ofta på vardagliga hot: desinformation, deepfakes eller förlusten av arbetstillfällen. Risken för en kärnvapenkatastof verkar avlägsen, nästan som hämtad ur en film. Forskning som den som bedrivs vid Stanford University påminner oss om att det i bakgrunden pågår ett mycket mörkare spel.
AI behöver inte göra uppror på hollywoodvis för att leda till en tragedi. Det räcker med en uppsättning felaktigt kalibrerade incitament, olämpligt vald träningsdata och en grupp beslutsfattare som litar för mycket på eleganta diagram genererade av en algoritm.
För en vanlig människa kan den här diskussionen verka abstrakt – men dess konsekvenser kommer att återspeglas i verkliga regeringsbeslut. Ju högre experter höjer rösten idag om AI:s begränsningar i militära sammanhang, desto större chans finns det att politiker i ett tidigt skede skriver in en järnregel i försvarsstrategierna: ingen teknik, oavsett hur avancerad, får självständigt avgöra hela planetens öde. Det är värt att komma ihåg att vad AI lär sig av mänsklig historia beror på oss. Om vi vill att framtida beslutssystem i kärnvapenkriser ska ta större hänsyn till humanitära kostnader och långsiktiga konsekvenser, måste vi förse dem med en annan berättelse än enbart militär segerslogik.
