En bransch i blåsväder – hur militär AI satte en hel sektor i brand
På bara några dagar bevittnade hela AI-branschen hur frågan om militär användning av artificiell intelligens kan uppröra en hel användarbas. OpenAI undertecknade först ett avtal med det amerikanska försvarsdepartementet – och fick sedan brådstörtat revidera det när antalet avinstallationer av ChatGPT sköt i höjden med nästan trehundra procent.
När de första rapporterna om samarbetet mellan stora AI-företag och Pentagon dök upp i början av mars var det få som förutsåg den stormiga folkliga reaktionen. Under ett enda veckoslut förvandlades ChatGPT i mångas ögon från en pålitlig digital assistent till ett verktyg förknippat med militär maktapparat. Enligt analysdata från Sensor Tower steg det dagliga antalet avinstallationer av ChatGPT-appen med hela 295 procent jämfört med normalnivån. Den eskalationen tvingade OpenAIs ledning till extraordinära åtgärder och offentliga ursäkter.
Experter påpekar att konflikten mellan teknikjättar och Pentagon blottlägger ett grundläggande problem i dagens AI-utveckling. Privata företag drar i praktiken upp de etiska gränserna utan något tydligt lagstiftningsramverk. Mariarosaria Taddeo vid Oxfords universitet varnar för att när den mest försiktiga aktören – Anthropic – försvinner från förhandlingsbordet, tar hela ekosystemets säkerhet skada. För dig som användare innebär det att beslut som fattas i Washington och Silicon Valley just nu kommer att påverka dina appars funktioner redan om några år.
Hur Anthropics hårda nej satte Pentagon på kant
Det hela startade med Anthropic, skaparna bakom språkmodellen Claude, som fick ett liknande samarbetserbjudande. Pentagon ville integrera deras AI i system som i realtid analyserar enorma datamängder – från satellitbilder och underrättelserapporter till sensordata från stridszoner. Målet var att påskynda befälhavarnas beslutsfattande direkt i fält och förse dem med maskininlärningsbaserade rekommendationer.
För Anthropic innebar dock två etiska gränser en absolut stoppkloss. För det första får Claude-modellen inte stödja utvecklingen av fullt autonoma vapensystem – alltså sådana där en maskin beslutar om våldsanvändning utan mänsklig kontroll. För det andra får Claude inte medverka i massövervakning av vanliga medborgare på amerikanskt territorium. Dessa villkor satte skyddet av mänskliga rättigheter tydligt framför arméns strategiska intressen.
Ur militärplanerarnas perspektiv visade sig båda kraven vara oacceptabla. Enligt uppgifter i press satte Trumpadministrationen upp Anthropic på en svart lista och nekade företaget tillgång till statliga upphandlingar. Företaget hade byggt upp ett rykte som en principfast och etikdriven aktör – men betalade priset genom att förlora en potentiellt lukrativ marknad. Anthropics vd Dario Amodei försvarar det offentligt som en strategi för långsiktigt ansvar.
Situationen kompliceras ytterligare av medierapporter om att Claude ändå används i operationer kopplade till spänningarna mellan USA, Israel och Iran – trots den formella blockeringen i upphandlingsprocessen. Pentagon kommenterar inte dessa påståenden, vilket lämnar många frågor obesvarade. Taddeo noterar att detta bara bekräftar behovet av transparent reglering på kongressnivå.
Hur OpenAI gick in där Anthropic stod ut
Den fredag det stod klart att Anthropic lämnade fältet undertecknade OpenAI ett avtal som i praktiken fyllde det vakuum konkurrenten lämnat efter sig. ChatGPT skulle riktas mot försvarsapplikationer och detaljerna i kontraktet hölls delvis hemliga. Sam Altman, OpenAIs vd, publicerade dagen därpå ett uttalande där han hävdade att de förhandlade skyddsåtgärderna till och med var strängare än de Anthropic hade varit villigt att acceptera.
Det budskapet var tänkt att skydda företaget från kritik, men upplevdes av många som ett försök att kapitalisera på rivalens principfasthet. På sociala medier haglade anklagelserna om att ha svikit deklarerade värderingar och sålt sig till militära kontrakt. Hashtaggen CancelChatGPT fick snabbt fäste och aktivistiska användare började organisera en bojkott av OpenAIs produkter.
Reaktionen var blixtsnabb och brutal. Data från Sensor Tower visade att den genomsnittliga dagliga avinstallationsfrekvensen för ChatGPT-appen hoppade upp med 295 procent jämfört med typiska nivåer. På bara några dagar hade ChatGPT gått från att vara en symbol för ansvarsfull AI till att kopplas samman med försvarsindustrin. Analytiker inom teknikmedia konstaterade samstämmigt att OpenAI aldrig tidigare upplevt en liknande negativ våg – inte ens under tidigare kontroverser kring licenstvister.
På måndagen trädde Altman fram med en offentlig ursäkt och erkände att kommunikationen hade varit forcerad och ogenomtänkt. Han lovade en revidering av villkoren i försvarsavtalet och försäkrade att företaget tar AI-etik på allvar. Enligt experter på kriskommunikation var det ett typiskt drag efter att krisen hade skenat iväg. Altman var tvungen att medge att kontraktets ekonomiska attraktionskraft i det ögonblicket hade vägts tyngre än en noggrann offentlig diskussion.
Exakt vilka förändringar OpenAI lovade göra i avtalet
Under trycket från allmänheten och den växande bojkotten lade OpenAI till flera mycket specifika bestämmelser i kontraktet. De viktigaste rör övervakning av amerikanska medborgare och underrättelsetjänsters tillgång till modellerna. Företagets ledning hävdar att inte ens den ursprungliga versionen tillät sådana överskridanden, men explicita skrivningar i texten ska nu lugna kritikerna.
De huvudsakliga ändringarna inkluderar:
- Ett uttryckligt förbud mot att medvetet använda OpenAIs system för att övervaka invånare i USA
- Blockering av automatisk tillgång för underrättelseorgan som NSA utan en separat, offentligt godkänd avtalsändring
- En deklaration om att AI ska stödja analytiker men inte ersätta en människa i beslut om våldsanvändning
- Regelbundna revisioner av modelldriftsättningen under oberoende expertöversyn
- Transparent rapportering om vilka typer av uppgifter ChatGPT utför inom försvarssektorn
- OpenAIs rätt att ensidigt säga upp avtalet om de etiska principerna överträds
Det innebär ett partiellt närmande till Anthropics approach, men skillnaden är fortfarande tydlig. Anthropic valde att avstå från kontrakt snarare än att ge vika för Pentagons krav. OpenAI valde att lägga till begränsningar och behålla samarbetet. Enligt Taddeo vid Oxfords universitet fungerar en sådan strategi bara om det finns ett oberoende tillsynsorgan som kan verifiera att löftena hålls.
Liknande debatter pågår i Europa, där Europaparlamentet förbereder förordningen om artificiell intelligens känd som AI Act. Lagstiftare i Bryssel föreslår riskklassificering av applikationer och förbud mot vissa former av massövervakning. NATO-företrädare betonar samtidigt att en människa formellt alltid är kvar i beslutskedjan i nuvarande system – men att det psykologiska trycket att acceptera AI:s rekommendationer ökar i takt med systemens sofistikering.
Varför AI-frågan är så avgörande för det moderna försvaret
Bakom hela tvisten ligger en bredare vision för moderna väpnade styrkor. Plattformar som byggs av företag i försvarsbranschen integrerar redan nu data från en mängd källor – sensorer, droner, satelliter och underrättelserapporter – och presenterar dem för befälhavare i form av färdiga rekommendationer. Enligt företrädare för försvarsindustrin gör sådana system det möjligt att reagera snabbare på hot och koordinera enheter i realtid.
Generativ AI erbjuder ytterligare en dimension. ChatGPT kan snabbt aggregera textrapporter på olika språk, identifiera nyckelinformation och föreslå scenarier för hur en situation kan utvecklas. Militären hoppas att dessa verktyg ska påskynda beslutsprocesserna och minska den kognitiva bördan för befälhavare som överöses med information från dussintals kanaler.
Här uppstår dock en grundläggande spänning mellan nytta och risk. Generativa modeller lider av så kallade hallucinationer – de kan producera falsk information med full övertygelse om att den stämmer. I civila sammanhang slutar det värsta med ett pinsamt chatt-svar. På slagfältet kan ett sådant misstag kosta oskyldiga liv eller eskalera en konflikt på basis av fabricerade uppgifter.
Forskare vid Massachusetts Institute of Technology publicerade nyligen en studie om stora språkmodellers tillförlitlighet i kritiska situationer. De fann att felfrekvensen stiger när modellerna arbetar med ofullständig eller motstridande information – precis de förhållanden som är typiska för militära operationer. Studiens författare rekommenderar flerstegskontroll av utdata och rejäla investeringar i systemens förklarbarhet innan de driftsätts i stridsmiljö.
Hur Claude tjänade på ChatGPTs kris
Mediastormen gav omedelbart avtryck på appmarknaden. När användarna avinstallerade ChatGPT sökte många efter ett alternativ, och det naturliga valet blev just Claude – vars skapare gått i öppen konflikt med Pentagon. OpenAIs krishantering byggde i praktiken upp en gratis marknadsföringskampanj för Anthropic, grundad på ett enda budskap: vi gav inte efter.
Data från App Store visar att Claude-appen på lördagen klättrade till förstaplatsen på nedladdningslistorna och höll sig kvar där åtminstone till torsdagen. Amerikansk media rapporterar att Claude överträffade ChatGPT i antal nya installationer – något som hade sett ut som en orealistisk tanke bara några veckor tidigare. Dario Amodei vill offentligt inte dra nytta av konkurrentens problem, men siffrorna talar sitt tydliga språk.
På sociala medier startade en organiserad tryckkampanj mot OpenAI. Hashtags som CancelChatGPT och QuitGPT uppmanade till ett permanent övergiv av företagets produkter så länge det samarbetar med militären. Vissa aktivistiska rörelser ser det som ett test på om användaropinionen faktiskt kan förändra AI-jättarnas beteende.
Experter på företagsrykte noterar att ett sådant preferensskifte får långsiktiga konsekvenser för OpenAI. Enligt undersökningar ökar användarnas förtroende för teknikföretag med transparens och minskar när de ser klyftor mellan deklarerade värderingar och faktiska handlingar. Altman har upprepade gånger framhållit att OpenAI grundades som en ideell organisation inriktad på säker AI-utveckling – och det är just den bilden som nu spricker.
Vad vanliga AI-användare bör tänka på nu
För de flesta kan det här militära pusslet låta avlägset och abstrakt. Men de beslut som fattas just nu i Washington och Silicon Valley kommer direkt att påverka funktionerna i de appar du använder om några år. Om språkmodeller tränas på data från militära operationer kan de visserligen bli bättre på strategiska analyser – men de kan också ärva de fördomar som är typiska för försvarssektorn.
Det är ett utmärkt tillfälle att undersöka vilka villkor AI-företag anger i sina dokument – även de som verkar på den svenska marknaden. Är det tydligt angett vilka de samarbetar med? Deklarerar de gränser för övervakning och militära tillämpningar? Marknadstrycket ersätter inte lagstiftning, men det signalerar till bolagen att ryktet har blivit en verklig valuta.
Vi ser allt oftare en spänning mellan innovationstakt och stabilitet samt säkerhet. Generativa modeller utvecklas i rasande fart, men deras benägenhet för hallucinationer kan få dramatiska konsekvenser inom militära, medicinska och finansiella tillämpningar. Gränsen mellan assistent och medbeslutsfattare börjar suddas ut – och just nu pågår den avgörande striden om på vilken sida av den linjen AI bör stanna.
