Många, varav jag själv är en, brukar tala om nya teknologier och de innovationer som följer ur dessa som potentiella lösningar på många av världens bekymmer. Och sådana finns det gott om, med svält, brist på färskvatten, biotopdöd och klimatkris som några exempel.
Den exceptionella svängning avseende försvarsintresse som vi ser i flertalet europeiska länder är, vilket ofta har påpekats av initierade experter i denna blogg, ett ”uppvaknande under galgen”. Det sistnämnda kan symboliseras av det ryska angreppet på Ukraina, maktspråk från Kina, Iran, Turkiet och snart även USA och en besvärande insikt om att det i längden blir dyrt om man är naiv. Ett bekymmer nu är att pengar inte ensamt kan lösa krisen, för det måste finnas något att köpa och det är många som vill köpa. Och det ska då inte vara överskottsvaror, utan framtidsrelevant materiel som hanteras av för ändamålet välutbildade operatörer!
Teknikutvecklingen skapar nya eller förbättrade förmågor
Kapplöpningen avseende medel och motmedel är, och har alltid varit, generellt förekommande och påtagligt kostnadsdrivande. För tre år sedan utgjorde militära drönare, även om de redan användes i en del konflikter, ännu främst företeelser under rubriken ”prov och försök”. Idag ser vi en accelererande satsning på obemannade farkoster hos flertalet nationer med kvalificerade stridskrafter, där innovationsförmågan i Ukraina har utgjort tändvätska. Det gäller såväl små s k patrullrobotar som omfattande program med en mix av bemannat och obemannat. Luftdomänen har dominerat i nyhetsflödet om drönare, men både på och under havsytan finns också en mängd farkoster för spaning och vapenverkan. Tydliga exempel på sådana materielsystems förmåga har visats av Ukraina i Svarta havet. Behovet av motmedel, såväl som sätt att upptäcka och överrida olika motmedel, är nu i fokus för många drönarrelaterade FoU-satsningar.
Samtidigt bidrar denna utveckling till att den fredliga floran av obemannade system, flygande såväl som sjö- och markgående, får del av kunskapen. Det bidrar till förbättrade förmågor inom områden som kartering, jord- och skogsbruk och gruvnäring. Och blandningen av bemannat och obemannat är även för den fredliga utvecklingen central att lösa, så att man säkert kan dela på luftrummet liksom på sjö- och landvägarna. Tekniken för den ena disciplinen kommer att påskynda utvecklingen i den andra, s k dual-use. Självkörande fordon i alla domäner – på land, till sjöss och i luften – kommer att implementeras! Hur snart är dock fortsatt oklart.
Inom drönarområdet finns idag många småföretag, varav en del s k startups, men många brottas tyvärr med svårigheten att självständigt skala upp sin produktion. De är ofta snabbfotade i strävan att implementera ny teknologi och hitta vägar att adressera utmaningar och förmågebehov. Kriget i Ukraina har visat vad sådana innovativa lösningar kan åstadkomma. I en färsk debattartikel konstaterar dock två professorer vid Linköpings Universitet att det i Ny Tekniks s k 33-lista över de viktigaste nydanarna bland svenska nystartade småföretag inte finns ett enda försvarsteknikföretag. Samtidigt är försvarssektorn i skriande behov av innovationer och entreprenörer som kan stärka vår förmåga att bygga kompetens och system som skapar tröskeleffekter – för vår egen nation såväl som i form av stöd till Nato. Här behövs nya incitament för att knyta band mellan försvarssektorn och sådana startupföretag, liksom mellan de stora försvarsföretagen och de små uppstickarna.
AI och autonomi utgör särskilt tydliga exempel på ”både och”
Nya teknologier är så mycket mer än farkoster av olika slag. Det mest påtagliga är nog utvecklingen inom artificiell intelligens (AI) och autonomi (vilka samtidigt utgör en central del av mjukvaran i obemannade system). Efter att framgångarna för AI dröjde och inte riktigt motsvarade förväntningarna under de första två decennierna av 2000-talet har implementeringen av s k generativ AI kommit att innebära närmast disruptiva[1] förändringar under de senaste 2-3 åren. En avgörande orsak är att datorkraften äntligen nått en tillräcklig nivå för att medge maskininlärning med tillräckligt stora datamängder och tillräckligt snabbt.
Som de flesta som läser detta säkert vet, finns det två läger bland AI-debattörerna. Den ena gruppen, i vilken flera av de främsta forskarna ingår, varnar för att släppa fram de mest kvalificerade modellerna innan säkerhetsmekanismerna blivit tillräckligt bra och ett regelverk har upprättats och accepteras av världens nationer. Det andra lägret, drivet av affärsmöjligheterna, menar att marknaden måste reglera detta efterhand och att vi ska pröva oss fram.
Klart är att generativ AI, där ChatGPT genom dess frisläppande i olika varianter till oss alla, närmast har revolutionerat hur vi kan samla och kondensera information, skriva begripliga texter och spara tid. Vi har fått verktyg som kan hjälpa oss i vardagen, jämföra stora datamängder och formulera svar i text, diagram och grafer – utan att vi själva behöver förstå hur det åstadkoms. En enorm hjälp för den enskilde, särskilt för den som inte har ”språkets gåva”. Men samtidigt ett gissel för läraren som ska rätta elevuppsatser och förstå om resonemanget är original eller anpassat plagiat. Det krävs nu till del nya sätt att pröva människors kunskaper.
Sjukvården har fått fantastiska hjälpmedel genom AI. Möjligheten att jämföra tusentals röntgenbilder eller enkäter och söka mönster som kan förklara ett sjukdomstillstånd är ett sätt som redan används med mycket positiva resultat. Att med hjälp av AI kartlägga proteiner eller pröva tiotusentals molekylsammansättningar kan påskynda utvecklingen av nya behandlingsmetoder och nya läkemedel. Genom att samla miljontals hälsodata från olika världsdelar och använda smarta algoritmer på dessa stora datamängder kan vi kanske hitta mönster som förklarar skillnader i livslängd, hälsostatus m m.
På liknande sätt kan stora mängder mätdata från jordbruk och skogsbruk, kombinerade med multispektrala satellit- och drönarbilder, ge nya insikter som kan användas för att öka skördarnas mängd och kvalitet, upptäcka och förhindra skadedjursangrepp och sammantaget bli till stor nytta för mänskligheten.
Generativ AI innehåller inte bara verbala språkmodeller. Den kan också skapa bilder, foton, filmer, konst, musik mm, som kan bli spännande inslag i underhållningsvärlden. Men om den eliminerar behovet av mänskliga skapande konstnärer skulle vi (min åsikt) successivt rasa från bildningsidealets humanism till att bli obehagligt lika individerna i de dystopiska romaner som många – i alla fall min generation – fick läsa under sin skoltid.
Militärt beslutsfattande kräver snabbhet – och omdöme
AI-stöd för att i militära sammanhang snabba upp tiden från upptäckt till bekämpning, d v s ”att komma innanför motståndarens beslutsloop”, kan locka till att åsidosätta det demokratiförankrade kravet på ett mänskligt beslut före verkanseld. En helt autonom insatskedja är något som man ibland skryter om i ryska media. Den uppdaterade kärnvapendoktrin som nyss godkändes i Moskva ger därför obehagliga rysningar när vi ska bedöma president Putins nästa drag. Automatisk verkanseld riktad mot inkommande missiler, d v s i ett rent defensivt scenario, accepteras nog av de flesta, men autonom selektiv målsökning och verkan baserad på algoritmer, för att bekämpa byggnader, fordon eller enskilda individer, väcker på goda grunder betydligt större motstånd. Utöver folkrättens lagar är en av flera orsaker att även mycket kvalificerade AI-system fortfarande visar exempel på vad som kallas ”hallucination”, d v s de kan spåra iväg åt fel håll och hitta på orimliga svar. Vem ställs då till svars? Trots de mycket kraftfulla datorer som idag är tillgängliga för maskininlärning är, enligt chefen för Nvidia som levererar merparten av de chipp och processorer som sitter i dessa datorkluster, beräkningskraften ännu inte tillräcklig för att fullt ut kunna lita på svaren från AI-modellerna. Vi måste själva avgöra om svaret är rimligt. Ett synsätt som gör helt autonom offensiv vapenverkan oförenlig med ansvarsfulla nationers agerande.
Utöver riskerna med autonomt beslutsfattande genom AI ser vi förstås även exempel på den mänskliga hjärnans oberäknelighet, inte bara hos Putin utan även hos andra befintliga och blivande ledare i några av världens viktigaste länder. Med ”fel” rådgivare blir de dessutom allt farligare. Det går säkert att skriva en novell där även ”mänskligt hallucinerande” leder till katastrofresultat, men om det sker så finns det i alla fall en människa att göra upp med efteråt.
Tekniska snillen som Elon Musk, som odiskutabelt har påskyndat elbilsrevolutionen (Tesla), förändrat modellen och kostnaden för satellituppskjutningar (SpaceX) och gläntat på förmågan att styra våra muskler genom externt genererade impulser till hjärnan (Neuralink), är exempel på en dubbelbottnad personlighet. För många av oss kan han nog ses som en välsignad innovatör som med mycket stöd av AI kan förbättra livskvalitén för många. Men också som en skrämmande maktspelare som snart kan ha fått en dominerande roll i den omstöpning av det amerikanska administrationen som den blivande presidenten Trump nu aviserar.
Sverige halkar efter
I skrivande stund har AI-kommissionen, som tillsattes av regeringen för knappt ett år sedan, just levererat sin första rapport. Den var förväntad först om ett halvår, men kommissionen valde att tidigarelägga den för vad de ser som en alarmerande insikt: Sverige är på väg att halka efter omvärlden när det gäller nationella satsningar och utveckling avseende AI-området. Andra nationer satsar enorma belopp, inte minst med hänsyn till de förmågevinster som förväntas för militära system och därmed möjligheten till överläge i krig. AI-kommissionen varnar nu och råder regeringen att kraftfullt öka satsningarna på ett allmänt kompetenslyft (man jämför med hemdatorreformen på 90-talet), nya centra för spetsforskning samt en utbyggd beräkningskraft i landet. Risken är annars att såväl utbildningssystem, företag och totalförsvar förlorar momentum i den globala konkurrensen.
Vi behöver mera källkritik och rimlighetskalkyl
Att tillämpa ett kritiskt tänkande, vilket jag i rubriken påstår är nödvändigt, tycks ligga långt utanför intressesfären för såväl Trump som många i hans inre krets och flertalet av hans sympatisörer. Jag är övertygad om att pågående och framtida satsningar inom forskning och teknikutveckling efterhand kommer att lösa energikrisen, tillgodose behoven av föda och vatten till alla människor samt hitta botemedel mot många dödliga sjukdomar. AI-modeller kommer därvid utgöra en central del i verktygslådan. Detta förutsätter dock att vi inte dessförinnan helt raserar den rådande världsordningen och medvetet använder teknikens landvinningar för rent själviska och i huvudsak destruktiva syften.
Kritiskt tänkande och en rimlighetskalkyl när man som individ tar del av information skulle förhindra mycket elände, genom att man bättre kan genomskåda åtminstone klumpigt utformade lögner och påverkansoperationer. Jag tror att ett skolsystem med mera fokus på matematik, filosofi, samhällskunskap o dyl vore viktigt för att lära ut sådant tänkande. Men när nu även de främsta experterna säger att de får allt svårare att konstatera vad som är ”fake” i AI-genererade bilder, filmer, intervjuer och publicerade artiklar är det svårt att inte känna oro inför framtiden. Min uppmaning, speciellt till alla föräldrar, är ändå att samtala, informera och förklara samt att slita blicken från ”ögonmagneten” i mobilens bildskärm som förmedlar sociala medias ström av det som är lätt att uppfatta som fakta.
