≡ Menu

Kungl Krigsvetenskaps­akademien grundades 1796 av general­löjtnanten, friherre Gustaf Wilhelm af Tibell.
Akademien ska främja vetenskaper av bety­delse för fädernes­landets försvar samt följa och bevaka forsk­ning och utveck­ling av bety­delse för rikets säkerhet och försvar.
Akademiens vilja är att, som en oberoende institution, bidra till och delta i försvars- och säkerhetsdebatten.
Tibellska fonden är öppen för att stödja Akademiens verk­samhet som ett veten­skapligt instrument inom säkerhets- och försvars­området.
 Stöd Akademien! Lämna ett bidrag till Tibellska fonden!
Klicka på bilden för mer information.

av Magnus Sjöland

Flera ledare och tänkare har yttrat sig senaste tiden och uttryckt sin oro för utvecklingen inom AI – Artificiell Intelligens. Om bara några år kommer maskiner med AI att vara smartare och mer intelligenta än oss människor. Hur skall vi förhålla oss till detta? Skall vi nu reglera denna utveckling innan den går oss ur händerna?

Flera anser att AI är det tredje större språnget i vapenhistorien, det första var handeldvapen och det andra var kärnvapen.

Några uttalanden:

Elon Musk, tweet 4 sept 2017:

China, Russia, soon all countries w (with) strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo (in my opinion).

Vladimir Putin, i ett tal i början av september 2017:

Artificial intelligence is the future, not only for Russia, but for all humankind. AI comes with colossal opportunities, but also threats that are difficult to predict. Whoever becomes the leader in this sphere will become the ruler of the world.

Putin ser framför sig att det framtida kriget utspelar sig mellan svärmar av drönare som styrs av AI:

When one party’s drones are destroyed by drones of another, it will have no other choice but to surrender.

AI kan vara användbart och ge en enorm fördel i ett krig inom flera andra områden än med drönare, allt från strategiska och taktiska beslut till Cyberöverlägsenhet, och med hjälp av ett stort antal sensorer ge en överlägsenhet på ett traditionellt slagfält.

Ett stort antal faror hotar mänskligheten om vi nu tar fram maskiner som är smartare och intelligentare än oss. Inom 20 år lär de enligt flera prognoser vara överlägsna oss inom flera olika områden. Det börjar redan komma maskiner som kan duplicera sig själva, lära sig av sina misstag och bygga en bättre kopia av sig själva.

Personligen tycker jag att den största faran med att lita på AI från ett ”neuralt nätverk med deep learning och big data” är att det är som en ”svart låda”, det går inte att veta hur det har kommit fram till sina slutsatser. Du måste lita på beslutet eller förkasta det. Ett stort problem uppstår när besluten är bättre än vad en människa kan prestera, AI kan nu användas för att vinna över människor i schack, fatta bra beslut på Börsen eller att diagnosticera vissa sjukdomar bättre än tränade läkare. Företag börjar mer och mer lita på AI när man fattar strategiska beslut, de som inte gör det kommer på efterkälken. Samtidigt så ökar då också sårbarheten, då sabotörer kan med AI och andra verktyg, tränga sig in och manipulera systemen så att de fattar svårupptäckta felaktiga beslut. Ett annat problem är att mycket kunskap kommer att tappas bort, om vi låter AI ta över arbetsuppgifter och funktioner från experter. Om du vill läsa mer och få en inblick i hur ett avancerat AI system kan tänkas manipulera och interagera med människor, läs senaste romanen av Dan Brown ”Begynnelsen”.

Om vi förflyttar vårt mindset från den civila världen till den militära, så ser jag ett väldigt allvarligt problem om vi låter dessa ”svarta boxar” ta över beslutsfattandet under ett krig och ännu värre om vi kopplar upp våra vapensystem så att vi låter AI sköta dem utan mänsklig inblandning. Då kan det gå käpprätt för oss människor! Dessa områden måste omedelbart regleras internationellt.

Ett föredömligt upprop till FN har nu kommit från 116 ledande personer från 26 länder med djup insikt inom AI och robotteknologi, bland annat ovan nämnd Elon Musk. De vill att FN förbjuder utvecklingen av autonoma vapen, även kallade ”dödsrobotar”. Detta är farkoster som kan klara sig själva på marken eller i luften, och kan döda alla människor som de får syn på. Dessa kan snabbt massproduceras och på slagfältet uppträda i 1000-tal eller ännu fler. Dessa enorma mängder robotar kan sedan styras taktiskt och strategiskt av AI. “These can be weapons of terror, weapons that despots and terrorists use against innocent populations, and weapons hacked to behave in undesirable ways.”, säger de i sitt upprop. De 116 experterna säger också att det är etiskt fel att maskiner skall bestämma över vilka människor som skall dödas, och vill att detta skall regleras under CCW-konventionen från 1983, Convention on Certain Conventional Weapons. Idag är USA och Kina ledande nationer, men även länder som Ryssland och flera länder inom EU arbetar med utvecklingen av sådana system. Kina har som mål att till år 2030 vara den ledande nationen inom AI.

Jag tycker Sverige skall vara ledande inom FN för att reglera området, det är svårt att överblicka, men en sak är säker: snart är vi människor intellektuellt underlägena de datorer vi en gång skapade och det vore hemskt om dessa i framtiden skall bestämma vilka människor som skall dö och vilka som skall få leva.

 
Författaren är vd och ledamot av KKrVA.

Comments on this entry are closed.