Dræberrobotterne kommer. Men lad være med at gå i panik

Kronik af dekan, professor Mikkel Vedby Rasmussen i Politiken den 25. juni 2019.

Autonome våbensystemer er våben, som bliver betjent af kunstig intelligens – ikke af en soldat. Når en drone i dag affyrer et missil i det nordlige Pakistan, sidder en amerikansk pilot i en container uden for Las Vegas og trykker på affyringsknappen og flyver dronen tilbage til basen.

Men i alverdens våbenudviklingslaboratorier forsker man i, hvordan dronen ville kunne skyde og flyve på egen hånd. Man kan vælge at kalde sådanne våbensystemer for dræberrobotter. Det lyder jo ikke rart, og en global bevægelse arbejder derfor på at forbyde autonome våbensystemer, inden de kan nå at blive operationelle. FN’s Generalsekretær, António Guterres, brugte 100-året for afslutningen af Første Verdenskrig til at opfordre til et forbud mod autonome våbensystemer.

Europa-Parlamentet vedtog i 2018 en resolution, som støttede et forbud mod dødbringende autonome våbensystemer. 2.400 personer beskæftiget med at udvikle kunstig intelligens (der næsten er kendt lige så godt under sin engelske forkorte AI – artificial intelligence) med Dannis Hassabis fra Google DeepMind og Elon Musk fra Tesla og SpaceX i spidsen har skrevet under på, at de ikke vil medvirke til at udvikle AI-systemer, der kan understøtte dræberrobotter.

Siden vi kun kender ’dræberrobotter’ fra science fiction, afspejler diskussionen om dræberrobotter ofte den tro på, at teknologien kan alt, hvis man blot bruger tilstrækkeligt mange penge på at udvikle den, som trives i Silicon Valley og den globale start-up-kultur.

Den militære virkelighed har altid været mere kompliceret end som så. Men det er måske heller ikke den militære logik bag autonome våbensystemer, som går kritikerne mest på. Den primære frygt for ’dræberrobotter’ går på, at det ikke kun vil være mennesker, som går i krig, men at maskiner selv kan bestemme at slå mennesker ihjel.

Vi har i sagens natur ikke fortilfælde for, at det er andet end mennesker, som fører krig. Men vi har fortilfælde for, at mennesker ikke har været alene med deres maskiner (kampvogne, lastbiler, kanoner) på slagmarken. Så lad os starte diskussionen om, hvad det vil sige, hvis autonome våbensystemer blev til virkelighed, dér.

I det meste af historien har mennesket ikke kæmpet alene. På Park Lane i London står et mindesmærke for de millioner af dyr, som kæmpede og døde på allieret side i Første og Anden Verdenskrig. F.eks. var der 200.000 duer i allieret krigstjeneste under Anden Verdenskrig, hvor de bragte beskeder mellem militære enheder.

På trods af det billede af mekaniseret Blitz-Krieg, som Goebbels gerne ville vise offentligheden, så vidste de tyske soldater, at lige efter kampvognen fulgte hestevogne med benzinen til kampvognen, ammunitionen til kanonen og maden til kampvognens besætning. Den tyske hær havde 2,7 mio. heste i tjeneste under Anden Verdenskrigen.

Hesten er i virkeligheden den mest relevante analogi til, hvordan robotter på det nuværende teknologiske niveau bedst kan anvendes i felten – til at transportere forsyninger over store afstande og uvejsomt terræn, og til at sikre et gennembrud i fjendens line, som kavalerienheder gjorde det i tusinder af år.

En hærenhed vil kunne operere længere med en robot til at slæbe grejet og vil kunne undgå farlige situationer, som f.eks. minefelter, ved at sende robotten af sted i en passende afstand foran menneskene.

Robotter har således længe været brugt til bomberydning og andre farlige opgaver, som mennesker helst ville holde sig på afstand af. Men denne slags robotter behøver ikke at være autonome. De kan lige så vel være fjernstyrede, og selv hvis man monterer et maskingevær på enhedens transportrobot, vil robotten være et våben styret af mennesker på linje med morterer eller kampfly, ikke en selvstændigt tænkende kombattant.

’Dræberrobotter’ som Arnold Schwarzenegger i Terminator, handelsføderationens droider i Star Wars eller the Cylons i Battlestar Galactica ligger ude i fremtiden. Men på fortidens slagmarker møder vi elefanten, som blev opfattet på en måde, der faktisk ikke ligger så langt fra vores forestillinger om fremtidens dræberrobotter. Ved at se lidt nærmere på, hvordan romerne så på Hannibals elefanter, kan vi måske blive lidt klogere på, hvordan vi vil opleve fremtidens ’dræberrobotter’.

Hannibals elefanter blev opfattet som en ligeværdig, ikke-menneskelig intelligens på slagmarken af de romerske legionærer. I sin naturhistorie beskriver Plinius den ældre elefanterne som langt mere menneskelige, end nogen i dag forestiller sig, at AI kan være.

Ifølge Plinius forstår en elefant forskellige sprog, adlyder kommandoer og husker sine pligter. Elefanten har en intelligens, som næsten svarer til menneskets, vurderer Plinius. Det er ikke nogen dårlig beskrivelse af AI, men elefanter kan mere end det, ifølge Plinius, som fortalte sine læsere, at elefanterne værdsætter både kærlighed og glorværdighed. To dyder, som appellerede til den romerske folkesjæl. Plinius mente at vide, at elefanterne havde en religion baseret på himmellegemerne.

At elefanterne nok ikke tilbad stjernerne, solen og månen er ikke så vigtigt som det forhold, at romernes fremmeste videnskabsmand mente, at de gjorde.

I romernes verden var der langt mere ’fremmedhed’ end i vores, hvor dyrearterne er kortlagt på linje med kontinenterne. Derfor havde romerne plads til flere nuancer i deres skel mellem menneske og natur, mellem intelligente væsner og uintelligente væsner. Elefantens natur skulle opdages på samme måde, som kommende generationer skal opdage robotternes natur.

Måske netop fordi de havde deres egen forståelse af verden, kunne ’dræberelefanterne’ handle på måder, som var uhensigtsmæssige for deres menneskelige kampfæller.

Livius beskriver, hvordan Hannibals elefanter ødelægger slaget for kartagerne ved Canusium i 209 f.v.t. (i dag hedder byen Canosa og ligger i den italienske region Puglia), hvor elefanterne i panik vender om og angriber kartagernes line og således baner vejen for romerne, der dræber de kartagiske soldater, som elefanterne ikke har trampet ned. Romerne forstod, at det gjaldt om at neutralisere elefanterne, så legionærerne kunne kæmpe mand mod mand, på lige fod, med Kartagos infanteri.

Den romerske strateg Vegetius kunne berette, at en taktik over for elefantangreb var at åbne linjen for elefanterne og omringe dem; det gjorde elefanterne rolige, og så kunne deres menneskelige ryttere tages til fange og elefanterne føres bag linjen. Med tanke på moderne teknologi ville man sige, at det var ’the man-machine interface’, som romerne slog til mod.

Elefanterne forsvandt fra slagmarken, fordi de ressourcer, som skulle bruges på at gøre dem til et militært aktiv, bedre kunne bruges på mennesker.

Uanset hvor sejt Hannibal eller en indisk maharaja syntes det var at se deres kampelefanter til parade, så var et menneske mere pålideligt og bedre til at indstille sig på kampens omskiftelige vilkår. Bortset fra logistik og rutineopgave (f.eks. vagttjeneste) vil robotter skulle udvikle sig meget for at være anvendelige som ’dræberrobotter’.

Hvilken enhed har lyst til at gå i kamp med en robot, som kan komme til at skyde dem, hvis algoritmen, der styrer den, ikke magter kampens kompleksitet? Det afgørende for, at en militær enhed er effektiv, er netop, at soldaterne kender og stoler på hinanden, fordi så store dele af kamp er intuitiv ekspertise.

En robot vil have svært ved at operere effektivt i det fællesskab. Det fællesskab holder også soldaten oppe og gør vedkommende i stand til at overkomme mangel på mad, søvn og den stress, som følger med kampen. En maskine kan ikke sætte sig ud over sine egne designparametre.

Robotten skal have energi for at fungere. Den skal repareres af teknikere, hvis den bliver beskadiget, og skader kan have uforudsete effekter på dens funktion. Det kan hurtigt vise sig at være langt mere effektivt at sende mennesker i felten end robotter. Robotterne vil, som elefanterne, være reduceret til statussymboler, udstillet langt fra fronten.

Hvis robotten Arnold i Terminator eller elefanterne ved Canusium ikke er en særlig realistisk model for anvendelsen af kunstig intelligens i krig, så er det tilgengæld sandsynligt, at autonome platforme vil indgå i militære styrker inden for den næste generation.

Specifikationerne for nye pansrede mandskabsvogne og det kommende britiske kampfly Tempest, er, at de skal kunne operere på egen hånd. De skal kunne fjernstyres, og det kan gøres både af et menneske og af en AI bag fronten, eller af et menneske ved fronten, som får ekstra fjernstyrede enheder til at forstærke effekten af sin egen enhed.

Man kan således forestille sig en kampvognseskadron, som består af bemandede såvel som ubemandede kampvogne, hvor vognkommandøren i en given kampvogn både styrer sit eget køretøj og et eller to andre, som så kan sendes længere frem og bruges ved større risiko, fordi der ikke er et mandskab, som kan rammes. Præcis som elefanten blev styret af mennesker i kamp, vil de autonome enheder være under menneskelig kontrol.

Der er specifikke missioner, hvor robotter, som elefanterne var, er unikt velegnede. Hvis man skal bryde fjendens liner, vil en falanks af robotter, som ikke tager hensyn til, hvor mange tab de lider, være meget effektiv. Men det kræver ikke nær-menneskelig intelligens at foretage den operation. Fjernstyrede platforme – fra kampvogne til fly – vil kunne krydse ingenmandsland og tage fjendens skyttegrav.

Faktisk kunne man overveje, om en robot, der var så intelligent, som Plinius troede elefanterne var, overhovedet ville acceptere en mission, som indebar en risiko så stor, at generalerne ikke ville udsætte menneskelige soldater for den.

Hvis intelligens inkluderer bevidstheden om et selv, så må intelligens også indebære frygten for at miste dette selv. En fuldt intelligent robot vil derfor være lige så sårbar som en menneskelig soldat; og de moralske overvejelser forbundet med at sende den i døden vil være svare til at sende et menneske i døden. Robotten vil blot være væsentlig dyrere at fremstille og vedligeholde end et menneske.

Men måske skal processorkraften ikke bruges til at skabe nutidens kampelefanter, men i stedet bruges til at koordinere og dirigere selve operationen.

Kunstig intelligens vil kunne hjælpe med at identificere de optimale mål på det rigtige tidspunkt, give råd til, hvilken vej det vil være bedst at rykke frem ad, og måske endda hjælpe med at identificere, hvilke mål der er civile og derfor ikke skal engageres.

Man kan endda forstille sig AI med en algoritme, som forhindrer kamppiloten i ved en fejl at skyde på sine egne styrker på jorden eller i at kaste en bombe for tæt på et civilt mål. Kunstig intelligens kan styre dele af platformene i netværket, mens menneskelige operatører er optaget af andre ting.

Hvis AI er en central del af det militære netværk, så vil AI blive et mål. Udfordringen for fremtidens generaler kan således lige så vel være, hvordan man kæmper uden robotter, som hvordan man kæmper med dem. Den tidligere amerikanske forsvarsminister Mattis var allerede begyndt at tale om behovet for, at søfolk kunne aflæse stjernerne og soldater igen bruge kort og kompas.

En øget afhængighed af software kan også betyde en modreaktion, hvor nogle områder eller funktioner bliver mindre teknologisk afhængige, fordi der faktisk er en komparativ fordel i at være offline. Oprørsstyrkerne i Mali har ikke en kommandostruktur, der kan hackes, men kan selv hacke sig ind de vestlige styrkers systemer.

Det er længe siden, at man har lært om at nedkæmpe elefanter på en officersskole. Teknologien har overtaget den rolle, som elefanten, duen, hesten og alle de andre dyrekombattanter udfyldte. I det perspektiv er udviklingen af autonome systemer kulminationen på den maskingørelse af krig, som begyndte i skyttegravene i Første Verdenskrig.

Men de nye maskiner vil betyde, at mennesket ikke længere er alene på slagmarken, men skal dele den med andre, kunstige intelligenser. Det rejser nye moralske spørgsmål og det udfordrer forståelsen af os selv som mennesker. Selv i en tid, hvor vi hylder fred og civile værdier på en måde, som romerne ikke gjorde, så definerer vi stadig mennesket i kraft af dets evne til at føre krig, og vi føler os udfordret som art af muligheden for, at andre intelligenser (kunstige eller ej) vil kunne kæmpe med os og dræbe os.

I vores fascination af udviklingen af robot- og informationsteknologi ser vi os ofte blinde på systemernes muligheder og glemmer, at den komplekse virkelighed, som vi lever i til daglig, også er den virkelighed, som systemudviklernes planer skal eksistere i.

De, der frygter dræberrobotter, kan således sætte deres lid til den tyske krigsteoretiker Carl von Clausewitz’ ord om, at i krig er alt, hvad der virker simpelt, i virkeligheden svært.