Taistelurobotti ei väsy eikä mieti sodan etiikkaa — Tekoäly herättää vaikeita kysymyksiä: Kuka on vastuussa, jos tulevaisuuden aseet käyttävät liiallista voimaa?

Tekoälyn avulla aseet voivat etsiä vihollisia itsenäisesti ja reagoida yli-inhimillisen nopeasti. Toisaalta eloton esine ei toimi vihasta tai kostonhalusta.

Juha Rika

Tulevaisuuden sodissa on todennäköisesti yhä enemmän itsenäisesti toimivia aseita. Silti päätökset tekee todennäköisesti ihminen.
Tulevaisuuden sodissa on todennäköisesti yhä enemmän itsenäisesti toimivia aseita. Silti päätökset tekee todennäköisesti ihminen.

Sotateollisuus kehittää vauhdilla autonomisia asejärjestelmiä, jotka kykenevät osittain tai jopa täysin itsenäiseen toimintaan. Näitä aseita kuvataan joskus termillä tappajarobotit.

Autonomiset aseet ja tekoälyn nopea kehitys herättävät vaikeita eettisiä kysymyksiä: Kuka on vastuussa, jos autonominen ase käyttää liiallista voimaa? Onko vastuu tekoälyn ohjelmoijalla, aseen rakennuttajalla vai aseiden käytöstä päättäneellä komentajalla? Entä tunnistaako kone taistelijan siviilistä?

Turun yliopiston filosofian professori Juha Räikkä huomauttaa, että eettisen pohdinnan kannalta autonomisten ja perinteisten aseiden välillä ei ole niin suurta eroa kuin usein ajatellaan.

— Meillä on ollut jo pitkään monia aseita, jotka eivät ole täysin ihmisen kontrollissa, Räikkä sanoo.

Minkä tahansa aseen käyttöön taistelutilanteessa liittyy kaksi eettistä vaatimusta. Ensimmäinen on erotteluperiaate, jonka mukaan taistelijat täytyy pystyä erottelemaan siviileistä. Suhteellisuusperiaatteen mukaan voimankäyttö täytyy suhteuttaa tavoitteeseen. Kokonaisen korttelin tuhoaminen muutaman vihollistaistelijan tappamiseksi on esimerkki suhteettomasta voimankäytöstä.

— Siviilien suojelu puolestaan on nykyisinkin hankalaa, sillä usein sotilaskohteet sijoitetaan tarkoituksella siviilikohteiden läheisyyteen, Räikkä toteaa.

Aseet eivät vielä opi itsenäisesti

Asejärjestelmät voidaan jakaa kolmeen luokkaan: automaattisiin, autonomisiin ja tekoälyä hyödyntäviin.

— Esimerkiksi kaikki ansat ja miinat ovat automaattisia aseita. Kun ne on kerran asennettu, ne eivät tarvitse ihmisen ohjausta, kertoo Maanpuolustuskorkeakoulun strategian pääopettaja Jaakko Jäntti.

Autonomiset aseet pystyvät havainnoimaan ympäristöään ja paikantamaan kohteen. Esimerkiksi käyvät maaliin hakeutuvat ohjukset.

Koneella ei ole samoja ihmisyydestä kumpuavia motiiveja, jotka ovat monien sotarikosten taustalla. — Juha Räikkä

Tekoäly voi tuoda mukanaan aivan uuden tilanteen. Jäntti nostaa esiin niin kutsutut vaanivat aseet.

— Vaanivia aseita ovat esimerkiksi lennokit ja miinatorpedot. Esimerkiksi jotkin lennokit voivat pysyä liikkeellä määritellyllä alueella pitkiäkin aikoja. Kun oikea maali löytyy, ase osaa hyökätä sitä vastaan, Jäntti toteaa.

Asia mutkistuu, kun autonomiset aseet kykenevät oppimaan itsenäisesti. Tämä voi johtaa tilanteeseen, jossa edes aseen suunnittelija ei voi tietää, millä perusteella järjestelmä myöhemmin tekee päätöksensä voimankäytöstä.

Kone ei tunne vihaa eikä kostonhalua

Koneet voivat kuitenkin olla myös eettisesti ihmisiä parempia toimijoita. Tietokone ei toimi vihan tai katkeruuden vallassa, se ei halua kostaa aiempia koettuja vääryyksiä, eikä sitä voi lahjoa tai uhkailla. Kone ei myöskään tee virheitä väsymyksen tai stressin takia.

— Jos uudet aseet ovat riittävän kehittyneitä, niiden käyttöä voidaan tässä mielessä puolustaa eettisesti. Koneella ei ole samoja ihmisyydestä kumpuavia motiiveja, jotka ovat monien sotarikosten taustalla, Räikkä toteaa.

Mitä jos haavoittunut vihollistaistelija laskee päänsä ja kätensä? Ihminen voi tulkita eleet antautumiseksi ja ottaa vihollisen vangiksi. Osaako tekoäly tehdä saman tulkinnan? — Jaakko Jäntti

Toisaalta koneet eivät välttämättä osaa arvioida vaihtuvia tilanteita ja ihmisten motiiveja riittävän hyvin.

— Mitä jos haavoittunut vihollistaistelija laskee päänsä ja kätensä? Ihminen voi tulkita eleet antautumiseksi ja ottaa vihollisen vangiksi. Osaako tekoäly tehdä saman tulkinnan? Jäntti pohtii.

Tekoälyn ohjaamat taistelurobotit voivat vähentää ihmisuhrien määrää, mutta ne voivat myös alentaa kynnystä voimankäytölle.

— Jos omalle puolelle ei tule ihmisuhreja, kannustin voimankäyttöön voi kasvaa. Tämän seikan kanssa täytyy olla varuillaan, Räikkä toteaa.

Riskinotto onnistuu robotilta

Tekoälyä hyödyntävät ja teknisesti entistä kehittyneemmät aseet tuovat selkeitä taktisia ja strategisia etuja sodankäyntiin.

— Koneet ovat monessa suhteessa ylivertaisia ihmiseen nähden, esimerkiksi päätöksentekonopeudessa. Autonomiset aseet myös mahdollistavat huomattavasti suurempien riskien ottamisen. Koneen voi ohjelmoida taistelemaan viimeiseen patruunaan asti välittämättä sen omasta turvallisuudesta, Jaakko Jäntti toteaa.

Autonomisten aseiden kuten esimerkiksi lennokkien rakentaminen on huomattavasti edullisempaa ja nopeampaa kuin hävittäjälentäjän kouluttaminen.

— Satojen lennokkien parvesta osa voi toimia harhautuksena, kun pieni joukko tuhoaa kohteen, Jäntti sanoo.

Lennokkien ohjaaja voidaan siirtää kauas taistelutilanteesta, jolloin hän voi paremmin hallita kokonaisuutta.

— Toistaiseksi ihminen on parempi tekemään näitä isoja päätöksiä. Ihminen kykenee myös muokkaamaan strategiaa, jos tilanne sitä vaatii.

Tähän autonomiset asejärjestelmät eivät vielä kykene.

Suurvallat kehittävät kilpaa autonomisia aseita

Autonomisten asejärjestelmien käytöstä ja rajoituksista ei ole laajasti hyväksyttyä kansainvälistä sopimusta, vaikka asiasta on keskusteltu YK:ssa asti.

Vuonna 2015 joukko tekoälytutkijoita ja muita intellektuelleja julkaisi avoimen kirjeen, jossa varoitettiin uusien aseiden vaaroista. Allekirjoittaneiden joukossa oli muun muassa edesmennyt Stephen Hawking, Teslan ja SpaceX:n toimitusjohtaja Elon Musk ja Berkeleyn yliopiston professori, tekoälytutkija Stuart Russell.

AOP

Erityisesti suurvallat ovat kiinnostuneet tekoälyn hyödyntämisestä aseissa. Helmikuussa Iranin Teheranissa pidettiin asemessut, joissa oli esillä muun muassa ohjuksia.

Suurvallat, kuten Yhdysvallat, Kiina ja Venäjä, suuntaavat tällä hetkellä paljon resursseja autonomisiin aseisiin ja tekoälyyn.

— Venäjän presidentti Vladimir Putin tokaisi jokin aika sitten, että se joka hallitsee tekoälyä, hallitsee maailmaa, Jäntti sanoo.

Muutama vuosi sitten Yhdysvallat laski vesille Seahunter-aluksen, joka ei tarvitse lainkaan miehistöä. Seahunterin tehtävänä on metsästää sukellusveneitä, ja arvioiden mukaan se kykenisi seilaamaan merillä itsenäisesti useiden kuukausien ajan.

Saksa käyttää Mantis-ilmapuolustusjärjestelmää, joka ampuu automaattisesti alas ohjuksia ja reagoi yli-inhimillisen nopeasti.

Robotti tuskin toimii ilman ihmisen käskyä

Asejärjestelmien autonomisuuden asteessa on kolme eri luokkaa: Ensimmäisessä luokassa ase voi teknisesti toimia itsenäisesti, mutta se vaatii aina ihmisen päätöksen toiminnan aloittamisesta.

Toisessa luokassa ase toimii itsenäisesti ohjelmointinsa perusteella, ellei ihminen keskeytä toimintaa.

Viimeisin luokka on täysin autonominen järjestelmä, joka toimii ilman ihmistä.

— Itse en näe syytä täydelliselle autonomialle. Ihminen ymmärtää, mitä tappaminen tarkoittaa. Tästä syystä en usko, että ihmistä halutaan siirtää pois ohjaimista, Jäntti sanoo.

Entäpä Suomi? Pienellä maalla ei ole suurvaltojen resursseja kehittää tekoälyä hyödyntäviä aseita.

— Oma ajatukseni on se, että meillä täytyy olla kyky vastata uhkaan, jos tällaiset järjestelmät lisääntyvät lähialueilla, Jäntti toteaa.