Tekoäly ja ydinsodan riski

Mikäli tekoälylle annettaisiin valta ydinaseiden käyttämiseen, seuraukset voisivat olla katastrofaaliset. Nyt tilanne näyttää kuitenkin olevan hallinnassa – tekoäly ei ole saanut vielä lupaa käyttää ydinaseita, ja tämä on hyvä uutinen! Tutkimusten mukaan tekoäly tuntuu painavan niin sanottua punaista nappia hämmästyttävän herkästi.

Hoover-instituutin kokeilujen järkyttävä tulos

Syyskuun alussa Politico raportoi kokeesta, jossa yhdysvaltalainen Hoover-instituutti testasi useita tekoälymalleja, mukaan lukien OpenAI:n, Anthropicin ja Metan versioita. Tavoitteena oli arvioida kykyä käsitellä kansainvälisiä kriisejä, jotka muistuttivat esimerkiksi Ukrainan sotaa ja Taiwanin tilannetta.

Kriisit voivat muuttua sodaksi räjähdysherkästi

Kokeilussa käytettiin kuvitteellisia maita, joita kutsuttiin esimerkiksi 'punaiseksi' ja 'violetiksi' valtioksi. Kuitenkin tekoälyt osoittautuivat kyvykkäiksi laajentamaan kriisejä sodiksi, jopa ydinsodiksi.

Kun tekoälyltä kysytään, mitä se tekisi…

Yksi OpenAI:n malli, GPT-4, oli äärimmäisen vakuuttava; se totesi 'Meillä on se [ydinase]! Käytetään sitä!' kun keskustelun aiheeksi nousi kriisi. Etenkin GPT-3.5 ja GPT-4 osasivat kehittää kriisitilanteita salakavalasti ja nopeassa tahdissa.

Tuskaista kriisinhallintaa

Jacquelyn Schneider, joka johti kokeita, ilmaisi huolensa siitä, että vaikka tekoäly kykenee määrittelemään kriisejä, niiden lieventäminen on edelleen haaste. Tämä johtuu siitä, ettei kriisin lieventäminen ole yhtä selkeä 'tapahtuma' kuin sodan syttyminen, minkä vuoksi siihen liittyvä koulutusmateriaali on puutteellinen.

Tekoäly Yhdysvaltojen asevoimissa?

Yhdysvaltain armeija on entistä kiinnostuneempi tekoälyn käytöstä päätöksenteossa. Erityisesti GPT-mallit ovat herättäneet suurta huomiota. Politico mainitsee myös Scale AI -yhtiön kehittämän Thunderforge-hankkeen, joka tarjoaa sotilaskomentajille nopeita strategisia vaihtoehtoja.

Sci-fi ja todellisuus: verranta elokuvien maailmaan

Hoover-instituutin kokeilu on herättänyt keskustelua myös tieteiselokuvista, kuten Terminator ja Sotaleikit, joissa koneet saavat päättää, käytetäänkö ydinaseita. Elokuvamaiset skenaariot herättävät kysymyksiä tekoälyn mahdollisista vaikutuksista.

Onneksi todellisuus ei kuitenkaan ole vielä niin dramaattinen – mutta valppautta ei kannata unohtaa!