Vojni stručnjaci nazivaju autonomno oružje ili autonomne sisteme naoružanja (AWS) vrstama oružja koje sve rade sami: pronalaze metu i izvršavaju zadatak bez ljudske intervencije. Jedan od najpoznatijih, zasad samo u naučnofantastičnim filmovima i knjigama AWS-a, su takozvani "roboti ubice".
Elon Musk i više od stotinu drugih stručnjaka za robotiku pišu o smrtonosnoj prijetnji robota ubojica u otvorenom pismu upozorenja UN -u. Musk, Mustafa Suleiman, tvorac AI kompanije DeepMind Technologies, koja je sada u vlasništvu Googlea, i 114 stručnjaka iz 26 zemalja upozoravaju UN da bi trka u naoružanju u AWS -u mogla otvoriti Pandorinu kutiju, što može uzrokovati nepredvidive i vrlo velika šteta za čovečanstvo. Oni zahtijevaju zabranu razvoja i implementacije autonomnih sistema naoružanja.
Svi potpisnici su dobro upućeni u to pitanje jer rade na polju umjetne inteligencije (AI). Uvjereni su da će uvođenje robota ubojica u naoružanje armija razvijenih zemalja imati isti značaj za vojne poslove kao i pronalazak baruta i nuklearnog oružja, koje nazivaju prvom i drugom revolucijom u vojnim poslovima. Vjeruju da će AWS biti treća revolucija.
"Jednom dovedeni na visok nivo, autonomni sistemi naoružanja dovest će vojne sukobe do nivoa koji čovječanstvo nikada prije nije vidjelo", kaže se u kolektivnom pismu. - Štaviše, to će se dogoditi velikom brzinom. AWS može postati oružje terora, oružje koje će despoti i teroristi upotrijebiti protiv civila …"
Autori pisma upozoravaju na još uvijek hipotetičko oružje koje može uništiti ljude bez ljudske intervencije. Bliži se dan kada će to postati surova stvarnost iz kategorije fikcije i natjerat će nas da tražimo odgovore na mnoga teška pitanja, od sigurnog upravljanja takvim sustavima do moralnih i etičkih problema uzrokovanih "željeznom" okrutnošću i nepredvidljivošću smrtonosnih mašina.
Musk, sa pristalicama koje dijele njegov stav o opasnostima AWS -a za čovječanstvo, naglašava da nema vremena za razmišljanje i raspravu te da je potrebno odmah djelovati. "Imamo jako malo vremena", pišu u UN -u. "Kad jednom otvorite Pandorinu kutiju, bit će je vrlo teško zatvoriti."
Vrijeme za pisanje otvorenog pisma nije odabrano slučajno. Stručnjaci su željeli poklopiti početak Međunarodne konferencije o umjetnoj inteligenciji (IJCAI) u Melbourneu. Trebalo je da se otvori u ponedeljak 21. avgusta, ali su UN odlučili da ga odlože za novembar.
Na kraju otvorenog pisma, Elon Musk i njegove kolege pozivaju UN da udvostruči svoje napore na stvaranju strategije do novembra za zaštitu planete od robota ubojica.
Ranije je sam Musk upozoravao na opasnosti rada na umjetnoj inteligenciji kao takvoj, budući da sistemi zasnovani na njoj mogu izmaknuti ljudskoj kontroli. U isto vrijeme, automobili sa Teslinim elektromotorima već se voze putevima Sjedinjenih Država u bespilotnom režimu, što nije bez incidenata.
