Vojni stručnjaci autonomno oružje ili autonomne oružane sustave (AWS) nazivaju vrstama oružja koje sve rade sami: pronalaze metu i izvršavaju zadatak bez ljudske intervencije. Jedan od najpoznatijih, zasad samo u znanstvenofantastičnim filmovima i knjigama AWS-a, su takozvani "roboti ubojice".
Elon Musk i više od stotinu drugih stručnjaka za robotiku pišu o smrtonosnoj prijetnji robota ubojica u otvorenom pismu upozorenja UN -u. Musk, Mustafa Suleiman, tvorac AI tvrtke DeepMind Technologies, koja je sada u vlasništvu Googlea, i 114 stručnjaka iz 26 zemalja upozoravaju UN da bi utrka u naoružanju u AWS -u mogla otvoriti Pandorinu kutiju, što može uzrokovati nepredvidive i vrlo velika šteta za čovječanstvo. Traže zabranu razvoja i provedbe autonomnih sustava naoružanja.
Svi potpisnici su dobro upućeni u to pitanje jer rade na području umjetne inteligencije (AI). Uvjereni su da će uvođenje robota ubojica u naoružanje armija razvijenih zemalja imati isti značaj za vojne poslove kao i izum baruta i nuklearnog oružja, koje nazivaju prvom i drugom revolucijom u vojnim poslovima. Vjeruju da će AWS biti treća revolucija.
"Jednom dovedeni na visoku razinu, autonomni sustavi naoružanja dovest će vojne sukobe do razine koju čovječanstvo nikada prije nije vidjelo", kaže se u kolektivnom pismu. - Štoviše, to će se dogoditi velikom brzinom. AWS može postati oružje terora, oružje koje će despoti i teroristi upotrijebiti protiv civila …"
Autori pisma upozoravaju na još uvijek hipotetičko oružje koje može uništiti ljude bez ljudske intervencije. Bliži se dan kada će to postati surova stvarnost iz kategorije fikcije i natjerat će nas da tražimo odgovore na mnoga teška pitanja, u rasponu od sigurnog upravljanja takvim sustavima do moralnih i etičkih problema uzrokovanih "željeznom" okrutnošću i nepredvidljivošću smrtonosnih strojeva.
Musk, s pristašama koji dijele njegov stav o opasnostima AWS -a za čovječanstvo, naglašava da nema vremena za razmišljanje i raspravu te da je potrebno odmah djelovati. "Imamo jako malo vremena", pišu u UN -u. "Kad jednom otvorite Pandorinu kutiju, bit će je vrlo teško zatvoriti."
Vrijeme za pisanje otvorenog pisma nije odabrano slučajno. Stručnjaci su se htjeli poklopiti s početkom Međunarodne konferencije o umjetnoj inteligenciji (IJCAI) u Melbourneu. Trebao je biti otvoren u ponedjeljak, 21. kolovoza, ali su ga UN odlučili odgoditi za studeni.
Na kraju otvorenog pisma, Elon Musk i njegovi kolege pozivaju UN da udvostruči svoje napore na stvaranju strategije do studenog za zaštitu planeta od robota ubojica.
Ranije je i sam Musk upozoravao na opasnosti rada na umjetnoj inteligenciji kao takvoj, budući da sustavi na njoj mogu izmaknuti ljudskoj kontroli. Istodobno, automobili s Teslinim elektromotorima već se voze cestama Sjedinjenih Država u bespilotnom režimu, što nije bez incidenata.
