Samopoboljšavajuća umjetna inteligencija (AI) u budućnosti može porobiti ili ubiti ljude ako to želi. Rekao je to znanstvenik Amnon Eden, koji vjeruje da su rizici od razvoja slobodnomisleće i visoko inteligentne svijesti vrlo visoki, te "ako se ne pozabavite pitanjima kontrole umjetne inteligencije već u sadašnjoj fazi razvoj, onda sutra jednostavno neće doći. " Prema engleskom izdanju Express, čovječanstvo je, prema riječima Amnona Edena, danas na "točki bez povratka" za provedbu radnje poznatog filmskog epa "Terminator".
Vrijedi napomenuti da je dr. Amnon Eden voditelj projekta čiji je glavni cilj analizirati potencijalne razorne učinke umjetne inteligencije. Bez ispravnog razumijevanja posljedica stvaranja umjetne inteligencije, njezin razvoj može zaprijetiti katastrofom, smatra znanstvenik. Trenutno je naše društvo slabo informirano o raspravi koja se vodi u znanstvenoj zajednici o analizi potencijalnog utjecaja umjetne inteligencije. "U nadolazećoj 2016. godini analiza mogućih rizika morat će postati znatno raširenija u razmišljanjima korporacija i vlada, političara i onih koji su odgovorni za donošenje odluka", kaže Eden.
Znanstvenik je siguran da bi znanstvena fantastika, koja opisuje uništavanje čovječanstva robotima, uskoro mogla postati naš zajednički problem jer je proces stvaranja umjetne inteligencije izmakao kontroli. Na primjer, Elon Musk, uz podršku poduzetnika Sama Altmana, odlučio je stvoriti novu neprofitnu organizaciju vrijednu milijardu dolara koja razvija AI otvorenog koda koji bi trebao nadmašiti ljudski um. Istodobno, i sam američki milijarder Elon Musk umjetnu inteligenciju svrstava među "najveće prijetnje našem postojanju". Steve Wozniak, koji je suosnivač Apple-a, rekao je prošlog ožujka da “budućnost izgleda zastrašujuće i vrlo opasno za ljude … na kraju će doći dan kada će računala razmišljati brže od nas i riješit će se sporih ljudi kako bi kako bi tvrtke mogle učinkovitije raditi."
Vrijedi napomenuti da mnogi znanstvenici vide prijetnju od umjetne inteligencije. Deseci poznatih znanstvenika, investitora i poduzetnika čije su aktivnosti na ovaj ili onaj način povezane s razvojem umjetne inteligencije potpisali su otvoreno pismo u kojem pozivaju na veću pozornost pitanju sigurnosti i društvene korisnosti rada u polje AI. Astrofizičar Stephen Hawking i osnivač Tesle i SpaceX -a Elon Musk su među potpisnicima ovog dokumenta. Pismo je, zajedno s popratnim dokumentom, koji je izradio Institut za budućnost života (FLI), napisano usred rastuće zabrinutosti zbog utjecaja umjetne inteligencije na tržište rada, pa čak i dugoročnog opstanka cijelog čovječanstva u svijetu. okruženje u kojem će sposobnosti robota i strojeva rasti gotovo nekontrolirano.
Znanstvenici razumiju činjenicu da je potencijal AI danas veliki, pa je potrebno u potpunosti istražiti mogućnosti njegove optimalne uporabe kako bismo izbjegli prateće zamke, napominje se u pismu FLI -a. Imperativ je da umjetni sustavi umjetne inteligencije rade upravo ono što mi želimo da rade. Vrijedi napomenuti da su Institut Future of Life tek prošle godine osnovali brojni entuzijasti, među kojima je bio i tvorac Skypea, Jaan Tallinn, kako bi se "smanjili rizici s kojima se čovječanstvo suočava" i potaknula istraživanja "optimističnom vizijom" budućnosti”. Prije svega, ovdje govorimo o rizicima koje uzrokuje razvoj umjetne inteligencije i robotike. Savjetodavni odbor FLI -a uključuje Muska i Hawkinga, zajedno s priznatim glumcem Morganom Freemanom i drugim poznatim osobama. Prema Elonu Musku, nekontrolirani razvoj umjetne inteligencije potencijalno je opasniji od nuklearnog oružja.
Slavni britanski astrofizičar Stephen Hawking krajem 2015. pokušao je objasniti svoje odbacivanje AI tehnologija. Prema njegovom mišljenju, s vremenom će superinteligentni strojevi na ljude gledati kao na potrošni materijal ili mrave koji jednostavno ometaju rješavanje njihovih zadataka. U razgovoru s korisnicima portala Reddit, Stephen Hawking napomenuo je kako ne vjeruje da će takvi superinteligentni strojevi biti "zla stvorenja" koja žele uništiti cijelo čovječanstvo zbog svoje intelektualne superiornosti. Najvjerojatnije će se moći govoriti o činjenici da oni jednostavno neće primijetiti ljudskost.
“Mediji u posljednje vrijeme neprestano iskrivljuju moje riječi. Glavni rizik u razvoju umjetne inteligencije nije zlonamjernost strojeva, već njihova sposobnost. Superinteligentna umjetna inteligencija učinit će izvrstan posao, ali ako se to i naši ciljevi ne poklope, čovječanstvo će imati vrlo ozbiljne probleme”, objašnjava slavni znanstvenik. Kao primjer, Hawking je naveo hipotetičku situaciju u kojoj je supermoćna umjetna inteligencija odgovorna za rad ili izgradnju nove hidroelektrane. Za takav stroj prioritet će biti koliko će energije povjereni sustav generirati, a sudbina ljudi neće biti važna. “Malo nas je koji gazimo mravinjake i gazimo mrave iz bijesa, ali zamislimo situaciju - vi kontrolirate moćnu hidroelektranu koja proizvodi električnu energiju. Ako trebate povisiti vodostaj i kao rezultat vaših radnji jedan mravinjak će biti poplavljen, vjerojatno vas problemi utapajućih insekata neće smetati. Ne stavljajmo ljude na mjesto mrava”, rekao je znanstvenik.
Drugi potencijalni problem daljnjeg razvoja umjetne inteligencije, prema Hawkingu, može biti "tiranija vlasnika strojeva" - brzi rast jaza u razini prihoda između bogatih ljudi koji će moći monopolizirati proizvodnju inteligentnih strojeva i ostatka svjetske populacije. Stephen Hawking predlaže rješavanje ovih mogućih problema na sljedeći način - usporiti proces razvoja AI i prijeći na razvoj ne „univerzalne“, već visoko specijalizirane umjetne inteligencije, koja može riješiti samo vrlo ograničen raspon problema.
Pismo su, osim Hawkinga i Muska, potpisali nobelovac i profesor fizike na MIT -u Frank Wilczek, izvršni direktor Instituta za strojnu inteligenciju (MIRI) Luc Mühlhauser, kao i mnogi stručnjaci iz velikih IT tvrtki: Google, Microsoft i IBM, kao i poduzetnici koji su osnovali AI tvrtke Vicarious i DeepMind. Autori pisma napominju da nemaju za cilj uplašiti javnost, već planiraju istaknuti i pozitivne i negativne aspekte koji su povezani s stvaranjem umjetne inteligencije. "Trenutno se svi slažu da istraživanja na području umjetne inteligencije neprestano napreduju, a utjecaj umjetne inteligencije na suvremeno ljudsko društvo samo će se povećati", kaže se u pismu, "mogućnosti koje se otvaraju ljudima ogromne su sve ono što moderna civilizacija Ponuda je stvorena inteligencijom. osoba. Ne možemo predvidjeti što ćemo uspjeti postići ako se ljudska inteligencija može pomnožiti s AI, ali problem oslobađanja od siromaštva i bolesti više nije beskrajno težak.”
Brojni pomaci na području umjetne inteligencije već su uključeni u suvremeni život, uključujući sustave za prepoznavanje slika i govora, bespilotna vozila i još mnogo toga. Promatrači Silicijske doline procjenjuju da se na ovom području trenutno provodi više od 150 startupa. Istodobno, razvoj u ovom području privlači sve više ulaganja, a sve više tvrtki poput Googlea razvija svoje projekte temeljene na umjetnoj inteligenciji. Stoga autori pisma smatraju da je došlo vrijeme da se poveća pažnja na sve moguće posljedice promatranog procvata na ekonomske, socijalne i pravne aspekte ljudskog života.
Stav da umjetna inteligencija može predstavljati opasnost za ljude dijeli i Nick Bostrom, profesor sa Sveučilišta u Oxfordu, koji je poznat po svom radu na antropskom principu. Ovaj stručnjak vjeruje da je umjetna inteligencija došla do točke nakon koje će uslijediti njezina nekompatibilnost s ljudima. Nick Bostrom naglašava da se, za razliku od genetskog inženjeringa i klimatskih promjena, za koje vlade izdvajaju dovoljno sredstava za kontrolu, "ništa ne poduzima za kontrolu evolucije umjetne inteligencije". Prema riječima profesora, trenutno se provodi "politika pravnog praznine koju treba popuniti" u pogledu umjetne inteligencije. Čak i tehnologije poput samovozećih automobila, koje djeluju bezopasno i korisno, postavljaju brojna pitanja. Na primjer, treba li takav automobil morati kočiti u nuždi kako bi spasio svoje putnike i tko će biti odgovoran u slučaju nesreće koju je počinilo vozilo bez posade?
Raspravljajući o potencijalnim rizicima, Nick Bostrom napomenuo je kako "računalo nije u stanju utvrditi koristi i štete za ljude" te "nema ni najmanju ideju o ljudskom moralu". Osim toga, ciklusi samousavršavanja u računalima mogu se dogoditi takvom brzinom da osoba jednostavno ne može pratiti, a ni oko toga se ne može učiniti ništa, kaže znanstvenik. "U fazi razvoja kada računala mogu razmišljati svojom glavom, nitko ne može sa sigurnošću predvidjeti hoće li to dovesti do kaosa ili značajno poboljšati naš svijet", rekao je Nick Bostrom, navodeći kao primjer jednostavno moguće rješenje za računalo - gašenje u zemljama s grijanjem hladne klime kako bi poboljšali zdravlje ljudi i povećali njihovu izdržljivost, što "može doći na čelo umjetne inteligencije".
Osim toga, Bostrom također postavlja problem čipiranja ljudskog mozga kako bi povećao našu biointeligenciju. “Na mnogo načina, takav postupak može biti koristan ako se kontroliraju svi procesi, ali što se događa ako se implantirani čip može reprogramirati? Do kojih posljedica to može dovesti - do pojave nadčovjeka ili do pojave računala koje će izgledati samo kao čovjek? " - pita profesor. Način na koji računala rješavaju ljudske probleme vrlo se razlikuje od našeg. Na primjer, u šahu ljudski mozak razmatra samo uski skup poteza, birajući od njih najbolju opciju. Zauzvrat, računalo razmatra sve moguće poteze, birajući najbolji. Istovremeno, računalo ne očekuje da će uznemiriti ili iznenaditi protivnika u igri. Za razliku od ljudskog bića, računalo može igrati lutajući i suptilni potez samo slučajno. Umjetna inteligencija može izračunati na najbolji način - ukloniti grešku iz bilo kojeg sustava uklanjanjem "ljudskog faktora" odatle, ali, za razliku od čovjeka, robot nije spreman izvesti podvige koji bi spasili živote ljudi.
Između ostalog, porast broja pametnih strojeva predstavlja pozornicu nove industrijske revolucije. To pak znači da će se čovječanstvo u bliskoj budućnosti suočiti s neizbježnim društvenim promjenama. S vremenom će posao postati puno visoko kvalificiranih stručnjaka, budući da se gotovo svi jednostavni zadaci mogu poduzeti robotima i drugim mehanizmima. Znanstvenici vjeruju da umjetnoj inteligenciji "trebaju oko i oko" kako se naš planet ne bi pretvorio u planet iz crtića "Zhelezyaka", na kojem su živjeli roboti.
U smislu sve veće automatizacije proizvodnih procesa, budućnost je već stigla. Svjetski gospodarski forum (WEF) predstavio je svoje izvješće prema kojem će automatizacija dovesti do činjenice da će do 2020. godine više od 5 milijuna ljudi koji rade u različitim područjima ostati bez posla. Ovo je utjecaj robota i robotskih sustava na naše živote. Za sastavljanje izvješća zaposlenici WEF -a koristili su podatke o 13,5 milijuna zaposlenika iz cijelog svijeta. Prema njihovim riječima, do 2020. godine nestat će ukupna potreba za više od 7 milijuna radnih mjesta, dok će očekivani rast zaposlenosti u drugim industrijama iznositi nešto više od 2 milijuna radnih mjesta.
