Samopoboljšavajuća umjetna inteligencija (AI) u budućnosti može porobiti ili ubiti ljude ako to želi. Ovo je rekao naučnik Amnon Eden, koji vjeruje da su rizici od razvoja slobodnomisleće i visoko inteligentne svijesti vrlo visoki, i "ako se ne pozabavite pitanjima kontrole umjetne inteligencije već u trenutnoj fazi razvoj, onda sutra jednostavno neće doći. " Prema engleskom izdanju Express, čovječanstvo se, prema riječima Amnona Edena, danas nalazi na "tački bez povratka" za implementaciju radnje poznatog filmskog epa "Terminator".
Vrijedi napomenuti da je dr. Amnon Eden voditelj projekta čiji je glavni cilj analizirati potencijalne razorne učinke umjetne inteligencije. Bez pravilnog razumijevanja posljedica stvaranja umjetne inteligencije, njen razvoj može zaprijetiti katastrofom, smatra naučnik. Trenutno je naše društvo slabo informirano o debati koja se vodi u znanstvenoj zajednici o analizi potencijalnog utjecaja umjetne inteligencije. „U narednoj 2016. godini analiza mogućih rizika morat će postati znatno raširenija u razmišljanjima korporacija i vlada, političara i onih koji su odgovorni za donošenje odluka“, kaže Eden.
Naučnik je siguran da bi naučna fantastika, koja opisuje uništavanje čovječanstva robotima, uskoro mogla postati naš zajednički problem jer je proces stvaranja umjetne inteligencije izmakao kontroli. Na primjer, Elon Musk, uz podršku poduzetnika Sama Altmana, odlučio je stvoriti novu neprofitnu organizaciju od milijardu dolara koja razvija AI otvorenog koda koja bi trebala nadmašiti ljudski um. U isto vrijeme, i američki milijarder Elon Musk vještačku inteligenciju svrstava među "najveće prijetnje našem postojanju". Steve Wozniak, koji je suosnivač Apple-a, rekao je prošlog marta da "budućnost izgleda zastrašujuće i vrlo opasno za ljude … na kraju će doći dan kada će računari razmišljati brže od nas i oni će se riješiti sporih ljudi kako bi kako bi kompanije mogle raditi efikasnije."
Vrijedi napomenuti da mnogi naučnici vide prijetnju od umjetne inteligencije. Desetine poznatih naučnika, investitora i poduzetnika, čije su aktivnosti na ovaj ili onaj način povezane s razvojem umjetne inteligencije, potpisali su otvoreno pismo u kojem pozivaju na veću pažnju pitanju sigurnosti i društvene korisnosti rada u polje AI. Astrofizičar Stephen Hawking i osnivač Tesle i SpaceX -a Elon Musk su među potpisnicima ovog dokumenta. Pismo je, uz popratni dokument, koji je izradio Institut za budućnost života (FLI), napisano usred rastuće zabrinutosti zbog utjecaja umjetne inteligencije na tržište rada, pa čak i dugoročnog opstanka cijelog čovječanstva u svijetu. okruženje u kojem će sposobnosti robota i mašina rasti gotovo nekontrolirano.
Naučnici razumiju činjenicu da je potencijal AI danas veliki, pa je potrebno u potpunosti istražiti mogućnosti njegove optimalne upotrebe kako bismo izbjegli prateće zamke, napominje se u pismu FLI. Imperativ je da umjetni AI sustavi rade upravo ono što mi želimo. Vrijedi napomenuti da su Institut Future of Life tek prošle godine osnovali brojni entuzijasti, među kojima je bio i tvorac Skypea, Jaan Tallinn, kako bi se „minimizirali rizici s kojima se čovječanstvo suočava“i potaknula istraživanja „optimističnom vizijom“. budućnosti”. Prije svega, ovdje govorimo o rizicima koje uzrokuje razvoj umjetne inteligencije i robotike. Savjetodavni odbor FLI -a uključuje Muska i Hawkinga, zajedno s priznatim glumcem Morganom Freemanom i drugim poznatim ljudima. Prema Elonu Musku, nekontrolirani razvoj umjetne inteligencije potencijalno je opasniji od nuklearnog oružja.
Čuveni britanski astrofizičar Stephen Hawking krajem 2015. pokušao je objasniti svoje odbacivanje AI tehnologija. Prema njegovom mišljenju, s vremenom će superinteligentne mašine gledati na ljude kao na potrošni materijal ili mrave koji jednostavno ometaju rješavanje njihovih zadataka. U razgovoru s korisnicima portala Reddit, Stephen Hawking je primijetio da ne vjeruje da će takve superinteligentne mašine biti "zla stvorenja" koja žele uništiti cijelo čovječanstvo zbog svoje intelektualne superiornosti. Najvjerojatnije će se moći govoriti o činjenici da oni jednostavno neće primijetiti ljudskost.
“Mediji u posljednje vrijeme neprestano iskrivljuju moje riječi. Glavni rizik u razvoju umjetne inteligencije nije zlonamjernost mašina, već njihova sposobnost. Superinteligentna umjetna inteligencija odradit će odličan posao, ali ako se to i naši ciljevi ne poklapaju, čovječanstvo će imati vrlo ozbiljne probleme”, objašnjava slavni naučnik. Kao primjer, Hawking je naveo hipotetičku situaciju u kojoj je supermoćna umjetna inteligencija odgovorna za rad ili izgradnju nove hidroelektrane. Za takvu mašinu prioritet će biti koliko će energije povjereni sistem generirati, a sudbina ljudi neće biti važna. “Malo nas je koji gazimo mravinjake i gazimo mrave iz bijesa, ali zamislimo situaciju - vi kontrolirate moćnu hidroelektranu koja proizvodi električnu energiju. Ako trebate povisiti vodostaj i kao rezultat vaših radnji jedan mravinjak će biti poplavljen, vjerojatno vas problemi utapajućih insekata neće uznemiriti. Ne stavljajmo ljude na mjesto mrava”, rekao je naučnik.
Drugi potencijalni problem za daljnji razvoj umjetne inteligencije, prema Hawkingu, može biti "tiranija vlasnika mašina" - brzi rast jaza u nivou prihoda između bogatih ljudi koji će moći monopolizirati proizvodnju inteligentnih mašina i ostatka svjetske populacije. Stephen Hawking predlaže rješavanje ovih mogućih problema na sljedeći način - usporiti proces razvoja umjetne inteligencije i preći na razvoj ne "univerzalne", već visoko specijalizirane umjetne inteligencije, koja može riješiti samo vrlo ograničen niz problema.
Pismo su, osim Hawkinga i Muska, potpisali nobelovac i profesor fizike na MIT -u Frank Wilczek, izvršni direktor Instituta za istraživanje strojne inteligencije (MIRI) Luc Mühlhauser, kao i mnogi stručnjaci iz velikih IT kompanija: Google, Microsoft i IBM, kao i poduzetnici koji su osnovali AI kompanije Vicarious i DeepMind. Autori pisma napominju da nemaju za cilj uplašiti javnost, već planiraju istaknuti i pozitivne i negativne aspekte koji su povezani s stvaranjem umjetne inteligencije. "Trenutno se svi slažu da istraživanja na području umjetne inteligencije neprestano napreduju, a utjecaj umjetne inteligencije na moderno ljudsko društvo samo će se povećati", kaže se u pismu, "mogućnosti koje se otvaraju ljudima su ogromne, sve što moderna civilizacija Ponuda je stvorena od strane obavještajne osobe. Ne možemo predvidjeti što ćemo uspjeti postići ako se ljudska inteligencija pomnoži s AI, ali problem oslobađanja od siromaštva i bolesti više nije beskrajno težak.”
Brojna dostignuća na području umjetne inteligencije već su uključena u savremeni život, uključujući sisteme za prepoznavanje slike i govora, bespilotna vozila i još mnogo toga. Posmatrači iz Silicijumske doline procjenjuju da se u ovoj oblasti trenutno implementira više od 150 startupova. U isto vrijeme, razvoj u ovoj oblasti privlači sve više ulaganja, a sve više kompanija poput Googlea razvija svoje projekte zasnovane na umjetnoj inteligenciji. Stoga autori pisma vjeruju da je došlo vrijeme da se poveća pažnja na sve moguće posljedice zapaženog buma po ekonomske, socijalne i pravne aspekte ljudskog života.
Stav da umjetna inteligencija može predstavljati opasnost za ljude dijeli i Nick Bostrom, profesor sa Univerziteta u Oxfordu, koji je poznat po svom radu na antropičkom principu. Ovaj stručnjak vjeruje da je umjetna inteligencija došla do točke nakon koje će uslijediti njena nekompatibilnost s ljudima. Nick Bostrom naglašava da se, za razliku od genetskog inženjeringa i klimatskih promjena, za koje vlade izdvajaju dovoljno sredstava za kontrolu, "ništa ne radi na kontroli evolucije umjetne inteligencije". Prema riječima profesora, "politika pravnog praznine koju treba popuniti" trenutno se vodi u pogledu umjetne inteligencije. Čak i tehnologije, poput samovozećih automobila, koje djeluju bezopasno i korisno, postavljaju brojna pitanja. Na primjer, treba li takav automobil morati kočiti u nuždi kako bi spasio svoje putnike i ko će biti odgovoran u slučaju nesreće koju je počinilo vozilo bez posade?
Raspravljajući o potencijalnim rizicima, Nick Bostrom je primijetio da "računar nije u stanju utvrditi koristi i štete po ljude" i "nema ni najmanju ideju o ljudskom moralu". Osim toga, ciklusi samopoboljšanja u računarima mogu se odvijati takvom brzinom da osoba jednostavno ne može pratiti, a ni oko toga se ne može učiniti ništa, kaže naučnik. "U fazi razvoja kada računari mogu sami razmišljati, niko sa sigurnošću ne može predvidjeti hoće li to dovesti do haosa ili značajno poboljšati naš svijet", rekao je Nick Bostrom, navodeći kao primjer jednostavno moguće rješenje za računalo - gašenje u zemljama sa hladnom klimom za grijanje radi poboljšanja zdravlja ljudi i povećanja njihove izdržljivosti, što "može doći na čelo umjetne inteligencije".
Osim toga, Bostrom također postavlja problem čipovanja ljudskog mozga kako bi povećao našu biointeligenciju. “Na mnogo načina, takav postupak može biti koristan ako se kontroliraju svi procesi, ali što se događa ako se implantirani čip može reprogramirati? Do kojih posljedica ovo može dovesti - do pojave supermana ili do pojave računara koji će izgledati samo kao čovjek? " - pita profesor. Način na koji računari rješavaju ljudske probleme vrlo se razlikuje od našeg. Na primjer, u šahu ljudski mozak razmatra samo uski skup poteza, birajući najbolju opciju od njih. Zauzvrat, računar razmatra sve moguće poteze, birajući najbolji. Istovremeno, računar ne očekuje da uznemiri ili iznenadi protivnika u igri. Za razliku od ljudskog bića, igrajući šah, kompjuter može učiniti lukav i suptilan potez samo slučajno. Umjetna inteligencija može izračunati na najbolji način - ukloniti grešku iz bilo kojeg sistema uklanjanjem "ljudskog faktora" odatle, ali, za razliku od čovjeka, robot nije spreman učiniti podvige koji bi spasili živote ljudi.
Između ostalog, porast broja pametnih mašina predstavlja fazu nove industrijske revolucije. To pak znači da će se čovječanstvo u bliskoj budućnosti suočiti s neizbježnim društvenim promjenama. S vremenom će posao postati mnogo visokokvalificiranih stručnjaka, jer gotovo sve jednostavne zadatke mogu poduzeti roboti i drugi mehanizmi. Naučnici vjeruju da umjetnoj inteligenciji "trebaju oko i oko" kako se naša planeta ne bi pretvorila u planetu iz crtanog filma "Zhelezyaka", na kojoj su živjeli roboti.
U smislu sve veće automatizacije proizvodnih procesa, budućnost je već stigla. Svjetski ekonomski forum (WEF) predstavio je svoj izvještaj, prema kojem će automatizacija dovesti do činjenice da će do 2020. godine više od 5 miliona ljudi koji rade u različitim oblastima ostati bez posla. Ovo je utjecaj robota i robotskih sistema na naše živote. Za sastavljanje izvještaja zaposlenici WEF -a koristili su podatke o 13,5 miliona zaposlenih iz cijelog svijeta. Prema njihovim riječima, do 2020. godine nestat će ukupna potreba za više od 7 miliona radnih mjesta, dok će očekivani rast zaposlenosti u drugim industrijama iznositi nešto više od 2 miliona radnih mjesta.
