Pred vama je drugi dio članka iz serije "Čekaj, kako sve ovo može biti stvarno, zašto se o tome još uvijek ne priča na svakom uglu". U prethodnoj seriji postalo je poznato da se eksplozija inteligencije postupno prikrada ljudima planete Zemlje, pokušava se razviti od usko usmjerene do univerzalne inteligencije i, konačno, umjetne superinteligencije.
"Možda se suočavamo s iznimno teškim problemom i ne zna se koliko je vremena dodijeljeno za njegovo rješavanje, ali budućnost čovječanstva može ovisiti o njegovom rješenju." - Nick Bostrom.
Prvi dio članka počeo je dovoljno nevino. Raspravljali smo o usko usmjerenoj umjetnoj inteligenciji (AI, koja je specijalizirana za rješavanje jednog specifičnog problema poput određivanja ruta ili igranja šaha), u našem svijetu ima je puno. Zatim su analizirali zašto je tako teško razviti umjetnu inteligenciju općeg smjera (AGI ili AI, koja se, u smislu intelektualnih sposobnosti, može usporediti s ljudskom u rješavanju bilo kojeg problema), tako je teška. Zaključili smo da eksponencijalna stopa tehnološkog napretka nagovještava da bi AGI mogao uskoro biti iza ugla. Na kraju smo odlučili da čim se strojevi dosegnu do ljudske inteligencije, odmah se može dogoditi sljedeće:
Kao i obično, gledamo u ekran, ne vjerujući da se umjetna superinteligencija (ISI, koja je mnogo pametnija od bilo koje osobe) može pojaviti tijekom našeg života, i biramo emocije koje bi najbolje odražavale naše mišljenje o ovom pitanju.
Prije nego što zaronimo u specifičnosti ISI -a, podsjetimo se što znači da stroj bude superinteligentan.
Glavna razlika leži između brze superinteligencije i kvalitetne superinteligencije. Često, prvo što mi padne na pamet pri razmišljanju o superinteligentnom računalu jest da može razmišljati mnogo brže od osobe - milijune puta brže, a za pet minuta shvatit će što bi čovjeku trebalo deset godina. ("Znam kung fu!")
Zvuči impresivno, a ISI bi doista trebao razmišljati brže od bilo koga drugog - ali glavna značajka razdvajanja bit će kvaliteta njegove inteligencije, koja je potpuno drugačija. Ljudi su mnogo pametniji od majmuna, ne zato što brže razmišljaju, već zato što njihov mozak sadrži niz genijalnih kognitivnih modula koji izvode složene jezične prikaze, dugoročno planiranje, apstraktno mišljenje, za što majmuni nisu sposobni. Ako ubrzate mozak majmuna tisuću puta, on neće postati pametniji od nas - čak ni nakon deset godina neće moći sastaviti konstruktor prema uputama, za što bi osobi trebalo najviše par sati. Postoje stvari koje majmun nikada neće naučiti, bez obzira na to koliko sati provodi ili koliko mu mozak radi.
Osim toga, majmun ne zna koliko ljudski, jer njegov mozak jednostavno nije u stanju shvatiti postojanje drugih svjetova - majmun može znati što je osoba i što je neboder, ali nikada neće shvatiti da je neboder sagradio narod. U njezinu svijetu sve pripada prirodi, a makaka ne samo da ne može izgraditi neboder, već i shvatiti da ga može graditi bilo tko. A to je rezultat male razlike u kvaliteti inteligencije.
U općoj shemi inteligencije o kojoj govorimo, ili jednostavno prema standardima bioloških bića, razlika u kvaliteti inteligencije između ljudi i majmuna je mala. U prethodnom smo članku biološke kognitivne sposobnosti stavili na ljestvicu:
Da biste razumjeli koliko će superinteligentni stroj biti ozbiljan, postavite ga dva stupnja više od osobe na tim ljestvama. Možda je ovaj stroj samo malo superinteligentan, ali njegova će superiornost nad našim kognitivnim sposobnostima biti ista kao i naša - nad majmunima. I kao što čimpanza nikada neće shvatiti da se neboder može izgraditi, možda nikada nećemo shvatiti ono što će razumjeti stroj nekoliko koraka više, čak i ako nam stroj pokuša to objasniti. Ali ovo je samo nekoliko koraka. Pametniji stroj vidjet će mrave u nama - naučit će nas godinama najjednostavnijim stvarima sa svoje pozicije, a ti će pokušaji biti potpuno beznadni.
Vrsta superinteligencije o kojoj ćemo danas govoriti daleko je izvan ove ljestvice. Ovo je eksplozija inteligencije - kada automobil postane pametniji, brže može povećati vlastitu inteligenciju, postupno povećavajući zamah. Možda će trebati godine da ovakav stroj nadmaši šimpanze u inteligenciji, ali možda nekoliko sati da nas nadmaši za par stupnjeva. Od tog trenutka automobil već može preskočiti četiri stepenice svake sekunde. Zato bismo trebali shvatiti da bismo se vrlo brzo nakon što se pojave prve vijesti da je stroj dosegao razinu ljudske inteligencije mogli suočiti sa stvarnošću suživota na Zemlji s nečim što će biti mnogo više od nas na ovoj ljestvici (ili možda, i milijune puta veći):
A budući da smo ustanovili da je potpuno beskorisno pokušavati razumjeti moć stroja koji je samo dva koraka iznad nas, definirajmo jednom zauvijek da ne postoji način da se shvati što će ISI učiniti i kakve će posljedice imati ovo će biti za nas. Svatko tko tvrdi suprotno jednostavno ne razumije što znači superinteligencija.
Evolucija je polako i postupno razvijala biološki mozak kroz stotine milijuna godina, a ako ljudi stvore superinteligentni stroj, u određenom ćemo smislu nadići evoluciju. Ili će to biti dio evolucije - možda evolucija djeluje na takav način da se inteligencija razvija postupno sve dok ne dosegne prekretnicu koja najavljuje novu budućnost za sva živa bića:
Iz razloga o kojima ćemo kasnije raspravljati, veliki dio znanstvene zajednice vjeruje da nije pitanje hoćemo li doći do ove prelomne točke, već kada.
Gdje ćemo završiti nakon ovoga?
Mislim da nitko na ovom svijetu, ni ja ni ti, nećemo moći reći što će se dogoditi kad dođemo do prekretnice. Oxfordski filozof i vodeći teoretičar umjetne inteligencije Nick Bostrom vjeruje da sve moguće ishode možemo spojiti u dvije široke kategorije.
Prvo, gledajući povijest, znamo sljedeće o životu: vrste se pojavljuju, postoje određeno vrijeme, a zatim neizbježno otpadaju s balansa i izumiru.
"Sve vrste izumiru" bilo je u povijesti jednako pouzdano pravilo kao i "svi ljudi jednog dana umru". 99,9% vrsta palo je iz dnevnika života, a sasvim je jasno da će, ako neka vrsta visi na ovom trupcu predugo, zapuh prirodnog vjetra ili iznenadni asteroid prevrnuti trupac. Bostrom izumiranje naziva stanjem atraktora - mjesta gdje sve vrste balansiraju kako ne bi pale gdje se još nijedna vrsta nije vratila.
I premda većina znanstvenika priznaje da će ISI imati sposobnost osuditi ljude na izumiranje, mnogi također vjeruju da će korištenje sposobnosti ISI -a omogućiti pojedincima (i vrsti u cjelini) da postignu drugo stanje atraktora - besmrtnost vrsta. Bostrom vjeruje da je besmrtnost vrste isto toliko atraktor koliko i izumiranje vrste, odnosno, ako dođemo do ovoga, bit ćemo osuđeni na vječno postojanje. Dakle, čak i ako su sve vrste do sada pale s ovog štapa u kovitlac izumiranja, Bostrom vjeruje da trupac ima dvije strane, a na Zemlji se jednostavno nije pojavila takva inteligencija koja bi razumjela kako pasti na drugu stranu.
Ako su Bostrom i drugi u pravu, a sudeći prema svim podacima koji su nam dostupni, možda su i takvi, moramo prihvatiti dvije vrlo šokantne činjenice:
Pojava ISI -ja prvi put u povijesti otvorit će put vrsti da postigne besmrtnost i ispadne iz kobnog ciklusa izumiranja.
Pojava ISI -a imat će tako nezamislivo veliki utjecaj da će, najvjerojatnije, gurnuti čovječanstvo s ovog dnevnika u jednom ili drugom smjeru.
Moguće je da kad evolucija dosegne takvu prekretnicu, uvijek stane na kraj odnosu ljudi sa strujom života i stvori novi svijet, s ljudima ili bez njih.
To dovodi do zanimljivog pitanja koje samo šteta ne bi postavilo: kada ćemo doći do ove prelomne točke i kamo će nas to staviti? Nitko u svijetu ne zna odgovor na ovo dvostruko pitanje, ali mnogi su pametni ljudi desetljećima pokušavali to shvatiti. Za ostatak članka shvatit ćemo odakle su došli.
* * *
Počnimo s prvim dijelom ovog pitanja: kada bismo trebali doći do točke preokreta? Drugim riječima: koliko je vremena preostalo dok prvi stroj ne dosegne superinteligenciju?
Mišljenja se razlikuju od slučaja do slučaja. Mnogi, uključujući profesora Vernora Vingea, znanstvenika Bena Herzela, suosnivača Sun Microsystemsa Bill Joya, futurista Raya Kurzweila, složili su se sa stručnjakom za strojno učenje Jeremyjem Howardom kada je predstavio sljedeći grafikon na TED Talku:
Ti ljudi dijele mišljenje da ISI uskoro dolazi - ovaj eksponencijalni rast, koji nam se danas čini sporim, doslovno će eksplodirati u sljedećih nekoliko desetljeća.
Drugi, poput suosnivača Microsofta Paula Allena, istraživačkog psihologa Garyja Marcusa, računalnog stručnjaka Ernesta Davisa i tehnološkog poduzetnika Mitch Kapora, vjeruju da mislioci poput Kurzweila ozbiljno potcjenjuju veličinu problema i misle da nismo ni blizu prekretnica.
Kurzweilov kamp tvrdi da je jedino podcjenjivanje koje se događa zanemarivanje eksponencijalnog rasta, a sumnjičave se može usporediti s onima koji su 1985. gledali polako rastući internet i tvrdili da to neće imati utjecaja na svijet u bliskoj budućnosti.
Sumnjači se mogu oduprijeti da napredak teže poduzima svaki sljedeći korak kada je u pitanju eksponencijalni razvoj inteligencije, koji neutralizira tipičnu eksponencijalnu prirodu tehnološkog napretka. Itd.
Treći kamp, u kojem je Nick Bostrom, ne slaže se ni s prvim ni s drugim, tvrdeći da se a) sve to apsolutno može dogoditi u bliskoj budućnosti; i b) nema jamstva da će se to uopće dogoditi ili da će potrajati dulje.
Drugi, poput filozofa Huberta Dreyfusa, vjeruju da sve tri grupe naivno vjeruju da će doći do prekretnice i da najvjerojatnije nikada nećemo doći do ISI -ja.
Što se događa kad spojimo sva ta mišljenja?
Bostrom je 2013. proveo istraživanje u kojem je intervjuirao stotine stručnjaka za umjetnu inteligenciju na nizu konferencija na sljedeću temu: "Kakva će biti vaša predviđanja za postizanje AGI -a na ljudskoj razini?" i zamolio nas da navedemo optimističnu godinu (u kojoj ćemo imati AGI sa 10 posto šanse), realnu pretpostavku (godinu u kojoj ćemo imati AGI s 50 -postotnom vjerojatnošću) i pouzdanu pretpostavku (najranija godina u kojoj je AGI će se pojaviti od 90 -postotne vjerojatnosti). Evo rezultata:
* Prosječna optimistična godina (10%): 2022
* Prosječna realna godina (50%): 2040
* Prosječna pesimistična godina (90%): 2075
Prosječni ispitanici vjeruju da ćemo za 25 godina imati AGI, a ne ne. 90 posto šanse da se AGI dogodi do 2075. znači da će se to dogoditi tijekom vašeg života ako ste još uvijek prilično mladi.
Odvojeno istraživanje koje je nedavno proveo James Barratt (autor hvaljene i vrlo dobre knjige Naša najnovija izum, odlomci iz Predstavila sam pozornost čitatelja Hi-News.ru) i Ben Hertzel na AGI konferenciji, godišnjoj AGI konferenciji, jednostavno su pokazali mišljenja ljudi o godini u kojoj dolazimo na AGI: 2030, 2050, 2100, kasnije ili nikad. Evo rezultata:
* 2030: 42% ispitanika
* 2050: 25%
* 2100: 20%
Nakon 2100: 10%
Nikad: 2%
Slično rezultatima Bostroma. U Barrattovoj anketi, više od dvije trećine ispitanika vjeruje da će AGI biti ovdje do 2050., a manje od polovice vjeruje da će se AGI pojaviti u sljedećih 15 godina. Također je zapanjujuće da samo 2% ispitanika u načelu ne vidi AGI u našoj budućnosti.
No, AGI nije prekretnica poput ISI -ja. Kada ćemo, prema stručnjacima, imati ISI?
Bostrom je pitao stručnjake kada ćemo doseći ASI: a) dvije godine nakon što smo dosegli AGI (to jest, gotovo odmah zbog eksplozije inteligencije); b) nakon 30 godina. Rezultati?
Prosječno je mišljenje da će se brzi prijelaz s AGI -a na ISI dogoditi s 10% vjerojatnosti, ali za 30 godina ili manje sa 75% vjerojatnosti.
Iz ovih podataka ne znamo koji bi datum ispitanici nazvali 50 posto šanse za ASI, ali na temelju dva gornja odgovora, pretpostavimo da je to 20 godina. Odnosno, vodeći svjetski stručnjaci za AI vjeruju da će se prekretnica dogoditi 2060. (AGI će se pojaviti 2040. godine + bit će potrebno 20 godina za prijelaz s AGI -a na ISI).
Naravno, sve navedene statistike su spekulativne i jednostavno predstavljaju mišljenje stručnjaka iz područja umjetne inteligencije, ali također ukazuju na to da se većina zainteresiranih slaže da će do 2060. godine vjerojatno stići umjetna inteligencija. U samo 45 godina.
Prijeđimo na drugo pitanje. Kad dođemo do točke preokreta, koja će nas strana kobnog izbora odrediti?
Superinteligencija će imati najmoćniju moć, a kritično pitanje za nas bit će sljedeće:
Tko ili što će kontrolirati tu moć i koja će im biti motivacija?
Odgovor na ovo pitanje ovisit će o tome hoće li ISI dobiti nevjerojatno snažan razvoj, neizmjerno zastrašujući razvoj ili nešto između.
Naravno, stručna zajednica pokušava odgovoriti i na ova pitanja. Bostromovo je ispitivanje analiziralo vjerojatnost mogućih posljedica utjecaja AGI -a na čovječanstvo, a pokazalo se da će sa 52 posto šanse sve proći jako dobro, a s 31 posto da će sve proći ili loše ili iznimno loše. Anketa priložena na kraju prethodnog dijela ove teme, provedena među vama, dragi čitatelji Hi-News-a, pokazala je približno iste rezultate. Za relativno neutralan ishod vjerojatnost je bila samo 17%. Drugim riječima, svi vjerujemo da će AGI biti velika stvar. Također je vrijedno napomenuti da se ovo istraživanje tiče pojave AGI -a - u slučaju ISI -a postotak neutralnosti bit će niži.
Prije nego što dublje razmislimo o dobrim i lošim stranama pitanja, spojimo obje strane pitanja - "kada će se to dogoditi?" i "je li ovo dobro ili loše?" u tablicu koja pokriva stavove većine stručnjaka.
Razgovarat ćemo o glavnom kampu za minutu, ali prvo odlučite o svom položaju. Velike su šanse da ste na istom mjestu kao i ja prije nego što sam počeo raditi na ovoj temi. Postoji nekoliko razloga zašto ljudi uopće ne razmišljaju o ovoj temi:
* Kao što je spomenuto u prvom dijelu, filmovi su ozbiljno zbunili ljude i činjenice, predstavljajući nerealne scenarije s umjetnom inteligencijom, što je dovelo do činjenice da AI uopće ne bismo trebali shvaćati ozbiljno. James Barratt usporedio je ovu situaciju s izdavanjem Centra za kontrolu bolesti (CDC) sa ozbiljnim upozorenjem o vampirima u našoj budućnosti.
* Zbog takozvanih kognitivnih pristranosti vrlo nam je teško povjerovati da je nešto stvarno sve dok nemamo dokaze. S pouzdanjem se može zamisliti da informatičari 1988. godine redovito raspravljaju o dalekosežnim posljedicama Interneta i o tome što bi on mogao postati, no ljudi jedva da su vjerovali da će im to promijeniti živote sve dok se to doista ne dogodi. Samo što računala nisu znala kako to učiniti 1988. godine, a ljudi su samo gledali u svoja računala i mislili: “Zaista? Je li to ono što će promijeniti svijet? Njihova je mašta bila ograničena onim što su naučili iz osobnog iskustva, znali su što je računalo i bilo je teško zamisliti za što bi računalo bilo sposobno u budućnosti. Isto se sada događa s AI. Čuli smo da će to postati ozbiljna stvar, ali budući da se s njom još nismo susreli i općenito promatramo prilično slabe manifestacije umjetne inteligencije u našem modernom svijetu, prilično nam je teško povjerovati da će se radikalno promijeniti naš život. Suprotno tim predrasudama, brojni stručnjaci iz svih tabora, kao i zainteresirani ljudi, protive se pokušaju privući našu pozornost kroz buku svakodnevnog kolektivnog egocentrizma.
* Čak i da smo vjerovali u sve ovo - koliko ste puta danas razmišljali o tome da ćete ostatak vječnosti provesti u ništavilu? Malo, slažem se. Čak i ako je ta činjenica mnogo važnija od svega što radite iz dana u dan. To je zato što je naš mozak obično usredotočen na male, svakodnevne stvari, bez obzira na zabludu u dugoročnoj situaciji u kojoj se nalazimo. Samo smo stvoreni.
Jedan od ciljeva ovog članka je izvući vas iz kampa pod nazivom "Volim razmišljati o drugim stvarima" i staviti vas u kamp stručnjaka, čak i ako samo stojite na raskrižju između dvije isprekidane crte na trgu gore, potpuno neodlučno.
Tijekom istraživanja postaje očito da se mišljenja većine ljudi brzo odlutaju prema "glavnom logoru", a tri četvrtine stručnjaka pada u dva potkampa u glavnom kampu.
Oba kampa ćemo posjetiti u cijelosti. Počnimo sa zabavom.
Zašto bi budućnost mogla biti naš najveći san?
Dok istražujemo svijet umjetne inteligencije, nalazimo iznenađujuće mnogo ljudi u našoj zoni udobnosti. Ljudi na gornjem desnom trgu zuje od uzbuđenja. Oni vjeruju da ćemo pasti na dobru stranu dnevnika, a također vjeruju da ćemo neminovno doći do ovoga. Za njih je budućnost samo najbolje o čemu se može samo sanjati.
Ono što ove ljude razlikuje od drugih mislilaca nije to što žele biti na sretnoj strani - već što su sigurni da nas čeka ona.
Ovo povjerenje proizlazi iz kontroverzi. Kritičari vjeruju da to dolazi od zasljepljujućeg uzbuđenja koje zasjenjuje potencijalne negativne strane. No, zagovornici kažu da su mračna predviđanja uvijek naivna; tehnologija se nastavlja i uvijek će nam više pomoći nego naškoditi.
Slobodni ste odabrati bilo koje od ovih mišljenja, ali ostavite po strani skepticizam i dobro pogledajte sretnu stranu balansa, pokušavajući prihvatiti činjenicu da se sve o čemu čitate možda već dogodilo. Kad biste lovcima sakupljačima pokazali naš svijet udobnosti, tehnologije i beskrajnog obilja, to bi im se učinilo čarobnom fikcijom - a mi se ponašamo prilično skromno, ne možemo priznati da nas ista neshvatljiva preobrazba čeka i u budućnosti.
Nick Bostrom opisuje tri puta kojima superinteligentni AI sustav može krenuti:
* Proročište koje može odgovoriti na bilo koje točno pitanje, uključujući i teška pitanja na koja ljudi ne mogu odgovoriti - na primjer, "kako učiniti automobilski motor učinkovitijim?" Google je primitivna vrsta "proročišta".
* Duh koji će izvršiti bilo koju naredbu na visokoj razini - koristeći molekularni asembler za stvaranje nove, učinkovitije inačice automobilskog motora - i čekati će sljedeću naredbu.
* Suveren koji će imati širok pristup i sposobnost da slobodno funkcionira u svijetu, donoseći vlastite odluke i poboljšavajući proces. Izumit će jeftiniji, brži i sigurniji način privatnog prijevoza od automobila.
Ova pitanja i zadaci, koji nam se čine teškim, će se superinteligentnom sustavu činiti kao da je netko tražio da poboljša situaciju “olovka mi je pala sa stola”, u kojoj biste je jednostavno podigli i vratili.
Eliezer Yudkowski, američki stručnjak za umjetnu inteligenciju, rekao je dobro:
“Nema teških problema, samo problema koji su teški za određenu razinu inteligencije. Idite korak dalje (u smislu inteligencije), a neki će se problemi odjednom premjestiti iz kategorije "nemogućih" u tabor "očitih". Korak više - i svi će postati očigledni."
Mnogi su nestrpljivi znanstvenici, izumitelji i poduzetnici koji su odabrali zonu sigurne udobnosti s našeg stola, ali potreban nam je samo jedan vodič da bismo hodali najbolje u ovom najboljem svijetu.
Ray Kurzweil je dvosmislen. Neki obožavaju njegove ideje, neki ga preziru. Neki ostaju u sredini - Douglas Hofstadter, raspravljajući o idejama Kurzweilovih knjiga, rječito je primijetio da je "kao da ste uzeli puno dobre hrane i malo pseće kakice, a zatim sve pomiješali na takav način da je nemoguće razumjeti što je dobro, a što loše ".
Svidjele vam se njegove ideje ili ne, nemoguće ih je mimoići bez sjene interesa. Počeo je izmišljati stvari kao tinejdžer, a sljedećih je godina izumio nekoliko važnih stvari, uključujući prvi plosnati skener, prvi skener za pretvaranje teksta u govor, poznati glazbeni sintisajzer Kurzweil (prvi pravi električni glasovir) i prvi komercijalno uspješan prepoznavač govora. Autor je i pet senzacionalnih knjiga. Kurzweil je cijenjen zbog svojih odvažnih predviđanja, a rezultati su mu prilično dobri - krajem 80 -ih, kada je Internet bio tek u povojima, predvidio je da će do 2000 -ih Web postati globalni fenomen. Wall Street Journal Kurzweila je nazvao "nemirnim genijem", Forbes "globalnim strojem za razmišljanje", Inc. Magazin - "Edisonov zakoniti nasljednik", Bill Gates - "najbolji od onih koji predviđaju budućnost umjetne inteligencije". 2012. godine, suosnivač Googlea Larry Page pozvao je Kurzweila na mjesto tehničkog direktora. 2011. godine suosnivač je Sveučilišta Singularity kojemu je domaćin NASA, a djelomično sponzorira Google.
Njegova biografija je važna. Kad Kurzweil govori o svojoj viziji budućnosti, to zvuči kao ludo ludo, ali doista luda stvar u tome je što nije daleko od ludila - on je nevjerojatno pametna, obrazovana i razumna osoba. Možda mislite da griješi u svojim predviđanjima, ali nije budala. Kurzweilova predviđanja dijele i mnogi stručnjaci za zonu udobnosti, Peter Diamandis i Ben Herzel. On misli da će se to dogoditi.
Kronologija
Kurzweil vjeruje da će računala do 2029. godine doseći razinu opće umjetne inteligencije (AGI), a do 2045. nećemo imati samo umjetnu superinteligenciju, već i potpuno novi svijet - vrijeme takozvane singularnosti. Njegova se kronologija umjetne inteligencije još uvijek smatra pretjerano pretjeranom, ali u posljednjih 15 godina brzi razvoj visoko usmjerenih sustava umjetne inteligencije (AI) natjerao je mnoge stručnjake da stanu na stranu Kurzweila. Njegova su predviđanja još ambicioznija od onih u Bostromovom istraživanju (AGI do 2040., ISI do 2060.), ali ne previše.
Prema Kurzweilu, singularnost 2045. godine pokreću tri istodobne revolucije u biotehnologiji, nanotehnologiji i, što je još važnije, umjetnoj inteligenciji. No prije nego nastavimo - a nanotehnologija pomno prati umjetnu inteligenciju - odvojimo trenutak do nanotehnologije.
Nekoliko riječi o nanotehnologiji
Obično nazivamo nanotehnološke tehnologije koje se bave manipulacijom tvari u rasponu od 1-100 nanometara. Nanometar je jedan milijarditi dio metra ili milijunti dio milimetra; unutar raspona 1-100 nanometara, mogu se smjestiti virusi (promjera 100 nm), DNA (širine 10 nm), molekule hemoglobina (5 nm), glukoza (1 nm) i drugi. Ako nam nanotehnologija ikada postane podložna, sljedeći korak bit će manipulacija pojedinačnim atomima koji su manji od jednog reda veličine (~, 1 nm).
Da bismo razumjeli gdje ljudi nailaze na probleme pokušavajući manipulirati materijom na takvim razmjerima, skočimo na veće razmjere. Međunarodna svemirska postaja nalazi se 481 kilometar iznad Zemlje. Da su ljudi divovi i udarili glavom o ISS, bili bi 250.000 puta veći nego što su sada. Ako uvećate bilo što od 1 do 100 nanometara 250.000 puta, dobit ćete 2,5 centimetra. Nanotehnologija je ekvivalent čovjeka koji kruži oko ISS -a i pokušava manipulirati stvarima veličine zrna pijeska ili očne jabučice. Da bi došao do sljedeće razine - kontrole pojedinih atoma - div će morati pažljivo postaviti objekte promjera 1/40 milimetra. Običnim ljudima bit će potreban mikroskop da bi ih vidjeli.
Prvi put o nanotehnologiji govorio je Richard Feynman 1959. godine. Zatim je rekao: „Principi fizike, koliko ja mogu reći, ne govore protiv mogućnosti kontrole stvari atom po atom. U načelu, fizičar bi mogao sintetizirati bilo koju kemikaliju koju je kemičar zapisao. Kako? Postavljanjem atoma tamo gdje kemičar kaže da se dobije tvar. Ovo je cijela jednostavnost. Ako znate pomicati pojedine molekule ili atome, možete učiniti gotovo sve.
Nanotehnologija je postala ozbiljno znanstveno područje 1986. godine kada je inženjer Eric Drexler predstavio svoje temelje u svojoj temeljnoj knjizi Strojevi stvaranja, ali sam Drexler smatra da bi oni koji žele naučiti više o modernim idejama u nanotehnologiji trebali pročitati njegovu knjigu iz 2013. Puno obilje (Radikal Obilje).
Nekoliko riječi o "sivom goou"
Zalazili smo dublje u nanotehnologiju. Konkretno, tema "grey goo" jedna je od ne baš ugodnih tema u području nanotehnologije, koju se ne može zanemariti. Starije verzije teorije nanotehnologije predložile su metodu nano-montaže koja uključuje stvaranje bilijuna sićušnih nanorobota koji bi zajedno radili na stvaranju nečega. Jedan od načina za stvaranje bilijuna nanorobota je stvaranje jednog koji se može sam replicirati, to jest od jedan do dva, od dva do četiri itd. Nekoliko trilijuna nanorobota pojavit će se u jednom danu. To je moć eksponencijalnog rasta. Smiješno, zar ne?
Smiješno je, ali točno dok ne dovede do apokalipse. Problem je u tome što moć eksponencijalnog rasta, što ga čini prilično zgodnim načinom za brzo stvaranje bilijuna nanobota, čini samoreplikaciju zastrašujućom stvari na dugi rok. Što ako se sustav sruši, i umjesto da zaustave replikaciju za nekoliko bilijuna, nanoboti se nastavljaju razmnožavati? Što ako cijeli ovaj proces ovisi o ugljiku? Biomasa Zemlje sadrži 10 ^ 45 atoma ugljika. Nanobot bi trebao biti reda 10 ^ 6 atoma ugljika, pa će 10 ^ 39 nanobota proždrijeti sav život na Zemlji u samo 130 ponavljanja. Ocean nanobota ("sivi goo") preplavit će planet. Znanstvenici misle da se nanoboti mogu replicirati za 100 sekundi, što znači da jednostavna greška može ubiti sav život na Zemlji u samo 3,5 sata.
Moglo bi biti još gore - ako teroristi i nepovoljni stručnjaci dođu u ruke nanotehnologije. Mogli bi stvoriti nekoliko bilijuna nanobota i programirati ih da se tiho prošire svijetom u nekoliko tjedana. Zatim će, pritiskom na gumb, u samo 90 minuta pojesti sve, bez ikakve šanse.
Iako se o ovoj horor priči godinama raspravlja, dobra vijest je da je to samo horor priča. Eric Drexler, koji je skovao izraz "grey goo", nedavno je rekao sljedeće: „Ljudi vole horor priče, a ovo je jedna od zombi horor priča. Ova ideja sama po sebi već jede mozak."
Kad dođemo do dna nanotehnologije, možemo je koristiti za stvaranje tehničkih uređaja, odjeće, hrane, bioproizvoda - krvnih stanica, boraca protiv virusa i raka, mišićnog tkiva itd. - što god. A u svijetu koji koristi nanotehnologiju, cijena materijala više neće biti vezana za njegovu oskudicu ili složenost procesa proizvodnje, već za složenost njegove atomske strukture. U svijetu nanotehnologije dijamant bi mogao biti jeftiniji od gumice.
Tamo još nismo ni blizu. I nije sasvim jasno podcjenjujemo li ili precjenjujemo složenost ovog puta. Međutim, sve ide do toga da nanotehnologija nije daleko. Kurzweil pretpostavlja da ćemo ih imati do 2020. godine. Svjetske države znaju da nanotehnologija može obećati veliku budućnost, pa stoga u njih ulažu mnoge milijarde.
Zamislite samo kakve bi mogućnosti superinteligentno računalo dobilo da dođe do pouzdanog asemblera na nano razmjerima. No, nanotehnologija je naša ideja, i mi se trudimo njome upravljati, teško nam je. Što ako su oni samo šala za ISI sustav, a sam ISI dolazi s tehnologijama koje će biti višestruko moćnije od svega što u načelu možemo pretpostaviti? Složili smo se: nitko ne može zamisliti za što će umjetna superinteligencija biti sposobna? Vjeruje se da naš mozak nije u stanju predvidjeti ni minimum onoga što će se dogoditi.
Što bi umjetna inteligencija mogla učiniti za nas?
Naoružan superinteligencijom i svom tehnologijom koju bi superinteligencija mogla stvoriti, ISI će vjerojatno moći riješiti sve probleme čovječanstva. Globalno zatopljenje? ISI će prvo zaustaviti emisiju ugljika izmišljajući niz učinkovitih načina za proizvodnju energije koji nisu povezani s fosilnim gorivima. Zatim će smisliti učinkovit, inovativan način za uklanjanje viška CO2 iz atmosfere. Rak i druge bolesti? Nije problem - zdravstvo i medicina promijenit će se na nezamislive načine. Svjetska glad? ISI će koristiti nanotehnologiju za stvaranje mesa identičnog prirodnom, od nule, pravog mesa.
Nanotehnologija će hrpu smeća moći pretvoriti u kadu sa svježim mesom ili drugom hranom (ne nužno čak ni u uobičajenom obliku - zamislite divovsku kocku jabuke) i svu tu hranu distribuirati po svijetu pomoću naprednih transportnih sustava. Naravno, ovo će biti izvrsno za životinje koje više ne moraju ginuti zbog hrane. ISI također može učiniti mnoge druge stvari, poput očuvanja ugroženih vrsta ili čak vraćanje izumrlih iz pohranjene DNK. ISI može riješiti naše najteže makroekonomske probleme - naše najteže ekonomske rasprave, etička i filozofska pitanja, globalnu trgovinu - a sve će to biti bolno očito ISI -u.
Ali postoji nešto vrlo posebno što bi ISI mogao učiniti za nas. Zavodljivo i primamljivo to bi promijenilo sve: ISI nam može pomoći da se nosimo sa smrtnošću … Postupno shvaćajući sposobnosti umjetne inteligencije, možda ćete preispitati sve svoje ideje o smrti.
Nije bilo razloga za evoluciju da nam produži životni vijek duže nego sada. Ako živimo dovoljno dugo da rađamo i odgajamo djecu do te mjere da se mogu sami snalaziti, evolucija je dovoljna. S evolucijskog gledišta, 30+ godina je dovoljno za razvoj, a nema razloga da mutacije produljuju život i smanjuju vrijednost prirodne selekcije. William Butler Yates nazvao je našu vrstu "dušom vezanom za umiruću životinju". Nije baš zabavno.
A budući da svi jednog dana umiremo, živimo s idejom da je smrt neizbježna. S vremenom razmišljamo o starenju - nastavljamo napredovati i nismo u mogućnosti zaustaviti ovaj proces. Ali pomisao na smrt je izdajnička: zarobljeni njome zaboravljamo živjeti. Richard Feynman napisao:
“U biologiji postoji jedna divna stvar: u ovoj znanosti nema ničega što bi govorilo o nužnosti smrti. Ako želimo stvoriti vječni stroj za kretanje, shvaćamo da smo u fizici pronašli dovoljno zakona koji ili ukazuju na nemogućnost ovoga, ili su zakoni pogrešni. No, u biologiji ne postoji ništa što bi ukazivalo na neizbježnost smrti. To me dovodi do uvjerenja da to nije tako neizbježno i da je samo pitanje vremena kada će biolozi otkriti uzrok ovog problema, ove strašne univerzalne bolesti, koji će biti izliječen."
Činjenica je da starenje nema veze s vremenom. Starenje je kada se fizički materijali tijela istroše. Dijelovi automobila također se degradiraju - no je li starenje neizbježno? Ako popravite automobil dok se dijelovi troše, trajat će vječno. Ljudsko tijelo se ne razlikuje - samo je složenije.
Kurzweil govori o inteligentnim nanobotima povezanim s Wi-Fi-jem u krvotoku koji bi mogli obaviti bezbroj zadataka za zdravlje ljudi, uključujući redovito popravljanje ili zamjenu istrošenih stanica bilo gdje u tijelu. Poboljšanje ovog procesa (ili pronalaženje alternative koju predlaže pametniji ASI) neće samo održati tijelo zdravim, već će i preokrenuti starenje. Razlika između tijela 60-godišnjaka i 30-godišnjaka je pregršt fizičkih problema koji bi se mogli ispraviti odgovarajućom tehnologijom. ISI bi mogao izgraditi automobil u koji bi osoba ušla sa 60 godina, a izašla s 30 godina.
Čak bi se i degradirani mozak mogao obnoviti. ISI bi to sigurno znao učiniti bez utjecaja na podatke o mozgu (osobnost, sjećanja itd.). 90-godišnji muškarac koji pati od potpune degradacije mozga mogao bi se proći prekvalifikaciju, obnoviti i vratiti na početak svog života. Možda se čini apsurdnim, ali tijelo je pregršt atoma, a ISI bi sigurno mogao lako manipulirati njima, bilo kojom atomskom strukturom. Nije to toliko apsurdno.
Kurzweil također vjeruje da će se umjetni materijali s vremenom sve više integrirati u tijelo. Za početak, organi bi se mogli zamijeniti supernaprednim verzijama strojeva koje bi trajale vječno i nikada ne bi otkazale. Tada bismo mogli napraviti potpuni redizajn tijela, zamijenivši crvena krvna zrnca savršenim nanobotima koji se sami kreću, potpuno eliminirajući potrebu za srcem. Također bismo mogli poboljšati svoje kognitivne sposobnosti, početi razmišljati milijarde puta brže i pristupiti svim informacijama dostupnim čovječanstvu kroz oblak.
Mogućnosti poimanja novih horizonta bile bi doista beskrajne. Ljudi su uspjeli seksu obdariti novom svrhom, čine to iz zadovoljstva, a ne samo radi reprodukcije. Kurzweil vjeruje da isto možemo učiniti i s hranom. Nanoboti bi mogli isporučiti idealnu prehranu izravno u stanice tijela, dopuštajući nezdravim tvarima prolaz kroz tijelo. Teoretičar nanotehnologije Robert Freitas već je razvio zamjenu za krvne stanice, koja mu, kad se uvede u ljudsko tijelo, može omogućiti da ne diše 15 minuta - a to je izumila osoba. Zamislite kada će ISI steći moć.
Uostalom, Kurzweil vjeruje da će ljudi doći do točke u kojoj će postati potpuno umjetni; vrijeme kada gledamo biološke materijale i razmišljamo o tome koliko su primitivni bili; vrijeme kada ćemo čitati o ranim fazama ljudske povijesti, zadivljeni kako su klice, nesreće, bolesti ili jednostavno starost mogle ubiti osobu protiv njezine volje. U konačnici, ljudi će pobijediti vlastitu biologiju i postati vječni - ovo je put do sretne strane balansne grede o kojoj govorimo od samog početka. I ljudi koji u to vjeruju također su sigurni da nas takva budućnost očekuje vrlo, vrlo brzo.
Vjerojatno se nećete iznenaditi da su Kurzweilove ideje izazvale snažnu kritiku. Njegova posebnost 2045. godine i kasniji vječni život za ljude nazvani su "uzašašće štrebera" ili "inteligentno stvaranje ljudi s IQ -om 140". Drugi su dovodili u pitanje optimistični vremenski okvir, razumijevanje ljudskog tijela i mozga, podsjećajući na Mooreov zakon koji još nije nestao. Za svakog stručnjaka koji vjeruje u Kurzweilove ideje postoje tri koja misle da nije u pravu.
No, najzanimljivije u vezi s tim je da većina stručnjaka koji se s njim ne slažu, u cjelini, ne kaže da je to nemoguće. Umjesto da kažu "sranje, ovo se nikada neće dogoditi", oni kažu nešto poput "sve će se to dogoditi ako dođemo do ISI -a, ali to je problem". Bostrom, jedan od priznatih stručnjaka za AI koji upozorava na opasnosti od umjetne inteligencije, također priznaje:
“Gotovo da nije ostao problem koji superinteligencija ne može riješiti, ili nam čak pomoći u rješavanju. Bolesti, siromaštvo, uništavanje okoliša, patnje svih vrsta - sva ta superinteligencija uz pomoć nanotehnologije može se riješiti u trenu. Superinteligencija nam također može dati neograničeni životni vijek zaustavljanjem i preokretanjem procesa starenja pomoću nanomedicine ili mogućnošću učitavanja u oblak. Superinteligencija također može stvoriti mogućnosti za beskrajno povećanje intelektualnih i emocionalnih sposobnosti; on nam može pomoći stvoriti svijet u kojem ćemo živjeti u radosti i razumijevanju, približavajući se svojim idealima i redovito ostvarujući svoje snove."
Ovo je citat jednog od Kurzweilovih kritičara, koji priznaje da je sve to moguće ako možemo stvoriti siguran ASI. Kurzweil je jednostavno definirao što bi umjetna superinteligencija trebala postati, ako je ikako moguće. A ako je dobar bog.
Najočitija kritika zagovornika zona udobnosti jest ta da se mogu prokleto pogriješiti kada procijene budućnost ISI -ja. U svojoj knjizi The Singularity, Kurzweil je posvetio 20 stranica od 700 potencijalnih prijetnji ISI -u. Pitanje nije kad dođemo do ISI -ja, pitanje je koja će mu biti motivacija. Kurzweil s oprezom odgovara na ovo pitanje: „ISI proizlazi iz mnogih različitih napora i bit će duboko integriran u infrastrukturu naše civilizacije. Zapravo, bit će blisko ugrađen u naše tijelo i mozak. On će odražavati naše vrijednosti jer će biti jedno s nama."
Ali ako je odgovor, zašto je toliko pametnih ljudi na ovom svijetu zabrinuto za budućnost umjetne inteligencije? Zašto Stephen Hawking kaže da bi razvoj ISI -a "mogao značiti kraj ljudske rase"? Bill Gates kaže da "ne razumije ljude kojima to ne smeta". Elon Musk strahuje da "dozivamo demona". Zašto mnogi stručnjaci smatraju da je ISI najveća prijetnja čovječanstvu?
O tome ćemo sljedeći put.
