VEŠTAČKOJ INTELIGENCIJI NE SMEMO DATI 3 STVARI, A SVE SMO IM VEĆ DALI! Naučnik upozorava: Usporite razvoj, na kraju neće biti LJUDI!

Na ovo upozorava fizičar i istraživač veštačke inteligencije Maks Tegman koji kaže da bi čovečanstvu moglo da se desi da nas AI preplavi i istisne, kao što je Homo sapiens istisnuo Neandertalce.

Otvoreno pismo za moratorijum na razvoj veštačke inteligencije

U podkastu Leksa Fridmana, kompjuterskog naučnika i istraživača veštačke inteligencije na Masačusetskom tehnološkom institutu (MIT), Maks Erik Tegmark, fizičar, kosmolog i istraživač mašinskog učenja, profesor na MIT-u i predsednik Instituta za budućnost života, objasnio je, između ostalog stvari, zašto je zabrinut zbog trenutnog načina razvoja veštačke inteligencije i zašto je pokrenuo otvoreno pismo sa grupom naučnika, mislilaca i stručnjaka za veštačku inteligenciju tražeći šestomesečni moratorijum na dalji razvoj sistema moćnijih od GPT-4 .

U pismu, u kojem se kritikuje postojeći pristup u stilu – prvo gradimo brod, pa ćemo ga popravljati – i upozorava da važnu trku u razvoju veštačke inteligencije vode čelnici kompanija koji nisu izabrani predstavnici naroda, odnosno biračkog tela, ali lidera tehnoloških kompanija, autori postavljaju četiri pitanja:

Foto: youtube.com/Adagio

• Da li treba da dozvolimo mašinama da preplave naše informativne kanale propagandom i lažima?
• Da li treba da automatizujemo sve poslove, uključujući i one koji ispunjavaju živote ljudi smislom?
• Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti, zastareti i zameniti?
• Da li treba da rizikujemo da izgubimo kontrolu nad našom civilizacijom?

Pismo je do sada potpisalo više od 27.500 ljudi, uključujući istoričara i autora nekoliko bestselera kao što su Sapiens Juval Noa Harari, suosnivač Apple-a Stiv Voznijak, suosnivač Skajpa Jaan Talin i brojni istraživači veštačke inteligencije kao što je Stjuart Rasel , Joshua Bengio, Gari Marcus i Emad Mostakue.

Teško je očekivati da bi samo pismo moglo da zaustavi ili uspori kompanije poput Gugla i Majkrosofta, ali njegove poruke bi mogle da stignu do političara koji bi mogli da preduzmu zakonodavnu akciju.

Fizičar godinama upozorava!

U ovom kontekstu, zanimljivo je istaći da Tegmark nije nov u razvoju računarstva. Kao srednjoškolac, on i njegov prijatelj su kreirali i prodali program za obradu teksta napisan čistim mašinskim kodom i 3D igru nalik Tetrisu pod nazivom Frac. Danas je na MIT-u fokusiran na povezivanje fizike i mašinskog učenja, odnosno na korišćenje AI za potrebe fizike i fizike za potrebe razvoja AI.

Institut za budućnost života, koji on danas vodi, objavio je sličnu peticiju 2015. za moratorijum na razvoj tehnologije autonomnog oružja. Uz Tegmarka, potpisao ga je čitav niz poznatih ličnosti, među kojima su Stiven Hoking, Elon Mask, Stjuart Rasel, Noam Čomski, Stiv Voznijak, Martin Ris, Demis Hasabis, Rej Kurcvajl i mnogi drugi.

Stvorićemo vanzemaljsku inteligenciju

U ovom tekstu prenećemo  prevod nekih od najvažnijih delova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda.

Foto: www.profimedia.rs

U uvodnom delu skoro trosatnog razgovora, Tegmark kaže da, za razliku od mnogih drugih naučnika, veruje da je tehnološki napredan život, kakav je ljudski život na Zemlji, izuzetak u vidljivom univerzumu.

- Ako je to tačno, to stavlja veliku odgovornost na nas da ne zabrljamo... Mi smo čuvari ove iskre napredne svesti koja se, ako je negujemo i pomažemo da raste, može da se širi univerzumom i imamo neverovatna budućnost - rekao je Tegmark.

- S druge strane, ako budemo bezobzirni u razvoju tehnologije, onda ćemo je ugasiti iz gluposti ili u sukobima. U stvari, mislim da će nas strane obaveštajne službe (eng. alien intelligence) vrlo brzo posetiti. Ali ona je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska - dodao je on, ističući da će ova veštačka inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji jer neće biti stvorena kroz uobičajeno darvinističko takmičenje, u koje stvari kao što su samoodržanje, strah od smrti itd. su važne.

Inteligencija koja se ne boji smrti!

Upozorio je da će se to razvijati mnogo brže nego što evolucija dozvoljava, što podrazumeva veliku odgovornost da umovi koje ćemo stvoriti vredni stvaranja, da dele naše vrednosti i da su dobri za čovečanstvo i život uopšte.

Foto: www.profimedia.rs

On je objasnio da nam je teško i da zamislimo kako bi izgledala inteligencija koja se ne plaši smrti, koja za tren može da nauči jezik, poput švedskog, ili da izbriše iz sećanja sva iskustva koja joj se ne sviđaju. .

Upozorio je da je važno biti svestan i razmišljati o očiglednoj činjenici da je prostor za razvoj veštačke inteligencije veoma širok i da je veoma opasno pretpostaviti da će veštačka inteligencija na bilo koji način biti slična našoj.

Život 3.0

Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da Život 1.0 uključuje oblike poput bakterija koje ne mogu mnogo naučiti tokom svog života. Život 2.0 je sličan našem i životu životinja sa mozgom koje mogu mnogo da nauče. Život 3.0, koji još nije stvoren, podrazumeva život koji neće moći da menja samo svoj softver, koji mi možemo da promenimo, već i hardver.

- To je ono ka čemu se brzo krećemo. Kompanije koje pokušavaju da naprave veštačku opštu inteligenciju razvijaju život 3.0. Moći ćete da stavite tu inteligenciju u nešto što uopšte nema biološku osnovu - rekao je on, misleći na robote .

Foto: www.profimedia.rs

Raskrsnica puteva čovečanstva

Tegmark je uporedio trenutnu situaciju u razvoju veštačke inteligencije sa zapletom filma Ne gledaj gore, u kojem mnogi ljudi ne veruju u ozbiljnost pretnje i ne preduzimaju nikakvu razumnu akciju iako imaju informacije da je ogroman asteroid juri ka Zemlji.

On je upozorio da čovečanstvo trenutno samo gradi takav asteroid i da gotovo niko o tome ozbiljno ne raspravlja u javnosti.

- Mnogi političari to nemaju nigde na svom radaru i misle da je to nešto što bi se moglo dogoditi za 100 ili više godina. Ali mi smo trenutno na raskrsnici. To je najvažnija raskrsnica do koje je čovečanstvo došlo u svojih stotinu godina. hiljada godina postojanja. na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas - upozorava on.

- A dolazak veštačke opšte inteligencije koja može da radi sve poslove kao i mi, a verovatno ubrzo nakon toga i superinteligencije koja će daleko nadmašiti naše kognitivne sposobnosti, biće ili najbolja stvar koja se ikada dogodila čovečanstvu ili najgora stvar. Čvrsto verujem da nema sredine - objašnjava Tegmark.

Foto: Shutterstock

Trka između razvoja veštačke inteligencije i razvoja mudrosti

Govoreći o otvorenom pismu pomenutom u uvodu, on je objasnio da je važno pobediti u trci između razvoja veštačke inteligencije i naše sposobnosti da njome upravljamo. On je podsetio da su do sada mnogi stručnjaci sa kojima deli mišljenje generalno verovali da ne treba da usporavamo razvoj veštačke inteligencije, već da pokušavamo da ubrzamo razvoj mudrosti i uradimo sve tehničke stvari kako bismo obezbedili da moćna veštačka inteligencija uspe. upravo ono što želimo da uradi i da se društvo prilagodi prilikama i propisima kako bi koristilo veštačku inteligenciju na dobar način.

- I ispostavilo se da će, ako samo ubacite tonu računarske snage i tonu podataka, postati strašno kao GPT-4, sa kojim se igram otkako je objavljen. Još uvek postoji neka debata kao do toga da li nas to može dovesti do potpuno ljudskog nivoa ili ne - objasnio je on.

Da li GPT razmišlja?

Tegmark kaže da je i oduševljen i užasnut GPT-om.

Foto: Tanjug/AP

- On može prilično dobro da rasuđuje i uradi mnogo stvari za koje sam shvatio da ne mogu ni sam. Takođe, on to radi mnogo brže od nas. Osim toga, on dobro služi velikom broju ljudi u S druge strane, on ne može da razmišlja tako dobro kao ljudi u nekim zadacima. Očigledno postoje ograničenja u njegovoj arhitekturi.

U našim glavama imamo ono što se u štreberskom jeziku zove rekurentna neuronska mreža. U njemu se nalaze petlje. Informacije idu od jednog neurona do drugog i trećeg, a zatim nazad do prvog. Na taj način možete razmišljati o nečemu i razmišljati o sebi. Veliki jezički modeli kao što je GPT-4 ne mogu to da urade. To su transformatori tzv. Oni su kao jednosmerna ulica informisanja - kaže Tegmark.

Lakše je izgraditi inteligenciju blisku ljudskoj nego što smo mislili

- Zbog toga mogu da funkcionišu logički do određene dubine. Stoga možete stvoriti probleme koje oni ne mogu da reše. Međutim, činjenica da mogu da urade neverovatne stvari sa tako neverovatno jednostavnom arhitekturom je prilično zapanjujuća.

Mi u mojoj laboratoriji na MIT-u gledamo u ove velike jezičke modele da bismo otkrili kako oni funkcionišu, što je fokus našeg trenutnog istraživanja. To je nešto poput veštačke neuronauke. Ovde iznova i iznova vidimo da su o tome objavljeni brojni radovi, da je ovo neverovatno glup način da se radi. I odmah vidimo kako bi to moglo da se poboljša - ističe fizičar.

- Ta arhitektura nikako neće sprečiti dobre inženjere da pronađu nova rešenja i naprednije arhitekture. Ukratko, pokazalo se da je mnogo lakše izgraditi skoro ljudsku inteligenciju nego što smo mislili da će biti. Dakle, vreme koje moramo da dobijemo zajedno se skratilo - rekao je Tegmark.

On smatra da bi mali koraci u promeni arhitekture na kojoj su zasnovani jezički modeli mogli da dovedu do znatno pametnijih sistema.

- Zato što je sada toliko toga otvoreno, mnogi pametni ljudi mogu da istražuju i pokušaju da naprave male korake ka poboljšanju, tako da to postaje neka vrsta kolektivne trke u kojoj će mnogi ljudi misliti: 'Ako ne napravim taj korak, neko drugi će - kaže on. Tegmark.

Trku u razvoju AI predvodi čudovište Moloh

Vrhunski fizičar objašnjava da je ovaj pritisak ključni razlog zašto su odlučili da nazovu pauzu u sistemima obuke moćnijim od GPT-4 na šest meseci.

- Svim laboratorijama treba dati priliku da se malo koordiniraju oko bezbednosti i društvu da se prilagodi i ponudi prave podsticaje laboratorijama. Intervjuisali ste ove ljude iz raznih laboratorija i znate da su to dobri ljudi, idealisti. ljudi koji to rade prvenstveno zato što veruju da veštačka inteligencija ima ogroman potencijal da pomogne čovečanstvu. Ali u isto vreme su zarobljeni u ovoj strašnoj rasi -  kaže Tegmark.

Tegmark ilustruje ovu trku pozivajući se na esej Skota Aleksandera o pesmi američkog pesnika Alena Ginsberga o Molohu, čudovištu teorije igara, koje zarobljava ljude u igri u kojoj svi na kraju gube.

- Loša stvar u vezi sa ovim čudovištem je da uprkos tome što svi znaju i razumeju šta se dešava, niko ne uspeva da izađe iz trke. Većina loših stvari koje radimo kao ljudi je uzrokovana Molohom - kaže on.

Kao primer Molohovog delovanja, on navodi pritisak koji moderna tehnologija obrade fotografija sa svim mogućim filterima stvara na influensere, o čemu se pozabavila Liv Boeree, britanska naučna komunikatorka, televizijska voditeljka i šampionka u pokeru, u jednom od ranijih podkasta sa Lek Fridman.

On je svuda!

- U početku ih niko nije koristio. Ljudi su videli žene kakve jesu. Onda su neki počeli da ih koriste. A kada su neki počeli da ih koriste i postali su sve više plastična fantazija, onda su oni koji ih nisu koristili to počeli da shvataju, ako žele da zadrže svoj tržišni udeo, moraju i oni da počnu da ih koriste. Tako dolazimo u situaciju da ih svi koriste, pa niko od njih nema manji tržišni udeo nego što je imao ranije - objašnjava on.

- Dakle, svi su izgubili, a niko od njih nije dobio, i svi moraju da budu sve više plastične fantazije. Sada niko ne može da se vrati na staro jer je postalo preskupo. Moloh je svuda - objašnjava Tegmark, uz napomenu da nije novajlija na sceni.

- Mi, ljudi, razvili smo brojne mehanizme saradnje za borbu protiv Moloha. Sovjetski Savez i Sjedinjene Države su potpisale brojne sporazume o kontroli naoružanja protiv Moloha pokušavajući da ih nateraju na nepotrebnu, rizičnu trku u nuklearnom naoružanju, itd. I to je upravo ono što se sada dešava u razvoju veštačke inteligencije. Ovoga puta je umešana geopolitika, ali uglavnom je reč o novcu jer postoji ogroman komercijalni pritisak. Ako bi neko od šefova tih velikih AI kompanija odlučio da napravi pauzu, našao bi se pod ogromnim pritiskom akcionara i drugih - kaže Tegmark.

Moramo da usporimo!

- Ako napravite pauzu, a drugi ne, mi ne želimo da nam neko jede ručak. A akcionari čak imaju moć da otpuštaju direktore u najgorem slučaju. Tako da smo napisali to otvoreno pismo jer smo želeli da pomognemo onima idealistički tehnološki rukovodioci rade ono što žele da rade." oni stavljaju svoje srce na to stvarajući dovoljan pritisak javnosti na ceo sektor tako da svi mogu da predahnu na koordinisan način - rekao je on.

- Ne mislim da bez pritiska javnosti niko od njih ne može to da uradi sam, da se suprotstavi akcionarima, bez obzira na to koliko su dobronamerni. Naime, Moloh je veoma moćan neprijatelj... Tako da bi rukovodioci imali prilika da se kaže akcionarima: 'Svi usporavaju, to je prava stvar' - objasnio je Tegmark.

Možemo zaustaviti Moloh

Kao jedan od primera koji pokazuju da se neke opasne trke u razvoju tehnologije mogu zaustaviti, Tegmark navodi kloniranje čoveka.

- Kloniranje ljudi moglo bi da zaradi mnogo novca. Zašto to ipak ne uradimo? Zato što su biolozi razmislili o tome i zaključili da je previše rizično. Sedamdesetih godina prošlog veka su se okupili u Asilomaru i odlučili da zaustave mnoge druge stvari, kao što su promena ljudskog genoma koja će se preneti na ljudsko potomstvo.

Odlučili su da to neće uspeti jer je bilo previše nepredvidivo kuda bi to moglo da odvede; mogli bismo izgubiti kontrolu nad našom vrstom. Stoga je vrlo izvodljivo. Neophodno je imati svest javnosti o tome koji su rizici i navesti širu zajednicu da kaže: 'Hej, hajde da usporimo' - kaže fizičar.

- Jedan od kontraargumenata je da mi na Zapadu ne možemo da stanemo zbog Kine. A u Kini, bez sumnje, takođe osećaju da ne mogu da prestanu zbog Zapada. Obe strane misle da su dobre. Ali pogledajte na kloniranju ljudi.Da li je Kina nastavila da klonira ljude?Koliko znam urađeno je samo jedno kloniranje čoveka i to od Kineza.Znate li gde je on sada?U zatvoru.A znate li ko je stavio njega tamo? Kineska vlada. Ne zato što su ih zapadnjaci pozvali na red. Ne, kineska vlada ga je stavila tamo jer i ona voli da kontroliše. Štaviše, čak i više nego zapadne vlasti... - podseća Tegmark.

 Ovo je samoubilačka trka

- Ovde je važno razumeti da to nije trka u naoružanju, to je trka samoubistava u kojoj svi gube ako neko izgubi kontrolu nad veštačkom inteligencijom. To zaista menja celu dinamiku. Ponoviću to ponovo jer je to fundamentalna tačka koju mnogi ljudi nisu u pravu.

Pošto mnogi ljudi odbacuju ideju da bi veštačka inteligencija mogla da postane veoma superiorna u odnosu na ljude jer misle da postoji nešto veoma magično u inteligenciji, tako da ona može postojati samo u ljudskim umovima, misle da će postati manje-više nešto poput poboljšanog GPT-a -4 i to je to. Dakle, oni to ne vide kao samoubilačku trku. Oni misle da će onaj ko stigne prvi kontrolisati svet i pobediti. Ali neće biti tako... - rekao je Tegmark.

- Ko potpuno izgubi kontrolu, ako neko ko ne deli vaše vrednosti uspe da zavlada svetom, neće biti važno koje je nacionalnosti. Neće vam se svideti. Biće mnogo gore nego danas; ako živite u orvelovskoj distopiji, koga briga ko A ako ode još dalje i izgubimo kontrolu čak i nad mašinama, tako da to prestane da bude mi naspram njih, postaje mi protiv njih, koga briga ko je stvorio to stvorenje koje ima drugačije ciljeve nego humanost, pa ćemo postati marginalizovani, nepotrebni, zamenjeni...

Kao da jurimo ka provaliji. Što se više približavamo, pogled je lepši i više novca, pa nastavljamo dalje. Međutim, u nekom trenutku moramo da stanemo... Pravi način da imamo koristi od ovoga je da nastavimo da razvijamo fascinantnu veštačku inteligenciju malo sporije tako što ćemo je učiniti bezbednom, uveriti se da radi stvari koje mi ljudi želimo da radi, i stvarajući vin-vin uslovi - ističe Tegmark.

Tri stvari koje ne bi trebalo dozvoliti u razvoju veštačke inteligencije, već smo dozvolili

Tegmark kaže da mnogi naučnici u oblasti razvoja veštačke inteligencije već godinama upozoravaju da postoje tri stvari koje ne bi trebalo da se dešavaju.

- Prvi je naučiti AI da piše sopstvene kodove jer je to prvi korak ka iterativnom samopoboljšanju koje može omogućiti veštačkoj inteligenciji da dostigne mnogo više nivoe. Ups, već smo to omogućili. Druga veoma rizična stvar je da povežite veštačku inteligenciju sa internetom tako da može da ide na veb lokacije, samostalno preuzima stvari i razgovara sa ljudima. Ups, već smo mu omogućili i to...

Treća stvar je na šta je upozorio Stjuart Rasel, fascinantni istraživač veštačke inteligencije. Već neko vreme ističe da nikada ne bi trebalo da učimo veštačku inteligenciju bilo čemu o ljudima. Iznad svega, ne smemo mu dozvoliti da nauči ljudsku psihologiju i kako da manipuliše ljudima. To je najopasnije znanje koje mu možete dati - kaže fizičar.

Algoritmi veštačke inteligencije stvaraju svet sa sve više i više mržnje

- Možete da ga naučite kako da leči rak i slične stvari, ali ga ne možete naterati da čita knjigu Danijela Kanemana o kognitivnim predrasudama i sličnim stvarima. Ups, LOL, razvili smo društvene mreže sa AI algoritmima koji preporučuju nešto i zapravo rade Samo to.Postali su veoma dobri u znanju kako da pritisnu naša dugmad da počnu da stvaraju svet u kome imamo sve više i više mržnje.

Naime, stručnjaci su otkrili, ne iz zle namjere, već da bi zaradili više od oglašavanja, da takvi algoritmi donose više novca nego reklama jer više angažuju ljude, više ih lijepe za svoje male pravougaonike - kaže Tegmark, ističući da danas, zahvaljujući takvim algoritmima društvenih mreža koje su naučile da manipulišu ljudima, živimo u svetu u kome je mnogo više mržnje, gde ljudi ne mogu da se slože oko osnovnih stvari kao što je ko je pobedio na izborima.

Možemo da regulišemo razvoj AI

Tegmark je uveren da se razvoj veštačke inteligencije može regulisati na način da uz poštovanje određenih pravila koja će garantovati da će ona biti bezbedna za čovečanstvo, istovremeno omogući kapitalističku konkurenciju. Između ostalog, ističe primer pojaseva u automobilima i zabranu dečijeg rada.

- Nikada, čak ni u desničarskim krugovima, nisam naišao na nekoga ko misli da je zabrana dečijeg rada bila loša ideja... Na kraju krajeva, u zajedničkom interesu svih nas je da ne idemo preko ivice litice. Problem je u tome što ljudi koji grade tu tehnologiju i njihovi izvršni direktori veoma dobro razumeju da smo blizu ivice litice, akcionari i drugi u tržišnim silama ne...

Mnogi ljudi su zaglavljeni u onome što ja volim da zovem ugljen-šovinizam, da samo ljudi mogu da imaju inteligenciju na ljudskom nivou, da postoji nešto magično u tome. Svi ljudi u tehnološkim kompanijama koje grade ove stvari razumeju da je inteligencija neka vrsta obrade podataka i da uopšte nije važno da li te podatke obrađuju atomi ugljenika u neuronima u mozgu ili atomi silicijuma u ​​nekoj tehnologiji izgradili smo - kaže Tegmark.

Na kraju neće biti ljudi

Tegmark je uveren da će, ako AI nastavi da se razvija nekontrolisano i postane superinteligentna, na kraju istisnuti ljude.

- Videli smo u istoriji da kada imamo neku vrstu ili grupu ljudi koji više nisu potrebni, stvari se ne završavaju dobro po njih. Nekada je bilo dosta konja koji su se koristili za prevoz u Bostonu, ali tada je izmišljen automobil i većina konja je loše završila.

Ako pogledate ljude, možda ćete se zapitati zašto je radnički pokret uspeo nakon industrijske revolucije. Jer su radnici bili potrebni. Iako je bilo puno Moloha i dečijeg rada i slično, kompanijama su i dalje bili potrebni radnici i zato su štrajkovi imali moć.

Ako dođemo do tačke u kojoj većina ljudi više nije potrebna, mislim da je prilično naivno misliti da će i dalje biti dobro tretirani. Mi kažemo – da, svi smo jednaki, vlast će uvek štititi ljude – međutim, ako pogledamo kako stvari stoje u praksi, grupe koje su veoma obespravljene i nemaju nikakvu stvarnu moć imaju tendenciju da se zaoštre - upozorava fizičar.

AI neće zameniti dosadne poslove

- U industrijskoj revoluciji smo automatizovali rad mišića. Na kraju je to dosta dobro funkcionisalo jer smo se školovali, počeli da radimo sa mozgom i dobijali uglavnom interesantnije, bolje plaćene poslove. Međutim, sada počinjemo da zamenjujemo intelektualni rad. To je sve išlo na posao", rekao je on. Zamenili smo mnoge dosadne poslove, na primer, napravili smo da imamo džepne kalkulatore tako da ljudi na poslu više ne moraju da sabiraju i množe.

To je u redu jer ima i boljih poslova. Međutim, GPT-4, Stable Diffusion i slični sistemi sada zaista počinju da oduzimaju poslove koje su ljudi zaista voleli da rade. Nedavno sam na društvenim mrežama video članak o čoveku koji je radio 3D modeliranje za igre, a onda se iznenada pojavio novi softver koji on samo daje uputstva. Oseća da je ceo posao koji je voleo izgubio smisao.

Zamolio sam GPT-4 da otpeva uspavanku 'Sjaj, sijaj zvezde' u stilu Šekspira. Nisam to mogao tako dobro. Bilo je zaista impresivno... Videli ste mnogo umetnosti koju AI radi. Zato sam za automatizaciju opasnih i dosadnih poslova. Ali mislim da postoje neki argumenti koji nisu validni, prema kojima će se upravo to desiti – da će AI zameniti samo opasne i dosadne poslove. To jednostavno nije istina. Vidimo da to već oduzima veoma interesantne poslove - upozorio je on.

Ipak ima nade za nas!

Tegmark se u razgovoru osvrnuo na tezu Elizera Judkovskog, koji smatra da je velika verovatnoća da će AI u budućnosti potpuno istrebiti ljude.

- Pre svega, veoma poštujem Eliezera Judkovskog. Takođe delim njegovo uverenje da postoji prilično velika verovatnoća da mi ljudi nećemo preživeti, da više neće biti ljudi na planeti u ne-suviše daleka budućnost... Nedavno sam rekao svojoj ženi da se osećam kao novodijagnostikovani rak za koji postoji izvesna verovatnoća preživljavanja i izvesna verovatnoća umiranja.

Međutim, nisam toliko pesimista. Mislim da za nas ima nade. U tom slučaju nas očekuju neverovatne stvari - kaže Tegmark, koji veruje da bi mogli da se naprave programi za testiranje veštačke inteligencije.

(Index)