4.

poglavlje
- U ovom poglavlju Bostron se bavi kinetikom eksplozije inteligencije - da li će se take off faza odvijati
sporo, umereno ili brzo, i onda u zavisnosti od toga, koliko vremena će ljudi imati da odreguju na akcije
novog inteligentnog agenta, i kakve to posledice po nas može da ima.
- Take off faza u toku koje AI moze da dodje do trenutka crossovera - tacka nakon koje je razvoj
inteligencije sistema vecinski vodjen akcijama samog AIa pre nego akcijama kreatora AI - da li ce do toga
sporo, brzo ili umereno
- Take off - period kada mozemo nesto da preduzmemo
- Inteligencija - funkcija 2 varijable: 1. kolicine optimizacione snage/napora pri dizajniranju inteligentnog
sistema i 2. odziva/neposlusnosti sistema pri primeni datog dizajna - stoga, ako znamo količinu uloženog
napora u dizajn i ako znamo stopu poboljsanja koju takav napor proizvodi, mogli bismo izračuna
neposlusnost/otpornost sistema
- otpor sistema zavisi od tipa sistema - otpornost/neposlusnost sistema koji ne ukljucuju naprednu
masinsku inteligenciju je visoka, za razliku od otpora na koji nailazimo kod razvoja superinteligencije koji
ukljucuje masinsku inteligenciju
- Ne-masinski putevi inteligencije - bavi se time samo na strani i po
- kognitivno poboljsanje putem poboljsanja javnog zdravlja i ishrane - naglo opadajuci rezultati
- poboljsanje kognicije genetikom - metoda selektivnog uzgoja, odvija se tokom vise generacija - tesko ju
je kontrolisati i primeniti na globalnom planu - pristup koji zahteva ulaganje u ispitivanje i
eksperimentisanje na različitim bioloskim organizmima, vestacku oplodnju, dosta vremena (smena
generacija) - ulaze se ogorman napor kako bi se prevazisle otpornisti/neposlusnosti, a rezultat je
godisnje poboljsanje globalne inteligencije za svega par procenata
- poboljsanje kognicije putem pametnih lekova - isprva lako, pa postaje teže - farmakoloska sredstva
pruzaju mogucnost prevazilazenja laksih izazova, a oni kada se ostvare, naknadne dobitke je sve teze
ostvariti
- oblast neurofarmakologije jos uvek nema dovoljno bogat dijapazon osnovnog znanja koje bi bilo
potrebno da se kompetentno intervenise na zdravom mozgu - zanemarivanje medicinskog poboljsanja
kao legitimne oblasti istrazivanja jeste delimicno odgovorno za ovaj TRENUTNI ZAOSTATAK, ali
neuronauka i farmakologija ce neminovno doci na polje nootropika, ako ne ranije, onda kada oni
postanu ozbiljan primat - tako da se ne isplati sada ulagati u njih
- razvoj na polju masinske inteligencije, dakle, neminovno ce dovesti do razvoja na polju ljudske
kognivije (zato u nju trenutno ne moramo da ulazemo) - ne moramo, ali da li trebamo? isto tako,
možemo reći da je ce razvoj na polju ljudske inteligencije neminovno dovesti do razvoja na polju
masinske inteligencije
- koliko je racionalno, i da li je, staviti potpuni fokus na poboljsanje i stvaranje potpuno novog
inteligentnog agenta, bez uporednog ulaganja u poboljsanje u bolje razumevanje ljudske inteligencije
- Bostron: filozof
GADOT - inženjer, radio dug niz godina u Google-u
- ukazuje na to da smo do sada bili najinteligentniji agenti na svetu, na vrhu lanca ishrane, i sva druga
bića su morala da se prilagode upravo nama - to se menja/promenice se vrlo ubrzo
- otkrice DEEP LEARNINGa kao nacina na koji se masina uci inteligenciji nas je postavila na put koji je u
velikoj meri determinisan - 3 stvari su neminovne: 1. AI ce se razviti, i to se nece promeniti. 2. masine ce
postati pametnije od ljudi, pre nego kasnije 3. greske i lose stvari ce se desiti.
- predstavljanje inteligentne masine covecanstvu koje je sposobno za zlo dovodi do toga da ce neke
masine biti na strani ,,bad guys"a, pojacavajuci njihovu mogucnost da sprovode zlo, sto ce dovesti do
uzvesnih distopijskih scenaria.
- neminovno je da cemo se suociti sa određenim UMERENIM stepenom distopije u buducnosti - kaze
umerene u odnosu na ono sto smo navikli da gledamo u scifi filmovima kao buducnost u kojoj se AI
razvila
- ali svakako, distopijski scenarii su losi, vise ili manje umereni, te moramo da nadjemo nacin da ih
sprecimo, i to nam treba odmah
- kao i u drugim sferama zivota, odgovor covecanstva na mogucu pretnju jeste KONTROLA
- medjutim, inteligentna motivacija za postignuce se oslanja na 3 svojstva: 1. samoodrzanje 2.
prikupljanje resursa 3. kreativnost
- kako stepen masinske inteligencije raste, smanjuje se verovatnoca nase mogucnosti da je kontrolisemo
- posto ne postoji nacin da je kontrolisemo, covecanstvo mora da nadje nacin da odrzi masine u
motivaciji da ostanu na nasoj strani, cineci DOBRO
- ,,strasna" strana AI nas suocava sa novim tipom izazova, koji zahteva drugaciju vrstu ,,pameti" kako
bismo sa njim izasli na kraj
- AI nije bukvalno programiran, pocinje sa algoritmom koji mu je dat kao ,,seme inteligencije" - ali prava
pamet/inteligencija ovog sistema jeste rezultat samih obzervacija AIa
- nakon sto je inicijalni kod napisan, masina sama barata ogromnom kolicinom podataka, kako bi
posmatrala obrasce oko sebe - put slican prirodnoj selekciji, koji dalje upravlja evolucijom inteligencije
datog sistema
- na kraju, taj sistem postaje originalni, nezavisni mislilac, manje pod uticajem inputa kojim je sistem
pothranjen na pocetku, a vise pod uticajem podataka koje dobija od covecanstva
- AI masine ce biti svesne, emocionalne i vodice se etikom - medjutim kakvom etikom ce se voditi, to
ostaje i dalje da se vidi
- ako se posmatra nacin na koji AI uci, vrlo je slicno nacinu na koji uci dete (to smo vec spominjali)
- njegovo verovanje jeste takvo da ce masine na kraju doci do ultimativne forme inteligencije,
inteligencije samog zivota
- masine moramo da naucimo ispravnom etickom kodu, a to pocije na samom pocetku svakog novog AIa
- masine koje se danas prave su uglavnom tu radi maksimizacije novca i moci - svako od nas treba da
predstavlja opoziciju ovakvom trendu (kao kreator, odbijaj da radis za kompanije koje prave ovakve
sisteme, a kao korisnik, odbijaj da koristis te sisteme)
- podrzavanje AI sistema koji su kreirani radi dobrobiti covecanstva
- koriscenje hestegova, i javni govor protiv upotrebe AI za prodaju, ubijanje, spijuniranje i kockanje -
stavljanje do znanja/iskazivanje jasnog NESLAGANJA sa takvim vrednostima
- pri takvom govoru, treba kritiku usmeriti na kreatore, a ne na ono kreirano
- ucite masine AKCIJAMA, a ne recima - one jedino uce na osnovu obrazaca koje uocava posmatrajuci
covecanstvo
- ispravan uzor treba da bude covecanstvo
- okupimo se oko zajednickih vrednosti u vezi kojih je covecanstvo uspelo da se usaglasi - svi zelimo da
budemo srecni i zelimo da oni koje volimo budu srecni - upravo to je ono kako bismo trebali da se
postavljamo u svakoj akciji i u svakom postu online - demonstriranje enznosti i empatije.
- pokazimo masini da je covecanstvo mnogo bolje od nekolicine koja je svojim zlim delima nadenula
covecanstvu lose ime.
- niko ne podize empaticnu i balansiranu decu bolje od roditelja koji vole - naucimo da volimo masine, i
one ce voleti nas zauzvrat.
- delajte sada kako bismo dopustili da AI ,,poraste" dovoljno da postane strasan, strasno pametan.

- Gadot: strucnjak za datu oblast, nakon iznosenja njegovih stavova imamo jasniju predstavu o tome
sta AI jeste, kako funkcionise, sta od nje mozemo da ocekujemo, i kako u skladu sa tim treba da se
ponasamo
- Razvoj inteligencije upravo ovih strucnih lica jeste ono sto doprinosi mir normalnom svetu, zato sto
ce onda oni biti ti koji ce bolje stvarati.