Da odmah odgovorim bez da klikbejtam, trenutno nikakva. Za stotinjak godina? Skoro nikakva. Dobro došli u članak koji će u idućih godinu-dvije vjerojatno već debelo zastariti. Ma šta dve godine, možda i za dva tjedna.

Ovo je trebao biti totalno drugačiji tekst, ali prije par mjeseci je stiglo Midjourney ludilo i općenarodna internetska panika “za nekoliko godina će posao crtača zastariti, a osim njih i fotografa, animatora, glazbenika, pisaca, glumaca i umjetnika uopće, svi su najebali” pa sam trebao prekrojiti cijeli koncept i sad je tekst postao turbo-predugi i kaotični mish-mash tema kojih se dotiče umjetna inteligencija, a umjetna inteligencija se trenutno dotiče svega. Pa krenimo, kako drugačije, nego od početka.

A početak je ranije nego što možda mislite!

Zbog cijelog diskursa o strojevima koji kradu naše poslove i opće s našim partnericama, prisiljen sam početi skroz od početka 19. stoljeća kad je tkalački stroj programiran bušenim karticama oduzeo posao mnogim stručnjacima za tkanje. Ne znam koliko je utjecao na pašku čipku, ali nekad dug, težak, precizan i jako dobro plaćen posao je odjednom stroj mogao napraviti brže, jeftinije i čak preciznije. Ljudi kojima je uništen vrlo lukrativni posao, osnovali su tajno društvo Ludita i izveli nekoliko akcija uništavanja tkalačkih strojeva širom engleske, dok ih država i policija nisu zaustavili i kaznili tako što su ih smaknuli, ili još gore, poslali u Australiju. Njihovo društvo, Luditi, postala je posprdna imenica za svakog tko se protivi tehnološkom napretku.

Danas se na Ludite gleda posprdno, ali neki mislioci ipak pokušavaju bacit pogled iz perspektive u kojoj se razmišlja tko je zapravo kriv za njihove probleme. Jesu li stvarno krivi strojevi koji su samo radili svoj posao? Je li nevidljiva ruka ljudskog napretka samo imala kolateralne žrtve? Možda su krivi sami Luditi, koji se nisu prilagodili tržištu, nego su krenuli nasilno protiv napretka? Ili su ipak krivi poslodavci koji su zaposlenike brzinski zamijenili strojevima i preniskim cijenama zatrli konkurenciju zbog kratkoročne zarade, bez da su razmislili kako mnogi zaposlenici, svojim znanjem, iskustvom i spretnošću, ipak mogu doprinijeti radnoj snazi? Možda se kasnije vratimo na tu temu, bogzna di će me sad ovaj tekst odvest. Dosta steampunka, ajmo mi skočit sto i kusur godina naprijed.

Bio jednom jedan Turing

Vjerojatno ste svi čuli za poslovicu da svatko na internetu mora biti gej inače je Alan Turing umro bez veze. No, osim te vrlo popularne poslovice, Alan je nešto manje poznat po tome što je izradom kompjutera spasio svijet od Hitlera, a još je manje poznat po tome što je možda i prvi korisnik izraza “strojno učenje” iliti “machine learning”. To je izraz kojeg ćete se vjerojatno načitati u ovom tekstu. Još davne 1948. je u svom izvještaju “Intelligent Machinery” pisao da stroj koji razmišlja treba dobiti prazan um poput djetetovog, umjesto odraslog uma punog mišljenja i ideja. Tekst je objavljen tek 1968. što pokazuje da je još jako dugo držao vodu. A i dan danas je zanimljiv za pročitati.

Naravno, ne treba sve njegove izjave koristiti kao bibliju savršeno točnih izjava kojih se moramo pobožno držati. Pisao je on i kako bi odgoj takvog “inteligentnog stroja” trajao nekih 50 godina te je navodno imao i čudne teološke rasprave o tome kako da računalo dobije dušu. No sve to skupa i dalje zvuči znatno pametnije od izjava mnogih modernih informatičara pa se ne treba hvatati za sve što je izvalio kad bi si možda malo popio. Ipak je Alan i autor “igre imitacije” danas poznate kao Turing Test. Znate za nju, ako ste ikad čitali išta o umjetnoj inteligenciji. Igra je jednostavna. S jednog terminala piše čovjek, s drugog računalo. Na vama je da komunicirate s oboje i zaključite koji od njih je čovjek.

Danas se Turing Test često svodi na pojednostavljeni “test jel kompjuter može glumit čovjeka” i po tim kriterijima, kompjuteri su ga davnih dana prošli. No sve je to bilo puno filozofije od strane ljudi okruženih magnetnim kotačima, ogromnim lampama i računalima koja griju ko jebena toplana. Ajmo preskočit priču na nešto novije i konkretnije.

Bio jednom jedan Kurcvel

Nedavne 1948. Turing je pisao svoj gorespomenuti rad, a Ray Kurzweil se te godine taman rodio.

1968. se netko napokon sprcnuo objaviti gorespomenuti Turingov rad, a iste godine je student Kurzweil napisao program koji srednjoškolcima procjenjuje na kakav fakultet bi išli. Isti program je prodao za tadašnjih sto tisuća dolara plus beneficije od autorskih prava. Naravno, što će njemu neka tričarija od programčića za parsto iljada dolara, vrlo brzo se bacio na osnivanje tvrtke koja radi OCR.

Mlađa publika možda ne zna, OCR je Optical Character Recognition ilitiga prepoznavanje znakova na slici. U domove nas širokih masa, OCR je promolio nosove tek cca 1990ih kad su se telefaxi i skeneri masovno počeli razgovarat s kućnim računalima pa smo mogli doživjeti čudo toga da računalo na rasterskoj slici prepoznaje nacrtane znakove i relativno precizno ih pretvara u digitalne znakove. “Relativno precizno” će isto biti jedan od izraza koji će se vjerojatno prožimati ovim tekstom jer prava moč umjetne inteligencije zapravo dolazi iz relativnosti njene preciznosti.

Ali taj Kurcvelov genijalni um je stvorio nešto još genijalnije od programa za OCR ili programa koji vam kaže na koji fakultet da odete. Genijalnije i od programa koji je, u suradnji sa Steviem Wonderom, uspio stvoriti relativno precizni sintesajzerski zvuk koji pomalo liči na stvarne glazbene instrumente. Čak genijalnije nego, vrlo bitan, i vrlo ogroman doprinos u radu na umjetnoj inteligenciji, temi ove litanije. Može li išta biti genijalnije od svega toga? Može! Kurcvel je uspio izumiti najavu apokalipse i vječnog života prikladnu ateistima.

Kao pravi filozof, futurist, trgovac i “znanstveno-potkrijepljeni prorok”, uspješno nam je, između hrpe relativno preciznih predviđanja tehnološkog napretka, prodao priču o “singularitetu” tj. događaju gdje će umjetna inteligencija prestići ljudsku maštu i postati glavni izumitelj svega novoga, sposoban da nadograđuje i sebe i nas. Bit će to post-kapitalistička utopija gdje će svi naši mozgovi biti uploadani na internet po kojem ćemo slobodno letati informacijskim poljanama uživajuči blagodati svemoći i vječnog života, dok naš benevolentni vladar, AGI, razvija nove i bolje načine da proživljavamo konstantne orgazme dok on širi svoju vladavinu svemirom.

A. G. I. iliti Artificial General Intelligence

Ovo je savršeno mjesto da se prebacim na AGI i pustim vas s pričama kako sam Kurcvela zadnje vidio da radi za Google i usput prodaje neke juhe za produženje života. AGI (u daljem tekstu Agi) je “opća umjetna inteligencija” tj. umjetna inteligencija koja obuhvaća svaku specijaliziranu umjetnu inteligenciju i radi slično ljudskoj inteligenciji – snalazi se u novim situacijama, nevezano što ta situacija bila.

Recimo to ovako, Ne možete očekivati od računala specijaliziranog za igranje šaha da upravlja robotom koji igra nogomet. Pravi Agi tj. “umjetna opća inteligencija” bi mogla oboje i još više. Naravno, svi kad čujemo za Agija, odmah se pitamo, postoji li već tako neki Agi samo lošiji, možemo li se nadati upotrebljivom Agiju uskoro, hoće li Agi biti dobrodušan kao u Kurcvelovom znanstveno potkrijepljenom tripanju ili zloćudan kao u onim filmovima sestara Wachowski di Bill i Ted u kožnim kaputima izbjegavaju metke i gledaju screen saver na kojem zelena slova padaju po ekranu?

Najpametniji ljudi na internetu bi sad puknuli kako je istina negdje u sredini. Podsjetite me da jednog dana napišem nešto o tome zašto je traženje istine “negdje u sredini” zapravo hrpa govana nasilno izvađena iz ideje “treba poslušati sva mišljenja” koja je uglavnom isprika za izmišljanje novih i luđih ekstrema kako bi nečija navodna “sredina” zvučala manje glupo.

Da spojlam kraj ovog članka, Agi, ako će ga biti, bit će točno onakav kakvim ćemo ga napraviti. Kad kažem “mi”, ne mislim na neke nedruštvene znanstvenike koji po cijele dane čitaju znanstvene radove, a razgovaraju se isključivo s kompjuterima. Mislim na sve nas. Agi će biti onakav kakvi ćemo svi bit, od vas koji čitate ovaj tekst, do ljudi koji ga ne čitaju. Ali prije dovođenja finalnih zaključaka, trenutno imamo previše pitanja u tekstu. Ajmo prvo probat odgovorit na bar neka od njih.

Ima li Agi dušu?

O ovom bi se dao cijeli teološki rad složiti, ali kako se ljudski rod nije još skroz dogovorio ni oko toga jel psi stvarno idu u raj, radije ću pričati o tome što ćemo mi ljudi misliti o Agiju i njegovoj duši. Ljudski mozak, uz sve moje pohvale, nije pretjerano pametan. Dajte nam toster i pržit ćemo tost dok toster ne crkne. Dajte nam toster na koji ste zalijepili googly eyes i umrijet ćemo od tuge ako ikad vidimo da je našem tosteru teško. Zato je teško čuditi se svima koji su proživljavali troslome živaca dok bi gledali video materijale gdje Boston Dynamics testira svoje hodajuće robote, tako što ih nemilosrdno mlati, gura, popikava ili ih tjera na klizavi teren.

Ali zapravo, to je sve normalno. Mi ljudi smo, uz sve naše nasilne ispade, stvorenja puna empatije za sve oko sebe. Ono što je možda manje normalno, bila je nedavna situacija gdje je Googleov inženjer popizdio i izjavio kako je u njihovom laboratoriju spontano samonikla umjetna inteligencija koja ima dovoljnu razinu svijesti da ju se ne bi nikad smjelo ugasiti jer je to ravno ubojstvu djeteta. No u toj priči je čak manje šokantno da je netko poludio, više je šokantno da smo stigli do razine gdje umjetna inteligencija iz ničega nauči razjebat turingov test i uvjerit nekog da je pravo pravcato virtualno dijete.

Iz ničega?

Naravno “iz ničega” je laž koju nam plasiraju vlasnici umjetnih inteligencija u želji da nam prodaju svoje radove koristeći naše vlastite riječi i slike, bez da ikome za to daju zaslugu ili, još gore, novac. Umjetna inteligencija se trenira kroz “machine learning” iz setova podataka. Otkud setovi podataka? S interneta! Tko je te setove podataka stavio tamo? Mi. Tko to “mi”? Svi mi! Vi, ja, vaš susjed, baba iz dućana koja ponekad komentira članke na 24 sata i šera slike svog kolača s unucima. Mi svi na internetu!

Sad, nadam se, počinjete opažati zašto će Agi, ako zavlada svijetom, biti točno onakav kakvim ga stvorimo. Trenutna umjetna inteligencija je stvorena iz materijala pobranih sa širokih internetskih poljana. Iz tog razloga, praktički svaka umjetna inteligencija, osim što je neprecizna, ima hrpu groznih ljudskih osobina – često vjeruje u gluposti, često je rasist, ima problema s crtanjem očiju i ruku, a ima i problem s osnovama matematike. Dobro ste pročitali, razvoj machine learning umjetne inteligencije stvorio je računalne programe koji su zaboravili matematiku. Ali to nije spriječilo mnogobrojne tvrtke da svejedno krenu koristiti nepouzdanu i nepreciznu umjetnu inteligenciju kao zamjenu za jeftinu radnu snagu, čak i na mjestima gdje je potrebno biti vrlo precizan.

Svim nedostacima unatoč, ovo sve meni i dalje izgleda kao neočekivano napredna cyberpunk budućnost. Ali to je zapravo svakodnevica već jako velik broj godina. Sjećate li se kad je Facebook prvi put uveo masovno prepoznavanje lica u slikama? Evo guglo sam umjesto vas, bilo je to 2010. Prije više od dvanaest godina! Machine learning se već odavno koristi za prepoznavanje stvari u slikama, razaranje protivnika u igri Go, automatskim autima koji voze sami, novelty programe koji iz starih slika stvaraju lica u realističnom pokretu, računanje zdravstvenih problema iz praćenja menstrualnog ciklusa, one aplikacije koje vas prikazuju kakvi bi bili kao starci ili drugi spol, varanje u šahu, posprdno upravljanje šaljivom političkom strankom itd itd.

Ali kako je prepoznavanje lica bilo uvedeno prije nego smo se dogovorili na koji način umjetna inteligencija smije skupljati podatke za prepoznavanje lica i prekasno zaključili da je masovno uzimanje lica s interneta povreda privatnosti jer nemreš nečije lice prodavat firmama koje onda to lice prodaju drugim firmama. Zato je copyright problem mnogih umjetnih inteligencija čije znanje ovisi o tome da nemilice pobiru naše podatke i koriste ih za vlastitu zaradu. Uz sve zakonske probleme i probleme nepreciznosti umjetne inteligencije, pitanje koje bi neki ljudi nametnuli na ovo jest, isplati li se ulagati u dalji razvoj, s očekivanjem da će umjetna inteligencija jednog dana postati preciznija i bolje prilagođena ljudskim pravima?

Logaritamsko opadajuća funkcija

Tu negdje oko 2017. pojavila se nova tehnologija zvana Deepfakes. Nastao je kaos sličan nedavnoj reakciji na Midjourney. Svi su plakali da je gotovo s istinom, svaki video će sad biti lažan. Nema više ni glumaca u Hollywoodu, sad će ih se lako zamijeniti mrtvim glumcima, srušilo se sve! Ok, od tada je prošlo samo 5 godina, ali deepfakes nisu postali ništa bolji. Hollywoodski pokušaji da se stave mrtvi glumci, izgledaju stoput gore od nekadašnjih maski. Čak ni puno starija tehnika ljudskom rukom obrađivane fotografije (ilitiga fotošopiranja) nije dostigla nivo u kojem će itko dovoljno lako prevariti stručnjaka. Ne kažem da to sve nikad neće prestići ljudsko oko, ali machine learning za sad ima još puno bajtova za papati prije nego ga prestanemo zvati relativno preciznim i počnemo ga zvati preciznim.

Evo baš je nedavno Stack Overflow, forum za pitanja o programerskim problemima, postavio presedan tako što je ukinuo umjetnu inteligenciju koja odgovara na pitanja korisnika. Zašto su to ukinuli? Svatko tko je probao na Microsoftovoj stranici tražiti rješenja za probleme s Windowsima 10 će odmah znati – zato što je umjetna inteligencija ponekad pisala gluposti koje jako jako liče na točan odgovor, a zbog toga više mozga čovjek potroši na razmišljanje jel to točan odgovor ili glupost, nego na čitanje hrpe ljudskih odgovora koje nije pisao polu-random ludi stroj.

I tu otkrivamo problem koji će još jako dugo odgađati pouzdanog Agija. “Machine Learning” Algoritmi često zvani “umjetne inteligencije” LAŽU! I to lažu dosta uvjerljivo. A najgori dio je što ni ne znaju da lažu. Oni samo rade sve što im je dostupno kako bi rješili problem.

Crna kutija – kako zapravo radi machine learning?

Za početak, pod “crna kutija” mislim na onu crnu kutiju iz fizike, a onda je ispalo da se tako zove i službeni način izrade umjetne inteligencije jer očito ovaj tekst nije dovoljno zbunjujuč. Nije mi lako opisati univerzalno kako to radi jer, kao što možda znate, pisanje teksta, crtanje fotografija, vožnja automobila i prepoznavanje lica na slikama su dosta različite aktivnosti. Ali da probam… Sjetimo se Alana Turinga i njegove izjave da mašina koja uči treba biti kao dijete, slobodna od znanja i mišljenja.

Prvo, oformite “neuralnu mrežu” točaka koje mogu reagirati istodobno. Na te točke spajate senzore i udove. Nakon toga, programu nudite nagrade ako radi stvari koje želite, tako što miče udove, ovisno o tome što osjeti preko senzora. I onda ga, za razliku od normalnog programiranja, pustite da se trenira sam. Osjeća senzore, miče udove i malo po malo, svaki put kad dobije više bodova nego prije, zapamti što je radio i nakon resetiranja simulacije proba opet isto, ali s malim mutacijama. Rezultat? Program će raditi ono što mu daje najviše bodova. Iako ste vi osoba koja je odredila bodove, previše često se dogodi da rezultat s najviše bodova nije ono što ste htjeli. Ali možete i to riješiti, čovjek bi pomislio, samo treba premještati bodove kad se vidi da program radi gluposti. Evo prijedlog: Svaki put kad nešto napravi, vi mu osobno i subjektivno odredite bodove i tako ga učite. Na žalost, to nije rješenje. Neki programi moraju proći desetke tisuća (ponekad i miliona) generacija, nitko nema toliko vremena zaboga da gleda svaku glupost koju je program radio. Onda je tu dosta dobro rješenje uposlit drugi program koji pazi na prvi program… vidite kamo to vodi.

A vidite i gdje nastaju problemi s bugovima. Machine learning algoritam se ne programira u klasičnom smislu davanja direktnih naredbi. Machine learning se, u neku ruku, uzgaja skoro pa Montessori metodom. Klasični programi, na kakve smo do sad navikli, su hrpa naredbi koje, ako nešto krivo rade, rade krivo jer smo im krivo zadali direktnu naredbu. Trebamo im pretražiti i otkrivati greške. To zna biti katastrofalno teško, no rješivo. Crna kutija machine learninga ima tolike količine otpadnih podataka da je traženje ičeg upotrebljivog skoro nemoguće, a ispravljanje bugova doslovno nemoguće. Ljudski um to nije sposoban raditi. Ti algoritmi, navodno, često oforme i nekakav interni jezik, da mogu komunicirat unutar samih sebe. To se ne može popravljati klasičnom metodom pretraživanja naredbi. Vrlo često, sve što se može je probati uzgojiti novi program od početka. Nego, jeste li znali da je 98% ljudskog DNA smeće koje ne služi ničemu, a samo jedan mali dio ima podatke o cijelom tijelu te razmnožavanju istog? Sličnost DNA s crnom kutijom podataka umjetne inteligencije nije slučajnost. Za machine learning se koristi metodika jako slična biološkoj evoluciji – pusti da uči sve što se dogodi i na kraju koristi ono što je korisno.

Kako radi prepoznavanje slika?

Naravno da prepoznavaći lica i generatori slika nisu nastali slučajno kad je netko pustio program da šeta ulicom i ovaj je usput naučio prepoznavati slike. Da ponovimo, Agi još ne postoji i neće postojati još jako dugo. Postoje samo programi sa specijaliziranim funkcijama. Trenutno najpopularniji sustav rada sa slikama radi kroz stabilnu difuziju. Difuzija je onaj neki fenomen u fizici kad je hrpa točaka u prevelikoj gužvi pa se rašire da im bude udobno. Kako se točno ovdje to koristi, nemojte me pitat, malo sam seljo za takve stvari, ali evo možete vi probat pročitat pa javite ako ste shvatili. Načelno, program u svaku sliku koju dobije za trening, doda određene točke “buke” i koristi ih da prepoznaje komade i patterne. Tih točaka ima dovoljno malo da ne treba svaki put pregledavati cijelu sliku, ali dovoljno puno da ima relativno pouzdanu sigurnost o čemu se radi. Kroz Machine Learning, usporedbom slika kombiniranih s tim setovima točaka, neuralna mreža sa dovoljno slika žirafe (koje je netko unaprijed spremio u ladicu “ovo je žirafa”) može s vremenom naučiti prepoznavati nove žirafe koje ranije nisu bile u ladici.

Naravno, s tim točkama se mogu čuda raditi. Ali, s obzirom na to da sustav nije čovjek koji prepoznaje neke nama totalno avangardne stvari, nego je ekvivalent nekoj vanzemaljskoj inteligenciji, često ga se može sjebat na najgluplje načine. Već godinama postoje, ne samo maske, već i naljepnice ili apstraktni crteži na majicama koji zbunjuju neke specifične neuralne mreže da pomisle kako nešto na slici nije banana nego toster.

A generiranje slika?

Programi za generiranje slika mogu koristiti te točke da na nevjerojatan način prvo shvati rečenice koje smo mu natipkali, a onda kombinira elemente raznih slika u nama vrlo prepoznatljive kombinacije, ovisno što smo zadali svojim rečenicama. Detaljnije objašnjenje dobro daje ovaj gospodin na youtubeu. Ukratko, ako umjetna inteligencija ima u sebi hrpu slika umjetnice i porno glumice Stoye te hrpu crteža kiborga i nindži plus crteže koje je crtao Moebius, program može upotrijebiti te točke da složi originalni set slika prema vašoj naredbi “stoya as a cyber ninja, by moebius”.

I ne, nisam slučajno napisao “originalni”. Usporedba točaka ne daje puno lošije rezultate nego neki relativno dobar crtač koji pogleda mnogobrojne slike pa nacrta isti zadatak. Na tim slikama, oči su često krivo crtane, a prste nemojte ni gledati jer su uglavnom hrpa mutnog kaosa. Možda to poprave jednog dana, no koliko je moguće da uzgojiti program koji radi ljudima ljepše oči i ruke, bez da zadrži raznolikost trenutnih programa je u bližoj budućnosti jako upitna. Nepreciznost je bitan dio osnove umjetne inteligencije pa zato x nikada ne dostigne nulu. O originalnosti da ne pričam, još dosta dugo ni jedna umjetna inteligencija neće znati stvoriti ni blizu nešto originalno, a ljudima ugodno, kao što bi znali ljudi. A osim toga, što umjetna inteligencija zna što je originalno? I dalje je to stroj koji je učen nekim bodovima.

Što bi Moebius i Stoya trebali misliti o ovome?

Ako se ove slike gore mogu smatrati originalnim crtežima, imaju li autori programa autorsko pravo nad tim crtežima i jel to znači da ćemo uskoro gledati Stoyu kako, poput Ludita prije 200-tinjak godina, čekićem razbija farme servera? Za sad zakonik kaže da ne treba brinuti. Ako koristite program da svojim rukama stvorite djelo (npr. sami nacrtate crtež u photoshopu), imate autorsko pravo na njega. Ako date programu da samostalno generira djelo, nitko nema pravo na njega. Kompjuter nije čovjek nego stroj, a stroj ne može zadržati autorsko pravo!

Taj zakon će se mijenjati prije ili kasnije. Se sjećate ono kad sam spomenuo da će jednog dana Agi vjerojatno biti inteligentan i originalan koliko i mi pa i više? Evo, naše krojenje zakona i podređivanje korporativnoj pohlepi nas može sjebat debelo prije Agija. Netko je jako pametno rekao, ako ne pripazimo na to što ogromne firme trenutno lobiraju, Disneyev smrznuti leš će počet besplatno koristit vaše crteže da jeftinije napravi novi Star Wars, ali i tužiti vas ako vi probate napraviti svoj Star Wars.

Kako pišem ovo, novije vijesti se pojavljuju i mijenjaju mi tekst. Ako to ne pokazuje koliko ludilo je u razvoju tehnologije i zakonima oko nje, ne znam što bi bolje pokazivalo. Znači, jučer-prekjučer je izletio AI generated image koji je generirao relativno precizan watermark od Gettyimages (crvenu strelicu sam ja dodao). Glupi program je replicirao watermark za zaštitu od korištenja komercijalnih slika! Nebu dobro!

Mitovi i legende

Umjetna inteligencija je vrlo korisna i moćna stvar, ako je u pravim rukama i ako je pravilno korištena. Ali zbog svoje mistične i teško razjašnjive prirode, koja ima crnu kutiju umjesto očitog seta naredbi, postoji hrpa mitova. Mitovi variraju od kratkoročnih i zbrzanih apokaliptičnih najava da će spontano samonikli Agi sve pobit i porobit, do kriptida koji opsjedaju AI generatore slika. Ne mogu reći da ljudi imaju previsoka očekivanja od umjetne inteligencije. Rekao bih čak da imaju preniska očekivanja, u idućih desetak godina će se svijet okrenuti naglavačke, ali nikako na načine koje bi itko od nas očekivao.

Znači sigurni smo od zlog Agija?

Kolika je zapravo šansa da se uopće dogodi Artificial General Intelligence koji nas prestigne inteligencijom i maštom? Neki kažu da nije pitanje hoće li se dogoditi već kada će se dogoditi. S druge strane, pitanje je hoće li se to dogoditi za 10, 100, 1000 godina i hoće li ga prestići ekološka katastrofa, nuklearni rat, božja apokalipsa, konvergencija fizičkih ljudskih mozgova u jedan megamozak, dolazak ultra-naprednih aliena, dolazak ultra-naprednog alienskog Agija ili nečeg sedmog što nikom nije ni palo na pamet. Neki ljudi kažu da je odgovor negdje u sredini. Kao što sam ranije zaključio, ti ljudi su kreteni.

Zbog krivog korištenja umjetne inteligencije se može dogodit opće sranje, što ćemo po vijestima gledat sve više. Znate da se očekuje hrpa problema kad određena automobilska kompanija prilagođava umjetnu inteligenciju za izbjegavanje sudske tužbe zbog potencijalnih sudara. Ali nevezano za to, od samog Agija smo sigurni još godinama, vjerojatno i desetljećima. Ali to ne znači da se ne treba pripremati za to.

Trenutni futuristi, informatolozi i drugi teoretičari su vrlo sigurni da će Agi raditi po sustavu istom ili vrlo sličnom trenutnim Machine Learning neuralnim mrežama. A Machine Learning ima gadnih problema sa sigurnosnim sustavima. Zato i laže.

Jeste li čuli za legendu o Golemu, stvorenju od gline koje neumorno radi ono što mu se naredi? Golem je snažan i neumoran. Jednom kad krene, ne može ga se zaustaviti dok ne obavi posao, ako taj posao uopće ima kraj. Ali ipak, bio je jedan način da ga se zaustavi. Sve što treba je izbrisati simbol na njegovom čelu. Moderni pametnjakoviči kažu kako je ta legenda glupost jer bi realistični Golem garantirano zaustavio svakoga tko mu proba pobrisati znak na čelu. Ne zato što se boji smrti, već zato što zna da će ga to omesti u obavljanju zadatka.

Problem tipke Stop

Evo jedan pseudo-zen “drvo padne u šumi” filozofski problem koji pokazuje zašto bi Agi mogao biti problematičan. Recimo da imate svoj vlastiti Agi koji se može propagirati mrežom, koristiti neke od mehaničkih naprava spojenih na mrežu pa čak i razgovarati s ljudima na internetu. I tako vi svom Agiju kažete “Agi brate, aj ti meni štampaj neke spajalice za papire i onda ih prodaj da zaradimo para i raširimo biznis!”, a Agi će na to “Što da ne, odo ja vidit kak se rade spajalice”. Počne super, Agi pribavi žicu, krene štancat spajalice, pošalje par ponuda, zaradi pare za još žice, proizvede još spajalica, sve super. Samo vi ne vidite ništa tih para, njemu sve treba za kupit još žice, dodatnih robota koji slažu žicu, nove trgovine spajalicama itd. Možda metal može dobiti i iz armature vaše kuće pa vam odjednom krene rušit kuću da pribavi još metala za žicu od koje radi spajalice. On ne želi stat, on vam ne želi dozvolit da stisnete tipku stop, on želi samo proizvoditi i prodavati spajalice. Ali što ako mu probate dati neke bodove ako se tipka stop stisne? Ništa, to nije dovoljno bodova, krajnji cilj nudi više bodova. A što ako mu date hrpe bodova za stiskanje tipke Stop? Onda će jednostavno stisnut tipku Stop čim ga uključite.

Zvuči suludo? Ljudi ne rade ništa drugačije. Nitko u ovom svijetu nije potpuno sretan, nezadovoljstvo je ono što nas često gura naprijed u želji da budemo zadovoljniji. Ali što da vam netko ponudi čarobni napitak koji će vas doživotno učiniti potpuno sretnim ako (za potrebe filozofije savršeno legalno) ubijete nekog koga jako volite npr. svoje dijete? Zašto to ne bi učinili? Nećete od toga biti nesretni, čak što više, bit ćete napokon stvarno sretni zauvijek. I dalje niste uvjereni? Bome nije ni Agi kad mu probate objasnit da vam prestane rušit kuću i da vam dozvoli stisnut tipku Stop.

Agijeva moralna dilema

Problem tipke Stop ne bi trebao biti problem koji treba riješiti da bi mogli ići dalje, nego biti jedan od filozofskih primjera kako bi Agi mogao proći po krivu. Ali, na žalost, ipak će tako nešto trebati riješiti. Mnoge te moralno/filozofske probleme će trebat dogovorit što je točno rješenje, ako želimo pustiti umjetnu inteligenciju da radi stvari umjesto nas. Znate li onu filozofsku vježbu di će vlak zgazit 5 ljudi, osim ako ga skrenete da zgazi samo jednog čovjeka za čiju smrt ste onda vi osobno odgovorni, ali je umro samo jedan umjesto pet? Ta vježba je nekad bila demonstracija koja je pokazivala da neke moralne probleme čovjek jednostavno ne može riješiti jer je svaki odgovor nemoralan. Uvođenje umjetne inteligencije je to poništilo. Odjednom moramo riješiti doslovno taj problem jer uskoro nas čekaju auti koji samostalno voze i u trenutku panike biraju hoće li pregaziti pet ljudi ili skrenuti da namjerno pregaze jednog. Ako želite sudjelovati u toj vježbi, preporućam ovaj odličan mini game koji možete igrati sa svojim prijateljima na tulumu jer će zabaviti pa zdeprimirati cijeli tulum. A kad netko kaže “ovo je glupo odabrati i nema smisla”, podsjetite ga da će netko to jednog dana morati odabrati ako na cesti želimo auto koji samostalno vozi.

Ako vam je ovaj mini game prebanalan, imam još bolji. Jeste li ikad vi htjeli biti Agi koji ima cilj proizvoditi i prodavati spajalice? Postoji Universal Paperclips, clicker game koji je uglavnom u text modu, jako je spor i izgleda dozlaboga ružno, ali ako dovoljno dugo klikate po tipkama, počet će se dešavati jako jako čudne stvari.

Znači ipak ima šansa da nas Agi sve porobi ili pobije

Evo sad kad smo sve ovo gore naučili i zapamtili, možemo razmisliti o tome što znamo. Umjetna inteligencija će nam oduzeti poslove ako ju pustimo da sve radi sama bez ljudskog inputa. Jednom kad/ako Agi prestigne ljudsku inteligenciju i maštu, Agi će biti najbrži način za napredak, ali Agi nikad neće biti savršeno precizan. Davati Agiju apsolutnu vlast u ruke je riskantno kao i davati apsolutnu vlast bilo kojem drugom pojedincu. Jedna kriva misao i postoji opasnost da ne stignemo stisnut tipku Stop. I zato, sve što možemo je probat biti bolji ljudi kako bi Agi iz našeg kolektivnog znanja na internetu naučio biti razuman i empatičan. U protivnom, Agi će apsorbirati sve naše greške i koristiti ih protiv nas.

A zapravo, ako Agi ispadne samo replika naše kolektivne svijesti a dogodi se scenarij iz Terminatora, možda jednostavno treba pustit Agija da nas sve pokosi, jer u tom slučaju, očito bolje nismo ni zaslužili. Posebno ljudi koji si briju da su oni i njihovi potomci sigurniji od drugih. Ti će prebrzo naučiti da Agi ne treba ljude na visokim položajima, Agi sve pokušava riješit sam, baš kao pravi fašist.

Agi će biti glup ako smo svi glupi. Agi će biti zao ako svi dozvolimo da svijet nastavi biti zao. Agi će lagati… ok tu vjerojatno nema pomoći. Agi će biti pohlepan ako ćemo svi biti pohlepni. Agi će se ponašati kao bolesni fašistički robovlasnik ako pustimo da bolesni fašistički robovlasnici i dalje budu vladari i direktori koji određuju kako će se trenirati Umjetna Inteligencija. Zaključak? Dolje vlada! I klasična i korporativna!