Ljudi koji grade umjetnu inteligenciju sada traže da usporimo. Čega se boje?

Najveće upozorenje o umjetnoj inteligenciji danas ne dolazi od tehnoloških pesimista nego od ljudi koji je sami razvijaju. Problem nije samo može li AI postati moćniji, nego koliko smo odgovornosti spremni prepustiti sustavima koje ne razumijemo potpuno.

Kada proizvođač automobila kaže da je njegov novi model siguran, pretpostavljamo da time, među ostalim, želi prodati automobil. Kada bi isti proizvođač počeo javno upozoravati da bi čitava industrija trebala malo usporiti jer tehnologija napreduje brže od sposobnosti da se zajamči potpuna kontrola nad njom, čovjek bi ipak pažljivije saslušao ostatak rečenice.

Nešto vrlo slično događa se ovih dana u svijetu umjetne inteligencije, i to u trenutku kada bi gotovo svaka tržišna logika od najvećih kompanija očekivala upravo suprotno: još snažnije modele, još više ulaganja i još bržu utrku za tehnologiju za koju se pretpostavlja da će određivati sljedeća desetljeća.

Dario Amodei, izvršni direktor Anthropica, jedne od kompanija koje razvijaju najmoćnije modele umjetne inteligencije, pozvao je na usporavanje utrke prema sve sposobnijim sustavima kako bi industrija dobila više vremena za sigurnosna testiranja i razvoj mehanizama koji bi trebali osigurati ljudsku kontrolu nad njima. Sličnu zabrinutost izrazili su i drugi ljudi iz samoga vrha tehnološke industrije, među njima Sam Altman iz OpenAI-ja i Elon Musk, kao i istraživači koji su godinama radili upravo na sigurnosti takvih sustava. Rasprava je time odavno prestala biti zabava male skupine tehnoloških pesimista koji izvan Silicijske doline zamišljaju znanstvenofantastične katastrofe.

Skepticizam je unatoč tome zdrav, možda danas potrebniji nego ikada. Industrija umjetne inteligencije već nas je naviknula na golema obećanja, dramatične najave i prognoze prema kojima će se svijet potpuno promijeniti do otprilike sljedećeg kvartalnog izvještaja, pa ni upozorenja koja stižu iz iste industrije ne treba automatski pretvarati u proročanstva. Tvrdnje o mogućem nestanku čovječanstva zbog umjetne inteligencije pripadaju kategoriji predviđanja koja se ne mogu eksperimentalno provjeriti unaprijed, zbog čega postotke kojima pojedini stručnjaci procjenjuju vjerojatnost katastrofalnog scenarija ne treba čitati kao meteorološku prognozu za sljedeći vikend.

Za ozbiljan razgovor o AI-ju, međutim, nije potrebno vjerovati u digitalni smak svijeta, jer su pitanja pred nama dovoljno velika i bez zamišljanja posljednjeg dana čovječanstva.

Današnji modeli već mogu pisati računalni kod, analizirati goleme količine podataka, stvarati slike, video i zvuk, prevoditi, sažimati, istraživati i voditi razgovore koji bi prije samo nekoliko godina djelovali zapanjujuće uvjerljivo. Istodobno se razvijaju sustavi koji sve složenije zadatke mogu obavljati uz sve manje izravnih ljudskih intervencija, dok se između najvećih kompanija i država vodi utrka u kojoj nitko ne želi prvi ozbiljno pritisnuti kočnicu jer ne može biti siguran da će je pritisnuti i konkurent.

Tu se nalazi ozbiljniji problem od filmske slike računala koje se jednoga jutra probudi, pogleda čovječanstvo i zaključi da mu je potpuno nepotrebno.

Tehnološki razvoj dugo smo zamišljali kao proces u kojem čovjek napravi alat, nauči ga koristiti i zatim odlučuje što će s njim. Čekić ne razvija vlastitu strategiju, automobil ne mijenja sam cilj putovanja, a kalkulator nema razloga skrivati način na koji je došao do rezultata. Sustavi umjetne inteligencije bitno su složeniji jer ponašanje velikih modela nije moguće svesti na jednostavan popis pravila koja je netko unaprijed ručno napisao, zbog čega ni njihovi tvorci ne mogu u svakom slučaju precizno predvidjeti kako će sustav reagirati na novu situaciju niti jednostavno pokazati na jednu liniju koda koja objašnjava određeni odgovor.

To nije dokaz da je stroj postao svjestan, da ima namjere ili da se negdje unutar podatkovnog centra probudila osoba od silicija. Takve tvrdnje daleko nadilaze ono što danas možemo znanstveno opravdati. Pokazuje, međutim, da stvaramo alate čija složenost raste dovoljno brzo da tradicionalna slika potpune, neposredne i uvijek razumljive ljudske kontrole postaje sve manje prikladna.

Pritom postoje i mnogo neposredniji razlozi za oprez od hipotetskog izumiranja ljudske vrste. Suvremeni AI može povećati sposobnost stvaranja uvjerljivih dezinformacija, olakšati određene vrste kibernetičkih napada, omogućiti sofisticiranije oblike nadzora, promijeniti čitave segmente tržišta rada i koncentrirati golemu ekonomsku i informacijsku moć u rukama maloga broja kompanija koje raspolažu infrastrukturom potrebnom za razvoj najmoćnijih sustava. Sigurnosna testiranja već pokazuju i da napredni modeli mogu biti korisni u područjima poput vojnoga i obavještajnog planiranja koja su donedavno zahtijevala rijetko i visoko specijalizirano ljudsko znanje.

Nijedan od tih problema nije toliko spektakularan kao pobunjeni superračunalni um iz znanstvenofantastičnog filma, ali upravo zbog toga mogu biti opasniji za javnu raspravu: događaju se postupno, ulaze u svakodnevni život bez fanfara i ne zahtijevaju da stroj postane zao, nego samo dovoljno koristan da mu čovjek počne prepuštati sve veći broj odluka.

Možda je zato zanimljivije od pitanja hoće li umjetna inteligencija jednoga dana postati opasnija od čovjeka pitati kakav će čovjek postati kada se navikne dio vlastite odgovornosti prepuštati sustavu čije rezultate prihvaća, premda ne razumije uvijek kako je do njih došao.

Već danas od umjetne inteligencije tražimo da nam sažme vijesti koje nismo stigli pročitati, usporedi kandidate za posao, predloži pitanja koja trebamo postaviti liječniku, napiše poruku koju sami ne znamo formulirati, odluči koji ćemo proizvod kupiti, odabere najbrži put ili nam u nekoliko odlomaka objasni temu kojoj bismo nekada posvetili nekoliko sati. U velikoj većini takvih slučajeva riječ je o korisnom alatu koji štedi vrijeme i često radi zadivljujuće dobro, zbog čega opasnost ne mora početi trenutkom u kojem stroj razvije nekakvu misterioznu vlastitu volju. Može početi mnogo banalnije, onda kada čovjek prestane osjećati potrebu provjeriti odgovor zato što je sustav dovoljno puta prije toga bio točan.

Potreba da drugome delegiramo napor nije nastala s umjetnom inteligencijom. Institucijama smo povjeravali odluke, stručnjacima znanje, tražilicama pronalaženje informacija, algoritmima odabir sadržaja, a navigaciji put kojim ćemo voziti. Umjetna inteligencija ipak mijenja razmjer te predaje jer ne preuzima samo jednu jasno ograničenu funkciju, nego ulazi gotovo svugdje gdje postoji jezik, podatak, procjena ili odluka, od škole i medicine do novinarstva, poslovanja i privatnih odnosa.

Zbog toga upozorenja ljudi koji tu tehnologiju stvaraju vrijedi shvatiti ozbiljno, ali upravo kao upozorenja, a ne kao proročanstva o neizbježnoj katastrofi. Činjenica da ni oni ne znaju kako će izgledati svaka sljedeća faza razvoja nije argument za tehnološku paniku, ali jest vrlo dobar razlog da napredak ne poistovjećujemo automatski sa sposobnošću da njegovim posljedicama upravljamo.

Možda pritom nikada neće postojati jedan dramatičan trenutak u kojem ćemo moći pokazati na određeni datum i reći da je čovjek tada izgubio kontrolu. Granica se može pomicati mnogo tiše, kroz tisuće sasvim razumnih odluka kojima ćemo zbog brzine, udobnosti i učinkovitosti sustavima prepuštati još jednu procjenu, još jedan izbor i još jedan komadić odgovornosti.

Najveći rizik umjetne inteligencije tada ne bi morao nastupiti onoga dana kada stroj poželi postati čovjek, nego mnogo ranije, onoga dana kada čovjeku postane sasvim normalno da više ne mora razumjeti, provjeravati i na kraju sam odgovarati za odluke koje se donose u njegovo ime.