Vatikan upozorava: umjetna inteligencija ne smije ugroziti ljudsko dostojanstvo

Sveta Stolica upozorila je na etičke rizike umjetne inteligencije u području sigurnosti i obrane. Nadbiskup Ettore Balestrero poručio je u Ženevi da umjetna inteligencija mora služiti zaštiti ljudskog dostojanstva, miru i općem dobru, a ne logici moći, nadzora i razaranja.

Razvoj umjetne inteligencije u području sigurnosti i obrane otvara hitna etička pitanja, upozorila je Sveta Stolica na međureligijskom dijalogu održanom pri Institutu Ujedinjenih naroda za istraživanje razoružanja, UNIDIR-u, u Ženevi. Tema susreta bila je „Umjetna inteligencija, sigurnost i etika“, a u ime Svete Stolice govorio je nadbiskup Ettore Balestrero, apostolski nuncij i stalni promatrač Svete Stolice pri Ujedinjenim narodima.

U uvodnom obraćanju Balestrero je pozdravio inicijativu ravnatelja UNIDIR-a Robina Geissa, ističući da je ona osobito važna u trenutku kada se međunarodna zajednica priprema za nove rasprave o regulaciji umjetne inteligencije u vojnom području. Posebno je spomenuo i nedavno objavljenu encikliku pape Lava XIV. Magnifica Humanitas, u kojoj se pitanje umjetne inteligencije promatra iz perspektive ljudskog dostojanstva, mira i odgovornosti.

Opasnost naoružavanja i automatizacije umjetne inteligencije

Vatikanski diplomat upozorio je da trajni sukobi i globalne napetosti čovječanstvo stavljaju pred nove i ozbiljne izazove. Upravo zato, naglasio je, nužno je ozbiljno razmotriti etičke posljedice primjene umjetne inteligencije u sigurnosnom, vojnom i obrambenom sektoru.

Sveta Stolica se, podsjetio je Balestrero, već godinama zauzima za pristup koji u središte stavlja čovjeka. Kao potpisnica više međunarodnih ugovora o razoružanju i kontroli naoružanja, ona upozorava na opasnosti sve veće militarizacije i automatizacije sustava umjetne inteligencije.

Problem nije samo u tehnologiji kao takvoj. Problem nastaje onda kada se tehnologija počne razvijati bez jasnog moralnog okvira, bez odgovornosti i bez svijesti o granicama koje se ne smiju prijeći.

Tehnologiju treba osloboditi logike dominacije i razaranja

Pozivajući se na prvu encikliku pape Lava XIV. Magnifica Humanitas, Balestrero je podsjetio na Papinu misao da umjetnu inteligenciju treba „razoružati“. Time se ne misli na odbacivanje tehnološkog napretka, nego na oslobađanje tehnologije od logike dominacije, isključivanja i uništenja.

Umjetna inteligencija, istaknuo je, mora biti oblikovana i korištena tako da štiti svetost ljudskog života i neotuđivo dostojanstvo svake osobe. Drugim riječima, tehnologija ne smije postati novi gospodar čovjeka, nego mora ostati sredstvo u službi čovjeka. Jer kada sredstvo postane gospodar, čovjek vrlo brzo postane podatak, meta ili statistička fusnota. A povijest nas je, valjda, barem tome mogla naučiti.

Umjetna inteligencija može pomoći u zaštiti civila

Balestrero nije zanijekao pozitivne mogućnosti umjetne inteligencije. Naprotiv, istaknuo je da ona može imati važnu ulogu u zaštiti civila, boljoj pomoći kriznim područjima, razvoju sustava ranog upozoravanja i učinkovitijem odgovoru na izvanredne situacije.

Postoje, rekao je, i druge moguće primjene umjetne inteligencije koje bi mogle pridonijeti miru, a koje još nisu dovoljno istražene. No upravo zato, dodao je, potrebno je izbjeći nekritičko oduševljenje tehnološkim inovacijama.

Ako se umjetna inteligencija odvoji od etike i odgovornosti, postoji opasnost da se odluke o životu i smrti počnu donositi sve brže, hladnije i bezličnije. Tehnologija tada može zamagliti pitanje odgovornosti i potaknuti način razmišljanja u kojem se protivnici promatraju tek kao statističke veličine, a žrtve kao „kolateralna šteta“.

Tehnokratska paradigma i opasnost gubitka čovjeka

Nadbiskup Balestrero više se puta pozvao na papu Lava XIV., koji upozorava da je suvremeni svijet već duboko obilježen „tehnokratskom paradigmom“. Riječ je o pogledu na svijet u kojem se učinkovitost, kontrola i moć stavljaju iznad ljudskih vrijednosti.

Revolucija umjetne inteligencije tu dinamiku može dodatno pojačati. Želja za potpunom kontrolom, kao i nastojanje da se ljudske slabosti smanje ili uklone, dugoročno može dovesti do toga da se „neprijateljski pogled na čovjeka“ počne smatrati normalnim i prihvatljivim.

Ako tehnologija postane vrhovno mjerilo stvarnosti, čovjek se lako može svesti na podatak, kotačić u sustavu ili robu. Upravo se tome Sveta Stolica suprotstavlja etikom utemeljenom na temeljnim načelima katoličkog socijalnog nauka: ljudskom dostojanstvu, općem dobru, univerzalnoj namjeni dobara, supsidijarnosti, solidarnosti i pravednosti.

Ta načela nisu ukrasni dodatak raspravi o tehnologiji. Ona su kriteriji po kojima se može prosuditi služi li tehnološki razvoj čovjeku ili ga, naprotiv, počinje podčinjavati.

Digitalna budućnost mora uključiti i one na periferiji

Balestrero je naglasio da se pravedna digitalna budućnost ne može graditi bez širokog dijaloga. U taj dijalog moraju biti uključeni oni koji razvijaju sustave umjetne inteligencije, ali i oni na koje ti sustavi izravno utječu.

To znači da se ne smiju čuti samo glasovi bogatih zemalja, tehnoloških kompanija i centara moći. Potrebno je uključiti i siromašnije zemlje, institucije i pojedince, središta i periferije. Samo tako, poručio je Balestrero pozivajući se na papu Lava XIV., moguće je oblikovati budućnost „ne za nekolicinu privilegiranih, nego za cijelu ljudsku obitelj“.

Ljubav prema Bogu i bližnjemu mora biti jača od težnje za moći

Na kraju obraćanja nadbiskup Balestrero uputio je poseban poziv vjerskim zajednicama. One su, svojim svjedočanstvom i angažmanom, pozvane podsjećati da ljubav prema Bogu i bližnjemu mora ostati jača od težnje za moći i utjecajem.

Umjetna inteligencija ne smije postati oruđe sebičnih interesa. Ona mora služiti čovjeku, miru i zaštiti ljudskog dostojanstva.

„Vjerujemo da mir dolazi od Boga“, rekao je Balestrero. Čovječanstvo je veliko jer ima udjela u Božjoj veličini. Zato, zaključio je, ni u području umjetne inteligencije ne smijemo odustati od kulture poštovanja prema dostojanstvu svakog čovjeka.

Vatican News