Koje principe je usvojila Vlada SAD za AI (Artificial intelligence)?

Istraživanje Instituta za budućnost čovečanstva Oksfordskog univerziteta, u kojem su prikazani stavovi stručnjaka za mašinsko učenje, utvrdilo je da  „jači” AI  bi do 2031. godine mogao imati značajan uticaj na ulogu profesionalnih vozača kamiona, radnika u maloprodaji, prevodilaca, novinara, turističkih vodiča, bibliotekara, koje profesije ovim tempom razvoja Al mogu otići u zaborav. Ipak, verujemo da će proći mnogo decenija pre nego što „jači” AI bude dovoljno napredan da zameni ljude u mnogim složenijim zadacima. Kada (i ako) se to dogodi, svakako će otvoriti mnoga etička pitanja za koja ne postoje odgovori u sadašnjem vremenu.

Šta su uradile SAD?

SAD su nedavno usvojile Izvršnu uredbu 13859 koja sadrži 10 principa koji se odnose na AI, a koje je putem Memoranduma prosledila šefovima izvršnih odeljenja i federalnih agencija. Cilj je da se smanje barijere koje služe razvoju AI-a i da se podstaknu inovacije i razvoj uopšte.

Međutim, uzimajući u obzir i opasnosti ove pojave, podstiče se samo razvoj u oblasti AI koji se odnosi na prikupljanje i obradu podataka iz raznih izvora informacija i obavljanje specifičnih domenskih poslova (slabi AI). Jači AI, koji podrazumeva oponašanje kognitivnih sposobnosti čoveka kao i uspostavljanje stanja svesti koje se može usavršavati i preko ljudskih granica je isključeno ovim Memorandumom.

Ovim principima agencije treba da se vode kad odlučuju o prijavama koje se odnose na dizajn, razvoj, distribuciju i rad AI-a.

Ti principi su:

1. Javno poverenje u AI – kako AI može imati pozitivan uticaj na socijalan i ekonomski život, ali uzimajući u obzir i rizike po privatnost, agencije treba da uzimaju u obzir samo prijave koje će jačati poverenje javnosti u AI;
2. Učestvovanje javnosti – Agencije treba, u zakonskim granicama, da dopuste javnosti da učestvuje u svim fazama procesa koji prethodi donošenju odluke i pružaju relevantne informacije o drugim informacionim dokumentima u cilju obezbeđenja načela transparentnosti;
3. Naučni integritet i kvalitet informacija – Agencije moraju voditi računa  o integritetu naučnika i da omoguće da AI prijave proizvode predvidive, pouzdane i optimizovane ishode, a to može da se postigne samo ako podaci koji služe za obučavanje AI sistema budu dovoljnog kvaliteta za nameravanu upotrebu;
4. Procena rizika i upravljanje njima – ne mora se preduprediti svaki rizik, normalno je da postoje i mane, ali mora se proceniti koji su rizici prihvatljivi, a koji ne jer mogu naneti ogromnu štetu i proizvesti veće troškove nego pogodnosti;
5. Pogodnosti i troškovi – posebno se moraju ceniti prednosti ekonomske, socijalne prirode koje utiču na javno zdravlje i druge ključne sfere, ali se moraju ceniti u korelaciji sa troškovima koje implementacija određenog AI sistema prouzrokuje u postojećim oblastima, kao i troškovima neimplementacije takvog sistema;
6. Fleksibilinost – potreban je fleksibilan pristup koji treba da prati ubrzani i dinamični razvoj AI-a. Za uspešnost ovog pristupa moraju se uzeti u obzir vrednosti poput javnog zdravlja, sigurnosti, privatnosti i slično;
7. Fer pristup i nediskriminacija – prilikom procene prijave agencije moraju ceniti da li određena AI prijava smanjuje diskriminaciju proizvedenu ljudskom subjektivnošću ili, u nekim slučajevima, dovode do diskriminatornih ishoda ili odluka koji umanjuju javno poverenje u AI;
8. Transparentnost i obelodanjivanje – agencije mogu, nekad, otkriti kako AI može da utiče na krajnje ljudske korisnike u cilju jačanja poverenja javnosti u AI, ali i prethodno moraju voditi računa o dovoljnosti postojećeg ili evoluirajućeg zakonskog, političkog i regulatornog okruženja;
9. Sigurnost i bezbednost – agencije treba da promovišu razvoj AI sistema koji su sigurni, bezbedni i rade kako je zamišljeno, pogotovo jačanje otpornosti na sajber napade i sprečavanje iskorišćavanja i zloupotreba slabosti AI sistema;
10. Koordinacija između agencija – agencije treba da međusobno sarađuju i razmenjuju svoja iskustva kako bi obezbedile predvidivost i doslednost u svojim odlukama u cilju doprinosa globalne AI politike.

Treba li Srbija da usvaja slične principe?

Ukoliko naša država planira da bude lider u IT industriji, svakako regulatorno i planski treba da krene u tom pravcu urgentno, kao što vrlo brzo treba da donese i usvoji strategiju za razvoj blockchain tehnologije obzirom da je na primer Nemačka takvu strategiju usvojila krajem prošle godine.