RSS O cri O redakciji Kontakt
 
Kineska sveučilišta planiraju uvesti povjerenje i otpornost u iduću generaciju UI-e
2019-05-15 15:47:04 cricroatian

Foto: Arhiva

Od glasovnog pomagača do prepoznavanja lica, od pobjede nad majstorima u igri go do razbijanja profesionalnih igrača u strateškoj igri StarCraft, svijet je svjedočio uzbudljivom napretku u razvoju umjetne inteligencije (UI-e).

Kako se UI primjenjuje u funkcijama s većim rizikom - poput samovozećih automobila, automatskih kirurških pomagača, upravljanja hedge fondovima i kontrole energetske mreže - kako možemo osigurati njenu učinkovitost?

Prestižno kinesko Sveučilište Tsinghua je objavilo da će ubrzati osnovna istraživanja treće generacije UI-e, u nadi za izgradnju povjerenja i sprečavanje zlouporabe i štetnog ponašanja modela UI-e.

Zhang Bo, direktor Instituta za umjetnu inteligenciju Sveučilišta Tsinghua i akademik Kineske akademije znanosti, je predstavio plan u ponedjeljak na otvaranju Centra za temeljne teorije Instituta za umjetnu inteligenciju.

Istraživači sa Sveučilišta Tsinghua razgovaraju budućnost UI-e od 2014. i očekuju da će u idućim godinama ući u treću fazu njenog razvoja, rekao je Zhang.

Prva generacija UI-e je pokretana znanjem koje su posjedovali sami istraživači i pokušavali su opremiti modele UI-e jasnim logičkim pravilima. Ti sustavi su bili sposobni za rješavanje dobro definiranih problema, ali nesposobni za učenje.

U drugoj generaciji je UI počela učiti. Strojevi uče obukom sustava na nizu podataka i naknadom provjerom na drugom nizu, Sustav tako postaje precizniji i učinkovitiji.

Zhang je rekao da slabost druge generacije leži u njenoj razlučivosti i robusnosti.

Robusnost UI-e se odnosi na prihvatljivo visoku izvedbu čak i u najgorem scenariju.

Iako je UI već nadmašila ljude u određenim područjima poput prepoznavanja slika, nitko ne razumije zašto ti sustavi imaju tako dobre podatke.

Strojno učenje i duboko učenje, najuobičajenije grane UI-e posljednjih godina, pate od takozvane "crne kutije UI-e". Ljudima je teško interpretirati odluke temeljene na UI-i i ne mogu predvidjeti kada model UI-e neće uspjeti i zbog čega.

Istovremeno čak i točni modeli UI-e mogu biti ranjivi na "kontradiktorne napade" u kojima se uvode suptilne razlike kod unosa podataka radi manipulacije "rasuđivanjem" UI-e.

Na primjer, sustav UI-e bi mogao zamijeniti ljenjivca za trkaći automobila ako se naprava neke neprimjetne promjene u fotografiji ljenjivca.

Istraživači zbog toga trebaju unaprijediti i potvrditi robusnost modela UI-e, na ostavljajući prostor za kontradiktorne primjene ili čak napade radi manipulacije rezultatima.

Ako se modeli UI-e upotrebljavaju u sigurnosno osjetljivim ili kritičnim scenarijima, iduća generacija treba biti razumljiva i robusnija, rekao je Zhang.

Zhu Jun, direktor novog centra, je rekao da će provoditi međudisciplinske studije i očekuje da će privući talente iz cijelog svijeta, omogućujući im opušten akademski okoliš.

Rekao je da Sveučilište Tsinghua planira svake godine ugostiti potpuno otvoreni sastanak o UI-i na visokoj razini.

"Ako bilo što pomaže inovaciji, pokušat ćemo," rekao ja Zhu.

"Teško je predvidjeti napredak istraživanja temeljnih teorija. Mogao bi biti eksplozivan i ostvariti veliki proboj."

© China Radio International.CRI. All Rights Reserved.
16A Shijingshan Road, Beijing, China