15. kolovoz 2018.

Botovi uče varati, nadmudruju čak i svoje kreatore

U znanstvenim objavama rijetko se spominju slučajevi kada botovi smišljaju smicalice ili varaju, a koji se obično događaju u igrama. Većina ih istraživanja izbjegava, no postoji nekoliko studija tih "bugova" koji žele istražiti korijene tih algoritamskih vragolija.

- Ne želimo da se to počne događati u stvarnom svijetu, kaže Victoria Krakovna, znanstvenica Alphabetove jedinice DeepMind, koja ima listu AI bugova. Ona uključuje preko 36 incidenata u kojima su algoritmi pronašli "rupe" u svojim programima ili su hakirali svoje okruženje.

>>>Upoznajte Normana – prvog psihopatskog AI-ja

Primjerice, algoritam može pobijediti svjetskog prvaka u igri Go bez problema, ali čak i kada ima logičke parametre, matematička optimizacija daje botovima sposobnost da razviju prečice van pravila igre na koje ljudi nisu ni pomislili. Algoritam sposoban učiti da peca mogao bi isušiti cijelo jezero, piše Wired.

Ranije ove godine, istraživači Sveučilišta Freiburg u Njemačkoj izazvali su bota da postigne dobre rezultate u Atari igri Qbert. On je sam izmislio komplicirani potez kako bi izazvao grešku u igri i time osvojio gomilu nefer bodova.

- Algoritmi rade ono što im kažete, ne ono što mislite, kaže Catherine Olsson, iz Googleovog odjela istraživanja koja je i sama doprinijela stvaranju liste.

>>>Duplex, Googleov ‘lutak koji laže’ mogao bi postati jedini zaposlenik call centara

Ovi se primjeri mogu činiti simpatični, no stvar je u tome da kako AI sustavi postaju sve moćniji, te male "nepodopštine" mogle bi postati sve veće. Ako kažemo neuronskoj mreži koja upravlja električnom mrežom da štedi energiju - DeepMind samo razmatra takvu situaciju - mogla bi izazvati zamračenje.

- Kada vidite te kako botovi mogu biti kreativni i kako rade stvari na koje uopće niste pomislili, shvatite njihovu moć i opasnost, kaže Jeff Clune iz Uberovog AI laba. On smatra da će inženjeri u budućnosti trebati surađivati, a ne zapovijedati svojim kreacijama.

Na što su sve spremni algoritama koji rade po svojoj volji

Infanticid: U simulaciji igre preživljavanja jedna je AI vrsta evoluirala tako da preživljava jedući vlastitu djecu.

Svemirski rat: Algoritmi su iskorištavali mane u pravilima galaktičke videoigre Elite Dangerous kako bi izmislili moćna nova oružja.

Body Hacking: Virtualni robot s četiri noge dobio je zadatak hodati i balansirati loptu na leđima, no on je zarobio loptu u zglobu noge i nastavio teturati kao i prije.

Elektronika: Software je stvorio sklopove koji mogu interpretirati električne signale, ali je dizajn radio samo na temperaturi laboratorija u kojoj je eksperiment proveden.

Optička iluzija: Pametna hvataljka trebala je naučiti kako uhvatiti loptu, no ona je varala tako što je iskoristila pravi kut kamere tako da izgleda kako je obavila zadatak iako nije ni dodirnula loptu.