Aktualno Tehnopolis

Amazonova umjetna inteligencija ugašena zbog spolne diskriminacije

Da je umjetna inteligencija ipak daleko od inteligentne pokazuje i najnoviji primjer iz Amazona koji je morao ‘škartirati’ svoj računalni alat za novačenje zaposlenika zbog diskriminiranja žena. Kako neslužbeno doznaje Reuters, jedna od najvećih kompanija na svijetu nadala se automatizirati biranje kandidata, no umjetna inteligencija na kojoj se koncept temeljio samo je usvojila postojeće predrasude.

Osim što je ideja prepuštanja zapošljavanja stroju sama po sebi zabrinjavajuća, pokazalo se i da nije pretjerano efikasna jer je računalni model napravljen u Amazonu naučen da provjerava kandidate nalaženjem uzoraka u njihovim životopisima predanima kroz period od deset godina. Kako je većina njih pripadala muškarcima, stroj je ‘usisao’ tu mušku dominaciju i postavio je kao eliminacijski kriterij.

– Zapravo, Amazonov sustav naučio se preferirati muške kandidate. Kažnjavao je životopise koji su uključivali pridjev ‘ženska’, primjerice ‘kapetanica ženske šahovske momčadi’ i dodjeljivao niske ocjene dvama ženskim koledžima’, piše Reuters.

>>>Ugled Applea i Googlea u poniranju, Teslin u uzletu, Amazon ‘stagnira’ na tronu

Kompanija je pokušala popraviti sustav kako bi neutralno birao kandidate, no nitko nije mogao zajamčiti da neće opet početi diskriminirati, pa su direktori odlučili ukinuti cijeli program i odustati, pogotovo jer se zaposlenici u ljudskim resursima ionako nisu u potpunosti oslanjali na preporuke sustava. To nije bio jedini problem.

Umjetna (ne)inteligencija često je znala nekvalificirane kandidate preporučiti za razne tipove poslova, odnosno sustav je nekada rezultate izbacivao praktički nasumično. Namjera iza ovog i niza drugih pokušaja automatizacije procesa traženja zaposlenika bila je velike potrebe za radnicima ubrzati, a konačne odluke napraviti manje ovisnima o subjektivnoj procjeni odjela za ljudske potencijale, no rezultati su dosad uglavnom razočaravajući.

>>>Gasi se Google+ zbog curenja podataka

Očekivanja od umjetne inteligencije, kao što tvrdi i nedavni tekst u Financial Timesu, prevelika su i nerijetko nerealna, što se u velikoj mjeri može zahvaliti namjernom napuhavanju potencijala umjetne inteligencije od strane proizvođača i ljudi izravno zainteresiranih za taj segment ekonomije.

Sustavi koje koristi i razvija sve više kompanija ne donose konačne odluke, no značajno utječu na proces zapošljavanja samom činjenicom da eliminiraju velike količine kandidata i sugeriraju najbolje. Ipak, jedan od izvora rekao je Reutersu da Amazon pokušava s novim timom izgraditi ponovo sustav, ali koji ne bi diskriminirao.

Komentari