Stručnjaci tvrde da alati za zapošljavanje zasnovani na umjetnoj inteligenciji možda neće poboljšati raznolikost zapošljavanja

topline

Alati za zapošljavanje koji tvrde da koriste umjetnu inteligenciju kako bi izbjegli rodne i rasne predrasude možda neće poboljšati raznolikost u zapošljavanju, već bi zapravo mogli produžiti te predrasude, tvrdili su istraživači sa Univerziteta Cambridge u nedjelju, dovodeći programe – koji su u prošlosti izazivali kritike – kao način korištenja tehnologije za brzo rješavanje dubljeg problema.

ključne činjenice

Presudna ponuda

“Tvrdeći da se rasizam, seksizam i drugi oblici diskriminacije mogu ukloniti iz procesa zapošljavanja pomoću umjetne inteligencije, ove kompanije svode rasu i spol na beznačajne podatke, umjesto na sisteme moći koji oblikuju kako se krećemo kroz svijet, “, rekao je Drage u saopštenju.

tangens

Amazon je to najavio 2018 stani koristeći alat za regrutaciju AI za pregled životopisa kandidata za posao nakon što je utvrđeno da sistem snažno diskriminira žene. To je zato što su kompjuterski modeli na koje se oslanjao razvijeni na osnovu životopisa dostavljenih kompaniji u proteklih 10 godina, koji su uglavnom dolazili od muških kandidata.

Ključna pozadina

Organizacije se sve više okreću AI kako bi pomogle u upravljanju procesima zapošljavanja. U jednom 2020 anketa od više od 300 čelnika ljudskih resursa koje su citirali autori nedjeljnog lista, konsultantska kuća Gartner otkrila je da 86 posto poslodavaca koristi virtuelnu tehnologiju u svojim praksama zapošljavanja, što je trend koji se ubrzao otkako je pandemija Covid-19 natjerala mnoge da premjeste rad na internetu. Dok su neke kompanije tvrdile da AI može ponuditi jeftiniji i vremenski efikasniji proces zapošljavanja, neke stručnjaci imati pronađeno sistemi imaju tendenciju da promovišu – umjesto da eliminišu – zapošljavanje zasnovano na rasnoj i rodnoj pripadnosti replicirajući postojeće predrasude iz stvarnog svijeta. Nekoliko američkih zakonodavaca jeste aim kako bi se pozabavili predrasudama u sistemima vještačke inteligencije, budući da tehnologija nastavlja da se brzo razvija i postoji nekoliko zakona koji je reguliraju. Bijela kuća je ove sedmice objavila „Nacrt zakona o pravima veštačke inteligencije“, u kojem se tvrdi da je utvrđeno da algoritmi koji se koriste pri zapošljavanju „odražavaju i reprodukuju postojeće neželjene nejednakosti“ ili ugrađuju nove „pristrasnosti i diskriminacije“. Nacrt — koji nije pravno obavezujući ili zvanična vladina politika — poziva kompanije da osiguraju da AI ne diskriminira ili narušava privatnost podataka, te da učine korisnike svjesnim kada se tehnologija koristi.

Što gledati

U popisu preporuka autori nedjelje Filozofija i tehnologija U radu je sugerisano da se kompanije koje razvijaju AI tehnologije fokusiraju na šire, sistematske nejednakosti umesto na „individualizovane slučajeve pristrasnosti“. Na primjer, oni predlažu programerima softvera da ispitaju kategorije koje se koriste za sortiranje, obradu i kategorizaciju kandidata i kako te kategorije mogu promovirati diskriminaciju oslanjajući se na određene pretpostavke o rodu i rasi. Istraživači također tvrde da bi HR profesionalci trebali pokušati razumjeti kako funkcionišu alati za zapošljavanje AI i koja su neka od njihovih potencijalnih ograničenja.

Iznenađujuća činjenica

Evropska unija je klasifikovala softver za zapošljavanje sa veštačkom inteligencijom i alate za procenu performansi kao „visoki rizik“ u svom novom skica pravni okvir o AI, što znači da bi alati bili predmet više kontrole i da bi trebali ispuniti određene zahtjeve usklađenosti.

Daljnje čitanje

DC želi voditi borbu protiv pristrasnosti AI (Axios)