Amazon vallandas üllataval põhjusel CV-sid hinnanud roboti

Popularmechanics kirjutab, et Amazon hakkas tööleastumisavalduste hindamiseks mõeldud tarkvara arendama aastal 2014. Programmi ülesandeks oli uurida läbi mägede kaupa CV-sid ja hinnata neid viiepalliskaalal – nagu hinnatakse kuni viie tärniga ka Amazoni tooteid.

„Kõik tahtsid sellist püha graali,“ märkis projektiga seotud töötaja Reutersile. „Väga taheti sellist mootorit, et kui annad talle 100 CV-d, siis sülitab see välja parimad viis ja me palkame need inimesed.“

Programm pandi järgima Amazoni kümne aasta mustreid tarkvaraarendajate ja tehnikute värbamisel. Iseenesest kõlab loogiliselt: kuna Amazon kasvas kümne aastaga määratu suureks ettevõtteks, on see kindlasti märk, et tööle on võetud õiged inimesed. Aga selgus, et algoritm taastootis seksuaalset kallutatust – suurem osa palgatuist olid mehed ja programm võttis seda arvesse.

AI hakkas madalamalt hindama ja kõrvale lükkama CV-sid, mis sisaldasid sõna „naine“, ehk näiteks fraasi „vabatahtlik ühenduses Naisprogrammeerijad“. Ka vaenas programm kaht naistekolledžit.  

Ettevõte suuris algoritmi kohendada ja need kaks silmatorkavat kallutatud suunitlust kõrvaldada. Aga õhku jäi küsimus: milliseid diskrimineerivaid ja mitte nii silmatorkavaid suunitlusi programm veel sisaldab? Selles polnud arendajad kuigi kindlad. Pärast mitmeid katseid programmi korrigeerida kaotas Amazon lõpuks mullu huvi ja algoritm lükati kalevi alla.

PM märgib, et intsidendist on õppida järgnevat: kuna inimesed pole täiuslikud, siis programmeeritakse selline ebatäiuslikkus ka algoritmidesse, mis on mõeldud ... ebatäiuslikkuse vältimiseks. AI suudab teha asju, millest inimesed ei oska unistadagi – aga me ei saa mööda vaadata ohtlikust ja vältimatust tõdemusest: tehisintellekt peab õppima inimestelt.