Megszüntetik a hallgatókat egyenlőtlenül kezelő algoritmust

A GRADE (Graduate ADmissions Evaluator) névre hallgató tanulási rendszert 2013 óta használták az egyetemen. Az intézmény egyik oktatója és egy számítástechnikai hallgató hozta létre, azzal a céllal, hogy segítse a tanszék munkáját, időmenedzsmentjét. A GRADE egy pontozási rendszer alkalmazásával állapította meg, hogy a jelentkezőknek mekkora esélyük van bekerülni az egyetemi képzésre. A pontozáshoz bizonyos kulcsszavakat vizsgáltak, mint például „legjobb”; „díj”; „programozás”. 

A tanulási rendszert, már a kezdetektől számos kritika érte. 

„Ezeket a rendszereket emberek kódolják. Így saját elfogultságaik kerülnek bele az algoritmusokba” – nyilatkozta Yasmeen Musthafa, Ph.D. plazmafizikai hallgató a Kaliforniai Egyetemen.

Az egyetem éveken keresztül használta a rendszert, ám egy Twitteren zajló beszélgetés felhívta a figyelmüket arra, hogy a társadalom háttérbe szoruló tagjainak nem ad egyenlő esélyeket a GRADE, hiszen emberek alkották az algoritmust, melyben tudatos/tudattalan elfogultság is szerepelhet a történelmi egyenlőtlenség eredményeképpen.

A számítástechnika doktorának jelölt Manish Raghavan, aki az algoritmusok elfogultságát kutatta, egy fontos kérdést vetett fel: 

„Minden folyamat hibákat fog elkövetni. A kérdés az, hogy hol történhetnek ezek a hibák, és hogy kik szenvedhetnek ezek miatt?” 

A válasz nem túl meglepő, hiszen ezt a csoportot nagy valószínűséggel az alulreprezentált tagok, vagy olyan emberek alkotják, akik nem rendelkeznek megfelelő háttérrel az elit intézményekbe való bekerüléshez.

Igaz, hogy sok fekete és latin nő folytatott sikeres karriert a számítástechnikában, számuk mégis elenyésző ezen a területen. A 2017-es adatok alapján a fehérek, ázsiaiak és nem rezidens külföldiek az oklevelek 84 százalékát kapták meg IT szektoron belül az Amerikai Egyesült Államokban.

A GRADE alkotói azt nyilatkozták, hogy a rendszer csak arra van programozva, hogy megismételje azt, amit a felvételi bizottság 2013 előtt tett, és nem azért, hogy jobb döntéseket hozzon. A rendszer nincs programozva arra, hogy faji vagy nemi alapon megkülönböztesse a hallgatókat. 

Az ellentáborba tartozók szerint a faj és a nem is kódolható az alkalmazás egyéb szolgáltatásaiba, melyeket a rendszer használ. A női főiskolákat és a történelmileg fekete egyetemeket alulértékelheti az algoritmus, valamint az ajánlólevelek köztudottan tükrözik a nemek közötti elfogultságot, mivel az ajánlók a nőket inkább „gondoskodóként”, nem pedig „határozottként” jellemzik.

Azon érvek ellenére, amelyek a GRADE mellett állnak, a rendszer megszűnik létezni. A Texasi Egyetem szóvivője a rendszer fenntartásának nehézségére hivatkozott, hiszen felvételizőik száma egyre nagyobb. 

Musthafa állítása szerint ez nem elég ahhoz, hogy a diplomások között fennálló egyenlőtlenségek megszűnjenek, hiszen véleménye nem változott: „A mai rasszizmust örökítik meg a holnap algoritmusai."

Cikk szerzője: Bodó Anita