Gépi tanulási modell küszöbölheti ki az elfogultságot

A színfalak mögött olyan gépi tanulási módszerek találhatóak, melyek a megadott adatokat elemzik. Ilyenek információk lehetnek például: végzettség, elhelyezkedés vagy politikai hovatartozás. Majd ezeket felhasználva hasonló embereket és oldalakat kínálnak fel a felhasználók számára. Azonban van egy olyan összetevője is az adatelemzésnek, amely miatt érzékenyebb lesz a rendszer, ez pedig a GNN néven ismert mutató, ami alapján bőrszín vagy nem szerint is meg tudja különböztetni a felhasználókat a gép, ebből adódóan pedig relevánsabb ajánlásokat kínálhat. 

Mivel azonban a felhasználók többsége vonakodik attól, hogy ilyen személyes adatokat nyilvánosságra hozzon, ezért a Penn State Informatikai és Technológiai Főiskola kutatói egy olyan újszerű módszert dolgoztak ki, amely becsléseket végez ezekről az érzékenyebb adatokról, ezzel segítve a GNN mutatónak a korrektebb ajánlások megtételét.

A modell két valós adatkészlettel lett kiképezve: az egyiket a népszerű szlovák közösségi oldalról, a Pokecről gyűjtötték, a másikat pedig körülbelül 400 NBA kosárlabdázó adataiból. A Pokec adatkészletében azt a régiót kezelték érzékeny tulajdonságként, ahonnan az egyes felhasználók származtak, és a rendszernek a felhasználók munkaterületét kellett megjósolnia, az NBA játékosok esetében pedig szintén a helyszínt használták annak az előrejelzésére, hogy az egyes játékosok fizetése meghaladja-e a mediánt.

Mivel az eredeti adatok a rendelkezésükre álltak, így pontosan meg tudták mondani, hogy a módszer mennyire pontos, és mint kiderült, rendkívül hatékonyan és igazságosan dolgozott a rendszer. Ez pedig más területeken is hasznos lehet, például álláskeresők rangsorolásánál, bűncselekmények felderítésénél, esetleg pénzügyi kölcsönök intézésénél. Ezek mind olyan területek, ahol nem szabad elfogultnak lenni, így kulcsfontosságú, hogy pontos és tisztességes javaslatokat tegyen a gép.

A kutatócsoport a virtuális ACM Internetes Keresési És Adatbányászati Konferencián mutatta be munkáját, és amennyiben elfogadják a terveket, úgy valószínűleg nemsokára be is vezetik a módszert a valóságban is.

A cikk szerzője Blősz Dalma