A koncertgazdaság meghamisított?

Illusztráció: Matthew Hollister

Az elmúlt években fellendültek az olyan alkalmazások és webhelyek, amelyek segítségével embereket alkalmazhatnak egyéni feladatokra, például élelmiszerek felvásárlására vagy új logó tervezésére, ami hatékonyabb és igazságosabb foglalkoztatási piacot ígér. A bostoni Northeastern Egyetem új tanulmánya azonban azt sugallja, hogy a faji és szexuális megkülönböztetés gyakori lehet két népszerű koncertgazdasági platformon.

A kutatók vezetésével Christo Wilson , a Northeastern adjunktusa, és Ancsa Hannák , egy PhD-hallgató, megvizsgálta a TaskRabbit, egy olyan platformot, ahol embereket bérelhet, és a Fiverr-t, a kreatív szolgáltatások piacterét. Mindkét esetben bizonyítékot találtak a faji és nemi hovatartozásra.



Ez csak egy példa arra, hogy az elfogultság hogyan kúszik be az online platformokba és szolgáltatásokba. És ez aggasztó, mert a koncertgazdaság nemcsak hatékonyabbnak és rugalmasabbnak ígérkezett, hanem kevésbé elfogultnak is – hiszen az algoritmusok végzik az emberek összekapcsolását.

A Fiverr oldalon a kutatók bizonyítékot találtak arra, hogy a fekete és ázsiai munkavállalók alacsonyabb minősítést kaptak, mint a fehérek. A TaskRabbiten pedig a nők kevesebb értékelést kaptak, mint a férfiak, a fekete munkások pedig alacsonyabb értékelést kaptak, mint a fehérek. Talán a legaggasztóbb, hogy a kutatók a TaskRabbit ajánlási algoritmusában is találtak bizonyítékot az ilyen elfogultságra. A kutatást ezen a héten egy New York-i tudományos konferencián mutatják be.

Lehetetlen biztosan megmondani, hogy a Wilson és Hannák által azonosított összefüggés a bérbeadók faji és nemi elfogultságára vezethető vissza, szemben valami ismeretlen zavaró tényezővel, de Wilson szerint a minta aggasztó. Azt mondják, ez a munka jövője, mondja. Ha olyan algoritmust fog kidolgozni, amelyet emberek milliói fognak használni, akkor valamiféle felelősséggel tartozik a nyilvánosság felé, hogy megvizsgálja, amit telepít, értékelje, és megtudja, hogy lesz-e benne ezek közül valamelyik. negatív mellékhatások.

A Fiverr szóvivője azzal érvel, hogy a tanulmány módszertana hibás volt, mivel figyelmen kívül hagyja az olyan tényezőket, mint a nemzetközi határok és a nyelvi különbségek. Azt is megjegyzi, hogy a felhasználóknak nem kell demográfiai adatokat megadniuk a szolgáltatás igénybevételéhez, így könnyen elkerülhető a diszkrimináció. A TaskRabbit nem válaszolt a megjegyzéskérésre.

Egyre több a bizonyíték azonban arra, hogy az elfogultság mindenféle digitális szolgáltatásra hatással lehet. A múlt hónapban az MIT, a Stanford és a Washingtoni Egyetem kutatói azt fedezte fel hogy a bostoni Uber-sofőrök gyakrabban mondták le az afro-amerikai hangzású vásárlók utazásait, és hogy a seattle-i fekete Uber-ügyfelek hosszabb várakozási idővel néztek szembe, mint fehér társaik. Egy tavaly megjelent tanulmányban a CMU kutatói bizonyítékot talált hogy a jól fizető állások hirdetései gyakrabban jelentek meg férfiaknak, mint nőknek.

Sok esetben a látható elfogultság csak azt tükrözi, ami a való világban található, például a munkáltatók tudatos és tudatalatti előítéletei, amelyeket a munkaerő-felvételi döntések során okozhatnak. Tehát az ajánlómotorok vagy a gépi tanulási rendszerek esetében az a kérdés, hogyan lehet eltávolítani a torzítást, akár az algoritmusoknak betáplált adatkészletekből, akár magukból az algoritmusokból.

Az embereknek az az elképzelésük, hogy mivel számítógépről van szó, semleges – teszi hozzá Wilson. Ha torzított adatai vannak, akkor logikus, hogy olyan algoritmust fog tanítani, amely torz.

Don MacKenzie , a Washingtoni Egyetem adjunktusa és a legutóbbi Uber-tanulmány egyik szerzője hangsúlyozza, hogy a tanulmány nem bizonyítja, hogy faji vagy nemi elfogultság áll a háttérben. Azt mondja azonban, hogy fontos figyelembe venni a koncertgazdaság és a mögöttes algoritmusok torzítását – hozzátéve, hogy a probléma kezelhető, ha a vállalatok óvatosak.

Ez egy feltörekvő terület, és ha van egy sor bevált gyakorlat, akkor nem tudok róla – mondja MacKenzie. Az én szemszögemből a cégeknek, fejlesztőknek és adattudósoknak figyelniük kell, figyelniük kell a visszajelzésekre, és nem kell félniük a különböző megoldások kipróbálásától. Úgy gondolom, hogy ha mindenki jóhiszeműen, konstruktívan és hajlandósággal közelíti meg ezeket a kérdéseket, akkor közelebb kerülhetünk az elfogultság megszüntetéséhez ezekben a rendszerekben.

elrejt

Tényleges Technológiák

Kategória

Nincs Kategorizálva

Technológia

Biotechnológia

Technikai Politika

Klímaváltozás

Ember És Technológia

Szilícium-Völgy

Számítástechnika

Mit News Magazin

Mesterséges Intelligencia

Tér

Okos Városok

Blockchain

Feature Story

Alumni Profil

Öregdiák Kapcsolat

Mit News Funkció

1865

Az Én Nézetem

77 Mass Ave

Ismerje Meg A Szerzőt

Profilok A Nagylelkűségben

Az Egyetemen Látható

Öregdiák Levelei

Hírek

Mit News Magazine

Választások 2020

Indexszel

A Kupola Alatt

Tűzoltótömlő

Végtelen Történetek

Pandémiás Technológiai Projekt

Az Elnöktől

Fedősztori

Képgaléria

Ajánlott