Pomoc! Můj náborář je algoritmus!
Noyb podal stížnost u lucemburského úřadu pro ochranu údajů (CNPD) proti Amazonu kvůli jejich pochybným praktikám elektronického náboru na jejich platformě Mechanical Turk. Amazon zejména používá automatizované rozhodování k přijetí nebo odmítnutí pracovníků - bez možnosti žadatelů pochopit kritéria stojící za takovým automatizovaným rozhodnutím nebo je napadnout.
Stát se pracovníkem MTurk. Amazon Mechanical Turk ("AMT", společnost skupiny Amazon) provozuje crowdsourcingovou platformu na webových stránkách www.mturk.com. Tato platforma sdružuje různé podniky a malé nezávislé pracovníky po celém světě. Tito pracovníci (nazývaní také "MTurk Workers") obvykle provádějí mikroúkoly za malou odměnu, jako je analýza obsahu obrazu, moderování online obsahu nebo ověřování dat.
Algoritmy jako náboráři. Teoreticky se může kdokoli přihlásit a stát se pracovníkem Mturk několika kliknutími. V praxi si však AMT vyhrazuje právo automaticky odepřít přístup ke své platformě a důvody takového odmítnutí zůstávají zcela netransparentní. Přesně to se stěžovatelce stalo, když požádala o to, aby se stala pracovnicí MTurk: obdržela automatizovaný e-mail, který ji informoval, že byla odmítnuta bez dalšího vysvětlení.
"Nejvíce mě překvapilo, že automatizovaný e-mail, který mi byl zaslán, jasně uváděl, že toto rozhodnutí bylo přijato na základě předem stanovených kritérií a že tato kritéria mi nebudou sdělena, protože Amazon je považuje za "proprietární". Zajímalo by mě: co musí skrývat? Odmítli mě kvůli mé poloze, úrovni vzdělání, pohlaví? Jak analyzovali můj profil a jak vůbec tyto údaje získali?" - Kathia (alias), stěžovatelka v tomto případě
Automatizované rozhodování. Podle článku 22 GDPR mají fyzické osoby právo nebýt předmětem automatizovaného rozhodování. Stěžovatelka se proto rozhodla rozhodnutí AMT napadnout a požádala o další informace o tom, jak byly její osobní údaje zpracovány. Kontaktovala pověřence pro ochranu osobních údajů společnosti Amazon, Amazon Client Services a Amazon Web Services (další společnost skupiny Amazon Group, na kterou byla přesměrována). Navzdory mnoha pokusům a snaze najít, kde řešit své obavy, nikdy nedostala od Amazonu žádnou odpověď.
"Pokud začneme žít ve světě, kde algoritmus sám rozhodne, zda jste hodni pojištění, půjčky nebo dokonce práce, samotná lidská důstojnost se dostává pod útok. Společnosti jako Amazon musí poskytovat řádné záruky na ochranu jednotlivců před nespravedlivými rozhodnutími. Měli by poskytovat jasné informace o tom, jak jsou jejich automatizovaná rozhodnutí prováděna, jak lze tato rozhodnutí napadnout, a zajistit, aby skutečná lidská bytost mohla tato rozhodnutí přezkoumat, "vysvětluje Romain Robert, právník pro ochranu údajů ve společnosti noyb.
GDPR proti stroji. GDPR chrání uživatele před rozhodnutími ovlivňujícími jejich život, pokud jsou tato rozhodnutí činěna pouze stroji. To je obzvláště důležité v oblasti elektronického náboru, kde by neprůhlednost algoritmického rozhodování mohla vést k nespravedlnosti a diskriminaci ve velkém měřítku. Noyb doufá, že CNPD nařídí Amazonu, aby uživatelům poskytl jasné informace o svém automatizovaném rozhodování a způsob, jak rozhodnutí přezkoumat, aniž by se schovával za algoritmus. CNPD může také uložit pokutu Amazonu, jak již bylo učiněno v červenci 2021.
Zdroj: noyb.eu