Terorová fronta

Tito moderátoři pomáhají udržovat Google a YouTube bez násilného extremismu - a nyní někteří z nich mají PTSD

Upozornění na obsah:Tento článek obsahuje popisy grafického a znepokojivého obsahu souvisejícího s terorismem a zločinem na dětech.

Google a YouTube přistupují k moderování obsahu stejným způsobem jako ostatní technologičtí giganti: za většinu práce platí několik dalších společností. Jedna z těchto společností, Accenture, provozuje největší web společnosti Google pro moderování obsahu ve Spojených státech: kancelář v Austinu v Texasu, kde moderátoři obsahu nepřetržitě pracují na čištění YouTube.

Peter je jedním ze stovek moderátorů v Austinu. YouTube třídí práci pro něj a jeho kolegy do různých front, o kterých společnost říká, že umožňuje moderátorům budovat odborné znalosti kolem svých zásad. K dispozici je fronta na autorská práva, fronta na nenávist a obtěžování a fronta pro dospělé na porno.

KLÍČOVÉ POZNATKY

• Největší zařízení společnosti Google pro moderování obsahu v USA je v Austinu v Texasu. Stovky moderátorů, kteří tam pracují, slouží jako policejní síla YouTube.
• Google vytvořil speciální frontu pro videa, o nichž se předpokládá, že obsahují násilný extremismus, a obsadil je desítkami málo placených imigrantů ze Středního východu. Moderátoři vydělávají 18,50 $ za hodinu - asi 37 000 $ ročně - a za dva roky nezískali navýšení.
• Austinští moderátoři jsou povinni sledovat pět hodin hrůzostrašného videa denně. A to navzdory skutečnosti, že generální ředitelka YouTube Susan Wojcicki slíbila, že v loňském roce sníží svoji zátěž na čtyři hodiny denně.
• Pracovníci na webu popisují pocit úzkosti, deprese, nočních hrůz a dalších závažných následků duševního zdraví po provedení práce po pouhých šesti měsících.
• Manažeři pro Accenture rutinně nutí zaměstnance pracovat do doby přestávek a odepřít jim čas na dovolenou, aby vyhověli přeplněným frontám.
• Google nabízí jeden standard lékařské péče moderátorům obsahu na plný úvazek a další dodavatelům. Zaměstnanci na plný úvazek mohou trvat několik měsíců placené zdravotní dovolené, aby vyřešili posttraumatickou stresovou poruchu a další problémy. Dodavatelé nedostávají téměř žádnou placenou zdravotní dovolenou.
• Pracovníci ve společnosti Google často nejsou informováni o možných důsledcích moderování obsahu na duševní zdraví, když se ucházejí o zaměstnání. Výpisy a rozhovory mají tendenci bagatelizovat množství rušivého obsahu, který si moderátoři skutečně budou muset prohlédnout.
• Google provádí experimenty na některých moderátorech, aby zjistil, zda technologické zásahy, jako například umožnění pracovníkům sledovat videa ve stupních šedi, snižují emoční újmu.
• I díky špičkové lékařské péči a vynikajícím výhodám může moderování obsahu stále vést zaměstnance společnosti Google k diagnostice PTSD, chronické úzkosti a dalších dlouhodobých problémů duševního zdraví.

Peter pracuje interně jako fronta VE, což znamená násilný extremismus. Je to jedna z nejchmurnějších prací, kterou je třeba v Alphabet udělat. A stejně jako všechny práce s moderováním obsahu, které zahrnují každodenní vystavení násilí a zneužívání, mělo to pro lidi vykonávající práci vážné a dlouhodobé důsledky.

V uplynulém roce Peter viděl, jak se jeden z jeho spolupracovníků zhroutil v práci v nouzi, natolik zatížený videi, která viděl, že si vzal dva měsíce neplaceného volna z práce. Další spolupracovník, zmatený úzkostí a depresemi způsobenými prací, zanedbával svou stravu tak špatně, že musel být hospitalizován pro akutní nedostatek vitamínů.

Peter, který tuto práci vykonává téměř dva roky, se obává mýtného, ​​které tato práce přebírá na jeho duševním zdraví. Jeho rodina na něj opakovaně naléhala, aby odešel. Ale obává se, že si nebude moci najít jinou práci, která by platila stejně dobře jako tato: 18,50 $ za hodinu, nebo asi 37 000 $ za rok.

Od té doby, co začal pracovat ve frontě pro násilný extremismus, Peter poznamenal, že ztratil vlasy a přibral na váze. Jeho nálada je kratší. Když jede kolem budovy, kde pracuje, i v jeho volných dnech mu začne v hrudi pulzovat žíla.

Každý den sledujete, jak někdo někomu sťal hlavu nebo někdo zastřelil svou přítelkyni, říká mi Peter. Poté se cítíte jako páni, tento svět je opravdu šílený. Cítíte se nemocný. Máte pocit, že není nic, pro co by stálo za to žít. Proč si to děláme navzájem?

crowley dobrá znamení

Stejně jako mnoho jeho spolupracovníků pracujících ve frontě VE v Austinu je Peter přistěhovalec. Accenture přijal desítky arabských mluvčích, jako je on, z nichž mnozí vyrostli na Středním východě. Společnost závisí na jeho jazykových znalostech - mluví sedm -, aby přesně identifikovala projevy nenávisti a teroristickou propagandu a odstranila je z YouTube.

Několik pracovníků, se kterými jsem hovořil, doufá, že se stanou občany, což je čin, který se za vlády Trumpa zhoršil. Obávají se, že promluví - manažerovi, novináři - ze strachu, že to zkomplikuje jejich imigrační úsilí. (Z tohoto důvodu jsem souhlasil s použitím pseudonymů pro většinu pracovníků v tomto příběhu.)

Více než to, ale Peter a další moderátoři v Austinu mi řekli, že chtějí žít jako zaměstnanci Googlu na plný úvazek, kteří někdy navštěvují jeho kancelář. Vyšší mzda, lepší zdravotní výhody a více starostlivých manažerů by zmírnily zátěž práce, řekli mi.

Vidíme lidi, kteří odtamtud přicházejí, jak se mají, jak jednají svobodněji, říká mi Peter.

Po většinu letošního roku jsem si myslel, že to samé dělá Peter. Přiveďte moderátory domů, plaťte jim stejně, jako byste platili policistům nebo hasičům, a možná byste mohli snížit mýto na duševním zdraví neustálého vystavování násilí.

Pak jsem potkal ženu, která pracovala jako moderátorka obsahu pro samotný Google. Vydělala dobrý plat, blížil se šestimístné hranici. Existovaly vynikající přínosy pro zdraví a další výhody. Ale žádná z těchto privilegií by nakonec nezabránila tomu, aby jí rušivý obsah, který každý den viděla, ublížil.

Po roce, kdy ze služeb Google odstranila terorismus a zneužívání dětí, trpěla úzkostí a častými záchvaty paniky. Měla potíže s interakcí s dětmi, aniž by plakala. Psychiatr jí diagnostikoval posttraumatickou stresovou poruchu.

Stále s tím bojuje dodnes.

Daisy Soderberg-Rivkin pracovala jako koncipientka v roce 2015, když si všimla výpisu online pro otevřenou pozici ve společnosti Google. Úlohou bylo moderování obsahu - ačkoli, stejně jako mnoho úloh v moderování obsahu, bylo popsáno pomocí neprůhledného eufemismu: v tomto případě se přidružují legální odebrání.

Daisy vyrostla se službami Google, a když začala přemýšlet o tom, že tam bude pracovat, obrátila se její mysl na slavné výhody společnosti: její kavárny a mikrokuchyně, masáže zdarma a chemické čištění. Práce, o kterou se nakonec ucházela, byla založena v sídle společnosti Google v Mountain View v Kalifornii - tým byl později převeden do satelitní kanceláře v nedaleké Sunnyvale - a byla to pozice na plný úvazek s výhodami. Zaplatilo to 75 000 $ ročně, plus dotace z akcií Google, která celkovou částku přiblížila 90 000 $.

Tuto práci v žádném případě nedostanu, pomyslela si pro sebe. Přesto se přihlásila.

V seznamu uvedli, že spolupracovníci zpracují právní žádosti o odstranění odkazů z vyhledávání Google z důvodu porušení autorských práv, pomluvy a dalšího nevhodného obsahu. Uvedl, že spolupracovníci budou muset také zkontrolovat některé odkazy obsahující snímky zneužívání dětí. Ale velmi jasně si pamatuji, že v závorkách bylo uvedeno: „tento druh obsahu by byl omezen na jednu až dvě hodiny týdně,“ říká Daisy.

Odstranění rušivého obsahu ze služeb Google vyžaduje spolupráci několika týmů v rámci společnosti. Videa nahlášená kvůli teroristickému obsahu nebo vykořisťování dětí jsou většinou kontrolována dodavateli, jako jsou ta v Austinu. (Google označuje zaměstnance najímané společnostmi třetích stran jako dodavatele, ale zjistil jsem, že se zaměstnanci všeobecně označují jako dodavatelé a toto slovo používám v celém tomto příběhu.) Google ale také najímá zaměstnance na plný úvazek, aby zpracovávali právní žádosti od vlády entity - a v případě potřeby odebrat obrázky, videa a odkazy z vyhledávání na webu.

Daisy byla překvapená, když jí několik měsíců po podání žádosti zavolal náborář. V průběhu osmi kol rozhovorů ji zaměstnanci Googlu prodali kvůli pozitivnímu dopadu, který by její práce měla.Pomůžete podpořit svobodu projevu online, pamatuje si, jak jí to říkali.Z internetu uděláte bezpečnější místo.

Celý váš den se díváte na těla na podlaze divadla.

Připadalo mi, jako byste si oblékli pláštěnku, pracovali v Googlu, dostali zdarma kombuchu a spali v podprsenkách, říká. Ale jednou za čas budete muset vidět nějaký rušivý obsah. Opravdu, jak špatné to může být?

Zavolala své matce a řekla, že se práce ujala. Bylo jí 23 let.

Daisy, která neměla žádné předchozí problémy s duševním zdravím, neuvažovala o potenciálním dopadu, který by mohla mít nová práce na její psychiku. Zdá se, že ani Google. Během své orientace společnost nenabídla žádné školení na to, co nyní pracovníci v této oblasti nazývají odolnost - vývoj emocionálních nástrojů pro zvládnutí velkého množství grafického a rušivého textu, obrázků a videa.

Daisy byla přidělena ke kontrole právních žádostí o odstranění obsahu pocházejících z Francie, kde hovoří plynně rodným jazykem. Nakonec by se stala programovým vedoucím společnosti v oblasti terorismu na francouzském trhu. Každý den otevřela svou frontu, roztřídila zprávy a určila, zda je Google povinen - buď ze zákona, nebo ze smluvních podmínek Google - zrušit odkaz.

Ke svému překvapení začala fronta přetékat násilím. Dne 13. listopadu 2015 teroristé, kteří se zavázali k loajalitě k ISIS, zabili v Paříži a na předměstí Saint-Denis 130 lidí a dalších 413 zranili, přičemž většina z nich zemřela při hromadném střelbě během koncertu v Bataclanu.

Celý váš den se dívá na těla na podlaze divadla, říká. Vaše neurony prostě nefungují tak, jak by obvykle fungovaly. Všechno to zpomaluje.

V červenci 2016 vrazili teroristé napojení na ISIS nákladní vůz do davu lidí oslavujících Den Bastily ve francouzském městě Nice, přičemž zabili 86 lidí a dalších 458 zranili. Odkazy na grafické fotografie a videa se začaly hromadit. Manažeři na Daisy tlačili, aby zpracovali stále vyšší počet požadavků, říká.Musíme tento nevyřízený stav zabít, říkali. Pokud ne, obávala se, že by dostala špatnou recenzi.

Daisy se snažila pracovat rychleji, ale zjistila, že je to boj.

Vše, co vidíte, jsou čísla, která ve vaší frontě stoupají, říká.

V únoru jsem psal oživoty moderátorů Facebooku ve Spojených státech, zaměřená na web ve Phoenixu, kde si pracovníci stěžovali na nízkou mzdu, zoufalé pracovní podmínky a přetrvávající problémy s duševním zdravím kvůli policejní kontrole sociální sítě. V červnu jsem napsal následnou zprávu o Facebooku v Tampě na Floridě, kdemoderátor zemřel poté, co utrpěl masivní infarkt.

Do té doby jsem dostal zprávy od zaměstnanců jiných velkých sociálních platforem s vysvětlením, že tyto problémy ovlivnily také jejich společnosti. Od léta jsem hledal lidi, kteří pracovali jako moderátoři pro Google nebo YouTube, aby porovnali své zkušenosti s těmi, o kterých jsem dříve psal. Za posledních pět měsíců jsem pohovořil s 18 současnými i bývalými zaměstnanci a smluvními partnery společnosti Google o jejich pracovních podmínkách a dopadech práce na jejich duševní zdraví.

Díky velkému počtu internetových služeb, z nichž některé přilákaly uživatelské základny s více než miliardou lidí, Google vyžaduje armádu moderátorů. Velká část obsahu odeslaného ke kontrole je neškodná a dokonce zdlouhavá: například odstranění spamu z reklamní platformy Google nebo odstranění podvodných zápisů z Map Google. Rušivý obsah lze ale najít téměř všude, kde Google umožňuje uživatelům jej nahrát. V říjnu společnost uvedla, že v minulém roce odstranila 160 000 kusů obsahu obsahujícího násilný extremismus pouze ze služeb Blogger, Fotky Google a Disk Google - přibližně 438 denně.

I na YouTube je většina obsahu kontrolovaného moderátory neškodná. Pokud ve frontách nejsou hlášena žádná videa, moderátoři často nečinní. Jeden moderátor ve finštině mi řekl, že odešla dva měsíce do své práce a během dne neměla vůbec co dělat. Nanejvýš může být požádána, aby zkontrolovala několik videí a komentářů v průběhu osmi hodin. Většinu svého pracovního dne trávila procházením internetu, řekla mi, než minulý měsíc z nudy skončila.

Každý výstřel, každá smrt zažije, jako by to mohlo být skutečné

Zkušenosti ostatních moderátorů se značně lišily na základě jejich umístění, jejich úkolů a relativní empatie jejich manažerů. Několik z nich mi řeklo, že je jejich práce většinou baví, a to buď proto, že úkol odstranění násilných a rušivých videí z vyhledávání Google a YouTube je pro ně odměnou, nebo proto, že jim přidělené úkoly jsou jednoduché a umožňují jim během dne dostatek času sledovat videa nebo odpočívat.

Celkově se zaměstnanci domnívají, že je to velmi snadná práce a není na co si stěžovat, řekl mi v e-mailu moderátor YouTube v Indii, který vydělává zhruba 850 $ měsíčně. Náš wellness [čas] obvykle trávíme hraním her, jako jsou hudební židle, hloupé šarády, Pictionary atd. Bavíme se!

Fun nebylo slovo, které by někdo, s kým jsem mluvil, popisoval práci moderování teroristického obsahu. Místo toho mluvili o svalových křečích, stresu při jídle a - uprostřed rostoucího nájemného v Austinu - plíživé chudobě. Mluvili o manažerech, kteří jim odepřeli přestávku, vyhodili je z chatrných záminek a bez varování změnili směny.

U pracovníků nejvíce zasažených násilím vyjádřili rostoucí obavy z vedlejších účinků svědků desítek nebo více vražedných scén denně.

Pokud jsem řekl, že se mě to netýká, je to úplná lež, říká Tariq, který pracuje v austinské frontě násilného extremismu více než 18 měsíců. To, co vidíte každý den ... vás formuje.

Když Peter opustí práci v Austinu, pokusí se uvolnit. Postupem času se to stalo obtížnějším. Akční filmy, které si kdysi užíval, se mu už nezdály být fiktivní. Každý výstřel, každá smrt zažije, jako by to mohlo být skutečné.

I když vím, že ... to není pravda, říká Peter.

Někteří z jeho spolupracovníků se vyrovnávají s užíváním drog - většinou s plevelem. Od chvíle, kdy Google poprvé najal společnost Accenture, aby začala roztočovat frontu VE v Texasu, viděl, jak se všichni stáhli.

Petrion

Na začátku jste viděli, jak všichni říkají: „Ahoj, jak se máš?“ Vzpomíná Peter. Všichni byli přátelští. Šli se zkontrolovat. Nyní už nikdo nechce mluvit s ostatními.

Do projektu se zapojil v roce 2017, tedy v roce, kdy to začalo. V té době se YouTube dostal pod značný tlak na vyčištění platformy. Novináři a akademici, kteří službu vyšetřovali, našli velké množství videí obsahujících nenávistné projevy, obtěžování, dezinformace o masových střelbách a jiných tragédiích a obsah škodlivý pro děti. (Mnoho z těchto videí bylo nalezeno na YouTube Kids, aplikaci, kterou společnost vyvinula ve snaze nasměrovat děti k bezpečnějšímu materiálu.)

V reakci na to generální ředitelka YouTube Susan Wojcickioznámila, že společnost rozšíří svoji globální pracovní sílu moderátorů na 10 000, což se stalo. Zlomek z nich - Google by mi neřekl, kolik jich - bylo najato ve Spojených státech, s největší koncentrací v Austinu.

Požádali bychom o věci a oni by řekli: „Podívej, prostě nemáme rozpočet.“ Hodně by řekli slovo „rozpočet“.

Moderátoři smluvního obsahu jsou levní, ve Spojených státech činí jen něco málo přes minimální mzdu. Naproti tomu zaměstnanci na plný úvazek, kteří pracují na moderování obsahu pro vyhledávání Google, mohou po povýšení vydělat 90 000 USD nebo více, bez bonusů a grantů na akcie. Dočasní pracovníci, dodavatelé a prodejci - pracovníci, které zaměstnanci společnosti Google interně označují jako TVC -nyní tvoří 54 procent pracovní síly společnosti.

Kristie Canegallo, viceprezidentka společnosti Google pro důvěru a bezpečnost, dohlíží na její tisíce moderátorů. Řekla mi, že spoléhání se na firmy, jako je Accenture, pomáhá Googlu efektivněji upravovat počet zaměstnanců. Pokud společnost vyvíjí nový nástroj, který pomůže zachytit špatná videa, bude možná potřebovat zpočátku více moderátorů, kteří pomohou trénovat systém. Ale poté už tito moderátoři nejsou potřeba.

Smlouva s dodavatelskými společnostmi nám opravdu pomáhá mít flexibilitu přizpůsobit se měnícím se požadavkům, říká Canegallo, který se ke společnosti Google připojil v roce 2018 poté, co pracoval jako zástupce vedoucího týmu u prezidenta Baracka Obamy.

Stejně jako ostatní velcí hráči v oboru je i web společnosti Accenture v Austinu založen na modelu call centra. (Na rozdíl od Facebooku mi Google odmítl dovolit navštívit kterýkoli z jeho webů.) Zaměstnanci pracují ve vyhrazeném prostoru známém jako produkční podlaha, kde pracují na směny a zpracovávají zprávy. Práce je zásadní pro umožnění existence YouTube: mnoho zemí přijalo zákony, které zákonně vyžadují, aby společnost odstranila videa obsahující teroristický materiál, některé z nich už za 24 hodin po obdržení hlášení.

Daisy považovala teroristický materiál za znepokojující, ale ještě více ji znepokojilo to, co Google nazývá snímky sexuálního zneužívání dětí (CSAI). Seznam pracovních míst slíbil, že bude kontrolovat obsah související se zneužíváním dětí pouze hodinu nebo dvě týdně. Ale v praxi to byla mnohem větší část práce.

Prohlížení CSAI je ve většině případů nezákonné, proto Google nastavil to, co moderátoři nazývali válečná místnost, kde mohli kontrolovat žádosti týkající se vykořisťování dětí, aniž by hrozilo, že materiál uvidí nechtěně ostatní spolupracovníci. Zpočátku společnost nastavila rotaci. Daisy mohla pracovat v CSAI tři týdny, pak měla šest týdnů své běžné práce. Chronické nedostatek zaměstnanců, spolu s vysokou fluktuací moderátorů, však podle ní znamenalo, že většinu týdnů musela přezkoumávat případy vykořisťování dětí.

Začali jsme si uvědomovat, že v zásadě nejsme pro společnost prioritou, říká Daisy o Google. Požádali bychom o věci a oni by řekli: „Podívej, prostě nemáme rozpočet.“ Hodně by řekli slovo „rozpočet“.

(Google vykázal v roce 2018 tržby ve výši 110 miliard USD.)

Rok po práci ji Daisyin přítel zdůraznil, že se její osobnost začala měnit. Jsi velmi nervózní, řekl. Mluvíš ve spánku. Někdy křičíte. Její noční můry se zhoršovaly. A byla vždy, vždy unavená.

Jednou za ní přišel spolubydlící, jemně ji šťouchl a ona se instinktivně otočila a praštila ho. Můj reflex bylTato osoba je tu, aby mi ublížila, ona říká. Jen jsem všechno spojoval s věcmi, které jsem viděl.

Musel jsem si na vteřinu sednout a jen jsem vybuchl s pláčem

Jednoho dne procházela Daisy se svými přáteli po San Francisku, když zahlédla skupinu dětí předškolního věku. Pečovatel je požádal, aby se přidrželi lana, aby se od skupiny neztratili.

Jednou jsem trochu zamrkal a najednou jsem měl záblesk některých obrázků, které jsem viděl, říká Daisy. Vázané děti, děti znásilňované v tomto věku - tři roky. Viděl jsem lano a představil jsem si část obsahu, který jsem viděl, s dětmi a lany. A najednou jsem přestal a hodně jsem mrkal a můj přítel se musel ujistit, že jsem v pořádku. Musel jsem si na vteřinu sednout a jen jsem vybuchl s pláčem.

Byl to první záchvat paniky, jakou kdy zažila.

V následujících týdnech Daisy ustoupila od svých přátel a spolubydlících. Nechtěla s nimi příliš mluvit o své práci ze strachu, že by je zatěžovala znalostmi, které teď o světě má. Jejím úkolem bylo odstranit tento obsah z internetu. Sdělit to ostatním připadalo jako zrada jejího poslání.

Google udržoval poradce na zaměstnancích, ale byla v nepravidelných intervalech k dispozici týmu pro legální stěhování a její plán se rychle naplnil. Daisy byla rádkyně vřelá a soucitná, ale bylo těžké s ní získat čas. Pošlou vám e-mail s textem: „Přichází dnes,“ a museli byste se zaregistrovat velmi rychle, protože by se zaplnil téměř okamžitě. Protože každý cítil tyto účinky.

Když se úspěšně domluvila, poradce navrhl, aby Daisy začala navštěvovat soukromého terapeuta.

Mezitím Daisy začala být podrážděnější. Požádala lidi ve svém životě, aby se jí nedotkli. Když ji jedna kamarádka pozvala na narozeninovou oslavu svého tříletého dítěte, Daisy odešla, ale po krátké chvíli odešla. Pokaždé, když se podívala na děti, představovala si, jak jim někdo ubližuje.

Jak se její duševní zdraví zhoršovalo, Daisy se snažila držet krok s požadavky, které na ni byly kladeny. Stále více plakala v práci - někdy v koupelně, někdy před budovou. Jindy usnula u svého stolu.

Ke konci prvního roku požádal její manažer o rozhovor. Setkali se uvnitř konferenční místnosti a manažer vyjádřil své obavy.Nedostáváte se dostatečně rychle do fronty, řekl.Potřebujeme, abyste zintenzivnili svou produktivní hru.

Byla unavená, když to řekl, protože byla vždy unavená a něco z těchto slov - hra s produktivitou - ji rozzuřilo. Právě jsem praskl, říká Daisy.

Jak chcete, proboha, abych zintenzivnil svoji hru produktivity? řekla svému manažerovi. Víte, jak vypadá můj mozek právě teď? Rozumíte tomu, na co se díváme? Nejsme stroje. Jsmelidé. Máme emoce a tyto emoce jsou hluboce zjizvené tím, že se neustále díváme na děti, které jsou znásilňovány, a na lidi, kteří mají useknuté hlavy.

Někdy, když přemýšlela o své práci, představovala si, jak kráčí temnou uličkou obklopenou tím nejhorším ze všeho, co viděla. Bylo to, jako by všechno násilí a týrání mělo fyzickou podobu a zaútočilo na ni.

Říká, že všechno zlo lidstva, jen na tebe prší. Tak to bylo - jako by nebylo úniku. A pak ti někdo řekl: ‚No, musíš se tam vrátit. Jen v tom pokračuj. “

O několik dní později Daisy řekla svému manažerovi, že má v úmyslu vzít si placenou lékařskou dovolenou, aby vyřešila psychologické trauma z minulého roku - jednoho z několika ve svém týmu, který si vzal dovolenou v důsledku emocionálního traumatu, které utrpěl při práci. Myslela si, že může být pryč několik týdnů, možná čtyři.

Už šest měsíců by se nevrátila na Google.

Vraždy přicházely rychleji, než dokázala austinská kancelář zvládnout. I když stovky moderátorů nepřetržitě pracovaly na směny, Accenture se snažil držet krok s příchozími videi brutality. Frontě násilných extremismů dominují videa původem ze Středního východu a společnost od roku 2017 přijala desítky arabských mluvčích, aby je zkontrolovali.

Mnoho pracovníků jsou noví přistěhovalci, kteří dříve pracovali jako ochranka a řidiči dodávky a slyšeli o této práci od přítele.

Když jsme migrovali do USA, naše vysokoškolské tituly nebyly uznány, říká Michael, který na místě pracoval téměř dva roky. Právě jsme tedy začali dělat cokoli. Potřebovali jsme začít pracovat a vydělávat peníze.

Pracovníci, se kterými jsem mluvil, byli zpočátku vděční za příležitost pracovat pro velkou technologickou společnost, jako je Google. (Zatímco dodavatelé technicky pracují pro společnost Accenture, Google hranice stírá několika způsoby. Mimo jiné dostávají dodavatelé e-mailové adresy google.com.)

Konečně jsem pracoval v kanceláři, říká Peter. Přemýšlel jsem o všech příležitostech. Přemýšlel jsem o kariéře.

Ale až do orientace zůstala skutečná podstata práce ve frontě násilného extremismu neprůhledná. Neměl jsem představu, co to bylo, říká Peter, protože ti to neřeknou.

Accenture dává moderátorům pokyn, aby zpracovali jejich 120 videí denně za pět hodin, podle pracovníků, se kterými jsem mluvil, se dvěma hodinami denně placeného wellness času a hodinovým neplaceným obědem. (Wojcicki slíbil, že v loňském roce sníží své břemeno na čtyři hodiny, ale nikdy se to nestalo. Společnost Accenture popírá stanovení jakýchkoli kvót produktivity pro pracovníky.) Pro pracovníky je vyčleněn wellness čas na dekompresi z náročnosti práce - procházkou ven rozhovorem s místním poradcem nebo hraním her se spolupracovníky. Zpočátku byli opravdu dobří, říká Michael. Pokud uvidíte něco špatného, ​​dejte si pauzu. Zavřete obrazovku a prostě jděte.

Zákaz mobilních telefonů vytvořil v kanceláři v Austinu zvláštní druh temné komedie

Google nabízí svým dodavatelům dramaticky více prostojů než Facebook, který žádá své moderátory, aby si vystačili se dvěma 15minutovými přestávkami, 30minutovým obědem a pouhými devíti minutami denně na wellness. (Facebook říká, že díky školení a koučování jeho moderátoři sledují obsah zhruba šest hodin denně.)

Neustále kontrolujeme, porovnáváme a investujeme do našich wellness programů, abychom vytvořili podpůrné prostředí na pracovišti, řekl mi Accenture ve svém prohlášení. Naši lidé v Austinu mají neomezený přístup k podpoře wellness, která zahrnuje proaktivní poradenství na vyžádání podporované silným programem asistence zaměstnancům, a jsou povzbuzováni, aby prostřednictvím těchto programů vzbuzovali obavy o zdraví.

Pokud jsou však ideální dvě hodiny wellness dne, v Austinu to není obvyklé. Čtyři pracovníci mi řekli, že jim byla běžně odepřena doba přestávky, když byla fronta VE obzvláště zaneprázdněna. Počínaje zhruba šesti měsíci se také museli začít vzdát přestávky, aby dosáhli svého skóre využití, což je měření času aktivně stráveného moderováním videí během dne. Sledovací software nainstalovaný na jejich počítačích zaznamenává každou minutu videa, které sledují, s cílem pět hodin. Jiné důležité pracovní úkoly, jako je kontrola e-mailů nebo účast na týmových schůzkách, se však do tohoto cíle nezapočítávají, což nutí zaměstnance pravidelně jíst do přestávky, aby vyrovnali ztrátu.

Falešný příslib prodloužené doby přestávek v Austinu je v souladu s celkovým obrazem, který pro mě pracovníci namalovali na stránkách moderujících obsah po celém světě. Když vznikají nové weby, manažeři shromažďují nové zaměstnance kolem jejich ušlechtilého poslání: zajistit, aby byl internet bezpečný pro všechny. Zpočátku mají dodavatelé svobodu, kterou zaměstnanci na plný úvazek ve společnosti Google, Facebook a jinde považují za samozřejmost: svoboda jít na záchod bez žádosti o povolení, svoboda jíst jídlo u stolu, svoboda naplánovat dovolenou .

Existuje tolik způsobů, jak vás týrat, pokud neděláte to, co mají rádi

Jak měsíce ubývají, prodejci jako Accenture a Cognizant začínají tyto svobody vymáhat, často s malým vysvětlením. V Austinu bylo zakázáno jíst u stolu. Někteří manažeři se začali ptát zaměstnanců, proč trávili tak dlouho v koupelně. (Byli pryč možná šest nebo sedm minut.) Pracovníkům bylo původně dovoleno přinést si k stolům osobní mobilní telefony, ale také tuto svobodu ztratili, očividně kvůli obavám o soukromí.

League of Legends minecraft

Zákaz mobilních telefonů vytvořil v kanceláři v Austinu zvláštní druh temné komedie. Některé služby Accenture vyžadují, aby se zaměstnanci přihlašovali pomocí dvoufaktorového ověřování, přičemž do telefonů zaměstnanců se zasílají kódy, jejichž platnost vyprší. Vzhledem k tomu, že společnost Accenture zakázala telefony v produkčním prostředí, zaměstnanci nyní musí závodit ve skříňkách, kde jsou jejich telefony uloženy, a poté se vrátit zpět ke svým stolům, aby zadali kód, než vyprší jeho platnost. Společnost Accenture také zakázala pera a papír na přepážkách zaměstnanců, takže zaměstnanci, kteří se obávají, že zapomenou svůj kód, si jej musí rychle naškrábat na ruce, než zamknou své telefony a vrátí se zpět ke svému stolu. Pracovníci jsou nyní často vidět, jak sprintují kanceláří se sérií číslic, které jsou na dlaních chaoticky naškrábané.

Dva zaměstnanci v místě Austinu mi řekli, že jim byly zamítnuty žádosti o dovolenou na základě množství teroristických videí ve frontě. Ostatní byli převedeni do různých směn s malým nebo žádným vysvětlením. A moderátoři YouTube nedostali navýšení za dva roky, i kdyžAustinovo nájemné patří k nejrychleji rostoucímu v zemi. (Accenture říká, že drtivá většina jejích zaměstnanců dostává roční navýšení.) Peter mi řekl, že 50 procent svého měsíčního příjmu utrácí za nájemné, přičemž většina ze zbytku jde na jiné účty. Život v Austinu je podle něj dražší, ale jeho mzdy nedrží krok.

Zacházejí s námi velmi špatně, říká Michael. Existuje tolik způsobů, jak vás týrat, pokud neděláte to, co mají rádi.

Když odešla z Googlu, začala Daisy pracovat s psychiatrem a terapeutem. Byla diagnostikována posttraumatická stresová porucha a chronická úzkost a začala užívat antidepresiva.

Na terapii se Daisy dozvěděla, že klesající produktivita, která frustrovala její manažery, nebyla její vina. Její terapeut pracoval s dalšími bývalými moderátory obsahu a vysvětlil, že lidé reagují odlišně na opakované vystavení rušivým obrazům. Někteří se přejídají a přibývají na váze. Někteří cvičí nutkavě. Někteří, jako Daisy, pociťují vyčerpání a únavu.

Zdá se mi, že to nenívyproblém, to jejimproblém, řekl jí Daisyin terapeut, vzpomíná. Jsou za to zodpovědní. Vytvořili tuto práci. Měli by být schopni ... dát prostředky na to, aby tuto práci vytvořili, což nikdy nebude snadné - ale alespoň tyto účinky co nejvíce minimalizujte.

Terapeut navrhl, aby Daisy dostala psa. Přijala mix border kolie / australského ovčáka z SPCA a pojmenovala ji Stella poté, co zjistila, že volá po psudo Brando-esque níže. Společně absolvovali kurz, na kterém Stella trénovala, aby se stala zvířetem pro podporu emocí, upozorňovala na známky záchvatů paniky Daisy a byla schopná ji uklidnit.

Daisy začala brát Stellu do dětské nemocnice UCSF Benioff k návštěvě nemocných dětí. Postupem času zjistila, že je schopna znovu komunikovat s dětmi, aniž by vyvolala záchvat paniky. Když viděla dětského mazlíčka, měl můj pes zásadní vliv na to, jak jsem pokročila ve svém vztahu s dětmi, říká.

Je vděčná za to, že na rozdíl od dodavatele si mohla chvíli vyžádat pomoc, přestože byla stále placena. Měl jsem ty měsíce na to, abych přemýšlel o svých volbách a přemýšlel o východiscích, aniž bych musel řešit nezaměstnanost nebo musel řešit, jak budu platit nájem, říká.

Půl roku po odchodu z Googlu se Daisy vrátila ke své práci. Ke svému zděšení zjistila, že se málo změnilo v přístupu jejích manažerů.

Zkontrolovali mě, říká. Řekli: ‚Jak to jde? Jak se cítíš? Pomalu vás začneme. “Ale konečná hra byla stále stejná, což vás mělo znovu dostat do vaší [cílové] produktivity.

Týden po návratu se rozhodla podat přihlášku na postgraduální studium. Byla přijata na Fletcherovu školu práva a diplomacie na Tufts University a počátkem tohoto roku získala magisterský titul. Dnes je političkou v R Street Institute, nestranném think tanku. Zaměřuje se na děti a technologie, přičemž využívá svého času ve společnosti Google, aby informovala zákonodárce o soukromí dětí, vykořisťování dětí a moderování obsahu.

Všechno to využiji, abych podpořil svou touhu po změně, říká Daisy.

Když společnost Accenture zavedla různá nová omezení na pracovišti v Austinu, někteří si začali navzájem žertovat, že se s nimi experimentuje. Jsi jen krysa, říká Peter. Zkouší na vás nové věci.

Pro malou skupinu dodavatelů to platí doslovně. Začátkem tohoto roku společnost Google představila příspěvek na konferenci o lidských výpočtech a crowdsourcingu. Papír,Testování stylistických zásahů s cílem snížit emoční dopad pracovníků s moderováním obsahupopsal dva experimenty, které společnost provedla se svými moderátory obsahu. V jednom z nich společnost nastavila, aby se všechna videa zobrazovala ve stupních šedi - rušivý obsah byl černobílý, nikoli barevný. Na druhé straně ve výchozím nastavení rozmazaný obsah.

Vědci se zajímali o to, zda transformace videí a obrázků může snížit emoční dopad, který mají na moderátory.

Canegallo mi řekl, že je součástí naší odpovědnosti a našeho závazku vůči všem členům našeho týmu, kteří se na tento obsah dívají, aby jim poskytovali nejlepší možnou podporu při výkonu jejich práce. Ať už se Google dozví o zlepšování podmínek pro své pracovníky, bude to sdílet s průmyslem, řekla.

Nástroj ve stupních šedi byl zpřístupněn 76 moderátorům, kteří se do studie přihlásili. Moderátoři strávili dva týdny sledováním pravidelné, vybarvené fronty a poté odpověděli adotazníko jejich náladě. Další dva týdny strávili prohlížením fronty ve stupních šedi a poté dotazník znovu vzali.

Studie zjistila, že prezentace videí ve stupních šedi vedla recenzenty k hlášení výrazně zlepšených nálad - přinejmenším za tento týden.

Vědci z Googlu navrhli budoucí studie, které zkoumají emoční dopad změny barvy krve na zelenou na moderátory

Je stejně pozoruhodné, co společnost netestuje: omezení množství rušivého obsahu, kterému mohou být jednotliví moderátoři vystaveni za celý život; placené zdravotní volno pro dodavatele vyvíjející PTSD; a nabízí podporu bývalým zaměstnancům, kteří po ukončení zaměstnání nadále bojují s dlouhodobými problémy duševního zdraví.

Místo toho Google dělá to, co technologické společnosti často dělají: pokouší se uplatnit technická řešení problému. Společnost buduje systémy strojového učení, o kterých vedoucí pracovníci doufají, že jednoho dne zvládnou většinu práce. Mezitím vědci Google navrhli budoucí studie, které zkoumají emoční dopad změny barvy krve na zelenou na moderátory, další umělecké transformace obsahu a selektivnější rozmazání - například tváří. (Facebook již pro své moderátory implementoval možnosti ve stupních šedi a rozmazání obličeje a ve výchozím nastavení také možnost ztlumit zvuk ve videích.)

Společnosti však již roky vědí, že zaměstnanci hledají zdravotní dovolenou, aby se mohli vypořádat s traumatem spojeným s prací. Je zarážející, že společnost s tak rozsáhlými zdroji, jako je Google, se právě teď začíná zabývat těmito drobnými technologickými zásahy, roky poté, co zaměstnanci začali svým manažerům hlásit diagnózy PTSD.

Nyní jsme dva roky ve velké expanzi odvětví moderování obsahu. Vzhledem k tomu, že vlády po celém světě kladou na technologické společnosti větší nároky na policejní služby, přihlásily se k práci desítky tisíc lidí. Zdá se, že se potřeba moderátorů rozšiřuje, i když někteří prodejci přehodnocují svou schopnost vykonávat práci. V říjnu Cognizant oznámil, že v příštím roce ukončí podnikání.

Zároveň nám stále chybí základní znalosti o tom, jak nejtěžší aspekty této práce - odstranění grafického a rušivého obsahu - ovlivňují lidi, kteří ji dělají. Víme, že podmnožina lidí, kteří pracují ve frontě násilných extremismů na YouTube a podobných rolích po celém světě, vytvoří PTSD a související podmínky v práci. Nevíme, jaká může být bezpečná úroveň expozice.

Manažeři technologických společností mají tendenci popisovat tento problém jako problém s náborem. Podle jejich názoru existují pracovníci, kteří jsou odolní vůči nekonečnému násilí a zneužívání, a ti, kteří nejsou.

Ale při mých letošních rozhovorech s více než 100 moderátory ve společnostech všech velikostí je jasné, že bezpečnost moderátorů obsahu není binární záležitostí. U některých pracovníků se během prvních několika týdnů v zaměstnání rozvinou časné příznaky PTSD. Jiní je rozvíjejí poté, co dělají práci po celá léta.

Nikdy nevíte, kdy uvidíte věc, kterou nevidíte, dokud ji neuvidíte.

Nakonec to nemohu říci jasněji než vlastní výzkumníci Google: Existuje ... rostoucí povědomí a uznání, že kromě pouhého nepříjemnosti může mít dlouhodobé nebo rozsáhlé sledování takového rušivého obsahu významné zdravotní důsledky pro ty, kteří se zabývají takové úkoly.

JAK JSEM ZPRÁVU ZPRÁVU

V červnu,The Vergevyžádané příběhy od lidí, kteří pracují nebo pracovali jako moderátoři obsahu pro Google a YouTube. Během příštích pěti měsíců Casey Newton slyšela od 18 lidí, kteří tuto práci odvedli, včetně velké skupiny, která pracovala na moderátorské stránce YouTube v texaském Austinu. Letos na podzim cestoval dvakrát do Austinu, aby se setkal se současnými a bývalými zaměstnanci v místě. Také dvakrát cestoval do Washingtonu, DC, aby se setkal s Daisy Soderberg-Rivkinovou a zachytil její příběh. Google odmítl naši žádost o návštěvu webu Austin, ale poskytl dva vedoucí pracovníky pro rozhovory, které byly zaznamenány. Accenture odpovídal na písemné otázky.

Pro novější zprávy o životě moderátorů obsahu doporučujemetentoWashington Postvyšetřování se od července zaměřilo na Filipíny, Kniha Sarah Robertsové Za obrazovkou , aPříběh Davida Gilberta o skupině bývalých moderátorů Facebooku, kteří společnost žalujíSvěrák .

Přesto jsou pracovníci společnosti Google, stejně jako na Facebooku, odrazováni od toho, aby o těchto důsledcích vůbec diskutovali. Manažeři, kteří je varují, že je lze snadno nahradit, ve spojení s dohodami o mlčenlivosti, které jsou nuceni podepsat při převzetí práce, nadále zakrývají svou práci.

A protože se část z nich propadá úzkosti a depresi, dostane se jim velmi odlišné péče podle toho, zda pracují jako plnohodnotní zaměstnanci nebo jako dodavatelé. Několik příbuzných, jako je Daisy, bude moci čerpat měsíce placené zdravotní dovolené. Jiní, jako jedna osoba, se kterou jsem mluvil v Austinu, budou pokračovat v práci, dokud nebudou hospitalizováni.

Faktem zůstává: bez ohledu na to, jak dobře jste placeni nebo jak dobré jsou výhody, být moderátorem obsahu vás může navždy změnit.

Nedávno mi zaměstnanec jedné z velkých technologických společností vysvětlil koncepttoxické delikty- zákony, které lidem umožňují žalovat zaměstnavatele a stavitele domů, pokud vystaví žalobce nezdravému obsahu nebezpečné chemické látky. Tyto zákony jsou možné, protože máme vědecké znalosti o tom, jak určité chemikálie ovlivňují tělo. Víme, že například expozice barvám na bázi olova může způsobit poškození mozku, zejména u dětí. Víme, že expozice azbestu může způsobit rakovinu plic. A tak stanovujeme bezpečnou úroveň expozice a snažíme se udržet zaměstnavatele a stavitele domů na těchto úrovních.

Možná nikdy nebudeme schopni určit bezpečnou úroveň expozice rušivému obsahu se stejnou mírou přesnosti. Zdá se však pozoruhodné, že žádný z technologických gigantů, kteří k provádění této práce zaměstnávají desítky tisíc lidí, se o to ani nepokouší.

Pokud se to má změnit, bude to kvůli nějaké kombinaci akce kolektivního pracovníka,hromadné žalobya tlak veřejnosti. Zaměstnanci společnosti Google jsouvedoucí v oboru při prosazování práv svých kolegů z dodavatelůa doufám, že práce bude pokračovat.

Po dvou letech, které strávila mimo Google, se Daisy stále potýká s následky práce, kterou tam dělala. Stále má občas záchvaty paniky a užívá antidepresiva ke stabilizaci nálady.

Zároveň mi řekla, že je vděčná za to, že si mohla vzít placenou lékařskou dovolenou, aby začala řešit dopady práce. Považuje se za jednu z těch šťastných.

Potřebujeme tolik lidí, kolik dokážeme dělat tuto práci, říká Daisy. Musíme však také změnit celkový systém a celkovou strukturu toho, jak se tato práce provádí. Jak podporujeme tyto lidi. Jak jim dáváme nástroje a zdroje k řešení těchto věcí. Jinak se tyto problémy jen zhorší.