Gepubliceerd door Justine Pardoen in Online jeugdcultuur

TikTok ontslaat moderatie-team

In september ontsloeg TikTok het hele Nederlandse moderatie-team (300 mensen). Ze worden vervangen door moderatoren elders in de wereld en door AI. Het bedrijf zegt zo’n 6000 moderatoren te hebben in Europa. Ook in andere landen worden moderatoren ontslagen. TikTok heeft 5,7 miljoen actieve Nederlandse gebruikers per maand waaronder veel kinderen, ook onder de 13 jaar.

Kim van Sparrentak (Europarlement GroenLinks) noemt het op LinkedIn “volstrekt belachelijk”, want TikTok wordt hiermee een stuk onveiliger, “omdat AI vaak moeite heeft met context herkennen. Dus niet altijd weet wat meteen offline moet worden gehaald. Daarnaast bestaat het risico dat content hiermee onterecht kan worden verwijderd, zoals we eerder zagen bij bijvoorbeeld mensen met een handicap of queer content. Nederlandse moderatoren zijn onmisbaar om context te beoordelen en adequaat te kunnen reageren op illegale of schadelijke berichten.

Daarnaast gaat dit ook in tegen Europees recht. Volgens de Europese internetregels (DSA) moet wat illegaal is namelijk meteen offline worden gehaald, mét uitleg. En daar kun je zonder een mens van vlees en bloed die weet wat er in Nederland speelt, niet zeker van zijn. In de praktijk kan TikTok daar dus niet aan voldoen. Daarnaast moet je altijd in beroep kunnen over moderatiebeslissingen met uitleg van ‘echte mensen’.”

Van Sparrentak vindt dat de Europese Commissie moet ingrijpen.