In het kort: De staat New York beschuldigt TikTok ervan dat een veiligheidsfunctie TikTok-gebruikers, onder wie tieners en kinderen, in een test alleen maar een werkend gevoel gaf. Wie de functie Algo Refresh aanzette, zag in een deel van de gevallen gewoon dezelfde video’s terugkomen. Dat staat in rechtbankstukken die deze week openbaar werden. TikTok zegt dat het bedrijf regelmatig nieuwe functies test en dat de aanklacht een vertekend beeld geeft.
Het gaat om een aangepaste aanklacht van de procureur-generaal van New York, Letitia James. Die werd eind augustus onder geheimhouding ingediend. Nadat een rechter de stukken liet vrijgeven, berichtte persbureau Reuters op 7 oktober over de inhoud. Op 8 oktober volgden onder meer TechCrunch en The Next Web.
Wat er volgens New York mis was
Algo Refresh is bedoeld als noodrem voor je feed. Zet je de functie aan, dan begint het aanbevelingssysteem opnieuw en zou je minder van dezelfde soort video’s moeten zien. Dat is vooral handig als een jongere in een fuik van ongewenste of schadelijke filmpjes is beland.
Volgens de aanklacht testte TikTok de functie in 2023 bij duizenden gebruikers, ook minderjarigen. Een deel van hen kwam in een zogeheten placebogroep. Zij dachten dat ze hun feed hadden gereset, maar er veranderde niets. Gebruikers met de echte versie zagen hun feed wel veranderen. In de test keek TikTok ook naar het effect op de tijd die mensen in de app doorbrachten en op advertentie-inkomsten.
Intern was er kritiek. Een productmanager van het team dat over digitaal welzijn gaat, schreef volgens de stukken in een chat dat een placebogroep daar volledig mee in strijd is.
Wat TikTok zegt
Een woordvoerder van TikTok liet aan Reuters weten dat het bedrijf vaak nieuwe producten en functies test om de ervaring te controleren. Volgens TikTok schetst de rechtszaak een onjuist beeld van hoe Algo Refresh werkt. Het bedrijf ontkent de beschuldigingen van New York.
De zaak staat niet op zichzelf. Ruim twintig Amerikaanse staten hebben TikTok aangeklaagd omdat de app kinderen verslaafd zou maken en hen zou misleiden over veiligheid. Eerder dit jaar kwam al naar buiten dat TikTok een veiligheidsupdate had achtergehouden voor ongeveer 15 miljoen Amerikaanse gebruikers. En in september trof TikTok een schikking met Alabama, waarover we eerder schreven in ons bericht over de daglimiet en nachtblokkade voor tieners.
Waarom dit ook in Nederland speelt
De rechtszaak loopt in de Verenigde Staten, maar de vraag erachter is overal hetzelfde: kun je erop vertrouwen dat een veiligheidsknop in een app echt doet wat hij belooft? Het Nederlandse kabinet laat op dit moment onderzoeken wat diensten als TikTok, Instagram, Snapchat en Roblox met het welzijn van kinderen doen. Dat staat in de strategie om kinderen online te beschermen die begin deze week werd gepresenteerd.
In Europa ligt bovendien het voorstel voor de EU KIDS Act op tafel, met een verbod op verslavende ontwerptechnieken. Lees meer in ons artikel over de Europese plannen voor een minimumleeftijd op social media. Het kabinet wil dat bedrijven zelf aantonen dat hun diensten veilig zijn. Een zaak als deze laat zien waarom toezichthouders daar niet blind op willen varen.
Wat betekent dit voor ouders?
Instellingen in een app zijn nuttig, maar ze vervangen het gesprek niet. Een paar dingen die je kunt doen:
- Kijk samen met je kind hoe de feed eruitziet nadat een filter of reset is aangezet. Komen dezelfde soort video’s terug, dan is dat een signaal.
- Leer je kind om video’s actief weg te klikken of als niet interessant te markeren. Het algoritme reageert op elk signaal, ook op lang blijven kijken.
- Maak afspraken over tijd en plek, los van wat de app zelf aanbiedt. Tips daarvoor vind je in onze gids over schermtijd voor kinderen.
- Let op signalen dat het scrollen moeilijk te stoppen is. Meer daarover lees je in ons stuk over TikTok-verslaving.
Merk je dat je kind somber wordt, slecht slaapt of zich terugtrekt na veel tijd op social media, bespreek het dan en schakel bij twijfel de huisarts in.
