TikToks algoritm främjade antisemitiska memes om dödsläger

Huvud Vetenskap Och Teknik

TikToks algoritm har anklagats för att främja en samling antisemitiska videor, som soundtrackades av texterna, Vi ska på en resa till en plats som heter Auschwitz, det är duschtid .





De kombinerade 'memerna' - avslöjade av BBC Nyheter - fick över 6,5 miljoner visningar, med klipp inklusive: en jätte robotskorpion med ett hakakors som attackerar och dödar människor; en karaktär från dataspelet Roblox som var utformad för att se ut som Hitler; ett skjutspel där människor dödas av bensinkapslar; och filmer från filmer och dokumentärer om Förintelsen.

Nästan 100 användare presenterade låten i sina videor, som alla lockade ett antal visningar innan de togs bort efter tre dagar (åtta timmar efter att plattformen varnades om dem av BBC ).



Det var otroligt oroande att se den här sjuka TikTok-videon riktad till barn, berättade Stephen Silverman, utredningschefen för Kampanjen mot antisemitism. BBC Nyheter . TikTok har en särskild skyldighet att hantera detta innehåll snabbt eftersom det är specialiserat på att leverera virala videor till barn och unga vuxna när de är mest påtagliga.



Och ändå, tillade han, vår forskning har visat att TikTok har blivit en av de snabbaste vektorerna för överföring av memer som hånar förintelsen.

En TikTok-talesman sa: Vi tolererar inte något innehåll som innehåller hatprat, och ljudet i fråga, tillsammans med alla tillhörande videor, har nu tagits bort. Även om vi inte kommer att fånga alla förekomster av olämpligt innehåll förbättrar vi kontinuerligt vår teknik och policy för att säkerställa att TikTok förblir en säker plats för positivt kreativt uttryck.



Det här är inte första gången videodelningsplattformen kritiseras för sina moderationsmisslyckanden. I februari lämnade TikTok en livestreamvideo av en tonåringens självmord upp i över en och en halv timme och tog tre timmar att meddela polisen.

Appen har också kritiserats i stor utsträckning för sin censurpolicy, som inkluderar att blockera HBTQ + -innehåll i vissa länder, förbjuda en tonåring för att kritisera Kina, undertrycka innehåll från användare som anses vara ”fula”, dåliga eller funktionshindrade och bestraffa svarta skapare.

Förra veckan (2 juli) uppmanade hacktivistkollektivet Anonyma användare att ta bort TikTok, anklagande appen att vara skadlig kod som drivs av den kinesiska regeringen som driver en massiv spioneringsoperation. Den amerikanska regeringen verkar ha skrämts av påståendet, den här veckan (7 juli) hotade att förbjuda olika kinesiska sociala medieappar, inklusive TikTok, på grund av integritets- och säkerhetsfrågor. Donald Trump har till och med bekräftat att förbudet övervägs.

Det är dock troligt att Trumps fientlighet mot appen härrör från det faktum att tonåringar på TikTok fortsätter att trolla honom. Först reserverade de biljetter till hans första politiska möte på flera månader, bara för att lämna dem tomma, sedan försökte de blockera hans sociala mediekonton genom massrapportering.