Varför kan inte TikTok ta bort den störande självmordsvideoen?

Huvud Vetenskap Och Teknik

TikTok kämpar för att ta bort en störande video av en mans självmord, tre dagar efter att den laddades upp till appen.





Klippet visar enligt uppgift 33-årig arméveteran Ronnie McNutt, som enligt New York Post , sköt sig själv i huvudet på en Facebook-liveström den 31 augusti. Det har rapporterats att Mississippi-baserade McNutt nyligen hade tappat sitt jobb vid en Toyota-fabrik i Blue Springs och hade gått urhop med sin flickvän. Videon har sedan dess blivit viral på flera sociala medieplattformar, inklusive TikTok.

TikToks 'For You' är en oändlig, algoritmiskt driven ström av videor som kuraterar klipp från människor som användare inte nödvändigtvis följer. Många har rapporterat att de stött på slumpmässigt och uttryckt hur traumatiserande att ha konfronterats med filmen. Med tanke på TikToks unga publik - 69 procent är mellan 13 och 24 år - detta har orsakat ännu mer oro för mentalt välbefinnande.



På söndag kväll cirkulerade klipp av ett självmord som ursprungligen livestreamades på Facebook på andra plattformar, inklusive TikTok, säger en TikTok-talesman till Dazed. Våra system har tillsammans med våra modereringsteam upptäckt och blockerat dessa klipp för att bryta mot vår policy mot innehåll som visar, berömmer, förhärligar eller främjar självmord.



@alluringskull

## grönskärm



♬ originalljud - lockande skalle

Vi förbjuder konton som upprepade gånger försöker ladda upp klipp, och vi uppskattar våra communitymedlemmar som har rapporterat innehåll och varnat andra för att titta på, engagera eller dela sådana videor på någon plattform av respekt för personen och deras familj.

Trots detta löfte om handling finns videon kvar i appen. Flera användare har lagt upp engagemang som de har haft med TikTok-moderatorer, som enligt uppgift har berättat för dem om videon bryter inte mot våra riktlinjer för communityn . Dazed har bett TikTok om ytterligare förtydliganden om varför detta händer.



Nu har användare på appen börjat ta saken i egna händer och dela videor som varnar andra om närvaron av självmordsklippet på TikTok. Försök att inte gå på TikTok idag eller imorgon, en video sa . Det finns en mycket grafisk och gorey (sic) självmordsvideo som går just nu!

En annan användare postade ett klipp , som tog upp rykten om att filmen är falsk. I verkligheten är det inte falskt, sa @alluringskull. Användaren visar sedan en stillbild från videon, som ser McNutt sitta vid ett skrivbord med en telefon mot örat. Om du ser detta, pausa videon, bläddra bort, har @alluringskull lagt till. Sluta snälla behandla detta som ett meme, sluta behandla detta som ett skämt, det här är en riktig person som gått och hans familj sörjer.

Jag trodde ärligt att det var falskt tills jag tittade på det. Det skrämde mig att se att TikTok tillät de här sakerna att stanna kvar i deras app så länge - James, TikTok-användare

En användare som heter James skickades videon av sin vän och öppnade den utan att veta vad det var. Jag trodde ärligt att det var falskt tills jag tittade på det, säger han till Dazed i ett direktmeddelande. Det skrämde mig att se att TikTok tillät de här sakerna att stanna kvar i deras app så länge.

Det här är inte första gången TikTok kritiseras för sina dåliga måttliga ansträngningar. I februari, videodelningsplattformen tog tre timmar att berätta för polisen om ett självmord som livestreamades i appen. Videon av offrets kropp förblev live i över en och en halv timme innan den togs ner. TikTok har enligt uppgift vidtagit åtgärder för att förhindra att inlägget blir viralt innan myndigheterna underrättas.

I juli ifrågasattes appens moderationsriktlinjer igen, efter dess algoritm främjade en samling antisemitiska memer , spårat av texterna, Vi ska på en resa till en plats som heter Auschwitz, det är duschtid . Nästan 100 användare presenterade låten i sina videor, som stod kvar i appen i tre dagar (åtta timmar efter att plattformen varnades om deras närvaro av BBC ).

TikToks senaste Öppenhetsrapport - publicerades i juli - säger att appen tog bort över 49 miljoner videor globalt under andra halvåret förra året, med 98,2 procent av dem som togs ner innan de rapporterades. 89,4 procent av dessa togs bort innan de fick synpunkter. TikTok är emellertid känt för att censurera användare och innehåll som inte bryter mot några riktlinjer, inklusive en tonåring som kritiserade Kina (där företaget har sitt säte), de som anses fula, dåliga eller funktionshindrade och svarta skapare.

Appen medger att den inte kommer att fånga alla förekomster av olämpligt innehåll och hävdar att den kommer att fortsätta investera i teknik och experter för att göra TikTok så säker som möjligt. Igår (8 september), appen gick med Europeiska unionens uppförandekod för att motverka olagligt hat tal, och lovar att slå ner på hatligt och olagligt innehåll.

hur man flyr från en kult

Vårt yttersta mål är att eliminera hat på TikTok, säger en talesman i ett uttalande. Vi inser att detta kan tyckas vara en oöverstiglig utmaning eftersom världen blir alltmer polariserad, men vi tror att detta inte borde hindra oss från att försöka.

Uppdatering (24 september): TikTok har sagt att självmordsvideon laddades upp till appen som en del av en samordnad insats av dåliga skådespelare. I ett uttalande sa videodelningsplattformen: Genom våra undersökningar fick vi veta att grupper som arbetar på det mörka nätet planerade att plundra sociala medieplattformar inklusive TikTok, för att sprida videon över internet. Vad vi såg var en grupp användare som upprepade gånger försökte ladda upp videon till vår plattform.

TikTok har också skickat ett brev till andra sociala medieplattformar, inklusive Facebook, YouTube och Twitter, där de föreslår att de meddelar varandra när våldsamt och grafiskt innehåll cirkulerar på deras webbplatser.

Om du kämpar med psykisk hälsa kan du kontakta specialisterna för självmordsförebyggande samariter i Storbritannien här , och National Suicide Prevention Lifeline i USA här .