Sosyal medya şirketlerinde çalışmak her ne kadar kulağa hoş gelse de bazı içerik moderatörlerinin işi oldukça zor. İçerik moderatörleri, genellikle kullanıcıların yükledikleri içerikleri kontrol ediyor. Ancak biz görmesek de platformlara binlerce zararlı içerik yükleniyor ve bunlar moderatörler tarafından engelleniyor. Daha önce içerik moderatörü olarak görev alan Candie Frazier isimli TikTok çalışanı, şirketin çalışanların ruh sağlığını koruyamadığını iddia ederek dava açtı. Frazier, yüklenen videoları denetlediği süre boyunca toplu katliamlar, çocuk tecavüzü, hayvan kesme, çete cinayeti ve soykırım dahil olmak üzere binlerce aşırı ve açık şiddet eylemine tanık olduğunu söylüyor. 
Frazier, her gün TikTok’a yüklenen yüz binlerce içerikle başa çıkabilmek için, kendisi ve moderatör arkadaşlarının aynı anda üç ila on video izlemesi gerektiğini söylüyor. Frazier, moderatörlerin vardiyalarının ilk dört saatinde yalnızca 15 dakikalık bir ara vermelerine ve sonrasında her iki saatte bir 15 dakikalık ara vermelerine izin verildiğini de belirtti. Davada TikTok’un, içerik denetiminin zararlarını azaltmayı amaçlayan standartları karşılamadığı iddia ediliyor. Bunlar arasında moderatörlere daha sık ara verme, psikolojik destek ve incelenen videoların bulanıklaştırılması veya çözünürlüğünün azaltılması gibi teknik önlemler de yer alıyor. 
Frazier, çalışmalarının sonucunda depresyon, anksiyete ve travma sonrası stres bozukluğu ile ilişkili semptomlar dahil olmak üzere, ciddi psikolojik travmalar yaşadığını, uyumakta güçlük çektiğini ve korkunç kabuslar gördüğünü söylüyor. Geçtiğimiz yıllarda Facebook da benzer sorunlarla karşılaşmış ve ABD’li şirket, içerik moderatörlerine toplamda 52 milyon dolar ödemek zorunda kalmıştı.
Frazier, her gün TikTok’a yüklenen yüz binlerce içerikle başa çıkabilmek için, kendisi ve moderatör arkadaşlarının aynı anda üç ila on video izlemesi gerektiğini söylüyor. Frazier, moderatörlerin vardiyalarının ilk dört saatinde yalnızca 15 dakikalık bir ara vermelerine ve sonrasında her iki saatte bir 15 dakikalık ara vermelerine izin verildiğini de belirtti. Davada TikTok’un, içerik denetiminin zararlarını azaltmayı amaçlayan standartları karşılamadığı iddia ediliyor. Bunlar arasında moderatörlere daha sık ara verme, psikolojik destek ve incelenen videoların bulanıklaştırılması veya çözünürlüğünün azaltılması gibi teknik önlemler de yer alıyor. Frazier, çalışmalarının sonucunda depresyon, anksiyete ve travma sonrası stres bozukluğu ile ilişkili semptomlar dahil olmak üzere, ciddi psikolojik travmalar yaşadığını, uyumakta güçlük çektiğini ve korkunç kabuslar gördüğünü söylüyor. Geçtiğimiz yıllarda Facebook da benzer sorunlarla karşılaşmış ve ABD’li şirket, içerik moderatörlerine toplamda 52 milyon dolar ödemek zorunda kalmıştı.