Content Moderation
Settore: Social Platform
Contesto
Piattaforma social con 50M users, 500K posts/giorno e team 200 moderatori.
Problema
Mezzo milione di post al giorno, e alcuni contenevano violenza, odio o materiale illegale. I moderatori umani erano traumatizzati dall'esposizione continua a contenuti disturbanti. I tempi di risposta di 4 ore permettevano ai contenuti dannosi di diffondersi prima di essere rimossi.
Soluzione
Abbiamo creato un sistema che analizza ogni post (testo, immagini, video) in tempo reale, riconoscendo automaticamente contenuti problematici. I casi gravi vengono rimossi istantaneamente, quelli dubbi passano ai moderatori con tutto il contesto necessario.
Implementazione
Il sistema combina analisi del testo, riconoscimento delle immagini e comprensione dei video. Assegna un punteggio di gravità a ogni contenuto e decide se rimuoverlo, segnalarlo o lasciarlo. Gli appelli vengono gestiti con un workflow automatizzato.
Risultati
- 99.5% Detection Rate
- <1min Response Time
- -40% Appeals