Pare che Twitter abbia discusso della creazione di un clone di OnlyFans per monetizzare i contenuti per adulti, ma la sua incapacità di rilevare e rimuovere efficacemente i contenuti sessuali dannosi ha messo un freno a questo progetto, secondo un’indagine di The Verge. Un team di Twitter messo insieme per scoprire se la società potrebbe realizzare una mossa del genere ha stabilito che “Twitter non è in grado di rilevare con precisione lo sfruttamento sessuale dei bambini e la nudità non consensuale su larga scala“. I risultati del team hanno portato alla sospensione del lavoro, secondo quanto ha affermato la portavoce di Twitter Katie Rosborough.
Si dice che Twitter abbia interrotto il progetto Adult Content Monetization (ACM) a maggio, non molto tempo dopo aver concordato una vendita di 44 miliardi di dollari a Elon Musk, accordo ora in sospeso e al centro di un’accesissima vicenda legale. Il team dirigenziale dell’azienda ha stabilito che non poteva andare avanti con ACM senza adottare ulteriori misure di salute e sicurezza.
L’indagine di The Verge dettaglia gli avvertimenti che i ricercatori di Twitter avevano lanciato nel febbraio 2021 sul fatto che l’azienda non avrebbe fatto abbastanza per rilevare e rimuovere contenuti sessuali dannosi, come Child Sexual Abuse Material (CSAM). Si dice che i ricercatori abbiano informato l’azienda riguardo il fatto che il sistema di applicazione utilizzato principalmente da Twitter, RedPanda, sia “uno strumento legacy e non supportato” che sia “di gran lunga uno degli strumenti più fragili, inefficienti e sotto-supportati“.
Sebbene l’azienda disponga di sistemi di apprendimento automatico, questi sembrano avere difficoltà a rilevare nuove istanze di CSAM nei tweet e nei livestream. Twitter segnala manualmente CSAM al National Center for Missing and Exploited Children (NCMEC) ma secondo i ricercatori il processo ad alta intensità di lavoro ha portato a un arretrato di casi e a un ritardo nella segnalazione di CSAM a NCMEC. Rosborough ha dichiararo a The Verge che da quando i ricercatori hanno pubblicato il loro rapporto l’anno scorso, Twitter ha aumentato significativamente i suoi investimenti nel rilevamento del CSAM.
Inoltre l’azienda ha dichiarato che “Twitter ha tolleranza zero per lo sfruttamento sessuale dei bambini. Combattiamo in modo aggressivo gli abusi sessuali sui minori online e abbiamo investito in tecnologia e strumenti per far rispettare la nostra politica. I nostri team dedicati lavorano per stare al passo con i soggetti in malafede e per garantire che stiamo proteggendo i minori dai danni, sia online che offline.”
Alcuni inserzionisti potrebbero essersi irritati per la nozione di monetizzazione dei contenuti per adulti ma il potenziale vantaggio finanziario per Twitter era evidente.
OnlyFans prevede infatti di ottenere 2,5 miliardi di dollari di entrate per il 2022, circa la metà di quanto Twitter ha generato nel 2021. Twitter offre ai creators diversi modi per monetizzare ma l’aggiunta di funzioni in stile OnlyFans poteva rappresentare un’opportunità in più per i creatori di contenuti per adulti e per l’azienda.
Come anticipato, il progetto ACM è stato, per ora, abbandonato.
