Apple e Google cancellano le app nudify segnalate dal TTP. Il giro d’affari tocca i 122 milioni di dollari con la creazione di deepfake non consensuali.
Apple e Google continuano a faticare nel tenere puliti i propri scaffali digitali, e questa volta la falla riguarda direttamente la sicurezza e la dignità delle persone. Un nuovo report pubblicato dal Tech Transparency Project (TTP) mette sotto i riflettori la persistenza delle app nudify su Google Play Store e App Store. Nonostante le rassicurazioni fornite ad inizio anno, la situazione appare quasi immutata.
Questi software sfruttano l’intelligenza artificiale generativa per manipolare le foto, rimuovendo i vestiti dai soggetti ritratti e se strumenti come il “Magic Editor” di Google integrano paletti etici rigorosi, queste app operano senza filtri. Il dato più allarmante riguarda la classificazione, in quanto secondo il report, 31 di queste app hanno ottenuto l’etichetta “E”, ovvero adatte a tutti, rendendole accessibili e persino suggerite a un pubblico di minori. I numeri raccontano un business che ha già raggiunto dimensioni industriali. Le app analizzate avrebbero generato circa 122 milioni di dollari di entrate, con un volume di download che sfiora i 500 milioni di volte. Mentre le aziende promuovono l’intelligenza artificiale per scopi professionali i loro store offrono strumenti che producono nudi falsi da semplici foto.
Interpellata da TTP, Google ha dichiarato che molte delle app segnalate sono state rimosse e Apple ha seguito la stessa linea eliminandone diverse, ma ha preferito il silenzio rifiutandosi di commentare la vicenda. Tuttavia, il problema risiede a monte, nel processo di verifica automatizzato o superficiale che permette a app simili di superare i controlli iniziali. Molti governi tentano di arginare il problema tecnologico, come il Regno Unito che ha avviato il bando di queste app a causa dei gravi effetti nelle scuole. La rimozione tardiva, pur utile, non cancella il fatto che il sistema di rating sia incapace di distinguere un editor fotografico legittimo da uno strumento di molestia. Senza una revisione profonda delle procedure di approvazione, la proliferazione di questi strumenti diventerà un rumore di fondo costante e pericoloso.
