Stop alle immagini esplicite nei DM: Instagram le offuscherà
Meta ha annunciato nuove misure che sta adottando per proteggere gli utenti Instagram dalla “sextortion” e da “altre forme di abuso di immagini esplicite” inviate nei DM.
Il social infatti sta introducendo una nuova funzionalità che sfoca le immagini contenenti nudità e scoraggia gli utenti dall’inviarle nei messaggi diretti. Su Instagram, questo tipo di protezione sarà attivata per impostazione predefinita per gli adolescenti sotto i 18 anni a livello globale. L’app mostrerà anche una notifica agli adulti incoraggiandoli ad attivarla.
Secondo Meta, la funzione è progettata non solo per proteggere le persone dal vedere foto indesiderate nei loro messaggi diretti, ma anche per proteggerli dai truffatori che potrebbero inviare immagini simili per indurre le persone a inviare in cambio le proprie.
“Mentre le persone utilizzano in modo i DM per condividere ciò che amano con i loro amici, familiari o creatori preferiti. I truffatori che sfruttano la sextortion possono anche utilizzare messaggi privati per condividere o chiedere immagini intime“, ha scritto l’azienda in un post sul blog.
Con la nuova funzionalità abilitata, quando su Instagram gli utenti ricevono un’immagine contenente nudità, questa verrà automaticamente sfocata sotto una schermata di avviso (e potranno scegliere se visualizzarla o meno). In tal caso, Instagram mostrerà anche un messaggio che incoraggia gli utenti a non sentirsi obbligati a rispondere, con la possibilità di bloccare il mittente e segnalare la chat.
La funzione di Instagram utilizza la tecnologia AI per analizzare se un’immagine inviata in un DM è esplicita oppure no.
Secondo Meta, l’azienda adotterà “azioni severe” quando scoprirà di utenti coinvolti in sextortion. Infatti rimuoverà i loro account, adotterà misure per impedire loro di crearne di nuovi. Inoltre li potrà anche segnalare al Centro nazionale per i bambini scomparsi e sfruttati e alle forze dell’ordine.
La società ha inoltre affermato che sta sviluppando una tecnologia per aiutare a identificare quali account potrebbero potenzialmente essere coinvolti in truffe di sextortion. D’ora in poi, Instagram non mostrerà il pulsante “Messaggio” sul profilo di un adolescente per gli account sospetti di sextortion. Inoltre il social sta testando modi per rendere più difficile per tali account trovare account di adolescenti nei risultati di ricerca.