Hai visto il servizio della CCTV che ha smascherato la filiera della pornografia generata con l'IA? È una questione piuttosto grave.

Sì. Alcuni vendono tutorial e prompt e insegnano persino come aggirare i controlli delle piattaforme. Non si tratta più di semplice contenuto al limite.

Lavoro nel marketing e so che le nuove tecnologie possono portare visibilità. Ma usare l'IA per guadagnare con questo tipo di contenuti significa superare chiaramente il limite.

Esatto. E il rischio non riguarda solo i contenuti osceni. Con una sola fotografia si possono creare video inappropriati che possono danneggiare persone reali.

Ancora più preoccupante è il fatto che alcune app di chat con IA provenienti dall'estero stiano entrando nel mercato. I contenuti sono molto espliciti e vengono usati incentivi per attirare nuovi utenti. I minorenni possono esserne facilmente coinvolti.

Per questo la regolamentazione deve tenere il passo. Le piattaforme devono rafforzare i controlli, e le app dovrebbero essere sottoposte a valutazioni di sicurezza e registrazione degli algoritmi prima del lancio.

Anche gli utenti devono avere spirito critico. Quando vedi promesse come 'guadagni elevati al giorno' o 'tutorial senza limiti', quasi certamente si tratta di una trappola.

Proprio così. La tecnologia in sé non è sbagliata. È sbagliato usarla per violare la legge e l'etica.

In futuro, quando la nostra azienda farà marketing con l'IA, dovremo definire chiaramente le regole di conformità, per non metterci nei guai inseguendo semplicemente le tendenze.