Tu as vu le reportage de CCTV qui a révélé toute une filière de pornographie générée par l'IA ? C'est assez grave.

Oui. Certains vendeurs proposent des tutoriels et des prompts, et expliquent même comment contourner les systèmes de contrôle des plateformes. On est bien au-delà du simple contenu à la limite.

Je travaille dans le marketing et je sais que les nouvelles technologies peuvent générer du trafic. Mais utiliser l'IA pour gagner de l'argent avec ce genre de contenu, c'est clairement franchir la ligne rouge.

Exactement. Et le risque ne se limite pas au contenu obscène. Avec une seule photo, quelqu'un peut créer une vidéo inappropriée et nuire à une personne réelle.

Le plus inquiétant, c'est que certaines applications de discussion par IA venues de l'étranger se diffusent aussi. Leur contenu est très explicite et elles attirent de nouveaux utilisateurs grâce à des récompenses de parrainage. Les mineurs peuvent facilement s'y retrouver exposés.

C'est pourquoi la régulation doit suivre le rythme. Les plateformes doivent renforcer leurs contrôles, et les applications devraient passer des évaluations de sécurité et enregistrer leurs algorithmes avant leur mise en ligne.

Les utilisateurs doivent aussi faire preuve de discernement. Quand on voit des promesses comme « gagner beaucoup d'argent par jour » ou des « tutoriels sans limite », c'est généralement un piège.

Tout à fait. La technologie elle-même n'est pas en cause. Le problème vient de ceux qui l'utilisent pour enfreindre la loi et les principes éthiques.

À l'avenir, lorsque notre entreprise fera du marketing avec l'IA, nous devrons également définir clairement les règles de conformité afin de ne pas nous mettre en difficulté en poursuivant simplement les tendances.