Apakah kamu melihat laporan CCTV yang mengungkap rantai industri pornografi berbasis AI? Ini cukup serius.

Ya. Ada penjual yang menjual tutorial dan prompt, bahkan mengajarkan cara melewati sistem moderasi platform. Itu sudah jauh melampaui sekadar mencari celah.

Saya bekerja di bidang pemasaran, jadi saya tahu teknologi baru bisa mendatangkan banyak perhatian. Tetapi menggunakan AI untuk menghasilkan uang dari konten seperti ini jelas sudah melewati batas.

Benar. Dan risikonya bukan hanya konten tidak senonoh. Seseorang bisa membuat video tidak pantas dari satu foto saja dan merugikan orang sungguhan.

Yang lebih merepotkan, beberapa aplikasi obrolan AI dari luar negeri juga mulai masuk. Isinya sangat vulgar dan mereka menggunakan program referral untuk menarik pengguna baru. Anak di bawah umur bisa dengan mudah terpengaruh.

Karena itu pengawasan harus mengikuti perkembangan. Platform perlu memperkuat moderasi, dan aplikasi harus menjalani penilaian keamanan serta pendaftaran algoritma sebelum diluncurkan.

Pengguna juga harus memiliki kemampuan menilai. Kalau melihat iklan seperti 'penghasilan besar per hari' atau 'tutorial tanpa batas', biasanya itu jebakan.

Betul. Teknologinya sendiri tidak salah. Yang salah adalah menggunakannya untuk melanggar hukum dan etika.

Ke depannya, ketika perusahaan kami menjalankan pemasaran berbasis AI, kami juga harus menjelaskan aturan kepatuhan dengan jelas agar tidak terjebak hanya karena mengejar tren.