क्या तुमने CCTV की वह रिपोर्ट देखी जिसमें एआई-आधारित अश्लील सामग्री उद्योग का खुलासा किया गया था? मामला काफी गंभीर है।

हाँ, देखा। कुछ लोग ट्यूटोरियल और प्रॉम्प्ट बेच रहे हैं, और यह भी सिखा रहे हैं कि प्लेटफ़ॉर्म की समीक्षा प्रणाली को कैसे पार किया जाए। यह सिर्फ सीमाओं को छूने वाली बात नहीं रह गई है।

मैं मार्केटिंग में काम करता हूँ और जानता हूँ कि नई तकनीकें लोगों का ध्यान आकर्षित कर सकती हैं। लेकिन इस तरह की सामग्री से पैसा कमाने के लिए एआई का उपयोग करना स्पष्ट रूप से सीमा लाँघना है।

बिल्कुल। और खतरा केवल अश्लील सामग्री तक सीमित नहीं है। कोई व्यक्ति एक तस्वीर से आपत्तिजनक वीडियो बना सकता है और किसी वास्तविक व्यक्ति को नुकसान पहुँचा सकता है।

और भी चिंताजनक बात यह है कि कुछ विदेशी एआई चैट ऐप भी फैल रहे हैं। उनका कंटेंट बहुत स्पष्ट है और वे नए उपयोगकर्ताओं को लाने के लिए रेफरल इनाम देते हैं। नाबालिग आसानी से उनके प्रभाव में आ सकते हैं।

इसीलिए नियमन को भी साथ-साथ आगे बढ़ना होगा। प्लेटफ़ॉर्म को निगरानी मजबूत करनी चाहिए, और ऐप्स को लॉन्च से पहले सुरक्षा मूल्यांकन तथा एल्गोरिदम पंजीकरण से गुजरना चाहिए।

उपयोगकर्ताओं को भी समझदारी दिखानी होगी। जब आप 'रोज़ बड़ी कमाई' या 'बिना सीमा वाले ट्यूटोरियल' जैसे दावे देखें, तो समझिए कि यह अक्सर एक जाल होता है।

सही कहा। तकनीक स्वयं गलत नहीं है। गलती तब होती है जब उसका उपयोग कानून और नैतिकता को नुकसान पहुँचाने के लिए किया जाता है।

भविष्य में जब हमारी कंपनी एआई मार्केटिंग करेगी, तो हमें पहले ही अनुपालन के नियम स्पष्ट रूप से तय करने होंगे, ताकि केवल ट्रेंड के पीछे भागते हुए हम खुद मुश्किल में न पड़ जाएँ।