Ты видел репортаж CCTV о целой индустрии создания порнографического контента с помощью ИИ? Это довольно серьёзная проблема.

Да. Некоторые продавцы предлагают инструкции и промпты, а также учат обходить модерацию платформ. Это уже далеко не просто игра на грани допустимого.

Я работаю в маркетинге и понимаю, что новые технологии могут привлекать аудиторию. Но зарабатывать на таком контенте с помощью ИИ — это явный переход черты.

Верно. И риск не ограничивается непристойным контентом. По одной фотографии можно создать компрометирующее видео и навредить реальному человеку.

Ещё хуже то, что на рынок проникают некоторые зарубежные ИИ-чат-приложения. Их контент очень откровенный, а для привлечения новых пользователей используются бонусы за рекомендации. Несовершеннолетние легко могут попасть под их влияние.

Поэтому меры регулирования должны развиваться вместе с технологиями. Платформам нужно усиливать модерацию, а приложения должны проходить оценку безопасности и регистрацию алгоритмов.

Пользователям тоже нужна критическая оценка. Если видишь обещания вроде «зарабатывай большие суммы в день» или «откровенные инструкции», то это почти наверняка ловушка.

Именно так. Сама технология не виновата. Проблема в том, что её используют для нарушения закона и этических норм.

В будущем, когда наша компания будет заниматься ИИ-маркетингом, нам тоже нужно будет чётко прописывать правила соответствия требованиям, чтобы не попасть в неприятности из-за погони за трендами.