Hast du den CCTV-Bericht über die KI-Pornografie-Industrie gesehen? Die Sache ist ziemlich schlimm.

Ja. Manche Anbieter verkaufen Anleitungen und Prompts und zeigen sogar, wie man die Prüfmechanismen der Plattformen umgeht. Das geht weit über bloßes Austesten von Grenzen hinaus.

Ich arbeite im Marketing und weiß, dass neue Technologien Aufmerksamkeit bringen können. Aber mit KI auf diese Weise Geld zu verdienen, überschreitet eindeutig eine Grenze.

Genau. Und das Risiko beschränkt sich nicht nur auf anstößige Inhalte. Mit nur einem Foto kann jemand ein unangemessenes Video erstellen und echten Menschen schaden.

Noch problematischer ist, dass einige ausländische KI-Chat-Apps ebenfalls auf den Markt gelangen. Die Inhalte sind sehr explizit, und durch Empfehlungsprämien werden neue Nutzer angeworben. Minderjährige können leicht hineingezogen werden.

Deshalb muss die Regulierung Schritt halten. Plattformen sollten ihre Prüfverfahren verstärken, und Apps sollten vor der Veröffentlichung Sicherheitsbewertungen und eine Registrierung der Algorithmen durchlaufen.

Auch Nutzer brauchen Urteilsvermögen. Wenn man Aussagen wie „hohe Einnahmen pro Tag“ oder „explizite Anleitungen“ sieht, ist das meist eine Falle.

Richtig. Die Technologie selbst ist nicht das Problem. Das Problem ist ihr Einsatz zur Verletzung von Gesetzen und ethischen Normen.

Wenn unser Unternehmen künftig KI-Marketing betreibt, müssen wir die Compliance-Regeln klar festlegen, damit wir uns nicht nur wegen eines Trends selbst in Schwierigkeiten bringen.