Cậu có xem phóng sự của CCTV về chuỗi ngành công nghiệp tạo nội dung khiêu dâm bằng AI không? Chuyện này khá nghiêm trọng.

Có xem. Một số bên còn bán hướng dẫn, bán câu lệnh và dạy cách vượt qua kiểm duyệt của nền tảng. Điều đó không còn là chuyện lách ranh giới thông thường nữa.

Tôi làm trong lĩnh vực marketing nên biết công nghệ mới có thể mang lại lưu lượng truy cập. Nhưng kiếm tiền bằng cách dùng AI tạo ra loại nội dung này là vượt quá giới hạn.

Đúng vậy. Hơn nữa, rủi ro không chỉ nằm ở nội dung phản cảm. Chỉ với một bức ảnh, người ta có thể tạo ra video không phù hợp và gây tổn hại cho người thật.

Điều đáng lo hơn là một số ứng dụng trò chuyện AI từ nước ngoài cũng đang xuất hiện. Nội dung rất táo bạo, lại còn dùng chương trình giới thiệu nhận thưởng để thu hút người dùng mới. Trẻ vị thành niên rất dễ bị cuốn vào.

Vì vậy công tác quản lý phải theo kịp. Các nền tảng cần tăng cường kiểm duyệt, còn ứng dụng trước khi phát hành phải trải qua đánh giá an toàn và đăng ký thuật toán.

Người dùng cũng cần có khả năng phán đoán. Những lời quảng cáo như 'kiếm hàng chục nghìn mỗi ngày' hay 'hướng dẫn nội dung nóng' thường chỉ là cái bẫy.

Chính xác. Bản thân công nghệ không có lỗi. Sai ở chỗ người ta dùng nó để phá vỡ pháp luật và các chuẩn mực đạo đức.

Sau này khi công ty chúng tôi làm marketing bằng AI, cũng phải viết rõ các quy định tuân thủ trước, không thể vì chạy theo xu hướng mà tự đẩy mình vào rắc rối.