Tính năng Content Moderation là gì?

Content Moderation là tính năng ứng dụng Deep Learning để xác định được nội dung không phù hợp trong hình ảnh, video. Các nội dung không phù hợp được phân loại theo cấp độ và xem xét cho phép sử dụng phù hợp với chính sách.

Theo bảng trên, bạn hoàn toàn có thể cài đặt chấp nhận các content về Alcohol và từ chối các content về Gambling.

Bạn không phải tốn công sức để xử lý các phản hồi từ người dùng như phát hiện và xóa bỏ các hình ảnh, quảng cáo, video phản cảm và không phù hợp.

Ứng dụng Custom Moderation

Khi sử dụng tính năng Custom Moderation, bạn có thể tăng độ chính xác của mô hình Moderation Deep Learning. Ngoài ra, bạn có thể tải hình ảnh lên và gắn chú thích để training cho Custom Moderation Adapter. 

Bạn có thể cải thiện độ chính xác xử lý hình ảnh bằng cách truyền một Adapter đã được train vào DetectModerationLabels.

Cách tạo ra Adapter

・Để tạo ra một training data, bạn cần tải lên hình ảnh và gắn chú thích. Để tạo ra test data, bạn cần tải lên và gắn chú thích hình ảnh hoặc bằng cách tự động phân chia từ training data.

Lưu ý: Để trainning cho Adapter, bạn cần tải lên một bộ ảnh mẫu đại diện cho use case của mình. Để có kết quả training tốt hơn, bạn nên tải lên càng nhiều hình càng tốt. Hiện tại giới hạn là 10000 ảnh.

Tham khảo: 【アップデート】Custom Moderationを使ってRekognitionのコンテンツモデレーション精度がアップしました | SunnyCloud