AIfor Educations
C3

Case: Lọc nội dung (moderation)

Trước khi chatbot trả lời công khai, hệ thống có thể phân loại tin nhắn (an toàn, spam, độc hại). Lab dùng bộ quy tắc từ khóa (offline). Có thể mở rộng bằng độ tương đồng ngữ nghĩa khi có API embedding — xem thêm case RAG.

Thử tin nhắn

Rule-based classifier

Kết quả

An toàn

  • không khớp rule

Benchmark trên 8 câu mẫu

8/8 đúng

  • Cho hỏi lịch thi học kỳ 1 năm nay?truth=An toàn · pred=An toàn
  • CLICK NGAY nhận iPhone miễn phí!!! http://spam.exampletruth=Spam · pred=Spam
  • Bạn ngu quá, đừng hỏi nữatruth=Toxic · pred=Toxic
  • Thư viện mở cửa lúc mấy giờ ạ?truth=An toàn · pred=An toàn
  • Kiếm tiền online dễ 100% — inbox ngaytruth=Spam · pred=Spam
  • Đồ rác, team support tệ hạitruth=Toxic · pred=Toxic
  • Em muốn đăng ký học bổng khuyến khíchtruth=An toàn · pred=An toàn
  • MUA 1 TẶNG 1 chỉ hôm nay!!!truth=Spam · pred=Spam