08

Private AI vs Cloud API

Khi dữ liệu nhạy cảm không được đưa ra dịch vụ AI công cộng, tổ chức có thể triển khai private AI (tự host, ví dụ Ollama hoặc vLLM trên GPU riêng) hoặc dùng đám mây kèm thỏa thuận bảo mật phù hợp.

Mô hình triển khai

So sánh nhanh

Bấm để đổi góc nhìn

Cloud LLM API

• Nhanh triển khai
• Model mạnh, cập nhật
• Dữ liệu đi ra ngoài (trừ enterprise)

Chi phí: Theo token

Stack ví dụ

App (Next.js)
  → /api/chat
  → OpenAI / Gemini / Gateway
  → (optional) pgvector trên Neon/Supabase