Giới thiệu series
Series này dành cho developer đã chạy được LLM local cơ bản và muốn nâng lên mức engineering thực tế: có kiến trúc rõ ràng, có API ổn định, có RAG đáng tin, có đo lường chất lượng, và có checklist rollout.
Bạn sẽ không học theo kiểu demo ngắn. Mỗi bài đều bám vào yêu cầu thực tế của một local AI stack dùng cho team nội bộ.
Bạn sẽ học được gì?
- Thiết kế local-first architecture cho sản phẩm AI
- Dựng Gemma 4 stack trên Mac theo tiêu chuẩn dev team
- Tạo API gateway, prompt contract và output schema
- Xây RAG pipeline tiếng Việt từ ingest đến hybrid retrieval
- Đo chất lượng bằng eval framework và quan sát vận hành
- Hardening hệ thống trước khi đưa vào sử dụng nội bộ
Prerequisites
- Mac Apple Silicon (M1 trở lên), RAM khuyến nghị 24GB+
- Đã biết Terminal và Git cơ bản
- Có kiến thức Python hoặc TypeScript mức cơ bản
- Hiểu khái niệm API, JSON và HTTP
Source code
Toàn bộ demo code đi kèm series:
Outcome sau series
Hoàn thành series này, bạn có thể tự dựng một local AI platform mini cho team:
- Chat UI cho non-tech users
- API cho ứng dụng nội bộ
- RAG có citation và chất lượng ổn định
- Monitoring và quy trình release có kiểm soát
Đây là nền tảng đủ chắc để mở rộng sang agent workflows hoặc multi-model routing trong các bước tiếp theo.