RAG vs Fine-tuning: Ngừng Đốt Tiền Vô Ích

Tuần trước, một công ty nhờ tôi cứu vãn dự án AI của họ sau khi đốt sạch 15,000 đô la để fine-tune mô hình Llama 4 Maverick. Kết quả là con bot vẫn nói linh tinh, và tôi chỉ mất đúng một buổi chiều để đập đi xây lại bằng RAG với chi phí vận hành chưa tới một bát phở mỗi ngày.

🧠 RAG thực sự là gì?

RAG (Retrieval-Augmented Generation) hiểu đơn giản là đưa cho AI một cuốn sách tài liệu mở. Khi có người hỏi, nó sẽ tìm trang sách liên quan rồi đọc lên, thay vì phải cố nhớ mọi thứ trong đầu.

Fine-tuning thì ngược lại. Nó ép AI phải học thuộc lòng toàn bộ cuốn sách đó.

Hầu hết mọi người sẽ không đồng ý với điều này, nhất là các sếp lớn thích khoe khoang về “AI nội bộ độc quyền”, nhưng tôi cho rằng fine-tuning để dạy kiến thức mới là một cái bẫy đốt tiền. Nó vừa đắt, vừa chậm, lại cực kỳ cứng nhắc.

💸 Ảo tưởng mang tên Fine-tuning

Nhiều lập trình viên lầm tưởng fine-tuning sẽ giải quyết được mọi vấn đề. Bạn cho AI đọc hàng ngàn tài liệu nội bộ và kỳ vọng nó trở thành chuyên gia.

Vấn đề kiến thức chết

Kiến thức của fine-tuning là kiến thức chết. Ngày hôm nay bạn dạy nó quy định công ty phiên bản 1.0. Ngày mai sếp đổi luật sang 2.0. Bạn phải thu thập lại data và fine-tune lại từ đầu. Giống như lúc tôi áp dụng bài học từ Review The Mom Test: Hỏi sao để không bị lừa để lấy requirement, khách hàng luôn thay đổi ý định liên tục. AI doanh nghiệp cũng cần khả năng update realtime như vậy.

⚡ Sự thực dụng của RAG

RAG không cố gắng thay đổi bộ não của AI. Nó chỉ thay đổi lượng thông tin AI được phép nhìn thấy ở thời điểm hiện tại.

Kiểm soát hoàn toàn

Bạn lưu tài liệu vào một cơ sở dữ liệu vector. Khách hỏi gì, hệ thống tìm đoạn văn bản khớp nhất rồi nhét vào prompt. Nếu thông tin sai, bạn chỉ việc xóa file text đó đi và upload file mới. Các model hiện đại như Claude Sonnet 4.6 xử lý việc đọc hiểu đoạn text được cung cấp cực kỳ xuất sắc.

⚠️ Khi nào RAG trở thành thảm họa?

Dù tôi chuộng RAG, việc đánh giá nó 3.2 sao ở trên là có lý do. Phương pháp này không phải phép thuật và nó có những nhược điểm chí mạng.

Nút thắt cổ chai ở Retrieval

Nếu hệ thống tìm kiếm của bạn ngu, AI sẽ nhận được rác. Search bằng vector thuần túy rất hay bị lỗi khi người dùng dùng từ đồng nghĩa hoặc hỏi những câu quá chung chung. AI chỉ có thể trả lời dựa trên những gì nó được cung cấp.

Độ trễ phát điên

Thay vì hỏi thẳng AI, bạn phải chờ hệ thống nhúng (embed) câu hỏi, quét database, xếp hạng lại (re-rank), rồi mới đưa cho AI. Nó tạo ra độ trễ khó chịu. Nếu bạn định kết hợp RAG với Tool Calling: Phép màu hay cú lừa?, thời gian chờ xử lý chuỗi logic này có thể nhân lên gấp ba lần.

📊 Bảng so sánh nhanh

Tiêu chí	RAG	Fine-tuning	Ghi chú
Cập nhật data	Vài giây	Vài ngày/tuần	RAG thắng tuyệt đối
Chi phí khởi tạo	Thấp	Cực kỳ cao
Khả năng ảo giác	Thấp (bám sát text)	Cao	Fine-tuning dễ bịa chuyện
Định hình văn phong	Kém	Rất tốt	Fine-tuning mạnh ở điểm này

🛠️ Cách dùng hiệu quả

Đừng làm RAG kiểu cưỡi ngựa xem hoa. Dưới đây là cách tôi setup cho các dự án thực tế khi code bằng Windsurf IDE: Đừng Vội Bỏ Cursor Lúc Này:

1. Chia nhỏ dữ liệu (Chunking) thông minh: Đừng cắt text mù quáng theo số từ. Hãy cắt theo cấu trúc ngữ nghĩa như từng đoạn văn, từng thẻ heading.
2. Dùng Hybrid Search: Kết hợp cả tìm kiếm từ khóa truyền thống (BM25) và tìm kiếm vector. Vector giỏi hiểu ý, nhưng BM25 mới tìm đúng chính xác mã sản phẩm hay mã số SKU.
3. Luôn có Re-ranking: Dùng một model chuyên dụng nhỏ để chấm điểm lại các kết quả tìm được trước khi ném toàn bộ vào prompt cho GPT-5.2.

❓ Câu hỏi thường gặp

RAG có thay thế hoàn toàn fine-tuning không?

Không. Fine-tuning dùng để dạy AI “cách nói chuyện” hoặc định hình format đầu ra. RAG dùng để cung cấp “kiến thức”.

Dùng RAG với model nào tốt nhất hiện nay?

Gemini 3.1 Pro có context window khổng lồ rất hợp với RAG quy mô lớn. Claude Sonnet 4.6 thì bám sát context tốt hơn, ít bịa chuyện khi dữ liệu bị thiếu.

Có cần database xịn để làm RAG không?

Mới bắt đầu thì pgvector tích hợp thẳng trong PostgreSQL là quá đủ. Đừng tốn tiền mua các giải pháp enterprise đắt đỏ khi chưa kiểm chứng được hiệu quả thực tế.

🎯 Kết luận

RAG thô kệch, nhiều thành phần lỉnh kỉnh và thi thoảng phản hồi chậm chạp. Nhưng nó giải quyết đúng bài toán mà các dự án AI thực tế cần: sự chính xác tuyệt đối và khả năng thay đổi dữ liệu nhanh chóng. Fine-tuning để nhồi nhét kiến thức là một sai lầm tốn kém mà bạn nên tránh xa. Cứ xây dựng một hệ thống RAG cho chuẩn trước khi nghĩ đến những thứ phức tạp hơn.