Login

Fine-tuning, prompt hay RAG: nên chọn cách nào cho ứng dụng AI?

  • author-image

    Nguyễn Đình Cường

  • blog-tag
  • blog-comment 0 comment
  • created-date 09 Nov, 2026
blog-thumbnail

Bạn muốn một mô hình ngôn ngữ trả lời đúng theo nghiệp vụ của mình. Có ba hướng thường được nhắc: viết prompt tốt, dùng RAG để cấp tài liệu, hoặc fine-tuning (tinh chỉnh mô hình). Chọn sai hướng sẽ tốn thời gian và tiền bạc. Bài này giúp bạn quyết định theo thứ tự hợp lý.

Ba cách tiếp cận là gì?

  • Prompt engineering: viết chỉ dẫn, ví dụ và ràng buộc rõ ràng trong yêu cầu gửi cho mô hình. Không thay đổi mô hình.
  • RAG: tìm tài liệu liên quan rồi đưa vào yêu cầu để mô hình dựa vào đó trả lời. Cũng không thay đổi mô hình.
  • Fine-tuning: huấn luyện thêm mô hình trên bộ dữ liệu mẫu của bạn để thay đổi hành vi hoặc phong cách của chính nó.

Mỗi cách giải quyết vấn đề gì?

Vấn đềCách phù hợp nhất
Mô hình trả lời sai định dạng, sai giọng điệuPrompt tốt, thêm ví dụ mẫu
Mô hình không biết dữ liệu riêng hoặc dữ liệu mớiRAG
Cần phong cách, định dạng hay kỹ năng chuyên biệt ổn định ở quy mô lớnFine-tuning
Cần tiết kiệm token vì prompt quá dài và lặp lạiCân nhắc fine-tuning

Điểm hay bị hiểu nhầm: fine-tuning không phải cách tốt nhất để "dạy mô hình kiến thức mới". Kiến thức thay đổi hoặc cần dẫn nguồn thì RAG thường phù hợp hơn.

Thứ tự nên thử

  1. Bắt đầu với prompt. Rẻ, nhanh, sửa trong vài phút. Viết rõ vai trò, định dạng đầu ra, ví dụ.
  2. Thêm RAG nếu thiếu thông tin. Khi câu trả lời cần dữ liệu riêng hoặc cập nhật liên tục.
  3. Cân nhắc fine-tuning cuối cùng. Khi đã tối ưu hai bước trên mà vẫn chưa đạt, hoặc cần giảm chi phí và độ trễ ở quy mô lớn.

Ba cách này không loại trừ nhau, nhiều hệ thống kết hợp cả ba.

Ví dụ prompt có ví dụ mẫu (few-shot)

Trước khi nghĩ đến huấn luyện, hãy thử cho mô hình vài ví dụ:

Phân loại cảm xúc của bình luận thành: tích cực, tiêu cực, trung lập.
Chỉ trả về một từ.

Bình luận: "Giao hàng nhanh, đóng gói cẩn thận"
Cảm xúc: tích cực

Bình luận: "Sản phẩm dùng được vài hôm đã hỏng"
Cảm xúc: tiêu cực

Bình luận: "Hàng đúng mô tả"
Cảm xúc: trung lập

Bình luận: "Shop tư vấn nhiệt tình nhưng ship hơi chậm"
Cảm xúc:

Fine-tuning cần chuẩn bị gì?

  • Dữ liệu mẫu chất lượng: cặp đầu vào và đầu ra mong muốn, nhất quán và sạch. Chất lượng quan trọng hơn số lượng.
  • Bộ đánh giá riêng: tách một phần dữ liệu để đo mô hình trước và sau tinh chỉnh.
  • Chi phí vòng đời: mô hình nền thay đổi thì có thể phải tinh chỉnh lại.
  • Quyền riêng tư: kiểm tra điều khoản xử lý dữ liệu của nhà cung cấp.

Sai lầm thường gặp

  • Nhảy vào fine-tuning khi prompt chưa được tối ưu.
  • Dùng fine-tuning để nhồi tài liệu rồi mong mô hình nhớ chính xác từng chi tiết.
  • Không có bộ kiểm thử nên không biết cải thiện thật hay chỉ cảm giác.
  • Đưa quá nhiều tài liệu vào RAG làm nhiễu ngữ cảnh.

Một quy trình quyết định nhanh

  1. Mô hình trả lời sai vì thiếu thông tin riêng hoặc thông tin mới? Dùng RAG.
  2. Mô hình có thông tin nhưng trả lời sai định dạng hoặc sai giọng? Cải thiện prompt, thêm ví dụ mẫu.
  3. Đã làm hai bước trên, chất lượng ổn nhưng chi phí hoặc độ trễ quá cao vì prompt quá dài? Cân nhắc fine-tuning mô hình nhỏ hơn.
  4. Cần hành vi chuyên biệt, ổn định ở quy mô lớn mà prompt không đạt được? Fine-tuning là ứng viên.

Ở bước nào bạn cũng nên có bộ kiểm thử để so sánh trước và sau, tránh quyết định theo cảm tính.

Kết luận

Hãy đi từ rẻ và nhanh đến tốn kém: prompt, rồi RAG, rồi mới fine-tuning, và luôn đo bằng bộ kiểm thử cụ thể. Chọn đúng công cụ cho đúng vấn đề quan trọng hơn việc dùng kỹ thuật nghe có vẻ cao cấp nhất.

Để nắm vững nền tảng lập trình dùng khi xây ứng dụng AI, mời bạn xem các khóa học tại codebem.com.

author_photo
Nguyễn Đình Cường

0 comment