Wavi Books · AI, LLM & AI Agent

Fine-tuning LLM là gì? Khi nào nên dùng RAG, LoRA hay prompt

Nguyễn Minh Trí · Biên tập chuyên môn Wavi Books

Hiểu fine-tuning LLM, LoRA, RAG và prompt engineering; cách chọn kỹ thuật phù hợp theo dữ liệu, chi phí và mục tiêu ứng dụng AI.

## Fine-tuning LLM là gì

## Hiểu nhanh trước khi chọn mô hình hoặc framework

Hiểu fine-tuning LLM, LoRA, RAG và prompt engineering; cách chọn kỹ thuật phù hợp theo dữ liệu, chi phí và mục tiêu ứng dụng AI. Một hệ thống AI đáng tin phải kiểm soát được dữ liệu nguồn, cách đánh giá và hành vi khi mô hình không chắc chắn.

Một mô hình có thể trả lời rất trôi chảy trong bản demo, rồi bịa đúng phần quan trọng nhất khi gặp dữ liệu thật. Khoảnh khắc ấy nhắc chúng ta rằng sản phẩm AI không chỉ là prompt: phía sau còn có dữ liệu, đánh giá, quyền truy cập, công cụ và cách hệ thống xử lý khi không chắc chắn.

Nhiều đội ngũ muốn fine-tune ngay khi AI trả lời chưa như ý. Nhưng đôi khi thứ còn thiếu chỉ là dữ liệu đúng, một prompt rõ hơn hoặc cơ chế truy xuất tốt hơn.

Fine-tuning là quá trình tiếp tục huấn luyện một mô hình đã có trên dữ liệu chuyên biệt để điều chỉnh hành vi, phong cách hoặc năng lực thực hiện nhiệm vụ. LoRA là kỹ thuật tinh chỉnh tiết kiệm tham số, còn RAG chủ yếu bổ sung kiến thức từ nguồn ngoài khi suy luận.

Nếu mục tiêu là cập nhật kiến thức thường xuyên và cần dẫn nguồn, RAG thường hợp lý hơn. Nếu cần mô hình tuân thủ định dạng, giọng điệu hoặc thực hiện một nhiệm vụ ổn định, fine-tuning có thể tạo khác biệt rõ rệt.

## Những khái niệm cốt lõi cần nắm

## Đừng dùng một chiếc búa cho mọi bài toán

Prompt giống cách bạn giao việc; RAG giống việc đưa tài liệu tham khảo; còn fine-tuning là huấn luyện lại thói quen phản hồi của mô hình. Ba cách này giải quyết ba loại vấn đề khác nhau, dù chúng thường bị gom chung thành một câu hỏi: làm sao để AI trả lời tốt hơn?

## Chuyện gì xảy ra khi đem vào dự án thật?

Nếu thông tin thay đổi mỗi tuần, RAG thường hợp lý hơn vì bạn có thể cập nhật kho dữ liệu. Nếu cần mô hình luôn trả lời theo một cấu trúc, giọng điệu hoặc hành vi rất đặc thù, fine-tuning hoặc LoRA mới đáng cân nhắc.

## Nếu bắt đầu hôm nay, tôi sẽ làm thế này

Hãy ghi lại mười đến năm mươi câu hỏi thất bại và phân loại nguyên nhân. Chỉ sau bước này bạn mới biết nên sửa prompt, cải thiện truy xuất hay đầu tư vào dữ liệu huấn luyện.

- Prompting thay đổi chỉ dẫn tại thời điểm chạy.

- RAG bổ sung ngữ cảnh có thể cập nhật.

- Fine-tuning điều chỉnh trọng số và hành vi.

- LoRA giảm tài nguyên so với tinh chỉnh toàn bộ mô hình.

## Lộ trình thực hành từng bước

- Bước 1: Xây baseline bằng prompt và đo chất lượng.

- Bước 2: Thử RAG nếu lỗi đến từ thiếu kiến thức.

- Bước 3: Chỉ fine-tune khi có dữ liệu mẫu đủ sạch và tiêu chí đánh giá ổn định.

## Những sai lầm thường gặp

- Fine-tune để nhồi dữ liệu thường xuyên thay đổi.

- Dùng dữ liệu huấn luyện không nhất quán.

- Không tách tập kiểm thử độc lập.

## Góc nhìn dành cho người học và developer Việt Nam

Với đội AI tại Việt Nam, chi phí GPU và chất lượng dữ liệu thường là ràng buộc lớn. Một pipeline đánh giá nhỏ nhưng đáng tin cậy quan trọng hơn việc chọn mô hình lớn nhất.

## Nên học tiếp như thế nào?

## Bài tập chọn đúng giải pháp cho LLM

Tạo 12 câu hỏi mà ứng dụng AI của bạn đang trả lời chưa tốt. Với từng câu, ghi rõ lỗi đến từ thiếu dữ kiện, sai định dạng, giọng điệu hay năng lực suy luận. Thử sửa prompt trước, sau đó thêm tài liệu bằng RAG. Chỉ đưa những lỗi hành vi còn lặp lại vào danh sách cân nhắc fine-tuning. Bảng so sánh nhỏ này sẽ giúp quyết định dựa trên bằng chứng thay vì cảm giác.

## Ví dụ xuyên suốt để nối kiến thức

Giả sử trợ lý chăm sóc khách hàng thường trả lời sai chính sách đổi trả. Nếu tài liệu chưa được đưa vào ngữ cảnh, RAG là ứng viên đầu tiên. Nếu câu trả lời đã đúng dữ kiện nhưng luôn sai cấu trúc JSON, fine-tuning mới đáng thử. Một lỗi nhìn giống nhau ở giao diện có thể cần hai cách xử lý hoàn toàn khác phía sau.

## Khung triển khai từ thử nghiệm đến thực tế

Quyết định nên bắt đầu từ tập lỗi có nhãn, không bắt đầu từ tên công nghệ. Hãy tách lỗi kiến thức, lỗi định dạng, lỗi giọng điệu, lỗi suy luận và lỗi do công cụ; mỗi nhóm cần thước đo riêng.

### Bốn bước nên đi theo thứ tự

- Tạo baseline bằng prompt rõ và bộ 50–100 câu hỏi đại diện.

- Thêm RAG cho phần kiến thức cần cập nhật hoặc cần dẫn nguồn.

- Chỉ chuẩn bị dữ liệu fine-tuning khi một kiểu hành vi sai lặp lại đủ nhiều.

- So sánh chất lượng, chi phí và độ trễ trên cùng một tập kiểm thử.

## Trade-off cần nhìn thẳng

RAG dễ cập nhật nhưng phụ thuộc chất lượng truy xuất. Fine-tuning tạo hành vi ổn định hơn nhưng cần dữ liệu sạch, chi phí huấn luyện và quy trình quản lý phiên bản. LoRA giảm tài nguyên so với cập nhật toàn bộ trọng số, không làm biến mất yêu cầu đánh giá nghiêm túc.

## Đánh giá bằng kết quả thay vì cảm giác

Theo dõi độ đúng dữ kiện, tỷ lệ tuân thủ định dạng, mức nhất quán và chi phí cho mỗi câu trả lời. Chấm riêng retrieval và generation để biết lỗi thực sự nằm ở đâu.

## Giá trị đối với năng lực nghề nghiệp

Năng lực quan trọng của AI Engineer không phải fine-tune được nhiều mô hình, mà là chẩn đoán đúng nguyên nhân và chọn giải pháp ít phức tạp nhất vẫn đạt mục tiêu.

## Góc nhìn dành cho developer Việt Nam

Với developer và AI engineer tại Việt Nam, nên học chủ đề này bằng một bài toán nhỏ có dữ liệu thật và tiêu chí đánh giá rõ. Cách làm đó giúp bạn phân biệt một demo gây ấn tượng với một ứng dụng AI có thể kiểm tra, vận hành và giải thích cho người dùng.

## Đọc tiếp trên Wavi Books

Nếu bạn muốn học chủ đề này theo một lộ trình có cấu trúc, có thể xem Build a Large Language Model (From Scratch) bản tiếng Việt tại [Wavi Books](/sach/build-large-language-model-sebastian-raschka-2026). Sách liên quan được đặt sau phần kiến thức để bạn có thể đánh giá nội dung trước khi chọn mua.