Wavi Books · AI, LLM & AI Agent

LLM là gì trong AI? Hiểu Transformer, RAG và Fine-tuning

Nguyễn Minh Trí · Biên tập chuyên môn Wavi Books

Bản đồ kiến thức LLM cho developer: token, embedding, attention, Transformer, RAG, fine-tuning và cách chọn lộ trình học.

## LLM là gì trong AI?

Large Language Model là mô hình học sâu được huấn luyện trên lượng lớn dữ liệu ngôn ngữ để dự đoán token tiếp theo. Từ cơ chế tưởng như đơn giản này, LLM có thể tạo văn bản, tóm tắt, dịch, phân loại, viết code và hỗ trợ nhiều tác vụ tri thức.

Để hiểu LLM, bạn cần nối năm khái niệm: tokenization biến văn bản thành đơn vị số; embedding biểu diễn ý nghĩa; attention xác định phần ngữ cảnh quan trọng; Transformer tổ chức các lớp xử lý; pretraining giúp mô hình học quy luật từ dữ liệu lớn.

## RAG và fine-tuning khác nhau thế nào?

RAG truy xuất tài liệu liên quan rồi đưa chúng vào ngữ cảnh khi mô hình trả lời. Cách này phù hợp với dữ liệu thường xuyên thay đổi hoặc cần dẫn nguồn. Fine-tuning điều chỉnh trọng số mô hình để thay đổi hành vi, phong cách hoặc năng lực trên một nhóm tác vụ. Hai kỹ thuật có thể bổ sung cho nhau nhưng giải quyết vấn đề khác nhau.

## Lộ trình học LLM cho developer

- Nắm Python, đại số tuyến tính và xác suất ở mức ứng dụng.

- Hiểu token, embedding, attention và kiến trúc Transformer.

- Xây pipeline inference với mô hình có sẵn.

- Thực hành semantic search và RAG có đánh giá.

- Học fine-tuning, LoRA, serving, monitoring và LLMOps.

## Chọn sách theo mục tiêu

Build a Large Language Model (From Scratch) phù hợp nếu bạn muốn hiểu và tự xây các thành phần cốt lõi. Hands-On Large Language Models phù hợp với người ưu tiên trực giác và ứng dụng. LLM Engineer's Handbook tập trung nhiều hơn vào dữ liệu, triển khai và vận hành mô hình trong môi trường production.

Với người học tại Việt Nam, đọc bản tiếng Việt trước giúp hình thành bản đồ khái niệm; sau đó bạn nên giữ lại thuật ngữ tiếng Anh để đọc paper, documentation và trao đổi trong đội ngũ quốc tế.