📖 Mô Tả Dễ Hiểu: Cách Làm Việc Khi Chọn Chế Độ RAG

Bối cảnh tình huống:

• Quy mô: 40 tủ sách (chứa ~500 cuốn sách/văn bản pháp luật).

• Nhu cầu: Người dùng gửi câu hỏi về Đầu tư dự án xây dựng nhà máy điện mặt trời tại Lào.

• Khác biệt duy nhất: Người dùng bật chế độ RAG thay vì chế độ "Nguyên văn".

🛠️ CHUẨN BỊ TRƯỚC (Thực hiện 1 lần duy nhất khi nhập dữ liệu)

Trước khi người dùng đặt câu hỏi, hệ thống đã tự động hoàn thành 3 bước chuẩn bị:

• Bước 1: Xé nhỏ văn bản (Chunking)

  Mỗi cuốn sách được chia thành nhiều mảnh nhỏ — ưu tiên mỗi mảnh là 1 Điều (hoặc đoạn ~2.000 ký tự nếu văn bản không phân Điều).

• Bước 2: Chiết xuất "mùi hương" ngữ nghĩa (Vector Embedding)

  Mỗi mảnh giấy được gửi qua Voyage AI để đổi thành chuỗi 1.024 con số (Vector). Dãy số này đóng vai trò như "mùi hương ngữ nghĩa" — các đoạn văn có nội dung tương đồng sẽ có "mùi" giống nhau, bất kể từ ngữ dùng khác nhau.

• Bước 3: Lưu trữ vào tủ đặc biệt (Vector Database)

  Sắp xếp toàn bộ các mảnh giấy vào cơ sở dữ liệu dựa theo "mùi hương" để phục vụ việc truy vấn siêu tốc.

Kết quả: 500 cuốn sách $\rightarrow$ ~8.000 mảnh giấy, mỗi mảnh đều được đánh dấu "mùi hương" sẵn sàng trong tủ vector.

🚀 QUY TRÌNH 6 BƯỚC XỬ LÝ CÂU HỎI (CHẾ ĐỘ RAG)

🔹 Bước 1: Mở tủ sách (Giống chế độ Nguyên văn)

• Hệ thống kiểm tra quyền truy cập của người dùng trên 40 tủ đã chọn.

• Kết quả: Xác định phạm vi tra cứu gồm 500 cuốn sách.

🔹 Bước 2: Lọc tủ sách không liên quan (Giống chế độ Nguyên văn)

• AI nhỏ (Haiku) đọc danh sách tên 40 tủ + câu hỏi người dùng.

• Kết quả: Loại bỏ các tủ không liên quan, giữ lại 7 tủ phù hợp nhất (~150 cuốn).

🔹 Bước 3: Lọc cuốn sách cụ thể (Giống chế độ Nguyên văn)

• Kết hợp tìm kiếm từ khóa và AI đọc tiêu đề sách.

• Kết quả: Trích xuất ra ~15 cuốn sách liên quan trực tiếp.

🔹 Bước 4: Khởi tạo Chuyên gia (Giống chế độ Nguyên văn)

• Hệ thống gọi mô hình Claude 3.5 Sonnet để chuẩn bị phân tích và trả lời.

🔹 BƯỚC 5: TRUY VẤN NỘI DUNG (ĐIỂM KHÁC BIỆT LỚN NHẤT)

So sánh nhanh tư duy truy vấn:

• Chế độ Nguyên văn: Mở mục lục $\rightarrow$ Chọn Điều $\rightarrow$ Cắt trọn vẹn nguyên văn từng Điều.

• Chế độ RAG: "Ngửi mùi" câu hỏi $\rightarrow$ So sánh vector $\rightarrow$ Lấy ra các mảnh giấy giống nhất.

Chi tiết 4 công đoạn của Bước 5 trong RAG:

1. Bước 5a — "Ngửi mùi" câu hỏi:

   Gửi câu hỏi của người dùng tới Voyage AI $\rightarrow$ Nhận về vector 1.024 chiều đại diện cho "mùi hương" của câu hỏi.

2. Bước 5b — So sánh độ tương đồng (Vector Search):

   Hệ thống quét ~1.200 mảnh giấy (thuộc 15 cuốn sách chọn ở Bước 3) và so sánh toán học với vector câu hỏi. (Thực hiện trong vài mili-giây).

3. Bước 5c — Trích xuất Top 20 mảnh giấy liên quan nhất:

   Lựa chọn 20 mảnh có chỉ số tương đồng cao nhất với câu hỏi.

4. Bước 5d — Nạp dữ liệu cho Chuyên gia:

   Gộp 20 mảnh giấy (tổng ~40.000 ký tự) kèm ghi chú: "Đã quét 15 cuốn sách, chọn ra 20 đoạn liên quan nhất từ 12 cuốn" để chuyển cho Sonnet.

🔹 Bước 6: Chuyên gia phân tích & Trả lời

• Sonnet xử lý gói tài liệu ~40.000 ký tự (gọn hơn rất nhiều so với mức ~150.000 ký tự của chế độ Nguyên văn).

• Tiến hành tổng hợp và trả lời chính xác kèm trích dẫn nguồn.

📊 BẢNG SO SÁNH 2 CHẾ ĐỘ

🔍 VÍ DỤ ĐỐI CHIẾU KẾT QUẢ TÌM KIẾM

1. Trường hợp RAG chiếm ưu thế ✅

Tình huống: Luật Thuế Lào có "Điều 45: Ưu đãi cho dự án phát triển bền vững" (Nội dung ghi: Miễn thuế 5 năm cho dự án năng lượng tái tạo).

• Chế độ Nguyên văn: AI đọc tiêu đề thấy không có từ "đầu tư", "năng lượng", "điện mặt trời" $\rightarrow$ Bỏ sót ❌

• Chế độ RAG: Vector nội dung Điều 45 nằm rất gần vector câu hỏi về "điện mặt trời" $\rightarrow$ Tìm thấy thành công ✅

2. Trường hợp Chế độ Nguyên văn chiếm ưu thế ✅

Tình huống: Điều 69 Luật Đầu tư dài 5.000 ký tự, gồm 8 khoản quy định chi tiết thủ tục.

• Chế độ Nguyên văn: Cắt trọn vẹn 5.000 ký tự $\rightarrow$ Chuyên gia đọc đủ 8 khoản $\rightarrow$ Trả lời đầy đủ ✅

• Chế độ RAG: Điều 69 bị xé thành 3 mảnh. Chỉ mảnh 1 (Khoản 1-3) đủ "giống mùi" để lọt Top 20 $\rightarrow$ Chuyên gia trả lời thiếu Khoản 4-8 ❌

🎯 HƯỚNG DẪN LỰA CHỌN CHẾ ĐỘ PHÙ HỢP

💡 TÓM LẠI TRONG MỘT CÂU:

• Chế độ Nguyên văn: Mở mục lục $\rightarrow$ Chọn Điều $\rightarrow$ Cắt nguyên trang $\rightarrow$ Đưa chuyên gia đọc.

• Chế độ RAG: Ngửi mùi câu hỏi $\rightarrow$ Lục tủ tìm mảnh giấy cùng mùi $\rightarrow$ Đưa chuyên gia đọc.

📌 PHỤ LỤC: THÔNG SỐ CẤU HÌNH HỆ THỐNG