Retrieval-Augmented Generation (RAG) là gì?

Retrieval-Augmented Generation (RAG) giúp hệ thống AI tạo sinh trả lời bằng cách truy xuất thông tin liên quan từ nguồn bên ngoài. Cách này hữu ích khi câu trả lời cần dựa trên tài liệu cụ thể hoặc thông tin có thể đã thay đổi kể từ khi mô hình được huấn luyện. RAG cung cấp căn cứ tham khảo, nhưng không đảm bảo câu trả lời chính xác.

Điểm chính

• Là gì: RAG kết nối mô hình ngôn ngữ tạo sinh với thông tin bên ngoài được truy xuất cho một nhiệm vụ cụ thể.
• Hoạt động thế nào: Hệ thống tìm tài liệu liên quan đến câu hỏi, đưa tài liệu đó cho mô hình rồi tạo câu trả lời dựa trên ngữ cảnh.
• Ý nghĩa thực tế: RAG có thể hỗ trợ xử lý thông tin chuyên biệt hoặc mới cập nhật; vẫn cần kiểm tra nguồn và câu trả lời.

Retrieval-Augmented Generation (RAG) là gì?

RAG cung cấp cho mô hình ngôn ngữ tạo sinh thông tin bên ngoài có liên quan để sử dụng khi trả lời câu hỏi. Mô hình ngôn ngữ lớn (Large Language Model, LLM) là hệ thống được huấn luyện trên dữ liệu ngôn ngữ để xử lý và tạo văn bản. Trong RAG, hệ thống truy xuất thông tin từ một nguồn, chẳng hạn bộ tài liệu của công ty, rồi đưa thông tin đó cho mô hình. Phần giới thiệu về RAG của Weaviate mô tả cách kết hợp kiến thức tổng quát của mô hình với thông tin bên ngoài phù hợp với nhiệm vụ.

Tên gọi mô tả ba bước: retrieval là tìm thông tin liên quan, augmentation là bổ sung thông tin đó vào ngữ cảnh mô hình sử dụng, còn generation là tạo câu trả lời. Chẳng hạn, trợ lý tại nơi làm việc có thể truy xuất chính sách nghỉ phép liên quan để trả lời câu hỏi của nhân viên.

RAG hoạt động như thế nào, từng bước một?

Quy trình RAG cơ bản chuẩn bị thông tin, truy xuất tài liệu liên quan đến câu hỏi, đưa tài liệu đó cho mô hình rồi tạo câu trả lời. Cấu hình kỹ thuật có thể khác nhau, nhưng trình tự tổng quát thường tương tự. Weaviate mô tả việc chuẩn bị kiến thức bên ngoài để truy xuất, sau đó tìm thông tin liên quan khi có câu hỏi.

1. Cung cấp thông tin cho hệ thống. Hệ thống được kết nối với hoặc được cung cấp một tập tài liệu, chẳng hạn các chính sách nội bộ. Việc chuẩn bị này diễn ra trước khi nhân viên đặt câu hỏi.
2. Truy xuất tài liệu phù hợp. Khi nhân viên hỏi về chính sách nghỉ phép, hệ thống tìm các đoạn liên quan trong tài liệu hiện có.
3. Đưa tài liệu đã truy xuất cho mô hình. Hệ thống cung cấp câu hỏi cùng các đoạn liên quan để mô hình sử dụng.
4. Tạo câu trả lời. Mô hình tạo phản hồi dựa trên câu lệnh và thông tin được cung cấp.

Truy xuất tài liệu không làm thay đổi quá trình huấn luyện mô hình. Tài liệu được dùng để tạo câu trả lời cụ thể; mô hình không tự động hấp thụ tài liệu đó.

Hệ thống RAG có thể sử dụng những loại thông tin nào?

RAG có thể truy xuất thông tin từ tệp nội bộ, cơ sở dữ liệu, kho mã nguồn, trang web và các tài liệu trực tuyến khác. Nguồn khả dụng tùy thuộc vào cấu hình ứng dụng; công cụ RAG không mặc nhiên có quyền truy cập web công khai hoặc thông tin riêng của công ty. Tổng quan của Weaviate nêu các nguồn có thể sử dụng, gồm tệp và kho lưu trữ nội bộ cũng như thông tin công khai trên mạng.

Trợ lý của công ty có thể sử dụng sổ tay nhân viên hoặc mục câu hỏi thường gặp về sản phẩm; công cụ nghiên cứu có thể truy xuất đoạn từ các bài viết công khai được chọn. Trong mỗi trường hợp, hệ thống chỉ dùng được những nguồn mà nó được cấp quyền truy cập. Việc truy xuất một tài liệu không có nghĩa tài liệu đó mới nhất, đầy đủ hoặc có thẩm quyền.

Vì sao dùng RAG thay vì chỉ dựa vào dữ liệu huấn luyện của mô hình?

RAG có thể đưa thông tin chuyên biệt hoặc mới cập nhật vào câu trả lời, kể cả khi thông tin đó không có trong dữ liệu huấn luyện của mô hình. Quá trình huấn luyện giúp mô hình học các mẫu kiến thức rộng; truy xuất đưa thông tin bên ngoài được chọn vào quá trình trả lời. Cách này hữu ích khi câu trả lời cần dựa trên nguồn như hướng dẫn sản phẩm vừa được cập nhật. Weaviate giải thích rằng RAG bổ sung thông tin bên ngoài phù hợp với nhiệm vụ; phần tổng quan về Retrieval-Augmented Generation mô tả việc sử dụng phương pháp này với thông tin chuyên ngành hoặc mới cập nhật.

Truy xuất tài liệu không huấn luyện lại hoặc thay đổi mô hình nền. Ví dụ, ứng dụng hỗ trợ khách hàng có thể tìm chi tiết trong thông tin sản phẩm của công ty để trả lời câu hỏi. Chất lượng câu trả lời vẫn phụ thuộc vào việc hệ thống tìm đúng tài liệu và diễn đạt chính xác nội dung đó. Hướng dẫn RAG của SingleStore đưa ra ví dụ hỗ trợ khách hàng bằng thông tin tùy chỉnh về sản phẩm hoặc dịch vụ.

Ví dụ RAG đơn giản: Trả lời dựa trên tài liệu công ty

RAG có thể giúp nhân viên tra cứu chính sách chi phí: khi nhân viên hỏi liệu một khoản chi có được hoàn lại hay không, trợ lý tìm trong các tài liệu chính sách mà hệ thống được phép truy cập, đưa đoạn phù hợp cùng câu hỏi cho mô hình rồi tạo câu trả lời dựa trên tài liệu.

Câu trả lời không thay thế chính sách. Nhân viên nên kiểm tra đoạn được trích dẫn hoặc cung cấp, nhất là khi quyết định hoàn trả có hệ quả đáng kể. Hệ thống chỉ sử dụng được các nguồn mà nó được cấp quyền truy cập; nguồn có thể là tệp, cơ sở dữ liệu nội bộ hoặc tài liệu công khai. Tổng quan của Weaviate mô tả các loại nguồn này.

RAG có ngăn được hiện tượng AI bịa thông tin không?

Không. RAG có thể cung cấp căn cứ cho câu trả lời nhưng không đảm bảo phản hồi chính xác. Hệ thống có thể truy xuất đoạn không liên quan hoặc chưa đầy đủ, hoặc mô hình có thể hiểu sai tài liệu. Vì vậy, câu trả lời vẫn có thể thiếu căn cứ hoặc sai. Phần tổng quan về Retrieval-Augmented Generation lưu ý rằng mô hình vẫn có thể tạo thông tin sai lệch nếu diễn giải sai ngữ cảnh, dù đã truy xuất tài liệu đúng sự thật.

Chẳng hạn, một đoạn chính sách có thể nêu ngoại lệ rồi nói rõ ngoại lệ đó không áp dụng trong một tình huống cụ thể. Hệ thống có thể tìm đúng đoạn nhưng bỏ sót điều kiện khi tóm tắt. Đây là tình huống minh họa, không phải tuyên bố về hiệu suất được đo lường. Với câu hỏi quan trọng, hãy kiểm tra nguồn và xác nhận nội dung đó thực sự hỗ trợ câu trả lời.

RAG có cần cơ sở dữ liệu vector không?

Không. RAG là cách tiếp cận rộng hơn, trong đó thông tin bên ngoài được truy xuất rồi cung cấp cho mô hình tạo sinh; nó không yêu cầu một công nghệ tìm kiếm cụ thể. Cơ sở dữ liệu vector có thể hỗ trợ truy xuất nhưng không phải thành phần bắt buộc. Hướng dẫn RAG của SingleStore lưu ý rằng thông tin bên ngoài cũng có thể được cung cấp dưới dạng văn bản và mô tả cơ sở dữ liệu vector là lựa chọn phổ biến trong các trường hợp sử dụng nâng cao hơn.

Kết luận thực tế: RAG bổ sung nguồn thông tin, không đảm bảo độ chính xác

RAG kết nối mô hình tạo sinh với thông tin có thể truy xuất cho một nhiệm vụ, hỗ trợ các câu trả lời cần dựa trên nguồn chuyên biệt hoặc mới cập nhật. Hiệu quả phụ thuộc vào độ tin cậy của nguồn, mức độ liên quan của tài liệu được truy xuất và việc mô hình có diễn đạt đúng nội dung đó hay không.

Khi công cụ RAG trả lời câu hỏi về chính sách công ty, hãy kiểm tra tài liệu nguồn thay vì xem câu trả lời là bằng chứng chắc chắn. Với quyết định có hệ quả đáng kể, hãy đọc đoạn liên quan trước khi hành động. Rà soát vẫn là một phần cần thiết khi sử dụng câu trả lời do RAG hỗ trợ.

Đọc thêm trong chuyên đề AI Agent và Tự động hóa:

• Kiến thức nền tảng: Hệ thống bộ nhớ AI là gì?
• Chuyên sâu cùng chủ đề: Cách chọn công cụ AI cho người mới bắt đầu
• Hướng dẫn thực hành & Mẫu Prompt: Giải mã xu hướng AI Agent trong công việc: Cơ hội tự động hóa và giới hạn
• Khám phá toàn bộ chuyên mục: Công cụ AI, AI Agent & Tự động hóa