Chọn bài toán có thể đo
Bắt đầu bằng một tác vụ như tìm tài liệu, phân loại yêu cầu hoặc chuẩn bị bản nháp. Cần có ví dụ đầu vào, kết quả mong muốn và mức sai sót chấp nhận được để quyết định AI có phù hợp hay không.
RAG và dữ liệu nội bộ
RAG kết hợp tìm kiếm tài liệu với mô hình tạo câu trả lời. Nguồn dữ liệu phải có quyền sử dụng, được cập nhật và tách theo quyền truy cập của từng người dùng. Trích nguồn giúp đối chiếu nhưng không bảo đảm câu trả lời luôn đúng.
Thử nghiệm có giới hạn
Thống nhất tập đánh giá, cách đo câu trả lời có căn cứ, thời gian phản hồi và chi phí theo mức sử dụng. Các tác vụ ảnh hưởng khách hàng hoặc quyết định quan trọng cần bước kiểm tra của người phụ trách.
Điều kiện đưa vào vận hành
Làm rõ nhà cung cấp, nơi dữ liệu được xử lý, cách lưu nhật ký, giới hạn sử dụng và phương án khi dịch vụ lỗi. Việc mở rộng chỉ nên quyết định sau khi hiểu kết quả thử nghiệm và trách nhiệm vận hành.