Giới hạn chi phí, mức sử dụng và kiểm toán

Tổng quan hướng dẫn

Đối tượng: Quản trị viên hệ thống, và người vận hành AI theo dõi các lần gọi AI của công ty.

Thời gian đọc: khoảng 15 phút.

Kết quả: Giới hạn chi phí hằng ngày đã được đặt, bạn xem được AI tốn bao nhiêu, và bạn mở được đúng các thông điệp cùng bản ghi HTTP của bất kỳ lần gọi AI nào, với khoá được che.

Mọi lần gọi tới nhà cung cấp AI đều được ghi lại. Bạn quyết định AI được tốn bao nhiêu cho mỗi người, mỗi công ty và mỗi lần chạy, bạn đọc chi phí theo tháng, và bạn luôn tìm lại được những gì đã gửi tới nhà cung cấp. Giới hạn chi phí được kiểm tra trước khi yêu cầu rời khỏi Viindoo, nên một yêu cầu vượt giới hạn cứng bị từ chối và không có gì được gửi đi.

Trước khi bắt đầu

Bạn cần	Lý do
Quyền truy cập Thiết lập (quản trị viên hệ thống)	Giới hạn chi phí và thời gian lưu giữ được đặt trong AI ‣ Cấu hình ‣ Thiết lập, màn hình chỉ dành cho quản trị viên hệ thống.
Ít nhất một lần gọi AI	Các báo cáo trống cho đến khi có lần gọi. Bấm Kiểm tra kết nối trên một kết nối (xem Bắt đầu với Viindoo AI) hoặc đặt một câu hỏi cho trợ lý.
Quyền Người vận hành AI hoặc Trình xem nhật ký API, cho những người chỉ đọc các bản ghi	Xem bảng trong mục ai xem được gì ở bên dưới.

Đặt giới hạn chi phí

1. Vào AI ‣ Cấu hình ‣ Thiết lập.

2. Đi tới mục Kiểm soát chi phí và đổi một giới hạn, ví dụ Giới hạn chi phí cứng mỗi người dùng mỗi ngày (USD).

3. Bấm Lưu. Trang tải lại và hiển thị các giới hạn đã lưu.

Thiết lập	Tác dụng	Giá trị khi cài mới
Giới hạn chi phí cứng mỗi người dùng mỗi ngày (USD)	Chặn các yêu cầu vượt mức chi tiêu hằng ngày của một người.	10,00
Giới hạn chi phí cứng mỗi công ty mỗi ngày (USD)	Chặn các yêu cầu vượt mức chi tiêu hằng ngày của công ty.	100,00
Chi phí tối đa mỗi lần chạy (USD)	Mức tối đa một trợ lý được chi trong một lần chạy.	1,00
Ngưỡng cảnh báo giới hạn chi phí (%)	Cảnh báo khi chi tiêu đạt tỷ lệ phần trăm này (0-100) của giới hạn cứng.	80
Hạn mức token mỗi ngày cho mỗi người dùng	Cảnh báo khi một người vượt quá số token này trong ngày; không bao giờ chặn. Giá trị 0 là tắt.	0
Số lời gọi công cụ tối đa mỗi lần chạy, Số lời gọi liên tiếp tối đa	Giới hạn số lời gọi công cụ và số lời gọi AI liên tiếp của một lần chạy (mục Giới hạn cho trợ lý AI).	20 mỗi loại

Với ba giới hạn cứng, -1 nghĩa là không giới hạn và 0 không được chấp nhận. Một yêu cầu sẽ vượt giới hạn cứng bị từ chối trước khi gửi bất cứ thứ gì tới nhà cung cấp, và người dùng thấy thông báo rằng đã vượt giới hạn chi phí hằng ngày.

Ghi chú

Mục Module ở cuối cùng màn hình này cung cấp các ứng dụng bổ sung tuỳ chọn Trợ giúp AI trong trình soạn thảo và Viindoo Brain - Hệ điều hành tri thức, bạn có thể bật từ đó.

Đặt thời gian lưu giữ bản ghi

Trong mục Riêng tư và dữ liệu của AI ‣ Cấu hình ‣ Thiết lập:

• Thời gian lưu nhật ký API (ngày) là thời gian giữ các bản ghi HTTP thô. Mặc định là 30.

• Thời gian lưu trace (ngày) là thời gian giữ các trace AI, được nhận biết bằng Trace ID của một lần gọi. Mặc định là 90.

Các bản ghi cũ hơn các khoảng thời gian này bị xoá.

Xem AI đã tốn bao nhiêu

1. Vào AI ‣ Báo cáo ‣ Tổng hợp. Bảng cho biết số token đầu vào, token đầu ra và Chi phí (USD) theo tháng. Dùng Chỉ số để thêm các chỉ số khác, như thời lượng hoặc số lời gọi công cụ.

2. Chuyển sang dạng xem Danh sách bằng nút chuyển dạng xem ở góc trên bên phải và mở rộng tháng. Mỗi dòng là một lần gọi tới nhà cung cấp, với ngày, người dùng, kết nối AI, mô hình, loại yêu cầu, token, chi phí và Trạng thái (Thành công hoặc Lỗi). Dùng ô tìm kiếm để thu hẹp danh sách, ví dụ theo Người dùng.

So sánh chi phí với chất lượng câu trả lời

Vào AI ‣ Báo cáo ‣ Chất lượng & Chi phí. Bảng bao quát 30 ngày qua và nhóm chi phí, token đầu vào, token đầu ra và số lời gọi LLM theo đánh giá mà mọi người dành cho câu trả lời: Không hài lòng (không hữu ích), Gắn cờ để xem xét (nội dung có vấn đề), Hài lòng (hữu ích) hoặc Không có.

Mở bản ghi về những gì đã gửi đi

1. Trong dạng xem Danh sách của Tổng hợp, mở một dòng. Biểu mẫu cho biết ai đã thực hiện lần gọi, với kết nối và mô hình nào, Trace ID, token, chi phí và Trạng thái. Các nút HTTP thô và Phát lại nằm ở phía trên.

2. Kéo xuống phần các tab. Prompt cho thấy đúng các thông điệp đã gửi tới nhà cung cấp, Phản hồi là những gì nhận về và Lời gọi công cụ là các hành động trợ lý đã chạy. Một lần gọi do Kiểm tra kết nối tạo ra chỉ gửi một thông điệp ngắn.

3. Bấm HTTP thô để mở bản ghi HTTP của lần gọi: phương thức, địa chỉ, trạng thái phản hồi, thời lượng, và trong Chi tiết yêu cầu là các header và nội dung gửi đi. Header Authorization hiển thị ***MASKED***, nên khoá không bao giờ đọc được ở đây.

Ghi chú

HTTP thô mở được với quản trị viên hệ thống hoặc người dùng có quyền Trình xem nhật ký API. Nút Phát lại gửi lại yêu cầu đã lưu tới nhà cung cấp và được tính là một yêu cầu mới, bị tính phí như mọi yêu cầu khác. Chỉ quản trị viên hệ thống thấy nút này.

Đọc nhật ký yêu cầu API

Ứng dụng Nhật ký API liệt kê cùng các bản ghi HTTP đó ngoài ứng dụng AI: vào Nhật ký API ‣ Nhật ký yêu cầu API. Mỗi dòng cho biết ngày, phương thức, địa chỉ, trạng thái phản hồi, thời lượng, người dùng, công ty và bản ghi liên quan.

Ai xem được gì

Ai	Thấy	Ở đâu
Mọi người dùng nội bộ	Các lần gọi AI và các đánh giá của chính mình.	Tổng hợp, Chất lượng & Chi phí
Người vận hành AI, Quản trị viên AI, quản trị viên hệ thống	Các lần gọi của cả công ty.	Tổng hợp, Chất lượng & Chi phí
Trình xem nhật ký API, quản trị viên hệ thống	Các bản ghi HTTP thô.	Nhật ký yêu cầu API, nút HTTP thô

Điểm kiểm tra thành công

• Các giới hạn chi phí trong Kiểm soát chi phí hiện đúng giá trị bạn đã lưu.

• Tổng hợp hiện token và chi phí của tháng.

• Bạn đã mở một lần gọi và đọc Prompt cùng bản ghi HTTP thô của nó, với Authorization được che.

Các vấn đề thường gặp

Vấn đề	Cách xử lý
Một yêu cầu bị từ chối kèm thông báo đã vượt giới hạn chi phí hằng ngày.	Người dùng hoặc công ty đã chạm giới hạn cứng. Tăng giới hạn trong Thiết lập, hoặc dùng -1 cho không giới hạn. Giá trị 0 không được chấp nhận.
Tổng hợp trống.	Chưa có lần gọi nào, hoặc bạn chỉ thấy các lần gọi của mình. Bấm Kiểm tra kết nối hoặc đặt một câu hỏi cho trợ lý; cấp quyền Người vận hành AI cho người xem báo cáo để thấy cả công ty.
Nút HTTP thô không có.	Nút này mở với quản trị viên hệ thống hoặc người dùng có quyền Trình xem nhật ký API.
Nút Phát lại không có.	Chỉ quản trị viên hệ thống thấy nút này.
Các bản ghi cũ đã biến mất.	Chúng bị xoá khi vượt quá Thời gian lưu nhật ký API (ngày) hoặc Thời gian lưu trace (ngày).

Các bước tiếp theo

• Bắt đầu với Viindoo AI - cài đặt Viindoo AI và gán quyền truy cập.

• Kết nối nhà cung cấp AI và chọn nơi đặt dữ liệu - kết nối nhà cung cấp AI của riêng bạn và chọn nơi dữ liệu được xử lý.