Đếm mã thông báo và số ký tự có thể tính phí


Mô hình AI tạo sinh (chẳng hạn như mô hình Gemini) chia nhỏ dữ liệu thành những đơn vị gọi là mã thông báo để xử lý. Mỗi mô hình Gemini có số lượng mã thông báo tối đa xử lý trong câu lệnh và phản hồi.

Trang này cho bạn biết cách ước tính số lượng mã thông báo và số lượng ký tự có thể tính phí cho một yêu cầu.

Dữ liệu kiểm soát cung cấp những thông tin nào?

Xin lưu ý những điều sau về cách đếm mã thông báo và ký tự có thể tính phí:

  • Đếm tổng số mã thông báo

    • Chỉ số này rất hữu ích trong việc đảm bảo số lượng yêu cầu của bạn không vượt quá mức cho phép cửa sổ ngữ cảnh.

    • Số lượng mã thông báo sẽ phản ánh kích thước của tất cả tệp (ví dụ: hình ảnh) được cung cấp trong đầu vào yêu cầu. Hệ thống sẽ không tính số lượng hình ảnh hoặc số giây trong video.

    • Đối với tất cả mô hình Gemini, một mã thông báo tương đương với khoảng 4 ký tự. 100 mã thông báo có khoảng 60-80 từ tiếng Anh.

  • Đếm tổng số ký tự có thể tính phí

    • Số liệu này rất hữu ích để giúp bạn hiểu rõ và kiểm soát chi phí của mình, vì đối với Vertex AI, số ký tự sẽ là một phần của việc tính giá.

    • Số lượng ký tự có thể tính phí sẽ phản ánh số lượng ký tự trong text (văn bản) được cung cấp như một phần của đầu vào request.

Đối với Vertex AI, mã thông báo không được dùng để tính giá. Tìm hiểu thêm về giới hạn mã thông báo cho mỗi mẫugiá theo mô hình.

Giá và hạn mức đếm mã thông báo và ký tự có thể tính phí

Việc sử dụng API CountTokens không bị giới hạn về khoản phí hoặc hạn mức. Chiến lược phát hành đĩa đơn hạn mức tối đa cho API CountTokens là 3.000 yêu cầu mỗi phút.

Mã mẫu

Chỉ nhập văn bản

Nhập đa phương thức