← Tất cả bài viết

Tag: #token-cost

1 bài viết

Agent đang đốt token vì context dài? Runtime mới là phần chìm
8932026-07-27

Agent đang đốt token vì context dài? Runtime mới là phần chìm

Context dài làm Agent tốn token, nhưng không giải thích token bị tiêu do đâu. Agent Runtime quyết định phạm vi đọc file, tìm kiếm, gọi tool, retry và verification. Muốn tối ưu chi phí thật sự, chúng ta cần quan sát từng quyết định thực thi thay vì chỉ nhìn tổng token.

ai-agentobservabilityagent-runtime
7 phút đọc