运行概览
在线机器 来自 /admin/metrics
| machine_id | 归属网吧 | 状态 | 角色 | 在途 | 主机 | 模型 | 今日 tokens |
|---|
新建网吧
创建后返回的 token 要填进该网吧机的
AGENT_TOKEN,同时 NETBAR_ID 填返回的 netbar_id
网吧列表
| netbar_id | 备注 | 状态 | 机器 | token | 允许网段 | 今日 tokens | 调用 | 操作 |
|---|
全部机器
| machine_id | 网吧 | 状态 | 角色 serving | 在途 | 主机 / GPU | 模型 | 今日 tokens | 操作 |
|---|
封禁会立即断开该机 WS 并停止后续派单;角色为 [] 表示移出轮换(维护/故障隔离)。
角色分配会落盘(ROLES_FILE),网关重启后仍生效。
结算账本 来自 /debug/ledger
日期
| machine_id | prompt | completion | tokens 合计 | 调用次数 |
|---|
网关是推理流的 MITM,token 数在网关侧重算比对(Ledger.audit,偏差 >30% 告警),
不直接采信机器自报数字。
并发槽位 / 调度参数 来自 /debug/slots
| machine_id | max_parallel | gw_inflight | 机器自报 in_flight | status |
|---|
原始响应
/debug/slots
-
/health
-
网关服务密钥 LiteLLM → cafe-gw 的调用密钥,可颁发 / 吊销
吊销后该 key 立即失效(请求返回 401),不会 fall-through 成客户 key
| 备注 | 密钥 | 状态 | 创建于 | 最近使用 | 调用次数 | 操作 |
|---|
消耗看板 天维度 · 区间汇总 · 折线图(P4)
维度
起
止