[!info] related notes

• 所属 MOC: Observability Engineering MOC
• 相关: Token Usage Tracking, Model Router

Cost Tracking

一句话定义

Cost Tracking 是将 token 用量转化为货币成本的监控机制。GPT-4 输入 $0.01/1K token，输出 $0.03/1K token——不追踪成本，月底账单可能超出预期。

核心原理

定价表

模型	输入价格	输出价格
GPT-4	$0.01/1K	$0.03/1K
GPT-4-mini	$0.0001/1K	$0.0004/1K
Claude Sonnet	$0.003/1K	$0.015/1K
Claude Haiku	$0.00025/1K	$0.00125/1K

成本计算

class CostCalculator:
    PRICING = {
        "gpt-4": {"input": 0.01, "output": 0.03},
        "gpt-4-mini": {"input": 0.0001, "output": 0.0004},
        "claude-sonnet": {"input": 0.003, "output": 0.015},
    }

    def calculate(self, model: str, input_tokens: int, output_tokens: int) -> float:
        pricing = self.PRICING.get(model, {"input": 0.01, "output": 0.03})
        input_cost = (input_tokens / 1000) * pricing["input"]
        output_cost = (output_tokens / 1000) * pricing["output"]
        return input_cost + output_cost

成本告警

class CostAlert:
    async def check(self, user_id: str):
        monthly_cost = await self.get_monthly_cost(user_id)
        if monthly_cost > self.budget:
            await self.notify(user_id, f"月度成本已达 ${monthly_cost:.2f}，超过预算")

常见坑

1. 不追踪成本: 月底账单超出预期
2. 不区分模型: 不知道哪个模型最贵
3. 不做预算控制: 没有上限，成本无限增长

参考资料

• Token Usage Tracking
• LLM Token Cost Optimization