Appearance
成本优化策略
在知识图谱中的位置:模块四 · 04_工程实践 · 第 2 节 难度:⭐⭐⭐ | 前置知识:Agent 基础
1. 五大优化策略
1.1 模型路由(按任务分级)
| 层级 | 模型 | 成本/1M tokens | 适用 |
|---|---|---|---|
| L1(简单,60-70%) | GPT-4o-mini / Claude Haiku | $0.15-0.50 | 简单任务 |
| L2(中等,20-30%) | Claude Sonnet / GPT-4o | $3-15 | 中等任务 |
| L3(复杂,5-10%) | GPT-4.5 / Claude Opus | $15-60 | 复杂推理 |
1.2 缓存策略
缓存是 Agent 成本优化中 ROI 最高的手段,可消除 20-45% 的 API 调用。来源: AgentWiki - Caching Strategies for Agents
1.3 提示词优化
Few-shot learning 可保持同等效果的同时减少 20-40% token 消耗。来源: AI Cost Optimization (AIToolsBusiness)
1.4 Prompt 缓存
企业环境中,prompt caching(复用系统 prompt 的 KV cache)可大幅降低重复请求成本。来源: Inductivee - LLM Cost Optimization
2. 参考资料
- AI Agent Cost Optimization: Strategies for Keeping Production Costs Under Control
- AI Agent Cost Optimization: Token Budgets, Model Routing, and Production FinOps (Zylos)
- Model Routing for Cost Control (OptyxStack)
- Reducing AI Agent Inference Costs (Harness Engineering)
- AI Cost Optimization: Caching, Batching, Smaller Models