面向 LLM 应用的有状态上下文层 API:把对话状态 centrally 管理,工程师只需发起会话后发送增量事件,自动处理模型 schema 适配、token 压缩与多供应商路由(免厂商锁定),附带用量监控、工具 schema 与 prompt 管理看板,替开发者消灭每次调用重建上下文的重复劳动。 定价:按 token 计费(预充值),有免费档。编辑评分:⭐ 4.5。
Twigg 是什么?
Twigg 是英国公司 TWIGG AI LTD 推出的面向 LLM 应用的有状态上下文层 API,2026 年 9 月 16 日以 v0.1.0 在 Product Hunt 发布。它解决的是 LLM 应用开发中一个重复而枯燥的问题:每次调用模型都要把完整对话历史重新组装、适配目标模型的格式、还要盯着 token 数防超支,这些工作每个团队都在重复造轮子。用 Twigg,你只需创建一个会话,之后每次只发送增量事件,对话状态由服务端统一托管,超长上下文自动压缩,请求还能在多家模型供应商之间灵活路由。
核心功能
- 会话状态托管:创建会话后,完整对话上下文由服务端集中管理,调用方每次只发增量事件,不用再自己维护历史消息数组、拼装 prompt。
- 模型 schema 适配:自动把请求适配到目标模型的输入格式,从 OpenAI 换到 Anthropic 不用改应用代码,一行业务逻辑都不用动。
- token 压缩与截断:上下文超长时自动执行压缩或截断策略,控制成本的同时尽量保留关键信息,长会话不再意味着账单失控。
- 多供应商路由:请求可路由至 Anthropic、OpenAI、Google、xAI、Fireworks、OpenRouter 等供应商,切换或故障转移免厂商锁定,某家出问题可以立即绕开。
- 控制台管理:提供可视化看板,管理工具 schema 与系统提示词,监控 token 用量与账单,状态和花费都看得见,不再是一笔糊涂账。
版本/套餐对比
Twigg 按 token 用量计费、预充值模式,同时提供免费档供试用与验证,免费额度与各档位的具体数字以官网为准。产品处于 v0.1.0 早期阶段,API 与功能仍在快速迭代,生产接入前建议关注其变更日志,并做好接口可能变动的心理准备。对中小团队来说,免费档足够完成概念验证。建议把它的定位理解为 LLM 应用与模型供应商之间的中间层:应用只管业务逻辑,状态、格式与路由都交给它处理。
值不值得用?
优点是把「状态管理 + 格式适配 + 压缩省钱 + 多路由」四件事打包成一个 API,长会话、多模型的应用团队可以省掉一大块自建中间层的工程量,这通常是一两名后端工程师数周的工作;控制台的可观测性让 token 花费看得清;多供应商路由还顺手解决了厂商锁定焦虑。缺点也很现实:v0.1.0 太早期,稳定性和团队长期存续需要观察;把对话状态交给第三方托管存在数据信任与合规成本,敏感业务需要仔细评估;请求多经过一跳服务端,对超低延迟场景不友好。结论:维护多模型、长对话 LLM 应用的团队值得认真评估,个人玩具项目则用不上。
使用建议
- 先用免费档跑一个长会话 demo,验证状态保持与压缩效果是否符合预期。
- 配置好多供应商路由后做一次故障切换演练,确认切换无感、重试逻辑正常。
- 在控制台盯住 token 用量对比,确认压缩策略真的帮你省了钱,而不是丢了关键信息。
- 接入前评估数据合规:确认会话状态的存储位置、保留与删除政策符合你的业务要求。
- 关注版本更新日志,v0.1.0 阶段接口变动频繁,升级前先在测试环境回归。
适合谁用?
- 推荐:维护多模型、长对话 LLM 应用的后端团队,想省掉自建状态层的工作量。
- 可考虑:担心单一厂商锁定、需要灵活切换供应商的 AI 产品。
- 不推荐:以单次调用为主的简单应用;对数据出域零容忍且无法接受第三方托管的团队。