Octafuse Gateway 2.1 发布:不只管大模型,Agent 的每一次工具调用也都管起来!

作者:程序猿DD日期:2026/8/3

过去我们的 AI 网关,绝大多数的更新关注点在以下几个方面:

  • 如何统一接入 OpenAI、Anthropic、Gemini 等协议
  • 如何在多个 Provider 之间路由和故障转移
  • 如何管理 API Key、预算、Token、成本与调用日志

但当 Agent 真正进入业务,模型调用只是链路的一部分。它还会搜索网页、抓取正文、做深度检索,甚至调用 AI 率检测等垂直能力。如果这些工具各自维护密钥、价格、账单和日志,系统很快又会回到“每接一个能力,就多一套烟囱”的状态。之前我们已经做了一些 Agent 工具的接入,但是对于统一管控还是远远不足。所以,Octafuse Gateway 2.1.0 的重点,就是把这些模型之外的 AI 能力也纳入网关。

开源地址:github.com/OctaFuse/oc…

1. 新增 AI 率检测 工具

在之前的版本中我们已经接入了 Web Search、Web Fetch、Web Deep Search 工具,每个工具都各自接了国内国外最知名的几家供应商,用户只需要去拿 Key 来配置就可以使用。

在这次的 2.1.0 版本中,我们有新增了一个常用工具:AI 率检测

实现端点:POST /v1/tools/ai-detection

调用方只需提交待检测文本,Gateway 会完成:

  1. 用户 API Key 鉴权
  2. 预算预检
  3. 长文本自动分段
  4. 调用当前启用的检测引擎
  5. 汇总整体评分与分段结果
  6. 成功后记录费用并扣减预算
  7. 写入统一请求日志

当前已实现腾讯云 TMS 引擎,计费按字符单元计算。技术分段与计费单元彼此独立,后续切换或扩展检测引擎时,客户端不需要跟着理解供应商细节。

在后面的版本中,我们会再持续接入更多供应商和其他工具,敬请期待。如果您也在用 Octafuse Gateway,并且希望增加什么好用的工具,也可以提交 PR 一起增强我们的工具引擎。

2. 四类 Agent Tools,开始使用同一套运营体系

目前 Octafuse Gateway 已支持:

  • Web Search:联网搜索
  • Web Fetch:网页正文抓取
  • Web Deep Search:搜索与正文读取一体化
  • AI Detection:AI 生成概率检测

它们统一使用 /v1/tools/* 对外提供服务,并共享用户鉴权、预算、计费、日志与审计能力。

对客户端来说,只需要一把 Octafuse 用户 Key。对运营侧来说,可以在 Admin 中分别配置每种工具的引擎、密钥和价格。

这意味着 Agent 不必再直接持有一组搜索服务密钥、一组抓取服务密钥和一组检测服务密钥。能力由 Gateway 管理,客户端只关心稳定的产品 API。

3. 一次工具调用,就能完成三个维度的账本记录

2.1.0 将 Agent Tools 的记账体系向 AI 模型路由的记账体系看齐,统一为三账本:

  • standard:目录标准价
  • metered:供应侧实际成本
  • charged:用户实际计费

只有 charged 会累加到用户的 budget_spent(用户已用额度)。

过去一句“这次调用花了 0.01”,很难说明它究竟是上游成本、公开售价,还是用户最终支付金额。现在三种口径分开记录,运营人员可以更清楚地看到:

  • 上游实际成本是多少?
  • 对外目录价是多少?
  • 用户最终扣了多少?
  • 单次调用留下多少利润空间?

这样用户业务系统可以更关注复杂的业务本身,对于模型、工具的使用和记账完全不用混入业务系统!

4. 门户可以先查价格,再让用户确认调用

2.1.0 为 Gateway 提供的工具引擎提供了一个只读接口:

GET /v1/tools/pricing

用户的门户、系统或客户端可以在发起工具调用前读取:

  • 计费币种
  • 工具计费方式
  • 字符计费粒度
  • 供应成本、目录价和用户价

该接口不会返回引擎密钥,也不会向客户端暴露当前 Active 引擎名称。客户端面向的是稳定的 Octafuse Tools 产品能力,而不是某一家供应商的实现细节。

5. Admin 不只是“能配置”,还要“能运营”

本次 Admin 同步增强:

  • Tools 配置页支持全局控制敏感凭证显隐
  • 调用记录展示供应成本、目录价、用户计费与利润
  • Request Logs 区分 Agent Tools 与上游模型调用
  • 日志展示实际引擎 Provider,便于运营排查
  • Playground / Simulator 支持 AI Detection 联调
  • 删除仍被模型路由引用的 Provider 时会拒绝操作,避免误删造成断路由

从配置、测试,到真实请求、计费和日志核对,工具能力形成了更完整的管理闭环。

6. 为什么我们把工具引擎单独抽成一个包?

2.1.0 新增共享包 @octafuse/tool-engines。

Web Search、Web Fetch、Web Deep Search、AI Detection 的引擎客户端不再散落在 Proxy 内部,而是由 Proxy 和 Admin Playground 共同复用。

这项变化用户不一定直接看得见,却让后续新增引擎、测试能力和维护协议边界更清晰。Docker 构建也已纳入该包,并增加 docker-compose smoke workflow。

写在最后

2.0 解决的是“模型请求该怎么走”;2.1 开始解决“Agent 调用了什么能力、成本多少、该收多少、能不能审计”。

Octafuse Gateway 正在从一个多模型转发层,继续向可自托管的 AI 能力总控服务演进。

如果你的 Agent 已经不只会聊天,而是会搜索、抓取、分析并调用更多外部能力,那么这些调用也值得拥有统一的入口、预算和账本。

开源地址:github.com/OctaFuse/oc…

欢迎 Star、试用和提交 Issue / PR。

点击加入交流群:为下半场做准备,开个 Agent Infra 交流群


《Octafuse Gateway 2.1 发布:不只管大模型,Agent 的每一次工具调用也都管起来!》 是转载文章,点击查看原文。


相关推荐


Rust Option 详解:安全处理“可能存在,也可能不存在”的值
程序员爱钓鱼2026/7/26

《Rust 编程实战》系列第 21 篇 在上一篇文章中,我们学习了 HashMap。 在使用 HashMap 查询数据时,经常会看到这样的代码: map.get("Tom") 它的返回值并不是直接返回某个值,而是: Option<&V> 为什么? 因为指定的键可能存在,也可能不存在。 Rust 使用: Option<T> 来表示这种“可能有值,也可能没有值”的情况。 它是 Rust 中最重要的枚举类型之一。 本文将介绍: 什么是 Option<T> Some 与 None 为


用腻了 WorkBuddy 的默认界面?这个开源小工具给它换上了毛玻璃
万少2026/7/18

用腻了 WorkBuddy 的默认界面?这个开源小工具给它换上了毛玻璃 天天用的界面,能不能好看一点? WorkBuddy 是一款很趁手的桌面工具,但默认界面看久了难免有点单调。作为一个既想要颜值、又不敢乱改软件的人,我做了一个小工具——workbuddy-skin,给它换上背景壁纸和毛玻璃质感的界面,而且全程不碰任何官方文件,随时能变回原样。 现在它已经打包成双击就能用的绿色程序,不用装环境、不用敲命令,普通用户也能轻松上手。 它做了什么 真背景层:在整个窗口铺一张


【AI智能体】Hermes Agent 从部署到项目实战操作详解
小码农叔叔2026/7/9

目录 一、前言 二、Hermes 介绍 2.1 Hermes 是什么 2.2 与普通AI聊天工具区别 2.3 Hermes 核心理念:自我进化 2.4 Hermes 核心功能 2.5 Hermes 与 OpenClaw 对比 2.6 哪些人适合使用Hermes 三、Hermes 桌面版安装过程 3.1 获取安装包 3.2 安装过程 四、Hermes 桌面版配置 4.1 界面基本功能介绍与使用 4.1.1 开启对话 4.1.2 对话框模型选择 4.1.3 技


GO语言变量与数据类型
知恒(Eternal)2026/7/1

Go语言变量与数据类型详解 本篇文章深入讲解Go语言的数据类型体系,包括基本类型、复合类型、类型转换和指针。理解数据类型是编程的基石,本篇将帮助你建立扎实的类型系统认知。 1. 变量基础 1.1 变量的本质 变量是程序运行时存储数据的容器。每个变量都有三个核心属性:名字、类型和值。名字用于在代码中引用变量,类型决定了变量能存储的数据种类和大小,值则是变量当前保存的具体数据。 在Go语言中,变量必须先声明后使用。这是Go语言设计理念的一部分,它要求程序员明确表达意图,减少错误。Go是一种静态类


系统架构设计师-数据库并发控制核心机制
上岸研究员2026/6/22

一、引言 1.1 核心概念定义 并发控制是数据库管理系统为保证多事务并发访问时数据一致性、完整性而实现的核心机制,事务是并发控制的基本逻辑单位,指对数据库进行读写操作的一组不可分割的执行序列。封锁协议是当前关系型数据库实现并发控制的主流技术手段,通过对数据对象施加不同类型的锁、控制锁的申请与释放时机,实现事务间的访问隔离。 1.2 软考考点定位 本知识点属于软考高级系统架构设计师考试大纲中 "数据库架构设计" 模块的核心内容,历年考试中选择题、案例分析题均有涉及,平均占比约 5-8 分,


2026年支持自定义模板的AI PPT工具测评:5款工具横向对比
一头爱吃肉的牛2026/6/14

市面上AI生成PPT的工具很多,但能上传自己公司模板的却没几个。如果你有统一的品牌规范,或者想保持PPT风格一致,这篇文章实测5款支持自定义模板的工具,帮你找到最适合的那一款。 声明:本文基于2026年5月对5款AI PPT工具的独立模拟测试,数据仅供参考,请以各工具官网最新信息为准。 一、为什么你需要这个功能? 你有没有遇到过这种情况:公司有统一的PPT模板,但你用AI工具生成后,发现字体不对、颜色不对、logo位置也不对,最后还得一页一页手动改? 自定义模板功能的价值在于:你可以


Re:Mysql数据库基础篇(一):CentOS/Linux 环境下的完整安装/运行/登录Mysql流程与首次登录异常处理
小此方2026/6/7

◆ 博主名称: 小此方-CSDN博客 大家好,欢迎来到小此方的博客。 ⭐️Linux系列个人专栏: 【主题曲】Mysql ⭐️此方的GitHub: github_此方 ⭐️ Re系列专栏:我们思考 (Rethink) · 我们重建 (Rebuild) · 我们记录 (Record) 文章目录 概要&序論一、下载准备工作1.1 查看和卸载你的机器上原有的Mysql1.1


金融系统数据一致性之战:联机交易与批量作业的冲突处理完全指南
无心水2026/6/1

金融系统数据一致性之战:联机交易与批量作业的冲突处理完全指南 关键词:金融系统 数据一致性 联机交易 批量作业 乐观锁 悲观锁 热点账户 分布式事务 死锁避免 阅读建议:本文约12000字,配有7张Mermaid流程图和2张对比表格,建议先收藏再阅读。 📑 目录 引言:一个夜间批量引发的血案冲突根源分析:联机与批量的“三座大山”六大核心策略详解 3.1 乐观锁:轻量级的“版本裁判”3.2 悲观锁:霸道的“行级门禁”3.3 物理/逻辑隔离:错峰与状态控制3.4 串行化处


本地4B开源模型,把任何App当Skil用!告 别token焦虑,私密性强~
AI袋鼠帝2026/5/10

​ 大家好,我是袋鼠帝。 上次给大家分享了一个CUA的开源项目,能让AI Agent直接操控电脑界面,相当于把任何App都变成Agent的Skill。反响还不错。 开源Turix,你可以把任何App当Agent Skill用!比如微信... 但评论区有两个比较多的反馈: 太耗token了。 截图上去,安全吗? 说实话,这两个问题,我自己用下来也发现了,GUI操作确实耗token。 模型要持续截屏、理解界面、定位元素、执行操作,每一步都在烧token。 特别是在全自动编程流程里,有数据表明,GU


Flutter for OpenHarmony 跨平台开发:记事本功能实战指南
liulian09162026/5/1

Flutter for OpenHarmony 跨平台开发:记事本功能实战指南 欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.csdn.net 一、引言 记事本是移动设备中最基础且常用的应用之一,其开发涉及数据存储、列表展示、搜索过滤、状态管理等多个技术领域。随着鸿蒙生态的快速发展,如何高效地实现跨平台记事本应用,成为开发者关注的技术要点。 Flutter作为Google推出的开源UI框架,凭借其跨平台能力和丰富的组件生态,为记事本功能的实现提供

首页编辑器站点地图

本站内容在 CC BY-SA 4.0 协议下发布

Copyright © 2026 聚合阅读