创业团队的技术背景
初创企业 Octen 由曾经任职阿里巴巴的技术人员创立,团队核心成员拥有企业级搜索平台的建设经验,长期深耕检索系统工程领域。这次推出 Octen Pulse 生成式检索服务,瞄准的不是普通网民的网页搜索,而是给 AI 智能体、大模型应用提供机器专用的搜索能力。
过往很多 AI 智能体在执行任务的时候,需要调用外部搜索接口获取实时网页资料。传统搜索接口延迟偏高,会打断大模型推理流程,拉高整体响应耗时。
同时按次计费模式,会让频繁检索的 AI 应用产生难以预估的账单,这也是很多开发者实际落地过程当中的一大阻碍。Octen 的产品就是针对这些现实痛点来设计。
十毫秒级响应,机器搜索追求极致低延迟
Octen Pulse 最受行业关注的指标,是可以做到 10ms 返回文本检索结果。达到这个速度之后,搜索不再是 AI 模型需要停下来等待的独立步骤,检索动作可以直接融入模型推理的完整链路。
第三方机构 Artificial Analysis 做过横向测评,把 Octen 和市场上来自 13 家厂商的 26 套搜索 API 放在同一基准下对比。测试数据显示,完成一千次任务,Octen 检索成本为 9.07 美元,其余同类服务商的成本区间大多落在 30 至 66 美元,成本优势十分明显。
对于高度依赖网页信息的 AI 智能体来说,搜索开销有时候甚至会超过大模型本身的调用费用。不少下游开发者反馈,Octen 的出现,让搜索环节的支出变得可以提前预判,开发者可以把更多精力放在业务逻辑打磨,不用持续担忧调用量带来的账单波动。

创新订阅模式,降低开发者使用门槛
在商业化层面,Octen 跳出行业主流按调用次数计费的套路,推出订阅制方案。面向个人开发者的标准套餐每月 20 美元,可以享受不限量网页搜索调用额度,每月附带一千次图片检索额度。
同时平台还设置更高一档 Plus 套餐,每月 100 美元,图片检索额度提升至五千次,并且享有请求优先级。这里需要留意,两套订阅方案主要面向个人开发者账号,业务访问高峰期,请求会进入排队队列。图片检索、获取网页全文等额外接口,还需要在套餐之外另行付费,企业级生产环境需要单独评估服务保障能力。
产品能力不止局限文本搜索,平台同时开放图片检索,视频检索功能也处于早期试用阶段。新发布的网页内容,五分钟之内就可以完成索引入库,能够给 AI 应用提供时效性更强的互联网信息。
行业带来的现实启发
随着 AI 智能体相关应用不断增多,大模型不能只依赖训练阶段的静态知识库,实时外部信息检索已经成为刚需。过去大家更多聚焦大模型本身的能力迭代,支撑模型调用的底层搜索基础设施,容易被外界忽视。
Octen 的实践也说明,AI 赛道机会不只存在大模型训练,围绕模型配套的检索、工具链层面,依旧存在大量可以挖掘的创新空间。更低延迟、可预测的成本,会成为开发者选择外部检索服务的两大核心考量。
(素材来自:Octen 智算芯能前沿网综合)
本文由智算芯能前沿网编辑整理,转载请注明出处。
