Infinity翻译站点

官网：Infinity · 源码：hydro-project/infinity

Infinity是一套用Rust构建的开源智能体运行时，来自AWS与加州大学伯克利分校合作的Hydro项目，采用Apache 2.0许可证。2026年10月23日公布的版本属于早期研究发布，面向需要管理大量长期任务的开发者，而非开箱即用的个人聊天服务。项目公告

它处理的问题很具体：智能体启动构建、等待审核或订阅外部事件之后，可能数小时没有新工作。Infinity将一次运行拆成可暂停、可恢复的步骤，保存会话和状态，让工具结果或新消息推动下一步执行。等待中的会话不必一直占着活动执行任务。运行架构

核心能力与适用场景

对代码助手而言，测试运行期间可以继续准备说明文件，结果到达后再决定是否修复。对后台业务助手而言，可以等待人工决定或Webhook，不必反复询问“是否有更新”。这些场景共同的特点是等待时间长、事件较稀疏，而不只是模型推理量大。

Infinity提供子智能体、消息队列和异步工具能力。配套RAP协议通过回调传送结果及订阅事件，也提供MCP兼容层，便于继续接入已有工具。采用异步协议不会自动赋予工具可靠重试、安全授权或业务正确性；开发者仍需为实际操作设计边界。RAP介绍

本地进程与AWS Lambda是两种官方部署路径。Lambda方案让一次执行结束后释放计算资源，下次消息到达再启动。但“等待时不占用运行中的函数”不等于系统免费，模型调用、状态存储、消息服务及实际工具执行仍可能计费。部署指南

正确理解“7.5万个智能体”

官方基准使用模拟模型，每个智能体执行20轮工具交互后处于空闲状态；测试在AMD EPYC服务器上进行。根据每个空闲会话约100KB的常驻内存，推算8GB内存可容纳约7.5万个。这个数字展示的是等待状态的轻量化，不是树莓派同时运行7.5万个大模型，也不是同等规模真实业务的吞吐量保证。基准条件

从一个小实验开始

1. 按官方快速入门准备Rust与Cargo，创建本地项目，加入运行时、模型提供方及Tokio依赖。
2. 先运行单一会话并观察事件输出。教程使用Amazon Bedrock，需要对应地区的模型访问权限及有效AWS配置；模型费用另计。
3. 再加入一个延迟返回的工具，测试等待、新消息、取消与恢复，确认不会重复执行有副作用的动作。
4. 需要上线时再配置持久化与云端部署。入门示例的内存存储只在进程存活期间保留状态，不应直接当作故障恢复方案。

与其他运行方案比较

选择Infinity的理由应是它的执行模型符合任务特征，而不是追逐并发数字。官方列出的开放问题包括事件交错、优先级调度、长期上下文压缩和事件来源真实性。更合理的评估顺序是先检验恢复语义和权限控制，再测真实模型下的成本、延迟与故障表现。