- 面向智能体设计: 框架所有设计均从智能体领域出发,通过感知、规划、行动、记忆模块定制智能体;
- 丰富的多智能体协同模式: 提供PEER(Plan/Execute/Express/Review)、DOE(Data-fining/Opinion-inject/Express)等产业中验证有效的协同模式,同时支持用户自定义编排新模式,让多个智能体有机合作;
- 所有组件均可定制: LLM、知识、工具、记忆等所有框架组件均提供自定义能力,供用户来增强专属智能体;
- 轻松融入领域经验: 提供领域prompt、知识构建与管理的能力,同时支持领域级SOP编排与注入,将智能体对齐至领域专家级别;
- 面向多LLM且可扩展: 内置OpenAi系列、qwen系列、Baichuan系列、Kimi系列等数种模型LLM接入方式,同时提供模型扩展标准,支持任意第三方模型服务与私有部署模型接入;
- 面向多数据源且可扩展: 框架支持多种数据源,无论是SQLite, MySQL, Oracle等这一类传统数据源、还是ChromaDB、Milvu这一类向量数据库,同时提供数据源扩展标准,支持任意第三方数据服务与其他数据库自定义接入;
- 便捷的生态融合能力: 框架将当前比较成熟先进、经得起实际考验的大模型应用生态能力融合,屏蔽了大部分底层配置与实现,无论是LangChain、llama_index这类LLM生态组件,还是如Grpc、SLS这一类技术组件。
- 效果可观测与可反馈: 通过monitor组件所有agentUniverse的服务交互、模型交互均可被记录观测,结合框架提供的智能体自动评测能力,您可以轻松的掌握智能体或模型迭代带来的效果增益,并反馈至服务迭代与模型训练中。
- 面向企业私有组件扩展: 框架提供私有技术组件扩展加载机制,通过配置可以将企业内部如自研RPC协议组件、消息组件、日志组件接入;
- 支持一键服务化: 框架通过Flask+Gunicore的能力支持一键启动WebServer,通过服务化能力您可以将agent的能力融合至任何现有的系统中去;
- 面向标准容器交付: 框架提供了标准的Docker镜像,同时基于Docker与K8S能力给出推荐集成方案。