跳转至

Agently AnyModel介绍

随着对于AI应用认知的加深,我们越来越发现在AI应用开发的真实落地过程中,尤其是规划处理复杂任务时,可以不修改业务逻辑代码极低成本地任意切换模型或是多模型混用协同处理复杂任务是AI应用开发绕不开的最基础问题之一。

因此,我们通过Agently AnyModel 为开发者提供以下能力的支持:

  • 无需调整应用代码表达即可任意切换驱动模型
  • 支持丰富大量的主流商用模型API、本地私有化部署模型
  • 支持多模型混用,在业务逻辑中协同处理复杂问题

我们期望通过这样的能力帮助开发者在应用效果和模型推理开销之间找到平衡点,高效地获得更低成本更高质量的应用解决方案

模型支持情况

模型类型 支持情况 Agently AnyModel配置方法
全球商用模型API

OpenAI系列模型

AzureOpenAI系列模型

Claude3及以上系列模型

Google Gemini 1.0 Pro

Mixtral系列模型

→ OpenAI

→ AzureOpenAI

→ Claude

→ Gemini

→ Mixtral

中国商用模型API

百度文心大模型系列(ERNIEBOT调用)

百度文心大模型系列(Qianfan调用)

阿里通义千问系列模型

深度求索DeepSeek2系列模型

零一万物Yi系列模型

智谱GLM系列模型

月之暗面Kimi模型

MiniMax系列模型

腾讯混元系列模型

→ 百度ERNIEBOT调用(AIStudio)

→ 百度千帆调用

→ 阿里通义千问

→ DeepSeek2

→ 零一万物Yi

→ 智谱GLM

→ 月之暗面Kimi

→ MiniMax

→ 腾讯混元

算力平台+开源模型API

澎峰科技PerfXCloud [查看支持模型列表]

硅基流动SiliconCloud [查看支持模型列表]

GroqCloud [查看支持模型列表]

→ PerfXCloud

→ SiliconCloud

→ GroqCloud

本地推理框架+开源模型

ollama [查看支持模型列表]

Xinference[查看支持模型列表]

→ 您可以将这些本地推理框架视作OpenAI中间服务商,用此方法连接

图例说明: 专项适配 通过OpenAI格式兼容适配