如何使用PerfXCloud实现Agently智能体应用

一、准备

本项目使用 www.perfxcloud.net 大模型平台，网站上有详细的说明文档。快速开始|PerfXCloud

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果没有PerfXCloud的账号，请登录网站创建。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （还在持续更新中）

二、Agently的应用

Agently 是一个基于人工智能的自动化对话代理平台，旨在简化和自动化各种任务和流程。它允许开发者创建智能对话代理，通过配置不同的模型和插件来实现不同的功能。Agently平台可以支持我们的PerfXCloud API，可以借此更加简单的使用PerfXCloud API来实现各种各样的智能ai应用。本项目基于https://Agently.tech/进行开发。

三、程序部署

本地开发环境支持 MacOS、Windows、Linux 系统，需要安装 python环境，python推荐的版本在 3.8 \~ 3.9.X 之间，使用3.8以下的版本可能会出现问题，推荐3.9版本，可前往官网下载。

(1)下载相应库

使用pip命令安装agently库： pip install -U Agently 如果使用的是pycharm，也可以在设置中找到python解释器，手动搜索agently安装

(2)配置

创建python文件，输入下面的代码，修改所需配置，具体配置含义参考配置说明。只需要在下面的api-key中替换为我们的PerfXCloud API，然后在model一行改正我们用到的模型名称即可使用了

"""创建Agent实例"""
import Agently
agent = (
    Agently.create_agent()
        # 支持通过配置快速切换多种模型
        # 将代码的业务逻辑表达和模型配置格式依赖解耦
        .set_settings("current_model", "OpenAI")
        .set_settings("model.OpenAI.auth", { "api_key": "your-api" })
        .set_settings("model.OpenAI.url", 'https://cloud.perfxlab.cn/v1')
        .set_settings("model.OpenAI.options", { "model": "llama-3-8b" })
        # 支持设置Proxy进行前向代理
        #.set_proxy("http://127.0.0.1:7890")
)
"""进行基础请求"""
result = (
    agent
        # 支持str格式输入
        .input("给我输出3个单词和2个句子")
        # 支持Key-Value格式输入
        .instruct("输出语言", "中文")
        # 支持dict格式输入
        # 并且通过框架特有的(<type>, <desc>)语法格式描述生成元素
        .output({
            "单词": [("str", )], # 没有<desc>可省略
            "句子": ("list", ),
        })
        .start()
)
print(result)

配置的效果如下，可以配置自己的模型和api-key api-key获取方式：

四、运行

运行项目

我们使用的是python代码进行运行，所以只要像平常一样运行就可以，任何支持python的编程软件都可以

要发起模型请求，只需要在代码中的input的内容改为我们要输入的内容即可

你可以在Agently Github的PlayGround里找到更多的其他示例，只需要更改上面提到的url、api、模型名称即可，满足代码的运行条件，点击运行就可以完美部署各种各样的ai任务