跳转至

百度文心大模型系列(Qianfan调用)

支持版本:>=3.3.4.4

可用模型清单:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu

import Agently
agent = (
    Agently.create_agent()
        .set_settings("current_model", "Qianfan")\
        .set_settings("model.Qianfan.auth", {
            "access_key": "<Your-Qianfan-Access-Key>",
            "secret_key": "<Your-Qianfan-Secret-Key>"
        })
        # 如果需要切换模型,可参考模型清单: https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu
        # 默认模型: ERNIE-Speed-8K
        .set_settings("model.ERNIE.options", { "model": "ERNIE-Speed-8K" })
)

支持多种类型的模型调用

对话模型

默认使用ERNIE-Speed-8K

print(
    agent
        .input("给我输出3个单词和2个句子")
        .instruct("输出语言", "中文")
        .output({
            "单词": [("str", )], # 没有<desc>可省略
            "句子": ("list", ),
        })
        .start()
)

补全模型

默认使用Yi-34B-Chat

print(
    agent
        .input("给我输出3个单词和2个句子")
        .instruct("输出语言", "中文")
        .output({
            "单词": [("str", )], # 没有<desc>可省略
            "句子": ("list", ),
        })
        .start("completions")
)

Embedding模型

默认使用Embedding-V1

print(
    agent
        .input("给我输出3个单词和2个句子")
        .start("embedding")
)

Image模型(文生图)

默认使用Stable-Diffusion-XL

print(
    agent
        .input("一个可爱的猫娘")
        .start("image")
)

Rerank模型

默认使用bce-reranker-base_v1

print(
    agent
        .input({
            "query": "什么是AI",
            "documents": [
                "什么是人工智能",
                "什么是爱",
                "什么是A",
            ]
        })
        .start("rerank")
)