百度文心大模型系列(Qianfan调用)
支持版本:>=3.3.4.4
可用模型清单:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu
import Agently
agent = (
Agently.create_agent()
.set_settings("current_model", "Qianfan")\
.set_settings("model.Qianfan.auth", {
"access_key": "<Your-Qianfan-Access-Key>",
"secret_key": "<Your-Qianfan-Secret-Key>"
})
# 如果需要切换模型,可参考模型清单: https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu
# 默认模型: ERNIE-Speed-8K
.set_settings("model.ERNIE.options", { "model": "ERNIE-Speed-8K" })
)
支持多种类型的模型调用
对话模型
默认使用ERNIE-Speed-8K
print(
agent
.input("给我输出3个单词和2个句子")
.instruct("输出语言", "中文")
.output({
"单词": [("str", )], # 没有<desc>可省略
"句子": ("list", ),
})
.start()
)
补全模型
默认使用Yi-34B-Chat
print(
agent
.input("给我输出3个单词和2个句子")
.instruct("输出语言", "中文")
.output({
"单词": [("str", )], # 没有<desc>可省略
"句子": ("list", ),
})
.start("completions")
)
Embedding模型
默认使用Embedding-V1
Image模型(文生图)
默认使用Stable-Diffusion-XL
Rerank模型
默认使用bce-reranker-base_v1