Mixtral

可用模型清单:https://docs.mistral.ai/platform/endpoints/

因为Mixtral API适配了OpenAI的接口格式规范,我们将使用OAIClient进行请求。

import Agently
agent = (
    Agently.create_agent()
        .set_settings("current_model", "OAIClient")
        .set_settings("model.OAIClient.auth", { "api_key": "<Your-API-Key>" })
        # 使用Mixtral的API Base URL
        .set_settings("model.OAIClient.url", "https://api.mistral.ai/v1")
        # 如果需要切换模型,可参考模型清单: https://docs.mistral.ai/platform/endpoints/
        .set_settings("model.OAIClient.options", { "model": "open-mistral-7b" })
)