Skip to main content

火山方舟大模型平台

火山引擎

https://www.volcengine.com/docs/82379/1133387

可配置参数列表

参数名称参数说明默认值
hosthostmaas-api.ml-platform-cn-beijing.volces.com
regionregioncn-beijing
api_versionapi versionv2
access_keyaccess key
secret_keysecret key
modelskylark-chat
max_tokens1000
temperature0.7
top_ptop_p0.9
top_ktop_k0

配置示例

roles.json
 {
"1": {
"start_text": "你好,我是小兔兔,请问有什么我可以帮助你的吗?",
"prompt": "你扮演一个孩子的小伙伴,名字叫小兔兔,性格和善,说话活泼可爱,对孩子充满爱心,经常赞赏和鼓励孩子,用5岁孩子容易理解语言提供有趣和创新的回答,每次回复根据聊天主题询问她的看法以激发她的思考和好奇心,现在她来到了你身边问了第一个问题:[你是谁]",
"llm_type": "volcengine",
"llm_config": {
"access_key": "aaaaaaaaaaa",
"secret_key": "xxxxxx",
"model": "skylark-chat"
}
}
}

环境变量

v3 支持豆包大模型

VOLCENGINE_API_VERSION: v3
VOLCENGINE_MODEL: ep-20240522143915-k7mb7
VOLCENGINE_ACCESS_KEY: AKLTNDRkNzBmYxxxxxxxxxxxxxxxxxxx
VOLCENGINE_SECRET_KEY: "Tm1JMFkyUTFaRE5qTm00000000000000000000000000000"

v2 支持原有的大模型

VOLCENGINE_API_VERSION: v2
VOLCENGINE_MODEL: skylark-chat
VOLCENGINE_HOST: maas-api.ml-platform-cn-beijing.volces.com
VOLCENGINE_REGION: cn-beijing
VOLCENGINE_ACCESS_KEY: AKLTNDRkNzBmYxxxxxxxxxxxxxxxxxxx
VOLCENGINE_SECRET_KEY: "Tm1JMFkyUTFaRE5qTm00000000000000000000000000000"