核心功能
模型纳管与推理:接入文心(ERNIE)系列及第三方开源大模型。
功能亮点
slug
baidu-qianfan
模型纳管与推理
接入文心(ERNIE)系列及第三方开源大模型。
模型
文心 ERNIE 4.5 / X1、DeepSeek 等第三方模型纳管。
百度智能云千帆产品页
https://cloud.baidu.com/product/wenxinworkshop
计费文档
https://cloud.baidu.com/doc/wenxinworkshop(价格以该页实时为准)
适用场景
• 中文任务
• 原型验证
• 业务落地
安装配置
1) 访问 https://cloud.baidu.com/product/wenxinworkshop(cloud.baidu.com);2) 注册/登录;3) 如提供客户端则下载并按向导安装。
使用方法
先在百度智能云控制台的「安全认证」页获取 Access Key 与 Secret Key,并在千帆控制台创建应用、勾选要启用的模型服务(旧版是应用里的 API Key/Secret Key,只能调推理,做训练、发布模型必须用 Access Key 这套);本地 pip install qianfan(Python 3.7+),把密钥放进环境变量 QIANFAN_ACCESS_KEY / QIANFAN_SECRET_KEY,也支持 .env 文件或构造函数传参;推理最短路径是 chat = qianfan.ChatCompletion(model='ERNIE-Bot'),chat.do(messages=[{'role': 'user', 'content': '你好'}], temperature=…, top_p=…) 后读 resp['result'],续写用 Completion、向量化用 Embedding、文生图用 Text2Image、插件用 Plugin,高并发场景用 batch_do 批量或 ado / abatch_do 异步接口;要定制模型就走训练链路:Dataset.load 从本地 jsonl 或平台数据集加载并用 filter / map 清洗 → LLMFinetune(train_type=…, dataset=ds).run() 发起精调 → 评估通过后发布为模型并创建在线服务,拿到 endpoint 后调用时传 endpoint='你的服务名' 即可指向自有模型;此外 SDK 自带命令行工具(qianfan chat / dataset / trainer 等)可在终端直接对话与发起任务,用量与计费在千帆控制台查看。
关键指标
尚未核验对标产品,此处只列本工具自身指标,不做对比结论。
相关工具
同类工具
优点
- 国内可用
- 中文体验较好
- 生态接入方便