百度智能云千帆大模型平台再升级,SDK版本开源发布!

百度智能云千帆大模型平台再升级,SDK版本开源发布!

发布时间:2023-11-08 作者:创始人

  百度智能云千帆大模型平台再次升级!在原有 API 基础上,百度智能云正式上线 Python SDK(下文均简称千帆 SDK)版本并全面开源,企业和开发者可免费下载使用!千帆 SDK 全面覆盖从数据集管理,模型训练,模型评估,到服务部署等方面的功能,用户可以通过千帆 SDK 通过代码接入并调用百度智能云千帆大模型平台的能力,轻松实现 LLMOps 全流程的落地,快速构建自己的大语言模型应用。

一、文心千帆SDK 的优势 

SDK 当前主要的价值在于可快速使用 API 能力,并完善 API 使用的周边工具链,同时提供 cookbook 用于实践。

1、快速使用 API 能力,不需要自己实现 http 客户端以及鉴权逻辑;并在此基础上做了可配置重试,流量控制,提升了 API 功能的使用体验。

2、结合实际的案例和应用场景提供了响应的 cookbook,帮助用户快速上手,甚至复用大部分已实现代码。

3、拓展了 LLM 应用的基础能力,例如结合 LLM 应用层常见的 Agent 等概念进行了封装,提供了基于 Agent 的应用模板类。

 

千帆SDK

二、文心千帆 SDK:快速落地 LLM 应用 

千帆 SDK 支持对话补全、续写补全、语义向量、插件、文生图等一系列功能,帮助用户轻松完成应用开发。

1、对话补全(ChatCompletion):对话模型是语言模型的一种变体。虽然在内部使用了语言模型,但它们所提供的接口有些不同。适用于对话生成,智能问答等场景。

2、续写补全(Completion):语言模型提供了基本的续写能力,结合丰富的训练语料,非常适合于文档报告编写,内容创作等场景。

3、语义向量(Embedding):百度智能云千帆在提供大模型对话续写能力的同时,应对于常见的文本检索,知识库查询等场景,也推出了文本转化成向量的能力。

4、插件应用(Plugin):为了填补大模型对于获取实时信息,多模态,垂直领域知识问答等场景的能力空白,百度智能云千帆推出了常用的几种插件应用,包括百度搜索,知识库,天气查询,智慧图问等几个插件应用。用户可以通过大模型的决策能力进行问答文本到插件应用调用的转化,也可以直接调用插件应用以获取相应的数据。

5、文生图(Text2Image):基于开源的 StableDiffusion 等开源多模态大模型的基础上,百度智能云千帆推出了一系列预置的文生图模型,用户也可以通过 SDK 快速调用,进行图文创作。

  以上就是对文心千帆SDK的一些介绍,如果您想要获取使用文档或者测试,可以联系在线客服进行咨询!


标签:

7x24小时服务热线:400-996-8756

公司地址:河南省郑州市姚砦路133号金成时代广场6号楼13层

I CP备案号:豫B2-20110005-1

公安备案号: 41010502003271

法律顾问:河南天坤律师事务所-段志刚律师