推广 热搜: page  音视频  使用  个数  搜索引擎  选择  父亲  百度  企业  可以 

百度大模型调用+语音对话

   日期:2024-12-23     作者:oepxs    caijiyuan   评论:0    移动:http://ww.kub2b.com/mobile/news/11667.html
核心提示:尝试了一下调用、调试文心一言大模型,挺简单的。以下是从零开始的调用流程 网址:百度智能云-云智一体深入产业 (ba

尝试了一下调用、调试文心一言大模型,挺简单的。以下是从零开始的调用流程

网址:百度智能云-云智一体深入产业 (baidu.com)

进入网址后,按官网提示正常进行就行,这个应该不算难

网址:百度智能云-云智一体深入产业 (baidu.com)

进入用户中心处,找到实名认证进行认证,上传身份证信息与照片即可,其余邮箱、电话等账号绑定依据个人口味添加

在申请使用权限确认后,进入服务开通界面,点击

在创建自己的模型前要先学会调用官方的大模型

网址:百度智能云控制台 (baidu.com)

百度大模型调用+语音对话

 

进入应用接入模块,点击创建应用

按顺序输入信息即可,这里推荐服务配置全选,如果第一次使用,应该是没有在线服务的,这点不需要担心

创建完成之后会生成AK(API Key)与SK(Secret Key,后续会使用

网址:百度智能云控制台 (baidu.com)

根据自己需求在模型广场自行选择模型即可。在本文例子中我尝试

选择模型后点击即可,进入后点击体验即可

这个时候会出现两种情况.1. 已开通付费     2.未开通付费

未开通付费

已开通后通过对话框可直接使用,未开通会受到界面提示点击开通即可

这里说明一下,不同模型收费标准不一样,根据需要购买即可

我开通的是ERNIE-Bot大模型公有云在线调用服务和ERNIE-Bot-turbo-0922大模型公有云在线调用服务和ChatGLM2-6B-32K大模型公有云训练服务-SFT-全量更新。后续如果出现对应服务未开通情况自行按需求开通即可

开通完成后

直接进行对话即可

在确定好在官网可以正常使用,即可在本地环境(安装好对应包)进行尝试

这个时候就需要两样东西:AK(API Key)与SK(Secret Key

在官方文档中,可以使用不同语言调用不同模型

网址:API列表 - 千帆大模型平台 | 百度智能云文档 (baidu.com)

以下是python示例(作者主修python

目前我发现用户可修改三处地方

1.AK     2.SK       3.url

AK与SK均在应用接入时生成,直接更换即可。指向用户自己,调用密钥,将“xxxx”更换为自己的AK与SK即可

url决定调用模型种类,获取方法如下

网址:百度智能云控制台 (baidu.com)

按图中顺序依次选择。在自己创建的应用最右侧点击移动端测试,选择自己要进行的服务(及大模型,之后官网会自动生成对应的API信息:二维码、请求地址、API Key、Secret Key、模型名称、应用名称。我们需要的即是请求地址,复制请求地址

在下面代码中第十行,main()第一行中的”https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/om82aolq_kubila“部分修改为自己的请求地址即可

 
 
 

本地调用

在本地环境进行运行即可调用,可根据需求进行修改问题与界面

修改代码

比如修改代码后在新的命令窗口或网页调用(自行修改代码即可

 
 

准备与修改内容同上

 
 
 
 

错误码

如果请求错误,服务器返回的JSON文本包含以下参数。

名称描述error_code错误码error_msg错误描述信息,帮助理解和解决发生的错误

例如Access Token失效返回以下内容,需要重新获取新的Access Token再次请求。

 

千帆大模型平台相关错误码,请查看错误码说明。

网址:百度智能云控制台 (baidu.com)

网址:百度智能云控制台 (baidu.com)

在微调大模型前需要准备好自己的数据集json文件、txt文件、csv文件、xlsx文件、压缩包文件(本文已json文件为例

进入网址后,点击图中创建数据集按钮

构建方式、数据标注状态、导入方式、导入格式后直接上传即可,这里采取有标注信息的json文件采取本地导入的方式。

json文件格式数据要求如下

1. 文件内单条数据格式要求为[{"prompt" : "prompt内容", "response": [["response内容"]]}], 下载数据样例。
2. 每一行表示一组数据,每组数据中的prompt和response加起来之和字符数不超过32000Token(包括中英文、数字、符号等,超出部分将被截断。
3. 支持文本文件类型为jsonl,编码仅支持UTF-8,单次上传限制100个文本文件,单个文件不超过100M

 

按照上述方式上传后,等待一分钟左右数据导入完成。如若无需修改,选择发布即可,发布完成后,数据集上传已完成,进入下一步模型训练。

网址:百度智能云控制台 (baidu.com)

导入数据及后开始将新数据进行模型训练,按下图选择任务名称、任务类型任务描述、选择基础模型、模型版本(这里模型要选择自己开通过的,否则要从新开通

训练配置可选择增量训练(仅支持选择2023年9月22日后训练的模型。同时由于大模型权重占用较大存储,只能选择三个月内训练的模型发起增量训练

训练方法分为两种:1.全量更新(全量更新在训练过程中对大模型的全部参数进行更新)2.

LoRA(LoRA在固定预训练大模型本身的参数的基础上,在保留自注意力模块中原始权重矩阵的基础上,对权重矩阵进行低秩分解,训练过程中只更新低秩部分的参数。)建议选择LoRA

其余数据配置按需要选择,数据集这是可选择第一步构造的“我的数据集”,选择完之后进行付费训练即可。这里注意是否开通对应服务,若未开通,在确定按钮右侧选择“前往开通“即可。

点击确定并付费后会进行训练,这里时间可能会较长,训练完成后即可进入下一步

等待模型训练完成后,将模型发布,即可开启大模型服务

创建的大模型可在我的模型处查看并编辑

网址:百度智能云控制台 (baidu.com)

在模型创建并发布成功后,即可开启大模型服务

网址:百度智能云控制台 (baidu.com)

进入在线服务界面选择我的服务后点击创建服务即可

进入创建界面后,1.输入服务名称(任意、支持中文、英文、数字、中划线(-)、下划线(_),1-20个字符以内,2.选择模型,3.这里选择我的模型,在这里会看到我们上一步发布的模型,4.输入API地址(这里按格式要求命名即可,5.选择资源池,这里选择私人资源池,6.随后选择开通的时间(这里我感觉这个消费还是比较贵的,哎,可以选的对应天数与小时,最低一个小时,我这里28元。7.点击确定后付费即可(注册时的20元代金卷可以使用

模型服务发布需要等待几分钟

点击服务详情后复制标注出的服务地址,下一步会使用。

到这里模型已经发布

这里直接参考上述本地代码调用即可

 在下面代码中第十行,main()第一行中的”https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/om82aolq_kubila“部分修改为自己的请求地址即可(及上一步复制信息

 

在调用前要保证应用接入AK与SK的服务要包含自己新开通的服务即可调用

代码展示

 
 

 

作者新尝试调用大模型,如有错误拜托大家及时联系,希望能帮到大家

本文地址:http://ww.kub2b.com/news/11667.html     企库往 http://ww.kub2b.com/ ,  查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。

 
 
更多>同类最新文章
0相关评论

文章列表
相关文章
最新动态
推荐图文
最新文章
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号