百度智能云“千帆大模型平台”升级:大模型最多,Prompt模板最全

news2024/12/26 22:00:38

🤵‍♂️ 个人主页:@艾派森的个人主页

✍🏻作者简介:Python学习者
🐋 希望大家多多支持,我们一起进步!😄
如果文章对你有帮助的话,
欢迎评论 💬点赞👍🏻 收藏 📂加关注+


目录

前言

一、千帆大模型平台

二、体验分享

2.1服务申请

2.2Prompt模板

2.3Prompt模板的使用

2.4API获取Prompt模版教程

三、总结


前言

        当谈到人工智能领域时,我们不得不提到ChatGPT。许多人都在积极尝试利用它来提高工作效率或解决各种问题。然而,要使用ChatGPT,我们必须克服一些使用门槛。首先,我们需要“科学上网”才能访问它,其次,GPT4的价格相对较高。

        值得庆幸的是,国内也有一些优秀的大模型平台供我们使用。与ChatGPT相比,这些平台的价格更为经济实惠,而且不需要像“科学上网”这样的额外准备。更重要的是,它们支持的功能也更加全面。

        最近,我偶然发现了百度智能云推出的文心千帆大模型平台公有版测试服务(官方申请地址:https://cloud.baidu.com/survey/qianfan.html),便立刻决定体验一番。而我所体验到的效果也让我非常满意。接下来,我将分享一下我的体验过程。

一、千帆大模型平台

        千帆大模型平台是百度智能云推出的全球首个一站式企业级大模型平台。它可以为企业提供大模型开发全流程工具链和整套环境。用户不但可以在千帆上直接调用文心一言服务,也可以在千帆上开发、部署和调用自己的大模型服务。值得一提的是,大模型平台不仅提供全套文心大模型服务,还支持各类第三方大模型,成为大模型生产和分发的集散地。

平台最新进展:

①千帆大模型平台全面接入LLaMA2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33大模型,成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强,模型推理成本可降低50%

②千帆大模型平台上线国内最全预置Prompt模板,模板数量多达103。包含对话、游戏、编程、写作等十余个场景。

二、体验分享

2.1服务申请

点击千帆服务体验申请,提交信息后大约3小时后便会通过

通过之后来到首页(https://cloud.baidu.com/)点击右上角的控制台

接着点击左上角的三条杠→产品服务→百度智能云千帆大模型平台

最后就可以按照概览页的操作指引,正式开始使用千帆大模型平台

2.2Prompt模板

        Prompt(提示词)是通过自然语言向大模型提出命令或指令,指示大模型生成相应的内容。Prompt对于大模型的使用效果非常重要,优质的Prompt提问能得到更高质量的回答。通过优化和改进Prompt的提问方式,可以提高模型的针对性和准确度,从而生成更高质量的内容。

        千帆大模型平台发布103Prompt模板,包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。其中既有基于百度智能云在产业实践中积累的Prompt模板,也有来源于文心一言高频用户的Prompt模板。这些模版均可直接输出给大模型,让大模型快速理解我们的需求。好的Prompt可以大大提高模型的交互效率、输出质量。

例:不同Prompt效果对比

原始Prompt:“长安三万里好看吗?”

②Prompt模板+原始Prompt:我希望你充当一个电影评论家。你将编写一篇引人入胜和有创意的影评。你可以涵盖诸如情节、主题和基调、演技和角色、方向、配乐、电影摄影、制作设计、特效、剪辑、节奏、对话等主题。但最重要的方面是强调电影给你的感觉。什么是真正引起你的共鸣。你也可以对电影进行批评。请避免剧透。电影名称《长安三万里》

原始Prompt:“长安三万里好看吗?”,文心一言会返回一个比较泛化的结果

②Prompt模板+原始Prompt,文心一言就会返回一个更符合预期的内容

2.3Prompt模板的使用

预置模板

平台已预置百余款Prompt模板供大家调用,大家可根据自身详情,选取引用适合自己的Prompt模板。

自制模板

如果预置模板无法满足大家业务的需求,还可以在自制模板模块,进行模板的创建。

填写好模版名称后,在范围内选择/新建模板标签,模版内容的填写即可,可以直接填入引用的内容,也可以用“{}”注入变量。

查看Prompt模板

在Prompt模版列表中,点击模版名称可以查看Prompt模板详情。

无变量Prompt模板

有变量Prompt模板

所有类型Prompt模板均自动生成接口地址,可以被业务方调用。

操作Prompt模板

Prompt模板列表中可对指定模版进行如下操作:

  • 编辑:重新编辑Prompt模板内容,包括模型名称、标签和内容。可查看创建Prompt模板相关内容。
  • 删除:删除Prompt模板,一旦删除不可恢复。
  • 复制ID:复制Prompt模版的ID,可以在后续API中或者检索备份中留有标识认证。

我的收藏

预置模板和自制模板均支持收藏,方便大家对相近属性的Prompt模板进行同一管理或引用。同时如果对某项Prompt模板不再需要您可以直接操作,取消收藏。

2.4API获取Prompt模版教程

①创建应用

找到应用接入,点击创建应用,填写好信息后直接点击创建即可

接着我们在应用列表里便会看见刚才创建的应用,点击详情可以查看应用的API Key和Secret Key,记住这两个Key后面会用到!

②获取access_token

百度AI开放平台使用OAuth2.0授权调用开放API,调用API时必须在URL中带上Access_token参数,获取Access_token的流程如下:

请求URL数据格式

向授权服务地址https://aip.baidubce.com/oauth/2.0/token发送请求(推荐使用POST),并在URL中带上以下参数:

  • grant_type 必须参数,固定为client_credentials
  • client_id 必须参数,应用的API Key
  • client_secret 必须参数,应用的Secret Key

这里我以python语言为大家进行演示:

def get_access_token():
    """
    使用 API Key,Secret Key 获取access_token,替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'

    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'应用API Key',
        'client_secret':'应用Secret Key'
    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")

if __name__ == '__main__':

    print(get_access_token())

③模板api调用

基本信息

请求地址: https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info

请求方式: GET

 

下面我用Python代码进行示范(以预制模板中的电影评论为例): 

import requests

def main():
    url = "https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info?"
    access_token = get_access_token()
    params = {
        'access_token':access_token,
        'id':1968,  # 模板的id
        'content':'战狼2'  # 变量
    }
    headers = {
        'Content-Type': 'application/json'

    }
    response = requests.get(url,params=params,headers=headers)
    print(response.text)

def get_access_token():
    """
    使用 API Key,Secret Key 获取access_token,替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'

    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'WLSVxQVfznIgAscDDLF1IQAs',
        'client_secret':'dIpD8QmKpyql7mEANnNvXohi2KbbOzCL'

    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")

if __name__ == '__main__':
    main()

         到这里为止,我们学会使用了千帆大模型平台中的Prompt模板,以后使用chatgpt的时候再也不用担心不会提示词了!

三、总结

        经过了一天的探索,我发现千帆大模型平台功能丰富,上手也非常容易,操作界面对使用者友好。该平台也为企业提供了全流程工具链和环境,覆盖大模型研发的全生命周期,包括数据管理、模型训练、评估&优化、预测服务和Prompt工程和插件服务。平台还提供内容安全的机制,使大模型内容安全可控。

其中,千帆大模型平台的核心优势有以下几点:

  1. 更全面:覆盖大模型全生命周期,提供全面功能服务,帮助用户高效地开发和部署大模型应用,并降低大模型技术门槛。
  2. 更高效:训练与推理性能大幅提升,MLPerf榜单训练性能世界领先,端到端训练时间和吞吐均超越其他框架。
  3. 更开放:支持快速应用编排与插件集成,预置百度文心大模型与第三方大模型,让用户能够更好地应用大模型。
  4. 更安全:平台具有完善的鉴权与流控安全机制,自带敏感词过滤,实现机审与人审双重保障。

此外,千帆大模型平台还提供公有云和私有化部署两种交付模式:

  1. 公有云提供三种服务模式:推理、微调、托管,适用于不同开发能力和需求的企业和开发者。
  2. 私有化部署支持纯软件平台和软硬一体两种交付模式,让企业可以根据自身需求选择合适的部署方式。

感兴趣的小伙伴快快点击链接(https://cloud.baidu.com/survey/qianfan.html)进行申请试用吧!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/842664.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Rust 原生支持龙架构指令集

导读近日,Rust 开源社区发布 1.71.0 版本,实现对龙架构(LoongArch)指令集的原生支持。 龙架构操作系统发行版和开发者可基于上游社区源代码构建或直接下载 Rust 开源社区发布的龙架构二进制版本。Rust 开发者将在龙架构平台上获得…

【Vue】Parsing error: No Babel config file detected for ... vue

报错 Parsing error: No Babel config file detected for E:\Study\Vue网站\实现防篡改的水印\demo02\src\App.vue. Either disable config file checking with requireConfigFile: false, or configure Babel so that it can find the config files.             …

23年电赛D题-信号调制方式识别与参数估计装置

红叶何时落水 题目 题目分析 该题目的是制作一个信号检测以及解调装置 主要的任务有三个 1.六种信号的识别 2.信号相关参数的测量 3.信号解调 任务一 识别信号有很多思路,最简单的方式便是通过对信号进行FFT分析,分析其中的各个谐波的特征值。 …

自动化测试CSS元素定位

目录 1.1 CSS定位 1.1.1 绝对路径定位 1.1.2 相对路径定位 1.1.3 类名定位 1.1.4 属性定位 1.1.4.1 ID属性定位 1.1.4.2 其他属性定位 1.1.4.3 模糊属性定位 1.1.5 子页面元素查找 1.1.6 伪类定位 1.1 CSS伪类 1.1 CSS定位 1.1.1 绝对路径定位 目标 查找第一个文…

CS 144 Lab Seven -- putting it all together

CS 144 Lab Seven -- putting it all together 引言测试lab7.ccUDPSocketNetworkInterfaceAdapterTCPSocketLab7main方法子线程 小结 对应课程视频: 【计算机网络】 斯坦福大学CS144课程 Lab Six 对应的PDF: Checkpoint 6: putting it all together 引言 本实验无需进行任何编…

HubSpot网页设计神器,你想要的Landing Page都在这里!

在当今数字化时代,Landing Page(落地页)已成为营销策略中不可或缺的一环。它是与潜在客户首次接触的窗口,能够直接影响转化率和销售结果。而作为一款领先的营销自动化工具,HubSpot为企业提供了打造引人注目的Landing P…

uniapp微信小程序 401时重复弹出登录弹框问题

APP.vue 登陆成功后,保存登陆信息 if (res.code 200) {uni.setStorageSync(loginResult, res)uni.setStorageSync(token, res.token);uni.setStorageSync(login,false);uni.navigateTo({url: "/pages/learning/learning"}) }退出登录 toLogout: func…

Spring Cloud 的版本和SpringBoot的版本

Spring Cloud 的版本选择 Spring Cloud 和SpringBoot的版本存在对应关系 Spring Cloud 的版本和SpringBoot的版本,存在对应关系。最新的SpringCloud版本(发布文章时为2022.0.3),需要SpringBoot(3.0.9) 的…

爬虫获取电影数据----以沈腾参演电影为例

数据可视化&分析实战 1.1 沈腾参演电影数据获取 文章目录 数据可视化&分析实战前言1. 网页分析2. 构建数据获取函数2.1 网页数据获取函数2.2 网页照片获取函数 3. 获取参演影视作品基本数据4. 电影详细数据获取4.1 导演、演员、描述、类型、投票人数、评分信息、电影海…

【云原生】Docker-compose中所有模块学习

compose模块 模板文件是使用 Compose 的核心,涉及到的指令关键字也比较多。但大家不用担心,这里面大部分指令跟 docker run 相关参数的含义都是类似的。 默认的模板文件名称为 docker-compose.yml,格式为 YAML 格式。 version: "3&quo…

STM32基础入门学习笔记:内部高级功能应用

文章目录: 一:低功耗模式 1.睡眠模式测试程序 NVIC.h NVIC.c key.h key.c main.c 2.停机模式测试程序 main.c 3.待机模式测试程序 main.c 二:看门狗 1.独立看门狗测试程序 iwdg.h iwdg.c main.c 2.窗口看门狗测试程序 wwdg…

Unity面板究极优化

首先对于大项目来说UI首选一定的UGUI,目前没有啥可选的余地。多一点都是对性能的负担,UGUI底层基于多线程技术,可以有效分担压力,对于一些不是那么重的面板几乎无感。 无论其他面板只是在此基础上修改的,但每多一层&am…

机器学习---监督学习和非监督学习

根据训练期间接受的监督数量和监督类型,可以将机器学习分为以下四种类型:监督学习、非监督学习、半监督学习和强化学习。 监督学习 在监督学习中,提供给算法的包含所需解决方案的训练数据,成为标签或标记。 简单地说,…

40.利用欧拉法求解微分方程组(matlab程序)

1.简述 求解微分方程的时候,如果不能将求出结果的表达式,则可以对利用数值积分对微分方程求解,获取数值解。欧拉方法是最简单的一种数值解法。前面介绍过MATLAB实例讲解欧拉法求解微分方程,今天实例讲解欧拉法求解一阶微分方程组。…

简单认识ELK日志分析系统

一. ELK日志分析系统概述 1.ELK 简介 ELK平台是一套完整的日志集中处理解决方案,将 ElasticSearch、Logstash 和 Kiabana 三个开源工具配合使用, 完成更强大的用户对日志的查询、排序、统计需求。 好处: (1)提高安全…

OnlyOffice社区版破解最大连接限制部署

onlyoffice社区版部署并且破解最大连接数 docker镜像 docker pull onlyoffice/documentserver:5.3.1.265.4或更高的版本已经解决了此方法的Bug 运行镜像 docker run -d --name onlyoffice --restartalways -p 暴露端口号:80 onlyoffice/documentserver:5.3.1.26进入容器内部…

windows系统安装ElasticSearch7.9.3笔记

windows系统安装ElasticSearch7.9.3笔记 从es中文社区 或elastic官网下载安装包 ES中文社区-浏览器地址https://elasticsearch.cn/download/ 下载7.9.3版本的相关安装包 下载的安装包清单如下 开始配置使用带ik分词器和拼音分词器的ES7.9.3 分别解压这3个zip 拷贝ik分词器…

48.C++ vector容器(模板类)

今天学习了C中的vector容器,它提供动态数组功能,方便管理和存储数据。支持动态调整大小,简化了数组操作,使代码更灵活、高效。实在是太牛了,后悔没有早点学习容器。 目录 一、vector简介 二、头文件和命名空间 三…

该你出手了!华为云PaaS服务 8月线上开发者活动指南——技术提升、合作交流、创新无限!

天高云阔、风朗气清 亲爱的开发者们,8月已经来临 你们准备好迎接一个充满激情和挑战的月份了吗? 如果你对编程充满热情,对技术前沿有所追求 那么华为云PaaS为各位开发者准备的这些8月活动,你一定不能错过。 为了让开发者们更好…

集睿致远/CS5269设计Typec转HDMI带PD100w快充方案

集睿致远ASL推出的CS5269AN是一款高性能Typec/DP1.4转HDMI 4k_60Hz带PD100w快充转换器方案芯片 DP接口包括4条主通道、辅助通道和HPD信号。支持5.4Gbps(HBR2)的数据速率。DP接收机兼容HDCP1.4和HDCP2.3内容保护方案具有嵌入式密钥,用于数字音视频内容的…