百度智能云“千帆大模型平台”升级,大模型最多,Prompt模板最全

news2024/11/25 10:39:22

1、前言

       从ChatGPT正式推出之后,大模型开始逐渐火爆起来,基于大模型的潜力与广泛应用前景,多个厂商也开始在大模型领域进行深耕布局。越来越多的人也开始尝试使用大模型来解决日常工作或生活中的问题,有效地提高了处理问题的效率。

       最开始大家都喜欢使用ChatGPT,但随着ChatGPT的升级,访问ChatGPT就变成了难题。值得庆幸的是,国内的一些大厂商也相继推出了一些大模型平台,比如百度的千帆大模型、阿里的通义千问大模型、华为的盘古大模型、科大讯飞的星火认知大模型等。这些平台提供的服务更到位,支持的功能更齐全,特别是在中文环境支持方面更有优势和竞争力。

       作为国内人工智能领域的领导者,百度智能云推出的千帆大模型平台在最近进行了新一轮重量级的升级,千帆大模型平台已经全面接入Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型,一举成为国内拥有大模型最多的平台。

       最近,千帆大模型平台已面向企业和个人开放测试申请,有幸申请体验了一下,使用下来感觉效果非常好,下面给大家分享一下我的体验过程。

百度千帆大模型平台体验地址:百度千帆大模型体验链接        

2、千帆大模型平台

       千帆大模型平台是百度智能云推出的全球首个一站式的企业级大模型平台,它不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供了生成式AI生产及应用全流程开发工具链,是大模型生产和分发的集散地,能够帮助企业解决大模型开发和应用过程中的所有问题。

        据了解,目前千帆大模型平台已经全面接入Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型,成为国内拥有大模型最多的平台。接入的模型经过千帆平台二次性能增强,模型推理成本最高可降低50%。同时,千帆平台上线了国内最全的预置Prompt模板,模板数量多达103个,覆盖对话、游戏、编程、写作十余个场景。

       千帆大模型平台可以为企业、开发者提供更加灵活、多样化、高效的大模型服务,客户可选择最适合自身业务的大模型,再利用千帆平台全套工具链进行模型再训练、指令微调等,高效率、低成本地打造企业专属大模型。此外,海量Prompt模板库可提高大模型内容准确性和满意度。

       企业用户和开发者可将不同大模型搭配使用,以满足不同细分场景的业务需求,可以直接登陆千帆大模型平台操作台,在“模型仓库”中直接按需求进行调用、部署。

       千帆大模型平台的鲜明特点有:

  • 技术领先
    知识增强大模型,统一范式支持多类下游任务。先进并行策略支撑大模型训练、压缩与部署。可控可信的语言理解和生成能力。
  • 全场景覆盖支持
    对话互动,自由问答,文案创作等能力,覆盖能源、金融、航天、工业、媒体等领域。
  • 低门槛使用便捷
    一行代码调用服务,一键自动模型微调,少量数据完成多场景AI应用落地。
  • 真实可落地
    提供企业级一站式客户服务,打通芯片+平台+模型+应用的四层架构,联合多家合作伙伴实现端到端应用落地。

3、申请千帆大模型体验

       点击千帆大模型的官网(https://cloud.baidu.com/product/wenxinworkshop),在打开的页面中,点击申请体验:

填写完信息后提交申请,若干小时就会审核通过。

       审核通过后,进入千帆大模型首页(https://cloud.baidu.com/product/wenxinworkshop),点击右上角的控制台:

在打开的控制台页面中,点击左上角的三道杠按钮,在展开的页面中点击产品服务,然后找到“百度智能云千帆大模型平台”,如下所示:

点击进入大模型页面,这样就可以按照概览页的操作指引,正式开始使用千帆大模型平台。

4、Prompt模板体验

       Prompt含义是提示词,用户通过自然语言向大模型提出问题或搜索关键字(提出命令或指令),指示大模型生成对应的内容。而在实际应用时,大模型往往因为Prompt缺乏针对性、描述不清晰等原因影响到大模型提供内容的准确性。

       为帮助客户提高Prompt提问质量、提升模型输出满意度,本轮升级后,百度智能云千帆大模型平台上线了海量预置Prompt模板库,模板数量多达103个,包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个常见场景。用户可以根据需求选择合适的模板,直接输出给大模型, 即可提高模型内容的针对性和准确度。Prompt对于大模型的使用效果非常重要,优质的Prompt提问能得到更高质量的回答。通过优化和改进Prompt的提问方式,可以提高模型的针对性和准确度,从而生成更高质量的内容。

4.1、Prompt效果体验

输入原始的Prompt:“长安三万里好看吗?”,文心一言会返回一个比较宽泛的结果:

但使用Prompt模板+原始Prompt,文心一言就会返回一个更符合预期的答案:

4.2、Prompt模板的使用介绍

       大模型平台提供了100多款预置Prompt模板供大家使用:

大家可根据自己的需要,选择引用适合自己的Prompt模板。

       如果预置模板无法满足大家的需求,还可以在自制模板模块中进行创建自定义的自制模板:


点击“创建Prompt模板”按钮,打开创建创建页面:

 

填写模板名称,选择模板标签,然后填写模板内容,可以直接填入引用的内容,也可以“{}”注入变量。

       在Prompt模版列表中可以查看模板,点击模版名称即可查看Prompt模板详情:

可以在Prompt模板列表中可对指定模版进行编辑、删除和复制ID等操作:

4.3、如何调用API接口获取Prompt模版?

4.3.1、创建应用

        先创建一个应用:

应用创建完后,在应用列表里就会看到刚才创建的那个应用:

点击右侧的详情按钮,去查看该应用的API Key和Secret Key:

这两个Key后面要用到。

4.3.2、获取access_token

        百度开放平台目前使用OAuth2.0授权调用开放API,调用API时必须在URL中带上Access_token参数。

        先向授权服务地址https://aip.baidubce.com/oauth/2.0/token发送请求(推荐使用POST),并在URL中带上以下参数:

  • grant_type: 必须参数,固定为client_credentials;
  • client_id: 必须参数,应用的API Key;
  • client_secret: 必须参数,应用的Secret Key;

相关演示代码如下:

def get_access_token():
    """
    使用 API Key,Secret Key 获取access_token,替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
 
    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'应用API Key',
        'client_secret':'应用Secret Key'
    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")
 
if __name__ == '__main__':
 
    print(get_access_token())

4.3.3、模板api调用

        使用URL:https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info,请求方式用GET,相关携带参数说明:


 

          模板api接口调用演示代码如下:

import requests
 
def main():
    url = "https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info?"
    access_token = get_access_token()
    params = {
        'access_token':access_token,
        'id':1968,  # 模板的id
        'content':'测试'  # 变量
    }
    headers = {
        'Content-Type': 'application/json'
 
    }
    response = requests.get(url,params=params,headers=headers)
    print(response.text)
 
def get_access_token():
    """
    使用 API Key,Secret Key 获取access_token,替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
 
    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'WLSVxQVfznIgAscDDLF1IQAs',
        'client_secret':'dIpD8QmKpyql7mEANnNvXohi2KbbOzCL'
 
    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")
 
if __name__ == '__main__':
    main()

       至此,Prompt模版的体验及相关使用说明就介绍完了,也希望能给大家提供一个借鉴和参考。

5、最后

       经过上述的探索与体验,让我充分了解到了千帆大模型平台提供的丰富功能,操作简单易用,操作界面友好,平台还提供内容安全的机制,使大模型内容更加安全可控。

         千帆大模型平台提供全面领先的平台功能:

  • 覆盖大模型全生命周期,更全面
    提供数据标注,模型训练与评估,推理服务与应用集成的全面功能服务
  • 训练与推理性能大幅提升,更高效
    MLPerf榜单训练性能世界领先,千亿模型分布式并行训练加速能力和算力利用率大幅提升
  • 快速应用编排与插件集成,更开放更开放
    预置百度文心大模型与第三方大模型,支持插件与应用灵活编排,助力大模型多场景落地应用
  • 自带敏感词过滤
    完善的鉴权与流控安全机制,自带问答内容审核与敏感词过滤,多重安全机制护航企业应用

        如果你是使用或打算尝试大模型的用户,无论是个人还是企业用户,百度智能云的千帆大模型都是你最佳的选择!千帆大模型已全面开启体验试用,感兴趣的朋友快来点击链接:百度千帆大模型体验链接,申请体验试用吧!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/868092.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

探讨uniapp的生命周期问题

在uniapp中,生命周期函数分为应用生命周期函数、页面生命周期函数和组件生命周期函数. 1应用声明周期 应用生命周期函数只能在 App.vue 中监听有效,在其他页监听无效。 onLaunch:当uni-app 初始化完成时触发(全局只触发一次)on…

【变形金刚03】使用 Pytorch 开始构建transformer

一、说明 在本教程中,我们将使用 PyTorch 从头开始构建一个基本的转换器模型。Vaswani等人在论文“注意力是你所需要的一切”中引入的Transformer模型是一种深度学习架构,专为序列到序列任务而设计,例如机器翻译和文本摘要。它基于自我注意机…

【传输层】Tcp协议的原理(二)

文章目录 一、TCP协议原理(二)总结 一、TCP协议原理(二) 1.解决TIME_WAIT状态引起的bind失败的方法 我们之前实现tcp服务器的时候发现,服务器经常有时候断开可以立即重启,有时候断开必须换端口号才能重新…

qt事件系统源码-----定时器

qt定时器的使用一般有以下几种方式: 1、直接使用QTimer对象,绑定定时器的timeout信号; 2、使用QTimer的静态方法singleshot方法,产生一个一次性的定时事件 3、在QObject子类中,调用startTimer方法,产生定…

Vue.js从入门到精通:软件开发视频大讲堂

💂 个人网站:【工具大全】【游戏大全】【神级源码资源网】🤟 前端学习课程:👉【28个案例趣学前端】【400个JS面试题】💅 寻找学习交流、摸鱼划水的小伙伴,请点击【摸鱼学习交流群】 前言 随着Web应用程序的…

nodejs+vue+elementui+express旅游出行指南网站_655ms

本文主要介绍了一种基于windows平台实现的旅游出行指南。该系统为用户找到景点信息和酒店信息提供了更安全、更高效、更便捷的途径。本系统有两个角色:管理员和用户,要求具备以下功能: (1)用户可以浏览主页了解旅游出行…

2023牛客暑期多校训练营8-C Clamped Sequence II

2023牛客暑期多校训练营8-C Clamped Sequence II https://ac.nowcoder.com/acm/contest/57362/C 文章目录 2023牛客暑期多校训练营8-C Clamped Sequence II题意解题思路代码 题意 解题思路 先考虑不加紧密度的情况,要支持单点修改,整体查询&#xff0…

阿里云服务器安装AMH面板建站教程

本文阿里云百科分享使用阿里云服务器安装AMH面板建站教程,AMH是一套通过Web控制和管理Linux服务器以及虚拟主机的管理系统。您可以使用云服务器ECS安装AMH来搭建PHP网站。本篇教程分别介绍如何在Linux系统实例中部署AMH并快速搭建PHP网站。 目录 前提条件 手动部…

Electron 应用实现截图并编辑功能

Electron 应用实现截图并编辑功能 Electron 应用如何实现截屏功能,有两种思路,作为一个框架是否可以通过框架实现截屏,另一种就是 javaScript 结合 html 中画布功能实现截屏。 在初步思考之后,本文优先探索使用 Electron 实现截屏…

CCF-CSP 29次 第三题【202303-3 LDAP】(多个STL+递归)

计算机软件能力认证考试系统 #include <iostream> #include <cstring> #include <algorithm> #include <vector> #include <unordered_map> #include <string>using namespace std;typedef long long LL;const int N 2510, M 510;int n…

Qt应用开发(基础篇)——拆分器窗口 QSplitter QSplitterHandle

一、前言 QSplitter继承于QFrame&#xff0c;QFrame继承于QWidget&#xff0c;是Qt的一个部件容器工具类。 框架类QFrame介绍 QSplitter拆分器&#xff0c;用户通过拖动子部件之间的边界来控制子部件的大小&#xff0c;在应用开发中数据分模块展示、图片展示等场景下使用。 二、…

Nuxt.js--》解锁 Nuxt 项目的潜力:从配置开始,迈向成功

博主今天开设Nuxt.js专栏&#xff0c;带您深入探索 Nuxt.js 的精髓&#xff0c;学习如何利用其强大功能构建出色的前端应用程序。我们将探讨其核心特点、灵活的路由系统、优化技巧以及常见问题的解决方案。无论您是想了解 Nuxt.js 的基础知识&#xff0c;还是希望掌握进阶技巧&…

FastDFS安装教程

FastDFS安装 软件下载 需要的软件&#xff1a;fastdfs-6.0.4、libfastcommon-1.0.42、fastdfs-nginx-module-1.22.tar.gz 下载地址 安装 fastdfs是使用c语言写的&#xff0c;需要先配置c语言环境。 yum install -y gcc gcc-cyum install libevent安装libfastcommon函数库…

Leetcode-每日一题【剑指 Offer 20. 表示数值的字符串】

题目 请实现一个函数用来判断字符串是否表示数值&#xff08;包括整数和小数&#xff09;。 数值&#xff08;按顺序&#xff09;可以分成以下几个部分&#xff1a; 若干空格一个 小数 或者 整数&#xff08;可选&#xff09;一个 e 或 E &#xff0c;后面跟着一个 整数若干空…

Win7累积补丁更新包_UpdatePack7R2-23.8.10

UpdatePack7是最新的Win7补丁累积更新包&#xff0c;Windows 7更新补丁安装包&#xff0c;Win7累积更新离线安装包包括所有关键更新和安全更新及Internet Explorer所有版本的更新&#xff0c;此外还集成了NVMe驱动和USB3.0驱动&#xff0c;使用它还可以将累积更新封装到系统内&…

通过BitMap实现签到

针对黑马点评。 bitmap签到 在传统的签到系统中的数据库的表一般都采取直接存储的形式&#xff0c;类似于一种记录表&#xff0c;但是如果用户的数量特别大&#xff0c;签到上几个月之后&#xff0c;这种表的数据量特别大&#xff0c;同时&#xff0c;存储的数据也会占用很多…

大汇总!各省杰青优青名单已出炉

【SciencePub学术】杰青&#xff0c;是国家杰出青年基金项目资助获得者的简称&#xff0c;与科技奖励计划类似&#xff0c;是我国重要的人才计划之一。一所学校的杰青数量&#xff0c;代表学校未来的学术发展潜力和在同类高校的学术地位&#xff0c;每所大学都非常看重。今年部…

Lombok的使用及注解含义

文章目录 一、简介二、如何使用2.1、在IDEA中安装Lombok插件2.2、添加maven依赖 三、常用注解3.1、Getter / Setter3.2、ToString3.3、NoArgsConstructor / AllArgsConstructor3.4、EqualsAndHashCode3.5、Data3.6、Value3.7、Accessors3.7.1、Accessors(chain true)3.7.2、Ac…

C++笔记之if(指针)的含义

C笔记之if(指针)的含义 code review! 文章目录 C笔记之if(指针)的含义例1例2 例1 例2

突然断电CAD图纸没保存怎么恢复?

CAD图纸绘制时&#xff0c;有时会遇到一些意外情况&#xff0c;比如突然断电、电脑意外关机或者软件异常退出&#xff0c;但是图纸还没保存&#xff0c;这该怎么办&#xff1f;这对于设计师来说&#xff0c;简直要崩溃&#xff0c;不仅白干一天&#xff0c;还得加班赶进度&…