亚马逊云科技re:Invent大会,助力安全构建规模化生成式AI应用

news2024/12/24 8:16:33

 2023亚马逊云科技re:Invent全球大会进入第三天,亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian博士在周三的主题演讲中,为大家带来了关于亚马逊云科技生成式AI的最新能力、面向生成式AI时代的数据战略以及借助生成式AI应用提高生产效率的精彩分享,携手众多客户与合作伙伴,共话如何借助数据和生成式AI重塑业务、加速创新。

 Swami博士在开场中指出:“当前我们处在另一个新技术的前沿。今天,人类和技术之间正展现出前所未有的紧密关系,生成式AI正以许多意想不到的方式提升人类的生产力。这种关系让人类与人工智能共同形成新的创新充满了无限可能性。”

 Amazon Bedrock发布更多模型选择和全新开发工具,

 助力安全构建和规模化生成式AI应用

 Swami博士介绍:“生成式AI有望成为我们这个时代最具变革性的技术。各行各业都在将生成式AI融入各自的业务,但没有一个大模型能够适合所有的场景。利用Amazon Bedrock,客户可选择任何合适的模型来进行快速创新。”Amazon Bedrock现已支持新推出的基础模型版本包括:Anthropic Claude 2.1、Meta Llama 2 70B以及Amazon Titan Family等。

  • 支持Anthropic最新Claude 2.1模型。提供了长达200,000个token的上下文窗口,并且提高了长文档的准确性。与上一代模型相比,Claude 2.1在开放式对话中的错误陈述减少了50%,同时单次调用的成本降低了25%。

  • 支持Meta Llama 2 700亿参数模型。与早些支持的Llama 2 130亿参数模型相同,这些模型在多个外部基准测试中的表现卓越,包括推理、编码、熟练程度和知识测试等,并在Amazon Bedrock上提供了极高的性价比组合。

 除了第三方的模型外,Amazon Bedrock也包含了亚马逊云科技自研的、最新升级的基础模型Amazon Titan:

  • 新增大语言模型Amazon Titan Text Lite与Amazon Titan Text Express。除Embedding的模型外,亚马逊云科技还提供两款大语言模型Amazon Titan Text Lite和Amazon Titan Text Express。Titan Text Lite可执行对文本的总结、文案生成和微调;Titan Text Express开放式文本生成、会话聊天,并支持RAG(检索知识增强)。

  • 新增Amazon Titan Multimodal Embeddings模型。帮助客户为最终用户提高多模态搜索和推荐体验,让输出结果更准确且与上下文相关。模型可以将图像和短文本转换为Embedding数字表示形式,使模型能够轻松理解语义以及数据之间的关系。最终用户可以使用图像和文本提示的任意组合进行搜索查询。

  • 新增Amazon Titan Image Generator模型。为了兑现亚马逊云科技践行负责任的人工智能承诺,所有Amazon Titan生成的图像都包含不可见水印。通过建立严谨的识别AI生成图像的机制,来减少错误信息的传播,促进AI技术的安全、可靠和透明发展。亚马逊云科技是首批广泛发布内置隐形水印的模型提供商之一,这些水印集成到输出的图像中,并设计为“拒绝更改”。

 为客户提供更多选择的同时,如何更好地匹配业务需求成为客户面临的新问题。为帮助客户高效评估、比较和选择最适合其应用场景和业务需求的基础模型为帮助客户更好的应用,Swami博士介绍了最新的Amazon Bedrock模型评估与选择功能。

 在Amazon Bedrock控制台中,客户可以选择他们想要针对给定任务(例如问答或内容摘要)进行比较的模型,如需自动评估,客户可以选择预定义的评估标准(例如准确性、鲁棒性和是否含有有害内容)并上传自己的测试数据集或从内置的公开数据集中进行选择。对于需要复杂判断的主观标准或细微内容,客户只需点击几下即可轻松设置基于人工的评估工作流程并生成报告。以便客户可以轻松了解模型在关键标准上的表现,并可以做出最佳权衡,从而快速选择最适合其应用场景的模型。

 全新定制功能帮助客户更好地使用

 私有数据定制基础模型

 Swami博士强调,数据是构建差异化生成式AI应用的核心优势。对于企业而言,如何使用企业私有数据打造更懂您的业务、更懂客户的生成式AI应用至关重要。Amazon Bedrock提供专门构建的全新功能,可帮助客户使用自己的数据,私密且安全地定制模型,以构建差异化的生成式AI驱动的应用。

  • 针对Amazon Titan Text Lite和Titan Text Express基础模型的持续预训练支持:进一步借助企业最新的私有数据增强对基础模型的控制,让基础模型的输出更懂您的业务。

  • Cohere Command、Meta Llama 2和Amazon Titan模型现在可以在Amazon Bedrock上进行微调,并且即将推出对Anthropic Claude 2.1的支持:客户可使用带标签的数据集提高特定任务的模型准确性。此外,亚马逊云科技客户很快就能够利用自己的数据源微调Anthropic Claude 2的性能。

  • Knowledge Base for Amazon Bedrock正式可用,可以帮助客户借助RAG使用上下文和相关公司数据定制模型输出。Knowledge Base for Amazon Bedrock可将模型安全地连接到公司内部数据源用于RAG,以便为聊天机器人和问答系统等场景提供更准确、针对特定上下文的响应。Knowledge Base for Amazon Bedrock支持多种向量数据库,包括Amazon OpenSearch、Pinecone和Redis Enterprise Cloud的向量引擎,Amazon Aurora和MongoDB也即将推出。

  • 借助Amazon Bedrock Agents功能,生成式AI应用程序助力更便捷高效地开发生成式AI应用。完全托管的Amazon Bedrock代理功能使生成式AI应用程序能够跨公司系统和数据源执行多步骤任务。借助适用于Amazon Bedrock Agents,客户可以提升准确性,加速生成式AI应用程序的开发。

  • 全新推出Amazon SageMaker HyperPod助力客户更轻松地构建、训练和部署生成式AI模型。Amazon SageMaker HyperPod可以提供对按需AI训练集群的访问,开发人员可以通过点击式命令和相对简单的脚本组合来配置集群,这比手动配置基础架构要快得多。

 重塑生成式AI时代的数据战略——

 打造全面、集成、受治理的数据基座

 Swami博士提到:“数据是您的差异化能力,同时高质量的数据是生成式AI应用的基础,如果要获取高质量的数据,用户必须要构建强大的数据战略。生成式AI对数据战略提出了新的要求。”他以“全面的、集成的、受治理的”三个维度,开启了系列精彩功能发布:

 全面的(Comprehensive):

 新增支持向量数据库的系列功能

 全新发布的Vector Engine for OpenSearch Serverless,能够带来更高效的搜索和流程处理。

 同时,还发布了Amazon DocumentDB和Amazon DynamoDB新增支持向量检索功能,可以允许用户将多种数据存储在一起。

 除此之外,Amazon MemoryDB for Redis也新增支持向量检索,响应时间变得更快,每秒可以处理数万个查询。

 集成的(Integrated):

 持续投资zero-ETL的未来

 Amazon S3加持下的OpenSearch Service zero-ETL integration,这个新集成的工具可以分析S3中的所有操作数据。

 受治理的(Governed):

 数据治理

 全新推出Amazon Clean Rooms ML,它可以允许用户在不共享底层数据的情况下与业务伙伴共同使用机器学习模型。

  • 生成式AI驱动的Amazon Q支持的数据管理

 AI改变生活和工作方式、提升效率,而生成式AI毫无疑问会进一步提升我们的生产力与工作效率。生成式AI驱动的Amazon Q,可以帮助用户更好的管理数据,实现便捷、直观,更容易访问。

 1. 发布Amazon Q natural language SQL query in RedShift,可以帮助将自然语言转换为SQL,并且在RedShift中做SQL查询;

 2. 发布Amazon Q data integration in Amazon Glue,允许用户使用自然语言实现数据集成。

 加速生成式Al之旅所需的一切,

 交给亚马逊云科技为您构建!

 最后,Swami博士以爱因斯坦的名言作为结尾,“创造力就是看到别人见过的东西,思考别人没有想到的东西。”数据、生成式AI及人的关系越来越紧密,将加快我们构建创新与差异化体验的节奏。在安全的地方利用您的数据构建生成式AI,提升用户全面智慧体验,亚马逊云科技有帮助您构建智慧体验的所有服务能力。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1277673.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

变量和引用

变量和引用 2.1.深入认识变量 2.1.1.什么是变量 变量是在程序中保存用户数据的一段内存存储空间,变量名是内存空间的首地址 变量三要素:名称、类型、值 2.1.2.变量的名称 组成: 字母、数字、下划线组成,不能以数字开头 变量名称的长…

Android 获取应用签名

Android 获取应用签名 本文主要讲下在android中如何获取应用签名. 也方便平时用来区分一个应用是不是原包应用. 1: 通过PackageManager获取签名信息 首先,通过packageManager获取到指定应用的PackageInfo. 这里需要传入的flag是PackageManager.GET_SIGNATURES /*** {link P…

scrapyd及gerapy的使用及docker-compse部署

一、scrapyd的介绍 scrapyd是一个用于部署和运行scrapy爬虫的程序,它允许你通过JSON API(也即是web api)来部署爬虫项目和控制爬虫运行,scrapyd是一个守护进程,监听爬虫的运行和请求,然后启动进程来执行它们 scrapyd的安装 scr…

蓝桥第一期模拟总结

文章目录 1.动态的 Tab 栏2.地球漫游3.迷惑的this4.燃烧卡路里5.魔法失灵了6.年龄统计 所有题目链接 1.动态的 Tab 栏 本题要实现一个tab栏固定效果,看见题目就想到css中的 position: fixed; 尝试了很久都没能实现效果,后来又想到了粘性定位 position: …

网络编程之套接字

端口 && IP 在学习套接字编程之前,我们必须了解一下前缀知识。首先是IP和端口的作用。 在这之前,我们要明白一件事。那就是把数据从一台主机发送到另一台主机,是目的吗???当然不是!&a…

TOP-K问题和向上调整算法和向下调整算法的时间复杂度问题的分析

TOP-K问题 TOP-K问题:即求数据结合中前K个最大的元素或者最小的元素,一般情况下数据量都比较大 比如:专业前10名、世界500强、富豪榜、游戏中前100的活跃玩家等 对于Top-K问题,能想到的最简单直接的方式就是排序,但是…

聊聊测试for Jeffky

什么是测试 测试是一个系统性的过程,它涉及到在已开发的软件中执行程序、应用工具和技术来评估其质量、功能和性能。这个过程的目的是发现并纠正程序中的错误,提高软件的可靠性和稳定性,以满足用户的需求。 测试的分类 什么是自动化测试 自动…

Android Termux 安装Kali Linux 或 kali Nethunter史诗级详细教程

Android Termux 安装Kali Linux 或 kali Nethunter史诗级详细教程 一、Termux配置1、下载安装2、配置存储和换源3、基本工具安装 二、Kali Linux安装1、下载安装脚本2、更换apt源3、图形化安装 三、Kali Nethunter安装1、下载安装脚本2、更换apt源3、图形化连接 四、报错汇总1、…

五、关闭三台虚拟机的防火墙和Selinux

目录 1、关闭每台虚拟机的防火墙 2、关闭每台虚拟机的Selinux 2.1 什么是SELinux

《第一行代码:Android》第三版4.2常用控件的使用方法(1)

概述 本文主要讲解常用控件的使用&#xff0c;包括&#xff1a;TextView、Button、EditText、ImageView、ProgressBar、AlertDialog。 布局文件 布局文件是activity_main.xml,内容如下&#xff1a; <?xml version"1.0" encoding"utf-8"?> <…

Spring Cloud笔记 —— 什么是Spring Cloud?

引言&#xff1a; 在写这篇博客之前&#xff0c;其实吧&#xff0c;博主很久之前有过一段时间的Spring Cloud的案例项目开发经验&#xff0c;就是一个案例项目开发而已&#xff0c;也说不上有多高大上&#xff0c;那个时候&#xff0c;我其实也是从众而已罢了&#xff0c;毕竟现…

Asp.Net Core Web Api内存泄漏问题

背景 使用Asp.Net Core Web Api框架开发网站中使用到了tcp socket通信&#xff0c;网站作为服务端开始tcp server&#xff0c;其他的客户端不断高速给它传输信息时&#xff0c;tcp server中读取信息每次申请的byte[]没有得到及时的释放&#xff0c;导致内存浪费越来越多&#…

WEBAPI返回图片显示在VUE前端

WEBAPI部分 通过nuget安装Opencvsharp &#xff0c;这部分用来做图像处理 在controller中写如下方法&#xff0c;我要对原图进行旋转使用了Opencv&#xff0c;如果不需要旋转可以用注释的代码 [HttpGet(Name "ShowImage")]public async Task<IActionResult> …

基于Java+Swing+Mysql图书管理系统(含实训报告)

基于JavaSwingMysql图书管理系统-含实训报告 一、系统介绍二、功能展示1.用户登陆 四、其他系统实现五、获取源码 一、系统介绍 该系统实现了查看登录界面、主页界面、图书类别管理、用户借阅记录、用户图书查询、用户图书归还、用户信息修改。 运行环境&#xff1a;idea、jd…

selenium三猛士

selenium包括三个项目&#xff0c;分别是&#xff1a;Selenium WebDriver,Selenium IDE&#xff0c;Selenium Grid。 Selenium WebDriver Selenium WebDriver是客户端API接口&#xff0c;测试人员通过调用这些接口&#xff0c;来访问浏览器驱动&#xff0c;浏览器再访问浏览器…

亚马逊云科技 re:Invent 2023:科技前沿风向标,探索未来云计算之窗

文章目录 一、前言二、什么是亚马逊云科技 re:Invent&#xff1f;三、亚马逊云科技 re:Invent 2023 将于何时何地举行四、亚马逊云科技 re:Invent 2023 有什么内容&#xff1f;4.1 亚马逊云科技 re:Invent 2023 主题演讲4.2 亚马逊云科技行业专家探实战 五、更多亚马逊云科技活…

竞赛选题 : 题目:基于深度学习的水果识别 设计 开题 技术

1 前言 Hi&#xff0c;大家好&#xff0c;这里是丹成学长&#xff0c;今天做一个 基于深度学习的水果识别demo 这是一个较为新颖的竞赛课题方向&#xff0c;学长非常推荐&#xff01; &#x1f9ff; 更多资料, 项目分享&#xff1a; https://gitee.com/dancheng-senior/pos…

深入解析SpringBoot的请求响应机制

SpringBootWeb请求响应 前言1. 请求1.1 Postman介绍 1.2 简单参数1.2.1 原始方式1.2.2 SpringBoot方式1.2.3 参数名不一致 1.3 实体参数1.3.1 简单实体对象1.3.2 复杂实体对象 1.4 数组集合参数1.4.1 数组1.4.2 集合 1.5 日期参数1.6 JSON参数1.7 路径参数 2. 响应2.1 Response…

SATA模块物理层OOB信号分析总结(三)

目录 一、简介二、总体解析2.1 OOB作用2.2 OOB信号的组成2.3 总体phy link过程2.4 整体PHY LINK Trace2.5 PHY LINK状态查询 三、其他相关链接1、SATA模块之HBA卡开发总结&#xff08;一&#xff09;2、SATA信息传输FIS结构总结&#xff08;二&#xff09;3、PCIe物理层总结-PC…

【前端】利用正则生成目录,附加解决a链接锚点偏移

前言 从html字符串中提取出来目录。 目标和源内容都很明确&#xff0c;源内容是html字符串&#xff0c;提取目标是html字符串中h1~h6元素和其闭合标签中间的内容。 思路 分析 获取html字符串 第一步要获取html字符串内容。 观察html字符串 第二步&#xff0c; 观察html字…