亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

news2024/11/20 15:34:06

image.png

意料之中

2023年9月25日,亚马逊宣布与 Anthropic 正式展开战略合作,结合双方在更安全的生成式 AI 领域的先进技术和专业知识,加速 Anthropic 未来基础模型的开发,并将其广泛提供给亚马逊云科技的客户使用。

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

在2023年即将结束之际,亚马逊云科技在9月底宣布于Anthropic展开战略合作,此次合作是亚马逊云科技在生成式 AI “三层架构”中持续扩展其独特服务的最新发布。在底层,亚马逊云科技继续提供来自英伟达的计算实例,以及亚马逊云科技的自研芯片,包括用于 AI 训练的 Amazon Trainium 以及用于 AI 推理的 Amazon Inferentia 实例。

在中间层,亚马逊云科技专注于为客户提供来自多个领先模型供应商的最受欢迎的基础模型。此外,客户可以定制这些模型,确保自己数据的隐私和安全,同时还能与亚马逊云科技其他工作负载无缝集成,这一切都由亚马逊云科技的新服务 Amazon Bedrock 提供支持。即日起,客户将能够提前使用定制 Anthropic 模型的功能,利用自己的专有数据来创建自己的私有模型,并且可以通过 Amazon Bedrock 的自助服务使用微调功能。

在顶层,亚马逊云科技为客户提供了生成式 AI 应用程序和服务,比如功能强大的 AI 编程助手 Amazon CodeWhisperer,它可以直接在代码编辑器中生成代码编写建议,从而提高开发人员编写代码的效率。

至此,我们已经可以看到的是亚马逊云科技在 AI 方面的长远布局,也为后面的发展奠定了良好的基础。

Amazon Q

在 Amazon CodeWhisperer 推出之后,就对于 Amazon CodeWhisperer 的一些功能提出了期待,果然不出意料,在2023亚马逊云科技re:Invent大会推出在全新的 AI 生成式助手—Amazon Q

Amazon Q 可以帮助您使用公司信息存储库、代码和企业系统中的数据和专业知识,快速获得紧迫问题的相关答案、解决问题、生成内容并采取行动。 当您与 Amazon Q 聊天时,它会提供即时的相关信息和建议,以帮助简化任务、加快决策速度并帮助激发工作中的创造力和创新。

image.png

有问题必定有答案,Amazon Q:一款基于生成式人工智能(AI)的新型助手,专为辅助工作而设计,可以针对客户的业务量身定制,可为开发人员和 IT 专业人员提供支持,可在亚马逊云科技的多个领域提供,无论您在哪里工作,都可以快速访问答案和创意

提供多种功能和使用场景

image.png

借助 Amazon Q,AI 专家将随时待命,回答问题、更快地编写代码、排查问题、优化工作负载,甚至可以帮助您编写新功能。这些功能简化了在亚马逊云科技上构建应用程序的所有阶段的工作。

如果需要额外的帮助,Amazon Q 还支持您直接从 Q 界面与 AmazonS Support 座席进行互动,从而消除客户自助服务体验中的任何难题。与 Amazon Support 的集成在控制台中提供,并提供 Amazon Support 套餐中包含的权益。

视频演示

点击下方链接,观看视频演示:

亚马逊云科技re:Invent 2023产品体验:亚马逊云科技产品应用实践 王炸产品Amazon Q,你的AI助手_哔哩哔哩_bilibili

亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

实践复现

在官方博文中,有给出很多使用方法,比如对话式问答、故障排除、代码转换升级应用程序等等,都是极为实用的功能,那么就带着这些答案来复现官方的案例吧

对话式问答

想必大家都用过很多的生成式 AI 助手,例如 OpenAI 的 ChatGPT、Google 的 Bard、阿里的通义千问、百度的文心一言等等,这种都是对话式的问答,那么大家有没有用过在一家云平台上面的AI助手?直接在控制台上,就立马可以和 AI 对话,那么亚马逊云科技的 Amazon Q(预览版)是你绝对不能错过的一款 AI 助手,其具备亚马逊云科技专业知识,能够让你在迷茫的时候,得到快速、正确的帮助。

image.png

入门级问答:

基础知识简单问答:

Q:Hi,I want create a linux system instance to host my website,I should choose ec2 or lightsail?
A:Here are the key factors to consider when choosing between Amazon EC2 and Lightsail for hosting your website:

- Lightsail is easier to use and manage if you have a simpler workload like a basic website or app. It provides pre-configured options that can be set up with just a few clicks. 

- EC2 gives you more flexibility and control over your server configuration but requires more devops knowledge. You have to manage components like networking and security groups yourself.

- Lightsail instances have fixed configurations while EC2 allows you to choose the exact compute, memory, storage and networking capabilities you need.

- The Lightsail interface provides an all-in-one dashboard for managing your resources while EC2 requires using different AWS console pages for different tasks.

- Basic Lightsail plans have all the necessary components included in a monthly flat fee. With EC2 you pay separately for individual resources like instances, storage, networking etc.

For a simple website that doesn't have demanding technical requirements, Lightsail would be easier to get started with. But for more complex or resource-intensive workloads, EC2 gives you more power and customization options at the cost of requiring more devops expertise.
Sources
[1] [What are the differences between Amazon EC2 and Amazon Lightsail?] (https://repost.aws/knowledge-center/lightsail-differences-from-ec2)
复制代码

image.png

专业知识问答
Q:If routes are advertised outside of AWS network, will this ASN be
pre-pend to the AS-path attribute of a route? If routes are advertised inside
AWS network, will this ASN be pre-pend to the AS-path attribute of a route?

A:
If routes are advertised outside of the AWS network, the ASN associated with the AWS Direct Connect connection or AWS Transit Gateway will not be prepended to the AS-path attribute of the route. This is because AWS does not actually handle routing or see the traffic in this case. 

If routes are advertised within the AWS network (e.g. between a VPC and a Direct Connect gateway or Transit Gateway), the ASN will not be prepended to the AS-path either. AWS uses other mechanisms like local preference to determine the best path within AWS without modifying the AS-path. 

The AS-path is generally not modified by AWS, but customers can influence route selection and traffic flow within AWS by configuring:

1. Local preference BGP communities 
2. Advertising routes with different AS-path lengths
3. Configuring the AS-path attribute for interfaces in the same region

For more details on routing and BGP configurations within AWS, please refer to the AWS documentation pages on Direct Connect, Transit Gateway and VPC routing. The documentation provides the most accurate and up-to-date information.
Sources
[1] [Using AS-Path attribute to influence routing over multiple regions] (https://repost.aws/questions/QUPLkeHS0oT5qkHJv0d_9owA/using-as-path-attribute-to-influence-routing-over-multiple-regions)
[2] [AWS Transit Gateway ASN visibility ] (https://repost.aws/questions/QUbFjl8tPNS7uwBFMtQGdJFw/aws-transit-gateway-asn-visibility)
[3] [How Amazon Route 53 uses EDNS0 to estimate the location of a user - Amazon Route 53] (https://docs.aws.amazon.com/Route53/latest/DeveloperGuide/routing-policy-edns0.html)
复制代码

image.png

EC2 实例选型优化

作者也体验了这个功能(注意要使用英文界面),从新手的视野来看,那么这个确实还蛮不错的,毕竟亚马逊云科技的 EC2 实例族太多了,用最优的实例,才会从性价比上得到优势。

那么就在此处用默认的一个选项 WebHost 来看看 Amazon Q 的一个建议

image.png

image.png

比如说,咱们要考虑一个性价比,那么就是 “Price/Performance”

image.png

可以看到的是,推荐的几乎都是新的机型,比如 M7、C7、T4g,正好也践行了亚马逊云科技推荐用户使用更新的服务的一个原则

故障排除

这块其实可以有几个案例,

  • 比如我们给定一个用户/角色,限制的权限,让它去执行已经被限制的操作
  • 官方示例,EC2 服务器连不上的故障

因为时间比较紧,还是仅做 EC2 网络故障的难题,同时也加一点难度

EC2 网络排障

预置一台 EC2 实例,该实例对应的安全组和路由表都有问题,看看 Amazon Q 能不能分析出来

image.png

image.png

image.png

image.png

提示安全组修复:那么我们就去将安全组修改为正常状态,再问 Amazon Q

image.png

image.png

重问一遍,似乎只是建议我们去检查安全组,这边故意设置障碍“破坏了路由”,好像没有识别到

IDE 集成对话

不知道啥时候 Amazon Q 就已经在我的 VSCode 中了,看官方的示例是我安装了 Amazon Toolkit,所以 Amazon Q 就自然而然地出现在了我的 vSCode 左侧的功能栏中了

image.png

要使用 Amazon Q,须登录 Amazon Builder,才可在 IDE 中使用 Amazon Q,同时,还可以描述咱们在 VScode 中编写的代码,讲述咱们的代码是干什么用的,对于最近兴起的“防御性代码”和"祖传屎山代码",我觉得是有不错的体验的,不在那么繁杂的去理解分析代码了

image.png

总结

总体体验下来,Amaon Q 的表现中规中矩,对于亚马逊云科技的专业知识,确实是的十分熟悉

  • 触手可及,集成在平台、IDE 中十分便捷
  • 专业性强,对于亚马逊云科技的专业知识回答的很精准
  • 代码好助手,结合 Amazon CodeWhisperer,在编写代码的时候应该有奇效

期待改进之处

  • 网络故障排除应该更深层次,而非安全组的表象,网络本身就是一个很复杂的东西
  • 期待能够推出多语言版本,毕竟开发者的语言水平参差不齐

文章来源:
https://dev.amazoncloud.cn/column/article/658a2b5d79476548e3e1f91b?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=CSDN

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1337700.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Python 实现Excel和CSV之间的相互转换

通过使用Python编程语言,编写脚本来自动化Excel和CSV之间的转换过程,可以批量处理大量文件,定期更新数据,并集成转换过程到自动化工作流程中。本文将介绍如何使用第三方库Spire.XLS for Python 实现: 使用Python将Exc…

ServletConfig对象.

是什么 ServletConfig是javax.servlet.包下的一个接口,ServletConfig它是Servlet的一个配置对象; ServletConfig是由tomcat容器创建,通过init方法传入给Servlet; ServletConfig对象如何获取? 在GenericServlet里面定义了&#x…

根据DCT特征训练CNN

记录一次改代码的挣扎经历: 看了几篇关于DCT频域的深度模型文献,尤其是21年FcaNet:基于DCT 的attention model,咱就是说想试试将我模型的输入改为分组的DCT系数,然后就开始下面的波折了。 第一次尝试&#xf…

【SpringCloud】-OpenFeign实战及源码解析、与Ribbon结合

一、背景介绍 二、正文 OpenFeign是什么? OpenFeign(简称Feign)是一个声明式的Web服务客户端,用于简化服务之间的HTTP通信。与Nacos和Ribbon等组件协同,以支持在微服务体系结构中方便地进行服务间的通信&#xff1b…

互联科技:全域托管云赋能百行百业的数字化转型

在这个数字经济时代,云计算技术为企业提供了更加高效的业务管理机会,百行百业加速上云。对比几种云网方案,目前公有云方案存在可控性低、数据暴露风险、个性化需求难以满足、服务受限等问题;私有云方案存在建设成本高、建设周期长…

TCP服务器的演变过程:IO多路复用机制select实现TCP服务器

IO多路复用机制select实现TCP服务器 一、前言二、新增使用API函数2.1、select()函数2.2、FD_*系列函数 三、实现步骤四、完整代码五、TCP客户端5.1、自己实现一个TCP客户端5.2、Windows下可以使用NetAssist的网络助手工具 小结 一、前言 手把手教你从0开始编写TCP服务器程序&a…

文献研读|Prompt窃取与保护综述

本文介绍与「Prompt窃取与保护」相关的几篇工作。 目录 1. Prompt Stealing Attacks Against Text-to-Image Generation Models(PromptStealer)2. Hard Prompts Made Easy: Gradient-Based Discrete Optimization for Prompt Tuning and Discovery&#…

Linux - 记录问题:怎么通过安装包的方式安装gRPC

适用场景 当docker 构建环境不能链接到github 的时候,就可以使用本地构建的方式 完成对应服务的构建需求。 参考案例 使用本地安装包的方式安装 gRPC 注意: 在Docker构建过程中,某些软件包可能会尝试配置时区,这通常需要交互式…

性能优化,让用户体验更加完美(渲染层面)

前言 上一篇我们已经围绕“网络层面”探索页面性能优化的方案,接下来本篇围绕“浏览器渲染层面”继续开展探索。正文开始前,我们思考如下问题: 浏览器渲染页面会经过哪几个关键环节?“渲染层面”的优化从哪几方面着手&#xff1f…

智能三维数据虚拟现实电子沙盘

一、概述 易图讯科技(www.3dgis.top)以大数据、云计算、虚拟现实、物联网、AI等先进技术为支撑,支持高清卫星影像、DEM高程数据、矢量数据、无人机倾斜摄像、BIM模型、点云、城市白模、等高线、标高点等数据融合和切换,智能三维数…

Git基础学习_p1

文章目录 一、前言二、Git手册学习2.1 Git介绍&前置知识2.2 Git教程2.2.1 导入新项目2.2.2 做更改2.2.3 Git追踪内容而非文件2.2.4 查看项目历史2.2.5 管理分支🔺2.2.6 用Git来协同工作2.2.7 查看历史 三、结尾 一、前言 Git相信大部分从事软件工作的人都听说过…

SadTalker数字人增加视频输出mp4质量精度

最近在用数字人简易方案,看到了sadtalker虽然效果差,但是可以作为一个快速方案,没有安装sd的版本,随便找了个一键安装包 设置如上 使用倒是非常简单,但是出现一个问题,就是输出的mp4都出马赛克了 界面上却…

001、安装 Rust

目录 1. 安装 Rust 2. 安装编译器 Visual Studio Code 3. 更新、卸载、文档命令 4. 结语 1. 安装 Rust 安装 Rust 非常简单,首先进入 Rust官网 ,然后点击右上角的 Install 。 进入 Install 界面, 它会自动识别你当前的操作系统并给你推荐…

自带AI算法的热红外相机

Tofu AIIR 是识别跟踪与热红外成像一体化的模组,支持热红外视频下的多类型物体检测、识别、跟踪等功能。 产品支持视频编码、设备管理、目标检测、深度学习识别、跟踪等功能,提供多机版与触控版管理软件,为二次开发提供了丰富的SDK接口和开源…

Xshell——Windows将本地文件上传到Linux服务器

1、scp命令 scp是基于ssh的网络文件传输命令,可以将本地文件或文件夹直接上传到服务器指定位置。命令格式: 上传文件 scp -P port filepath usernameip:TargetPath 上传文件夹 scp -r -P port filepath usernameip:TargetPath -P port:用于指…

Spark的生态系统概览:Spark SQL、Spark Streaming

Apache Spark是一个强大的分布式计算框架,用于大规模数据处理。Spark的生态系统包括多个组件,其中两个重要的组件是Spark SQL和Spark Streaming。本文将深入探讨这两个组件,了解它们的功能、用途以及如何在Spark生态系统中使用它们。 Spark …

Redis连接报错-Could not connect to Redis at 127.0.0.1:6379: Connection refused

进入Redis所在路径,命令行输入redis-cli报错:Could not connect to Redis at 127.0.0.1:6379: Connection refused 解决方法: redis-server redis.conf 连接成功:

装饰模式(单一责任)

Decorator(装饰模式:单一责任模式) 链接:装饰模式实例代码 解析 目的 在某些情况下我们可能会“过度地使用继承来扩展对象的功能”,由于继承为类型引入的静态特质,使得这种扩展方式缺乏灵活性&#xff…

H5调用企业微信扫一扫接口

一、依赖引入 <script src"http://res.wx.qq.com/open/js/jweixin-1.2.0.js"></script><!-- <script src"https://res.wx.qq.com/wwopen/js/jsapi/jweixin-1.0.0.js"></script> --><script src"https://open.work.…

ASP.NET MVC的5种AuthorizationFilter

一、IAuthorizationFilter 所有的AuthorizationFilter实现了接口IAuthorizationFilter。如下面的代码片断所示&#xff0c;IAuthorizationFilter定义了一个OnAuthorization方法用于实现授权的操作。作为该方法的参数filterContext是一个表示授权上下文的AuthorizationContext对…