低代码自动翻页采集山姆商品数据

news2024/11/15 19:41:27

1 前言

山姆超市以会员经营为主,会员需要向商家购买会员卡才可以获得购物权,享受更多的优惠和折扣,这种模式实际上是通过高质量的商品和服务吸引顾客忠诚度,建立"忠诚顾客"的经营模式。山姆超市的商品销售以大批次和整箱销售为主,这种销售方式可降低物流和库存成本,让顾客享受到更低的商品价格。

山姆超市的商品种类非常多,包括生鲜、烘焙、零食、熟食和日用品等,比如生鲜有樱桃番茄、草莓提子等水果,烘焙有瑞士卷蛋糕、菠萝包等,零食有青柠汁、麻辣牛肉等,熟食有烤鸡、披萨等,日用品有牙膏、毛巾等。每个类别都有很多可选商品,能满足不同人群的消费需求。

山姆官网已经不提供商品显示功能,只能通过京东山姆会员商店的页面查看和购买商品。

2 采集方法

京东上山姆商品页面如下图

A区:为商品分类,每个分类对应有相应商品列表。

B区:为商品列表,显示每个分类的商品数据。

根据页面内容组织情况,采集需要分两个步骤:

1、采集商品分类,同时采集分类对应页面URL。

2、采集分类页面里商品数据,自动翻页采集,直到所有商品采集完成。

本文使用小O网兜软件进行自动化采集。

下载软件登录官网 www.gis9.com ,首页往下滚动,下载【小O网兜】。

软件无需安装,下载后直接运行,可能会被防火墙或者软件管家之类的软件拦截,请将软件添加到信任列表里。

软件启动后进入主界面如图,请注册登录后使用软件。

3 操作步骤

根据用户需求,网兜已经配置好对应的模板,用户进入软件,直接下载山姆模板任务,进行简单重置操作即可执行采集任务。

该模板分为两个子步骤:

1、采集商品分类:采集分类数据,以及分类页面的URL

2、采集商品信息:按上一步,循环打开分类页面,并自动翻页采集商品数据。

具体步骤如下:

新建任务

打开任务模板,下图,点击模板后软件自动下载任务文件,并打开。

如模板中没有所需任务,可点击【客服】,将需求网址发给后台客服,客服将按需求配置并上线新模板。

重置任务

由于山姆商品页面内容定期更新,因此商品分类和商品数据也会变化,每次执行前,需要执行重置,将商品类别记录清空,然后先执行采集商品类别,之后再循环执行商品采集。

打开【数据表】,将商品分类表数据清空,如下。

读取商品分类

接下来,执行第一个步骤,读取商品分类,分类数据只需读取一次即可,无需循环。

如下图,执行【打开页面】,如遇提示,点击【是】即可,右侧浏览器打开目标页面。

再执行【读取数据】,读取页面中分类数据至表格中。

执行完毕后,打开【数据表】窗口,查看分类数据,包括类别URL和类别名称。其中URL为读取商品时循环打开页面使用。

读取商品数据

读取商品数据,根据上一步采集的数据,依次打开商品分类URL页面,自动翻页读取商品数据。

先执行【重置】如下图

然后,循环执行打开页面,程序会自动依次执行步骤,读取数据

当执行完成一次【3 读取数据】后,可以打开【数据表】查看采集商品信息,包含页面中显示的商品信息。

如下图,显示商品列表数据,以及读取商品记录的数量。

执行过程无需人工干预,自动翻页,自动打开商品分类的URL页面,直到所有分类页面都打开并执行完毕。

数据排重

采集完毕数据,可能会出现数据重复的情况,可以在数据表格窗口中选择【】,对数据进行排重处理。

同时也提供导出数据功能,将采集数据导出为CSV格式,可在EXCEL、WPS等表格软件中进行查看和处理。

异常情况

京东页面登陆

执行时可能会遇到页面提示登陆,可以先登陆京东账号,然后再执行采集。登陆过程均在页面中完成,程序不会采集任何账号信息。

分类页面找不到

参考上文读取商品分类步骤。

异常任务停止

执行过程如遇特殊情况,导致任务中断(图标圆点变红色),可在该步骤上点击右键,点击循环执行即可。

任务执行过程支持断点执行,即可在中断处继续往下执行。

4 小结

本文演示使用小O网兜软件采集京东山姆超市商品信息,可以为研究机构和商超提供数据源,执行商品数据分析和可视化操作。

小O网兜提供网页信息采集功能,除了提供任务模板方式采集,也可以自行配置任务,采集其他页面的信息,并对数据进行排重和导出等操作。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1078795.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

401-视频与网络应用篇-网络分层和常见网络协议

常使用的网络有广域网(WAN)、城域网、局域网(LAN),一般我们遇到的场景是广域网和局域网,广域网就是常说的外网,而局域网一般用于学校、公司等场合。在家庭路由器中对应WAN口和LAN口。网络是极为…

学生宿舍智能电表改造解决方案

随着科技的发展和人们对环保意识的提高,节能减排已经成为当今社会的重要议题。学生宿舍作为学生生活、学习的重要场所,其能源消耗问题日益受到关注。为了提高学生宿舍的能源利用效率,降低能源消耗,智能电表改造成为了一种有效的解…

3、字符设备驱动框架和开发步骤

一、Linux内核对文件的分类 Linux的文件种类 1、-:普通文件2、d:目录文件3、p:管道文件4、s:本地socket文件5、l:链接文件6、c:字符设备7、b:块设备 Linux内核按驱动程序实现模型框架的不同&…

深图SONTU医用X射线高压发生器维修SONTU-HFG50

X射线高压发生器的高压开不起来常见故障分析: 这是X射线荧光光谱仪较常见的故障,一般发生在开机时,偶尔也发生在仪器运行中。故障的产生原因可以从三个方面去分析:1、X射线防护系统;2、内部水冷系统;3、高压发生器及X射线光管。 …

离散傅里叶变换(DFT)的推导及C语言实现

1、傅里叶变换(FT) 傅里叶变换(连续时间傅里叶变换)是该部分内容的理论基础,回顾一下: 傅里叶变换: 傅里叶逆变换: 以上是连续时间傅里叶变换,但计算机只能处理离散的数…

practical on mifare

抽象的。 mifare Classic 是市场上使用最广泛的非接触式智能卡。 其设计和实施细节由制造商保密。 本文研究了该卡的体系结构以及卡与读卡器之间的通信协议。 然后,它提供了一种实用的、低成本的攻击,可以从卡的内存中恢复秘密信息。 由于伪随机生成器的…

计算32位二进制整数中1的个数(包括负数补码)

引言: 在计算机科学和编程中,位操作是一项重要的技能。一个常见的任务是计算一个32位二进制整数中1的个数,包括负数的补码表示。这个问题有多种解决方法,本博客将介绍一种高效的解决方案,同时提供详细的代码案例。 背…

“优化STM32单片机处理大量网络数据的方法“

"优化STM32单片机处理大量网络数据的方法" 在处理大量网络数据时,对STM32单片机的裸机程序,可采用以下处理方法:1.使用DMA实现直接内存访问,减轻CPU负担。2.优化缓冲区管理,使用循环缓冲区或多缓冲区。3.利…

智能垃圾桶在线监测方案

提高垃圾收集率、减少乱丢垃圾是我们共同努力的目标,在人口稠密的城市,垃圾是必要的服务,在许多城市,垃圾车是空的,垃圾随处可见沿线,但它不是有效的方法,因为有很多空间可以很多垃圾离开的路上…

Java Agent之ByteBuddy

1:前言 在上一篇文章介绍 Java Agent 技术时,结合 Byte Buddy 技术实现了统计方法执行时间的功能。本次分享深入介绍 Byte Buddy 的一些基础知识,SkyWalking Agent 强大的地方就是重度使用该工具实现探针数据动态生成代码填充参数的。 2&am…

基于springboot实现在线动漫信息交流分享平台项目【项目源码+论文说明】

基于springboot实现在线动漫信息交流分享平台演示 摘要 随着社会互联网技术的快速发展,每个行业都在努力与现代先进技术接轨,通过科技手段提高自身的优势;对于在线动漫信息平台当然也不能排除在外,随着网络技术的不断成熟&#xf…

公司文件防泄密软件——「天锐绿盾」@德人合科技

天锐绿盾是一款企业级数据安全解决方案,主要用于保护企业的知识产权、客户资料、财务数据、技术图纸、应用系统等机密信息化数据不外泄。 PC访问地址: 🔗isite.baidu.com/site/wjz012xr/2eae091d-1b97-4276-90bc-6757c5dfedee 该软件解决方案…

Three.js如何计算3DObject的2D包围框?

推荐:用 NSDT编辑器 快速搭建可编程3D场景 在Three.js应用开发中,有时你可能需要为3D场景中的网格绘制2D的包围框,应该怎么做? 朴素的想法是把网格的3D包围框投影到屏幕空间,例如,下图中的绿色框 3D包围框…

Linux 部署1Panel 现代化运维管理面板进行公网远程访问

🎬 鸽芷咕:个人主页 🔥 个人专栏:《速学数据结构》 《C语言进阶篇》 ⛺️生活的理想,就是为了理想的生活! 文章目录 前言1. Linux 安装1Panel2. 安装cpolar内网穿透2.1 使用一键脚本安装命令 2.2向系统添加服务2.3 启动cpolar服务…

【名城优企游学】国轩高科,用数字化带来强劲发展动力

成立于2006 年5月,系中国动力电池产业最早进入资本市场的民族企业;2015年5月上市,股票代码SZ.002074,拥有新能源汽车动力锂电池、储能、输配电设备等业务板块,建有独立成熟的研发、采购、生产、销售体系。 它就是新能…

五分钟了解一下什么是「贪心算法 」‼️‼️‼️

五分钟了解一下什么是「贪心算法 」‼️‼️‼️ 1 概念 贪心的意思在于在作出选择时,每次都要选择对自身最为有利的结果,保证自身利益的最大化。贪心算法就是利用这种贪心思想而得出一种算法。 贪心算法作为五大算法之一,在数据结构中的应…

如何进行lidar和imu的外参标定

我们使用的lidar_align这个算法来进行标定。 1.下载源码 在ros工作空间下的src文件夹下运行这个命令。 git clone https://github.com/ethz-asl/lidar_align.gitsudo apt-get install libnlopt-devcd ..catkin_make 这里编译的时候会爆一些错误。我遇到的是: 这…

渗透测试成功的8个关键

渗透测试 (penetration test)并没有一个标准的定义,国外一些安全组织达成共识的通用说法是:渗透测试是通过模拟恶意黑客的攻击方法,来评估计算机网络系统安全的一种评估方法。这个过程包括对系统的任何弱点、技术缺陷或漏洞的主动分析&#x…

考试中心|学习资料|学习情况|纯净无广|在线组卷刷题

土著刷题Plus专业版v1.2版本已全面对其个人版功能,完全满足学员培训/刷题考察全套流程,提供完整的服务流程。接下来将主要介绍一下这一版的新功能 考试中心 满足培训机构/刷题组织者考察刷题用户的管理需求,【围绕考试展开】,提供…

SQLite数据库使用时碰到的问题

背景 1、最近使用sqlite数据库,因为轻量,所以,不需要特别的部署服务器环境。 开发的平台使用的是Qt 碰到的问题 1、我在向数据库中插入字段的时候,少写了一个字段的内容,报这个错误 QSqlError("", "…