今日主题
如何用Python解析vip电影。
什么是vip电影？
这些vip电影啊，想要观看的话，必须充值会员，否则没法看。
比如这个：
这些vip电影解析后呢？
不需要会员，不需要登录，可以直接观看。
比如，正确解析后如下：
话不多说，我们直接开整！
准备工作
- 环境使用
Python 3.10 （不一定3.10，只要不是Python2就行）
Pycharm
- 模块使用
requests >>> pip install requests
为了让大家更好的学会这个案例，已经把源码打包好了，方便大家使用，给你们直接做成exe了
仅限于学习使用，请勿商用哈
由于篇幅限制，无法展示完整代码，我直接将代码打包上传，安全无毒，100%免费，可在下方获取！
案例实现的基本流程
一、数据来源分析
1.明确需求
明确采集的网站以及数据内容
- 网址：几大播放器懂的都懂
- 数据: 视频内容 (链接)
2.抓包分析
通过浏览器开发者工具分析对应数据位置
pc端: 网页浏览器自带开发者工具抓包分析
app: 利用第三方抓包工具去分析数据位置
- 打开开发者工具
- F12 / 右键点击检查选择network(网络)
- 刷新网页
- 让本网页的数据内容重新加载一遍
- 通过关键字搜索找到对应数据位置
- 通过链接中一段进行搜索
- 关键字: 需要什么数据就搜什么数据
项目对于视频网站数据采集
开发者工具 -> 网络 -> 媒体文件 -> 对应视频链接
数据包地址: https://www.kuaishou.com/graphql
二、代码实现步骤
1.发送请求
模拟浏览器对于url地址发送请求
模拟浏览器
一种简单反反爬手段: 相关参数内容可以复制
-开发者工具 -> 网络 -> 点击对应数据包 -> 标头 -> 请求标头
代码格式: 字典形式
-需要构建完整的键值对
字典形式:
dit = {'key': 'value', 'key1': 'value1'}
-key键
-value值
'key': 'value' 键值对 请求网址
刚刚通过抓包分析找到链接地址
发送请求
- 一般情况: 使用第三方模块 requests
- 请求方法: 在对应数据包中 -> 标头 -> 常规 -> 请求方法
- POST
- 请求参数:
- POST请求: 需要传递表单数据 (载荷中查看)
2.获取数据
- 获取服务器返回响应数据
- response.text
获取响应文本数据 -> 字符串
一般情况在获取网页源代码的时候
response.json()
获取响应json数据 -> 字典
必须是完整的json数据格式
response.content
获取响应二进制数据 -> 二进制
一般用于获取图片/视频/音频/特定格式文件… 数据内容的时候
采集视频: 视频地址
对于视频地址发送请求 -> 获取二进制数据进行相关数据保存
3.解析数据
提取我们需要的数据内容字典取值
一般获取json数据, 可能存在多层嵌套
dit = {'key': 'value', 'key1': 'value1'}
json = {'A': '1', 'B': {'B1': '2', 'B3': '3'}}
键值对取值: 根据冒号左边的内容[键], 提取冒号右边的内容[值]
一层一层提取
比如提取数字3: json['B']['B3'] -> '3'
4.保存数据
获取视频内容, 进行本地保存
相对路径: 相当于代码所在文件路径 -> video 代码文件目录video文件夹
绝对路径: c盘->文件夹->那个文件路径
三、代码展示
# 导入数据请求模块
import requests
# 导入文件操作模块
import os
# 定义文件夹名字
file = 'video'
# 判断文件夹是否存在
if not os.path.exists(file):
# 创建文件夹
os.mkdir(file)
"""发送请求"""
# 模拟浏览器
headers = {
# User-Agent 用户代理, 表示浏览器基本上身份信息
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36'
}
for page in range(28):
try:
# 请求网址
url = 'https://www.kuaishou.com/graphql'
# 请求参数
data = {"operationName":"visionTubeEpisodeQuery","variables":{"tubeId":"5x4jwip27r8g6wg","episodeNumber":page,"page":"theater","channelId":0},"query":"fragment photoContent on PhotoEntity {\n __typename\n id\n duration\n caption\n originCaption\n likeCount\n viewCount\n commentCount\n realLikeCount\n coverUrl\n photoUrl\n photoH265Url\n manifest\n manifestH265\n videoResource\n coverUrls {\n url\n __typename\n }\n timestamp\n expTag\n animatedCoverUrl\n distance\n videoRatio\n liked\n stereoType\n profileUserTopPhoto\n musicBlocked\n riskTagContent\n riskTagUrl\n}\n\nfragment recoPhotoFragment on recoPhotoEntity {\n __typename\n id\n duration\n caption\n originCaption\n likeCount\n viewCount\n commentCount\n realLikeCount\n coverUrl\n photoUrl\n photoH265Url\n manifest\n manifestH265\n videoResource\n coverUrls {\n url\n __typename\n }\n timestamp\n expTag\n animatedCoverUrl\n distance\n videoRatio\n liked\n stereoType\n profileUserTopPhoto\n musicBlocked\n riskTagContent\n riskTagUrl\n}\n\nfragment feedContent on Feed {\n type\n author {\n id\n name\n headerUrl\n following\n headerUrls {\n url\n __typename\n }\n __typename\n }\n photo {\n ...photoContent\n ...recoPhotoFragment\n __typename\n }\n canAddComment\n llsid\n status\n currentPcursor\n tags {\n type\n name\n __typename\n }\n __typename\n}\n\nquery visionTubeEpisodeQuery($tubeId: String, $episodeNumber: Int, $page: String, $channelId: Int, $webPageArea: String) {\n visionTubeEpisode(tubeId: $tubeId, episodeNumber: $episodeNumber, page: $page, channelId: $channelId, webPageArea: $webPageArea) {\n ...feedContent\n result\n status\n __typename\n }\n}\n"}
# 发送请求
response = requests.post(url=url, json=data, headers=headers)
"""获取数据"""
# 获取响应的json数据
json_data = response.json()
"""解析数据"""
# 提取视频链接
video_url = json_data['data']['visionTubeEpisode']['photo']['photoUrl']
# 提取短剧名
title = json_data['data']['visionTubeEpisode']['tags'][2]['name']
print(title)
print(video_url)
"""保存数据"""
# 获取视频内容
video_content = requests.get(url=video_url, headers=headers).content
# 数据保存 w写入数据覆盖 b二进制 wb二进制保存 ()
with open('video\\' + title + str(page) + '.mp4', mode='wb') as f:
# 写入数据
f.write(video_content)
except:
pass由于篇幅限制，无法展示完整代码，我直接将代码打包上传，安全无毒，100%免费，可在下方获取！
