# 最近又到期末了,有需要的同学可以借鉴。
一、feapder爬虫
feapder是国产开发的新型爬虫框架,具有轻量且数据库操作方便、异常提醒等优秀特性。本次设计看来利用feapder进行爬虫操作,可以加快爬虫的速率,并且简化数据入库等操作。对新手朋友十分友好。爬取的天气平台提供有天气、风向和空气质量等数据。提供自定义的中间件来添加请求头,确保请求能被正确响应。效果如下。
二、flask框架搭建
利用python的flask进行后端搭建,前端则是采用html+js+css的架构。flask具有轻量级且搭建方便等特性,对于快速搭建的网站十分友好。而前端界面则是参考修改了gitee上的优秀前端开源项目(BigDataView: 100+套大数据可视化炫酷大屏Html5模板;包含行业:社区、物业、政务、交通、金融银行等,全网最新、最多,最全、最酷、最炫大数据可视化模板。陆续更新中)大家有兴趣可以自行学习与参考。
三、echarts图表构建
在开源项目的基础上对可视化图表部分进行了修改,利用echarts进行可视化展示。同时将数据展示部分改为了有post请求动态加载,实现前后端数据交互。效果如下。
四、数据加密亮点
为迎合数据加密趋势与自身专业特点,还在数据请求与响应环节中加入了数据数据加密处理,将请求数据与响应数据均转为密文进行传输,应对在实际应用中恶意爬虫与攻击行为。
如果有兴趣参考或提出建议,欢迎大家留言与私信喔!如果需要源码,也请私信喔!