Python数据分析与可视化期末项目报告

     项目名称：  考研推荐系统数据分析与可视化                                         

    学    号：                                           

    姓    名：                                            

专业班级：                                            

                  2023年12月

考研推荐系统—

• 项目概述

考研（研究生入学考试）是许多大学毕业生追求深造的一种途径。为了帮助考生更好地选择适合自己的研究生专业和院校，开发一个考研推荐系统可以为考生提供个性化的建议。该项目旨在通过数据分析和可视化技术，为考生提供基于数据的研究生专业和院校推荐。

通过数据分析和可视化，为考生提供具有个性化的研究生专业和院校推荐服务，帮助考生更好地选择适合自己的研究生方向。

该项目涉及数据处理、统计分析和可视化等技术，需要结合数据库管理、数据清洗、数据分析工具和可视化库进行开发实现。

• 大数据分析、挖掘与可视化开发环境

    本项目采用Python语言及第三方库进行大数据分析、挖掘，包括训练模型的构建、后端开发环境、使用的第三方库和模型评估等方面。

1. 软件开发环境：PyCharm、Navicat、MySQL

2.第三方库包

django==2.2.1
django-simpleui==2.1
djangorestframework==3.9.1
pandas
requests
Beautifulsoup4
pyecharts

• 数据采集

本项目爬虫由两个爬虫同时组成，并可以并行爬取数据。

其中一个爬虫用于采集研究生院校的基本信息，包括学校名称、地理位置、专业设置等。另一个爬虫用于采集历年考研数据，包括报考人数、录取人数、专业录取分数线等。爬虫可以通过网络请求和HTML解析的方式获取所需数据，并将数据保存到本地csv文件或数据库中。

四、数据准备（含数据清洗、补全、整合、转换等）

在数据准备阶段，对采集到的数据进行清洗、补全、整合和转换等处理操作，以确保数据的质量和一致性。这包括处理缺失值、异常值、重复值等，对数据进行格式转换和标准化，以及将不同来源的数据整合到一个统一的数据集中。项目中所爬取的最新考研录取人数存在未知，且爬取下来的字段为-字符串，故将其修改为0.

• 数据分析处理与训练模型的构建

在数据分析方面，我们分析了院校收藏Top10和院校评分Top10。统计了院校数量、双一流院校数量、自划线院校数量排名前十的省份。对专业报录比、学校报录比、学校报名前十做了统计分析。

在基于学校评分和收藏的模型构建阶段，我们将利用学生对不同学校的评分和收藏数据来构建推荐模型。这些评分和收藏数据可以反映学生对学校的偏好和兴趣。

• 模型评估

数据准备：

收集学生对不同学校的评分和收藏数据。

对数据进行清洗和预处理，处理缺失值、异常值等。

特征工程：

根据评分和收藏数据，提取相关的特征，如学校评分、收藏次数等。

进行特征选择和转换，以提取对模型训练有用的特征。

模型评估：

基于准备好的特征和数据集，使用自定义算法构建推荐模型。

将数据集分为训练集和测试集，并评估模型的性能和准确性。

根据评估结果，对模型进行调整和改进，以提高推荐准确性和用户满意度。

模型优化：

可以尝试不同的机器学习算法、模型参数和特征组合，以优化模型表现。

进行模型调优和参数调整，以提高推荐结果的准确性和个性化程度。

七、数据可视化

数据可视化是将数据分析结果以直观、易于理解的图表、图形等形式展示的过程。在这一阶段，可以使用数据可视化技术，如绘制柱状图、折线图、散点图等，来展示分析结果和模型预测的信息。通过交互式界面和图表，用户可以根据自身需求进行筛选和选择，从而更好地理解和利用数据分析结果。

本项目使用柱状图分析了院校收藏和评分前十，饼状图统计了院校总数量、双一流院校数量、自划线院校数量前十的省份。最好，通过柱状图分析了每个院校及专业报录比前十情况，可以得出哪些院校或者哪些专业竞争比较激烈。

核心算法代码分享如下：

import subprocess
import os

try:
    subprocess.run('python manage.py runserver', shell=True, check=True)
except subprocess.CalledProcessError as e:
    print(f"Error: {e}")