智能 BI 数据分析平台

news2024/10/6 18:22:56

智能BI平台

作者：猫十二懿

项目介绍

本项目是基于React+Spring Boot+RabbitMQ+AIGC的智能BI数据分析平台。

访问地址：http://bi.kongshier.top

AIGC ：Artificial Intelligence Generation Content(AI 生成内容)

区别于传统的BI，数据分析者只需要导入最原始的数据集，输入想要进行分析的目标，就能利用AI自动生成一个符合要求的图表以及分析结论。此外，还会有图表管理、异步生成、AI对话等功能。只需输入分析目标、原始数据和原始问题，利用AI就能一键生成可视化图表、分析结论和问题解答，大幅降低人工数据分析成本。

优势： 让不会数据分析的用户也可以通过输入目标快速完成数据分析，大幅节约人力成本，将会用到 AI 接口生成分析结果

项目架构图

基础架构

基础架构：客户端输入分析诉求和原始数据，向业务后端发送请求。业务后端利用AI服务处理客户端数据，保持到数据库，并生成图表。处理后的数据由业务后端发送给AI服务，AI服务生成结果并返回给后端，最终将结果返回给客户端展示。

优化项目架构-异步化处理

优化流程（异步化）：客户端输入分析诉求和原始数据，向业务后端发送请求。业务后端将请求事件放入消息队列，并为客户端生成取餐号，让要生成图表的客户端去排队，消息队列根据I服务负载情况，定期检查进度，如果AI服务还能处理更多的图表生成请求，就向任务处理模块发送消息。

任务处理模块调用AI服务处理客户端数据，AI
服务异步生成结果返回给后端并保存到数据库，当后端的AI工服务生成完毕后，可以通过向前端发送通知的方式，或者通过业务后端监控数据库中图表生成服务的状态，来确定生成结果是否可用。若生成结果可用，前端即可获取并处理相应的数据，最终将结果返回给客户端展示。在此期间，用户可以去做自己的事情。

项目技术栈和特点

后端

Spring Boot 2.7.2
Spring MVC
MyBatis + MyBatis Plus 数据访问（开启分页）
Spring Boot 调试工具和项目处理器
Spring AOP 切面编程
Spring Scheduler 定时任务
Spring 事务注解
Redis：Redisson限流控制
MyBatis-Plus 数据库访问结构
IDEA插件 MyBatisX ：根据数据库表自动生成
RabbitMQ：消息队列
AI SDK：鱼聪明AI接口开发
JDK 线程池及异步化
Swagger + Knife4j 项目文档
Easy Excel：表格数据处理、Hutool工具库、Apache Common Utils、Gson 解析库、Lombok 注解

前端

React 18
Umi 4 前端框架
Ant Design Pro 5.x 脚手架
Ant Design 组件库
OpenAPI 代码生成：自动生成后端调用代码（来自鱼聪明开发平台）
EChart 图表生成

数据存储

MySQL 数据库
阿里云 OSS 对象存储

项目特性

Spring Session Redis 分布式登录
全局请求响应拦截器（记录日志）
全局异常处理器
自定义错误码
封装通用响应类
Swagger + Knife4j 接口文档
自定义权限注解 + 全局校验
全局跨域处理
长整数丢失精度解决
多环境配置

项目功能

用户登录、注册、注销、更新、检索、权限管理、头像上传
图表创建、删除、查询、查看愿数据
AI对话创建、删除、查询
订单创建、删除、修改、支付、查询
沙箱支付创建、查询
使用次数修改、新增、充值

单元测试

JUnit5 单元测试、业务功能单元测试

项目功能

用户登录
智能分析（同步）。调用AI根据用户上传csv文件生成对应的 JSON 数据，并使用 ECharts图表将分析结果可视化展示
智能分析（异步）。使用了线程池异步生成图表，最后将线程池改造成使用 RabbitMQ消息队列保证消息的可靠性，实现消息重试机制
用户限流。本项目使用到令牌桶限流算法，使用Redisson实现简单且高效分布式限流，限制用户每秒只能调用一次数据分析接口，防止用户恶意占用系统资源
调用AI进行数据分析，并控制AI的输出
由于AIGC的输入 Token 限制，使用 Easy Excel 解析用户上传的 XLSX 表格数据文件并压缩为CSV，实测提高了20%的单次输入数据量、并节约了成本。
后端自定义 Prompt 预设模板并封装用户输入的数据和分析诉求，通过对接 AIGC 接口生成可视化图表 JSON 配置和分析结论，返回给前端渲染。