项目简介
本项目是基于Spring Boot和HBase构建的B站评论区用户分析系统。借助调用B站的API接口,系统可爬取B站up主的视频数据与视频评论区数据,并将其存储于HBase数据库。之后,利用Hive的Java编程接口对爬取的数据进行分析,最终将分析结果返回前端界面展示。
项目的主要特性和功能
- 数据爬取与存储:通过B站的API接口爬取up主的视频数据和视频评论区数据,并将数据存储到HBase数据库。
- 数据分析:在Hive中创建HBase表的外表,利用Hive的Java编程接口分析数据,分析结果涵盖活跃用户榜、新用户统计、回复最多的用户、观看视频最多的用户等。
- 前端展示:将分析结果返回前端界面,用户可通过界面查看不同维度的统计信息。
- 系统管理:提供系统用户管理功能,包含用户注册、更新、处理状态查看等。
安装使用步骤
1. 环境准备
- 安装Java开发环境(JDK 8或更高版本)。
- 安装Maven构建工具。
- 安装HBase数据库。
- 安装Hive数据仓库。
2. 项目复制与配置
- 复制项目到本地。
- 配置HBase和Hive的连接信息,编辑
application.properties
文件:properties hbase.zookeeper.quorum=your_zookeeper_quorum hive.url=jdbc:hive2://your_hive_server:10000/default
3. 项目构建与运行
- 使用Maven构建项目:
bash mvn clean install
- 运行项目:
bash java -jar target/yourproject.jar
4. 前端部署
- 将前端Vue项目打包好的页面放在Spring Boot项目的
resources
文件夹下。 - 将Spring Boot项目打包后部署到服务器上,使用jar命令直接运行。
5. 访问系统
- 打开浏览器,访问
http://yourserver:port
,进入系统入口页。 - 在输入框中输入要统计的B站ID,点击“I’m sure”跳转到分析界面,查看统计结果。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】