项目简介
本项目是基于Python的开源系统,主要解决Tushare Pro接口使用时的频次限制问题。它可以把Tushare Pro金融数据接口的数据同步到本地数据库,支持全量同步和增量更新,涵盖沪深股票、指数、期货等多种金融数据接口。
项目的主要特性和功能
- 数据同步功能:从Tushare接口抓取多种金融数据并同步到本地数据库。
- 增量更新特性:每日更新后自动同步新增或变更数据到本地。
- 多数据库适配:支持ClickHouse、MySQL、Apache Doris等数据库存储数据。
- 数据抓取方式:利用Scrapy框架和Tushare API进行数据抓取。
- 数据处理流程:通过自定义管道完成数据清洗和存储。
- 报告通知机制:通过Feishu的Webhook发送数据更新报告。
- 参数自定义:用户可自定义数据库配置、积分、API请求频率等设置。
安装使用步骤
- 依赖安装:安装Python、Scrapy、Tushare等依赖库。
- 由于用户已下载本项目的源码文件,可跳过源码获取步骤。
- 参数配置:根据项目中的
settings.py
文件,配置数据库、Tushare API等参数。 - 爬虫运行:运行项目中的爬虫脚本,开始数据抓取和存储。
- 报告查看:使用Feishu Webhook接收数据更新报告。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】