目标
- aktools + mongodb + ariflow + DAGS-files -》 自动下载A股行情数据
- 增加读取A股行情数据的自定义A PI 接口
- 修改 ONE 的前后端适配 自定义API 接口
2025-04-21-27 DATA 平台
- 并发更新写入所有股票的数据
2025-04-24
从mongodb http://192.168.3.3:8081/db/src_db/ak_stock_info 数据为src_db 集合为ak_stock_info 取出所有 code 进行去重,返回列表 , 并把这些codes 放入redis 的消息队列中,消息队列的地址为 192.168.3.3:6379
2025-04-14-20 DATA 平台
- 更新接口
- 检查接口
- 查询接口
- 统计接口
2025-04-19 DATA 平台
- 加一个判断,15:00 之前,不存今天的取到的值,
- 历史表中数据怎么保证唯一性,不存在多个重复的值
-
怎么处理多个数据源中存在数据不一致这种情况
-
如何保证历史数据都存在?
-
是否是第一次 , 第一次 全量, 第二次增量
- 检查数据完整性,正确性
- 检查今天的数据是否已更新
功能 写一个接口 update 股票行情数据, 1. 默认数据跨度为一年 2. 判断数据库中是否已经有数据 如没有,获取过去一年的数据并存入数据库中, 如果有就取距离今天到数据库中已有最新的这段数据 存入数据库中 3. 判断距离今天还差几天在数据库中没有 4. 根据交易日历进行判断-排除非交易日 5. 生成查询的开始与结束日期, 调用采集写入的函数
2024-04-07-13 DATA 平台
20240408 sensor + scheduler + db
- 按照DBeaver
- 搭建airflow
- 搭建 aktools
- 调试download 的存储代码
- 联调 整体自动化的运行
2024-04-01--06 DATA 平台
20240405 sensor + scheduler + db
- 搭建airflow
- 搭建 aktools
- 调试download 的存储代码
- 联调 整体自动化的运行