2025-04-DATA-ONE-Tasks-目标与计划


目标

  • aktools + mongodb + ariflow + DAGS-files -》 自动下载A股行情数据
  • 增加读取A股行情数据的自定义A PI 接口
  • 修改 ONE 的前后端适配 自定义API 接口

2025-04-21-27 DATA 平台

  • 并发更新写入所有股票的数据

2025-04-24

从mongodb http://192.168.3.3:8081/db/src_db/ak_stock_info 数据为src_db 集合为ak_stock_info 取出所有 code 进行去重,返回列表 , 并把这些codes 放入redis 的消息队列中,消息队列的地址为 192.168.3.3:6379

2025-04-14-20 DATA 平台

  • 更新接口
  • 检查接口
  • 查询接口
  • 统计接口

2025-04-19 DATA 平台

  • 加一个判断,15:00 之前,不存今天的取到的值,
  • 历史表中数据怎么保证唯一性,不存在多个重复的值
  • 怎么处理多个数据源中存在数据不一致这种情况

  • 如何保证历史数据都存在?

  • 是否是第一次 , 第一次 全量, 第二次增量

  • 检查数据完整性,正确性
  • 检查今天的数据是否已更新

功能 写一个接口 update 股票行情数据, 1. 默认数据跨度为一年 2. 判断数据库中是否已经有数据 如没有,获取过去一年的数据并存入数据库中, 如果有就取距离今天到数据库中已有最新的这段数据 存入数据库中 3. 判断距离今天还差几天在数据库中没有 4. 根据交易日历进行判断-排除非交易日 5. 生成查询的开始与结束日期, 调用采集写入的函数

2024-04-07-13 DATA 平台

20240408 sensor + scheduler + db

  • 按照DBeaver
  • 搭建airflow
  • 搭建 aktools
  • 调试download 的存储代码
  • 联调 整体自动化的运行

2024-04-01--06 DATA 平台

20240405 sensor + scheduler + db

  • 搭建airflow
  • 搭建 aktools
  • 调试download 的存储代码
  • 联调 整体自动化的运行