数据与许可

August 22, 2026 · View on GitHub

规范 A 股发布版包含五年全市场日线与 5 分钟线,以及公告、政策新闻、基本面、估值、分红和沪深 300 基准。

完整性

traderharness data download --full 会按发布清单逐项校验后才原子替换本地数据集;traderharness data update 使用水位线、确定性去重与原子写入。

增量更新按依赖拓扑执行:日线先合并,随后才根据新区间的正成交量日线发现分钟股票池。基本面和分红也参与增量更新;business_segments.parquet 仍是发布快照,因为当前免费源没有稳定、结构化且许可清晰的主营构成增量接口。

traderharness data status
traderharness data update --end 2026-08-21
traderharness data doctor --start 2026-03-01 --end 2026-08-21

回测启动前会执行同一覆盖门禁。日线、沪深 300 或已安装的 5 分钟数据只要没有覆盖目标交易日,运行就会直接失败,不再以空行情继续生成结果。

免费源的请求预算

所有 HTTP 提供方共用线程安全的请求门:固定请求预算、Retry-After、指数退避、429 统计和 403 熔断。失败进度写入 .pipeline/latest.json;东方财富分钟数据按股票持久缓存,恢复时只请求未完成股票。默认预算可向下调整:

环境变量默认预算用途
TRADERHARNESS_EASTMONEY_RPS2.5 请求/秒5 分钟和模拟盘关注池 1 分钟
TRADERHARNESS_BAOSTOCK_RPS4 请求/秒日线、估值、基本面、分红、基准
TRADERHARNESS_CNINFO_RPS1 请求/秒公告
TRADERHARNESS_CLS_RPS1.4 请求/秒新闻

这些预算保证 TraderHarness 自己不会超过配置速率;第三方仍可能因共享出口、隐性配额或规则变化返回限流。遇到 429 会服从上游等待时间,遇到 403 会停止继续施压并保留断点,而不是切换 IP 绕过限制。

模拟盘的 1 分钟数据使用最近五日分时接口,只查询持仓、自选股和当次候选的小集合;市场宽度仍使用低频全市场快照。因此请求量随 Agent 关注集合增长,而不是随全市场约五千只股票每分钟增长。

仓库自带的数据医生(data doctor)检查:

  • 必需 schema 与日期范围
  • 自然键重复
  • 5 分钟线年度覆盖率
  • 过期标的与数据集对齐
  • 非 A 股公告代码非法值
  • 元数据一致性

v1.0 规范构建包含 284,219,844 条去重后的 5 分钟记录。发布审计中,活跃日线股票池的年度标的覆盖率达到 100%,最终 5 分钟水位线处无滞后标的,验证样本中自然键零重复。

公开发布策略

公开新闻表只保留模板化标题,移除有授权限制的正文。公司模板只在运行时解析为中性身份。这在保护评测完整性的同时,让源数据集依然可用于时点过滤。

存储结构

~/.traderharness/dataset/
├── daily.parquet
├── 5min_clean/
├── announcements.parquet
├── news_cls.parquet
├── fundamentals.parquet
├── valuation.parquet
├── dividends.parquet
├── index_300.parquet
└── metadata.json

行情数据许可因供应商与司法辖区而异。再分发或商用部署前请核实上游条款。