autoresearch 运行时架构

autoresearch 运行时架构 由 Archify 生成的架构图。 研究者 · 编辑 program.md · 审查 · 架构组件 研究者 编辑 program.md · 审查 AI 智能体 · Claude / Codex 自主实验 · 本机工作站(uv · 单 NVIDIA GPU) AI 智能体 Claude / Codex 自主实验 train.py · 模型 · Muon+AdamW · 训练循环 · 本机工作站(uv · 单 NVIDIA GPU) › 信任边界:智能体可写区 train.py 模型 · Muon+AdamW · 训练循环 GPU 训练运行时 · PyTorch + FA3 · 单卡 5 分钟 · 本机工作站(uv · 单 NVIDIA GPU) GPU 训练运行时 PyTorch + FA3 · 单卡 5 分钟 prepare.py 评测底座 · 常量 · 数据加载 · evaluate_bpb · 本机工作站(uv · 单 NVIDIA GPU) › 信任边界:只读评测底座(真值) prepare.py 评测底座 常量 · 数据加载 · evaluate_bpb 本地数据缓存 · ~/.cache/autoresearch 分片 + BPE · 本机工作站(uv · 单 NVIDIA GPU) › 信任边界:只读评测底座(真值) 本地数据缓存 ~/.cache/autoresearch 分片 + BPE results.tsv + git 分支 · 实验日志 · keep / discard · 本机工作站(uv · 单 NVIDIA GPU) results.tsv + git 分支 实验日志 · keep / discard analysis.ipynb · 进度可视化 · 本机工作站(uv · 单 NVIDIA GPU) analysis.ipynb 进度可视化 Hugging Face Hub · climbmix-400b 数据 · FA3 内核 · 架构组件 · Hugging Face Hugging Face Hub climbmix-400b 数据 · FA3 内核 启动 + program.md 指令 编辑唯一可改文件 → uv run 5 分钟训练(wall clock) val_bpb 摘要(stdout) 记录指标 · keep/discard import 常量 · dataloader · evaluate_bpb 加载分片与分词器 一次性下载 climbmix 分片 运行时拉取 FA3 内核 读取全部实验记录 本机工作站(uv · 单 NVIDIA GPU) 信任边界:智能体可写区 信任边界:只读评测底座(真值)

固定实验协议

  • • 训练固定 5 分钟(wall clock)
  • • 唯一指标 val_bpb,越低越好
  • • 约 12 次实验/小时,隔夜约 100 次

信任与权限

  • • 智能体仅可编辑 train.py
  • • prepare.py / evaluate_bpb 为只读真值
  • • 禁止新增依赖;建议禁用权限后运行

外部依赖

  • • HF climbmix-400b 数据集(一次性)
  • • HF kernels FA3 注意力内核
  • • PyTorch cu128 + uv(仅安装期)

结果判定

  • • 改善且简洁 → keep 并 git 提交
  • • 否则回滚,记录后继续
  • • 历史供 analysis.ipynb 绘图