pengxiang commited on
Commit
6e5150e
·
verified ·
1 Parent(s): 8a32139

add fprm-port-README.md

Browse files
Files changed (1) hide show
  1. fprm-port-README.md +58 -0
fprm-port-README.md ADDED
@@ -0,0 +1,58 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # fprm 迁移包 · 新集群落地说明
2
+
3
+ `fprm-port.tar.zst`(753M)= 在新集群续跑本项目实验的最小必需集。
4
+
5
+ ## 内容
6
+ - 全部代码 / 配置 / 文档:`models/ config/ utils/ evaluators/ *.py *.sh *.md`
7
+ - 依赖锁:`uv.lock` + `pyproject.toml`
8
+ - 数据:`data/sudoku-extreme-1k-aug-1000/`(本项目唯一用到的数据集,1.3G)
9
+ - 权重:
10
+ - `checkpoints/init/b01-screen52080-ema.pt` — 温启动权重(初筛冠军,105M)
11
+ - `checkpoints/fl-b01-L4-{warm-s2,lrdecay-s1,s0}/step_45570_train_state.pt` — 三个 L4 臂停在 ep35k 的续训存档(各 261M)+ 各自 `all_config.yaml`
12
+ - 结果参考:`logs/*.log`(训练分数 + 深度扫描)、`plots/*.json`
13
+
14
+ **不含**(新集群重建或无关):wandb、__pycache__、.pydeps、其它项目数据/权重、Codex 草稿。
15
+
16
+ ## 解包
17
+ ```bash
18
+ tar --use-compress-program=unzstd -xf fprm-port.tar.zst
19
+ cd fprm
20
+ ```
21
+
22
+ ## 装依赖
23
+ 优先用 uv(锁文件已带):
24
+ ```bash
25
+ uv sync # 或 uv pip install -r pyproject.toml
26
+ ```
27
+ 没有 uv 时,pip 装进本地目录(和旧集群一致的做法):
28
+ ```bash
29
+ pip install --target .pydeps -r <(uv export 2>/dev/null || echo "\
30
+ torch omegaconf hydra-core pydantic argdantic adam_atan2 coolname einops wandb tqdm huggingface_hub")
31
+ export PYTHONPATH=$PWD/.pydeps:$PYTHONPATH
32
+ ```
33
+ 关键的三个易缺包:`argdantic adam_atan2 coolname`。
34
+
35
+ ## 改路径(启动脚本里有旧集群硬编码)
36
+ `run_flagship_arm.sh` 顶部需按新集群改三处:
37
+ - `cd /lustre/.../fprm` → 新仓库路径
38
+ - `/root/miniconda3/bin/python` → 新集群 python
39
+ - `PYTHONPATH=.../.pydeps` → 新的 .pydeps 路径
40
+
41
+ ## 续训三个 L4 臂(接着 ep35k 跑到 60k)
42
+ 存档在,watchdog 会自动 `+resume_from`:
43
+ ```bash
44
+ ./run_flagship_arm.sh 0 fl-b01-L4-warm-s2 lr_min_ratio=0.1 seed=2 +load_checkpoint=checkpoints/init/b01-screen52080-ema.pt
45
+ ./run_flagship_arm.sh 1 fl-b01-L4-lrdecay-s1 lr_min_ratio=0.1 seed=1
46
+ ./run_flagship_arm.sh 2 fl-b01-L4-s0 # 恒定 lr(cfg 默认)
47
+ ```
48
+ (检测到已有 `step_*_train_state.pt` 时,脚本会自动丢弃 `+load_checkpoint` 改用 resume。)
49
+
50
+ ## 从头起新臂(只用 init 温启动)
51
+ ```bash
52
+ ./run_flagship_arm.sh 0 <新名> lr_min_ratio=0.1 seed=<n> +load_checkpoint=checkpoints/init/b01-screen52080-ema.pt
53
+ ```
54
+
55
+ ## 评测 / 深度扫描
56
+ ```bash
57
+ DISABLE_COMPILE=1 python eval_loopscale.py checkpoints/<run> --depths 6,9,12,18,24,36,48,64 --max_batches 12
58
+ ```