← 交互预演 Markdown 原稿(课程仓库,需权限) · 样本索引

同一份随机初态,三种采样方法会生成什么晶体?

在 hkust 的单张 RTX A6000(GPU 7)上,我们用同一份冻结的 MatterGen base 权重,比较了 3 个种子、每个种子 3 条真实生成轨迹。三个种子都得到三种不同的最终组成。 连续变量采用概率流 Euler 更新后,每级的分数坐标变化显著减小。改用仅含 ancestral predictor 的配置时,有 2 个种子的最终晶胞体积明显放大。全部比较使用未经弛豫的生成端点。以下结果刻画采样路径及几何差异;物理稳定性需要后续计算。

一眼看懂实验

同一行里的三条线从完全相同的原子数、元素掩码、分数坐标和晶格出发。向右是模型采样进度。第一列数还有多少位点的元素未定,第二列量每个原子分到的晶胞体积,第三列量连续两个噪声级之间的位置更新大小。第三列按约 50 个相邻级分箱求均值,纵轴为对数。橙色曲线在后两行超出常规绘图范围,这两行的体积也使用对数轴。

三个配对种子的真实采样轨迹
采样方法 连续变量处理 每个样本实测网络调用 采样耗时中位数 平均每级分数坐标 RMS 的跨种子中位数
PC 官方 ancestral predictor,并在每一级做一次 Langevin 校正 2,000 66.62 s 0.28076
Ancestral only 保留同一个 ancestral predictor,移除 Langevin 校正 1,000 31.04 s 0.09136
Hybrid PF Euler 连续概率流漂移的一阶 Euler,分数坐标做周期包裹 1,000 30.47 s 0.000324

单卡九次采样用时合计 385.56 秒。计时包括网络推理、采样更新、每条原始记录的 CPU 拷贝及 GPU 同步。权重加载、一次预热、CIF 与绘图等文件输出在计时区间之外。三种方法的执行次序随种子轮换。减少一半网络调用可以解释相当一部分加速;两种 1,000 次调用的方法耗时相近。一个固定设备和三个种子的结果只宜作为本次演示的成本记录。

混合 Euler 的小步更新累积成了可测的结构变化。按原始站点索引配对初态与独立 final,将每轴分数坐标差按周期折回后计算跨站点 RMS,种子 42、48、43 分别为 0.183、0.235、0.266。三个晶胞的体积也有变化,每原子体积分别从 28.26 → 16.39、20.84 → 27.83、23.27 → 25.08 ų。这些数值量化起点到终点的净变化;完整路径的单步变化量见上表。九组的初始体积、终态体积、有符号体积变化和位点净位移均见逐样本数据。

逐个种子的最终结构

体积取原生晶胞行列式的绝对值除以站点数,单位为 ų/atom。最短距离考虑周期镜像,包括同一站点的非零晶格平移。表内化学式记录该晶胞的元素计数。

种子 采样方法 最终组成 每原子体积 最近周期间距(Å)
42 PC Li₅Tl₂Pb 20.03 2.898
42 Ancestral only LiCu₂SiSe₄ 21.62 2.314
42 Hybrid PF Euler Ta₄BMo₃ 16.39 2.223
48 PC NdDyC 24.81 2.462
48 Ancestral only Rb₂Se 1,550.08 3.913
48 Hybrid PF Euler NdDyGa 27.83 3.022
43 PC Nd₂HoLu 32.30 3.528
43 Ancestral only Rb₃K 1,233.09 3.717
43 Hybrid PF Euler LiHoLuIn 25.08 3.117

适合课堂展示的一个镜头:选 seed 48,把三条轨迹对齐到同一噪声级。先让观众比较体积曲线,然后打开各方法独立保存的 final。Ancestral only 的晶胞三个边长约为 185–190 Å,原生晶格矩阵的条件数为 159,同组 PC 和 Hybrid PF 的条件数分别为 2.54 和 2.25。最近周期间距仅提供局部几何信息,这个例子里最醒目的差异来自晶胞的整体形状与体积。后续可把同一个 CIF 交给材料组员评估。每个种子的初态从头抽取,采用下述成对随机流设置,编号与先前生成库共享 seed 不代表最终材料相同。

固定采样器,只换同样大小晶胞的噪声起点

原先三个种子对应 8、3、4 个位点,种子同时决定后续随机流。为隔离噪声起点,我们再次运行全部三种采样器。每条轨迹均用 base 权重、8 个位点、全 MASK、空性质条件、相同的 1,000 个噪声级。只在从先验抽取分数坐标与晶格时改变 seed(142、143、148)。每次反向采样前重置连续 RNG 为 10042、离散 RNG 为 20042。同一采样器的起点比较使用相同的随机数安排,跨采样器时各更新规则对连续随机数的消耗方式会改变。运行采用一张 RTX A6000,batch size 为 1。

初态种子 默认 PC 仅祖先预测 混合概率流
142 LiTl₅Sn₂ · 28.25 TlCu₂SiSe₄ · 24.30 CsTl₃Sn₂Pb₂ · 34.64
143 Sm₂Cu₂Si₄ · 17.61 Tl₂Cu₄S₂ · 19.40 Ta₄Mo₄ · 17.13
148 Li₂Pb₆ · 28.36 Tl₂Cu₂Se₄ · 25.87 LiCu₂SiS₄ · 18.41

单元格给出独立终态的晶胞组成与每位点体积(ų)。纵向看,同一 PC 下,142 与 148 的体积相近(28.25、28.36 ų),两者的组成为 LiTl₅Sn₂ 与 Li₂Pb₆。143 给出 Sm₂Cu₂Si₄,体积为 17.61 ų。三者保持了 8 个位点,终态均无 MASK,最后一个 MASK 消失的层级分别为 879、919、838。横向看,同一 143 初态改换求解器得到另外两种组成。两种读法回答独立问题。小样本可展示多样性,无法估计这些化合物在模型分布中的概率或物理稳定性。九个终态指标 · 9,000 个噪声级 · 权重与随机流元数据(课程仓库,需权限)

固定 8 位点、固定反向随机种子下的三组采样轨迹

原生记录每条为 2,000(PC)或 1,000(另外两种),共 12,000 条,另存每条的独立终态。前端以 51 个对齐的存档时刻播放晶胞,曲线保留每个噪声级的第一条记录。三种初态的分数坐标与晶格均不同。原生张量按种子跨三种求解器逐字段一致;保存的 CIF 与独立终态在组分、晶格参数和周期距离上通过检查。以下命令在个人目录内执行。执行日志(课程仓库,需权限) · 原批次脚本快照(课程仓库,需权限)

CUDA_VISIBLE_DEVICES=6 OMP_NUM_THREADS=2 OPENBLAS_NUM_THREADS=1 \
  external/mattergen/.venv/bin/python scripts/run_paired_samplers.py \
  --weights external/models/checkpoints/mattergen_base --output runs/fixed_prior_8 \
  --seeds 142 143 148 --fixed-sites 8 --reverse-seed 42
external/mattergen/.venv/bin/python scripts/analyze_paired_samplers.py runs/fixed_prior_8

数学与代码依据

官方配置用 1,000 个噪声级,时间从 1 递减到 0.001,每次更新取 Δt = −0.001,最后一次更新落到 0。官方 PC 先更新连续 corrector,再计算三类变量的 predictor。类别使用官方 D3PM 反向后验的分类采样,模型输出 logits。两个消融均保留全部 1,000 次类别更新。三个方法用相同的噪声级网格,本实验比较的是每级的更新规则。官方采样配置 · 采样循环 · 官方类别更新

在固定原子数下,所用连续分量的扩散幅值与时间和原子数有关。对于这些坐标的前向 SDE,漂移为 f,扩散幅值为 g,模型估计的数据分数为 sθ。混合分支用下式沿时间递减方向更新坐标与晶胞:

x_next = x + Δt [ f(x,t) − ½ g(t)² sθ(x,element_state,t) ]

分数坐标使用按原子数缩放的 wrapped VE 系数,以及模型转换到分数坐标系的 score。每次更新用模 1 回到周期单元。晶胞使用 lattice VP 的以原子数为条件的极限均值、方差和对称晶胞噪声表示,沿独立的对称分量更新。没有对元素类别连续插值。类别 logits 仍依赖当前几何,即使给三种方法相同的分类随机数,元素也可能在不同时间确定并产生不同的组成。这个实现是连续概率流与 D3PM 的混合数值实验,整条轨迹仍有离散采样随机性。连续理论对精确 score 的结果,并不能证明这里的有限步、混合变量和估计 score 与原模型具有相同终点分布。概率流 ODE · 晶体 SDE 实现 · 本文实现(课程仓库,需权限)

配对随机性。 原子数取自官方 ALEX_MP_20 分布,每个种子用官方 prior 生成一次初态,三种方法分别读取独立克隆。先核对每条轨迹的第一条原始记录与 prior 的 SHA-256,再从下载的 NPZ 对每个连续分量和类别逐值校验。连续更新的随机种子为 seed + 10,000,类别更新使用独立 CUDA RNG 流,种子为 seed + 20,000,每次调用恢复官方 D3PM predictor,之后恢复连续 RNG 的状态。PC 与 ancestral 的连续步骤消耗不同数量的随机数,配对控制的是共同初态和类别随机流。正因这一随机流约定,PC 的名称表示采用官方 PC 更新规则。这些是本实验的独立结果集。

量化与核验。 位置更新量先将每个站点每个分数坐标分量的差映射到 [−0.5, 0.5),再对三轴分量平方求和、跨站点平均并开根号,最后跨相邻的 999 个噪声级取均值。该量无单位,对分数坐标的跨界表示稳健。在斜晶胞中,以 Å 表示的最短实空间位移有不同定义。该量衡量算法轨迹的视觉平滑度,不能决定晶体的能量、动力学稳定性或生成分布的质量。对齐点取每个噪声级更新前的状态,PC 同时保留了该级校正后的原始记录。端点统一取最后一次 predictor 的独立 mean,按官方约定离散维度取最大后验类别。9 个 CIF 回读后逐项核对了组成、晶格边长和角度、按元素对分组的所有周期站点距离,再校验各文件 SHA-256。极斜晶胞的 float32 边长/角度重建会产生可测误差,9 个样本中最大的距离差为 0.000252 Å(seed 48 ancestral)。另有两个解析测试检查平稳高斯晶胞的零概率流,以及周期坐标的噪声缩放和越界包裹。

数据与复现

CUDA_VISIBLE_DEVICES=7 OMP_NUM_THREADS=2 MKL_NUM_THREADS=2 OPENBLAS_NUM_THREADS=2 \
  external/mattergen/.venv/bin/python scripts/run_paired_samplers.py \
  --weights external/models/checkpoints/mattergen_base \
  --output runs/sampler_pair_reproduction --seeds 42 48 43

external/mattergen/.venv/bin/python scripts/analyze_paired_samplers.py runs/sampler_pair_reproduction
external/mattergen/.venv/bin/python -m pytest -q tests/test_probability_flow_sampler.py