付録2: 事前学習済みモデルのベンチマーク結果

データセットの準備

• 小規模データセット: 519構造

• 大規模データセット: 1987構造

LightPFPモデルの準備

• 例と同様に、3つのステージでモデルを訓練します。各ステージのエポック数はtotal_epoch/4, total_epoch/2, total_epoch/4です。

• 事前学習済みモデル ALL_ELEMENTS_LARGE_6 を用いて、スクラッチで訓練したモデルと、事前学習済みモデルからファインチューニングしたモデルを比較します。

• 合計エポック数は200, 400, 800, 1600です。

  Epochs	Training from scratch	Fine tuning from pretrained
  200	large-scratch-1	large-pretrain-1
  400	large-scratch-2	large-pretrain-2
  800	large-scratch-3	large-pretrain-3
  1600	large-scratch-4	large-pretrain-4

精度

• 小規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	Energy	Forces	Stress	Energy	Forces	Stress
  200	0.0021	0.0345	0.0006	0.0226	0.0665	0.0018
  400	0.0013	0.0314	0.0005	0.0115	0.0603	0.0019
  800	0.0010	0.0280	0.0005	0.0052	0.0516	0.0011
  1600	0.0009	0.0270	0.0004	0.0049	0.0421	0.0008

• 大規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	Energy	Forces	Stress	Energy	Forces	Stress
  200	0.0009	0.0265	0.0005	0.0067	0.0398	0.0011
  400	0.0007	0.0243	0.0005	0.0033	0.0357	0.0007
  800	0.0007	0.0228	0.0004	0.0047	0.0292	0.0006
  1600	0.0006	0.0215	0.0003	0.0010	0.0264	0.0005

弾性特性の誤差

• 小規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	B (GPa)	G (GPa)	λ	B (GPa)	G (GPa)	λ
  200	3.76	1.61	0.0003	6.2	12.47	0.0210
  400	0.66	0.46	0.0016	2.88	18.22	0.0411
  800	0.97	0.67	0.0023	10.12	23.35	0.0423
  1600	1.08	0.53	0.0001	12.38	9.81	0.0092

• 大規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	B (GPa)	G (GPa)	λ	B (GPa)	G (GPa)	λ
  200	2.59	4.27	0.0065	9.15	13.55	0.0207
  400	5.19	4.17	0.0038	3.6	10.39	0.025
  800	5.09	4.21	0.004	0.71	7.06	0.0142
  1600	4.1	0.32	0.0033	1.99	3.85	0.0062

分子動力学シミュレーションにおける密度の誤差 (g/cm³)

• 小規模データセット

  Epochs	Fine tuning from pretrained					Training from scratch
  	300 K	500 K	1000 K	1500 K	2000 K	300 K	500 K	1000 K	1500 K	2000 K
  200	0.01069	0.00942	0.00252	0.00171	0.0521	0.01249	0.01306	0.01655	0.02709	N/A
  400	0.00934	0.01016	0.00198	0.00401	0.054	0.01294	0.02241	0.02529	0.03138	1.78746
  800	0.00816	0.00969	0.00306	0.00609	0.00437	0.00341	0.00556	0.00119	0.00657	0.83045
  1600	0.00721	0.00714	0.00206	0.006	0.01395	0.00643	0.00871	0.00292	0.01398	1.34568

• 大規模データセット

  Epochs	Fine tuning from pretrained					Training from scratch
  	300 K	500 K	1000 K	1500 K	2000 K	300 K	500 K	1000 K	1500 K	2000 K
  200	0.00619	0.00843	0.00036	0.00277	0.09592	0.01046	0.0134	0.00391	0.00517	N/A
  400	0.00496	0.00706	0.00136	0.00165	0.43647	0.00441	0.00537	0.00171	0.00348	1.52342
  800	0.00444	0.00526	0.00073	0.00046	0.42629	0.00781	0.00782	0.00251	0.00698	0.22416
  1600	0.00471	0.00569	0.00054	0.00238	0.05718	0.00817	0.00682	0.00259	0.00678	N/A

対象物質:

• ペンタンニトリル, C₅H₉N

• SMILES: CCCCC#N

• CID: 8061

• PubChem

データセットの準備

• 小規模データセット: 700構造

• 大規模データセット: 1524構造

LightPFPモデルの準備

エネルギー/力/応力の誤差

• 小規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	Energy	Forces	Stress	Energy	Forces	Stress
  80	0.00096	0.0819	0.00038	0.00149	0.1586	0.00071
  160	0.00084	0.0650	0.00031	0.00115	0.1280	0.00065
  320	0.00074	0.0614	0.00027	0.00089	0.0812	0.00037
  640	0.00060	0.0582	0.00026	0.00064	0.0693	0.00030

• 大規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	Energy	Forces	Stress	Energy	Forces	Stress
  80	0.00097	0.0654	0.00032	0.00099	0.0905	0.00049
  160	0.00077	0.0608	0.00029	0.00117	0.1153	0.00060
  320	0.00071	0.0574	0.00027	0.00077	0.0718	0.00034
  640	0.00061	0.0551	0.00026	0.00069	0.0734	0.00034

分子動力学シミュレーションにおける密度の誤差

• 小規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	300 K	350 K	400 K	300 K	350 K	400 K
  80	0.00708	0.00308	0.00094	N/A	N/A	N/A
  160	0.01391	0.00707	0.00701	N/A	N/A	N/A
  320	0.00199	0.00034	0.00068	0.07396	0.06922	0.06056
  640	0.02317	0.0308	0.02752	0.01852	0.01206	0.009

• 大規模データセット

  Epochs	Fine tuning from pretrained			Training from scratch
  	300 K	350 K	400 K	300 K	350 K	400 K
  80	0.00125	0.01453	0.02061	0.01938	0.0381	0.0298
  160	0.0029	0.00761	0.01417	0.05347	0.09456	0.74702
  320	0.00027	0.0052	0.00657	0.0016	0.00471	0.00756
  640	0.007	0.00215	0.0042	0.00473	0.01231	0.01098

対象物質:

• Pt (111) / ベンゼン界面

精度

界面上の原子分布

• エポック数を80としてスクラッチでポテンシャルを訓練した場合、MDは失敗しました。