AI大師請進

作者: sustainer123 (caster)   2025-01-22 17:47:29
我今天在研究模型大小跟訓練速度的關係
我看到的預估方式是macs*2/FLOPS
大概就是訓練時間
可是我的訓練結果感覺怪怪的
我訓練集用Fashion MNIST
卡是1張A100
跑10個epoch
Resnet18的訓練速度是145秒
Resnet34是176秒
mnasnet系列都接近200秒
從參數量來看 resnet34是20M resnet18是10M
mnasnet系列大概2-6M
看macs 差距比差不多
我不太理解問題在哪
訓練集太小 導致時間都花在io?
作者: oin1104 (是oin的說)   2025-01-22 17:48:00
你是大師
作者: sustainer123 (caster)   2025-01-22 17:49:00
我垃圾
作者: cities516 (安安路過)   2025-01-22 18:23:00
I/O 平行運算這種秒數級別的差距 搞不好你CPU溫度差一點就有影響了

Links booklink

Contact Us: admin [ a t ] ucptt.com