因為最近有再跑llama sakura翻譯
目前都是用日常用機的7900XTX來跑
想要多買一張卡放在另一台電腦跑
目前使用的模型是
sakura-14b-qwen2beta-v0.9.2-iq4xs
7900XTX速度是63 t/s
https://i.imgur.com/xKmQ5N3.png
目前在2張卡中選擇
4060ti 16G
7800XT 16G
以AI泛用性來講可能是N卡
但是目前來看ROCM的版本速度也不輸N卡
以跑llama的情況下是否7800XT略勝一籌?