AMD的GPU行銷真的是笨死了。每個人都拜託他們出24GB或48GB的卡，這麼簡單就大賣的方法不作。還在搞FSR，難道不知道現在是大AI時代嗎？
7800xtx 24GB，549鎂，還不賣爆。
79x0xtx 48GB，1200鎂，還不搶光。
現在一堆AI inference的需求，欠缺在ram不夠。Training也許還是不行，但inference社群作一堆了，就等你出卡而已。結果你出16GB???
例如最近mlc-llm測試7900xtx 推理可達4090的80%。
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
原作者的中文版
https://zhuanlan.zhihu.com/p/649088095
因為在推理(inference)上gpu的效能已經夠了，是卡在記憶頻寬，所以4090/3090ti/7900xtx效能是大同小異。
https://github.com/ggerganov/llama.cpp
現在4bit 30B模型需要19.5GB記憶體，這個模型好又剛好主流24GB卡可跑，3090二手卡搶爆
4bit 65B模型需要38.5 GB，沒有主流卡可跑，只能用CPU慢慢的推動，等於不能用。
7800xtx 24GB，79x0xtx 48GB。AI社群搶爆，程式幫你寫好。不用在那搞沒用的FSR，沒用的FSR，沒用的FSR<<很重要講三遍
https://i.imgur.com/LeYPRd4.jpg