Jukan：AI 模型推理性能更依赖内存而非 Nvidia GPU
--
Citrini Research 分析师 Jukan 表示，推理性能提升并非仅靠增加 Nvidia GPU 实现，GPU 在推理中常因内存瓶颈处于低利用率闲置状态，推理的投资回报率取决于内存而非 GPU，Micron 的重要性或超越 Nvidia。
Loading...
Citrini Research 分析师 Jukan 表示，推理性能提升并非仅靠增加 Nvidia GPU 实现，GPU 在推理中常因内存瓶颈处于低利用率闲置状态，推理的投资回报率取决于内存而非 GPU，Micron 的重要性或超越 Nvidia。