对于 GenAI 的解决方案而言,诸如带宽和容量之类的优势固然重要,但功耗、占用面积和价格等成本因素也需要加以考量。由于存储器是一种依赖于中央处理器(CPU)的被动组件,其配置会根据处理器而做出改变。在这方面, ARM 近期的战略调整以及基于 MoE 的大语言模型(LLM)可能出现的变化,都可能会导致未来架构和解决方案发生改变。

数据来源:Source: Counterpoint Research