AI芯片是整个大模型产业的底层。芯片的演进方向正在发生变化。

一、训练和推理的不同需求

训练需要极强算力和精度，GPU是首选。但推理对成本和延迟更敏感，不需要GPU那样的极致精度。这就是推理专用芯片的机会。

随着大模型应用增多，推理算力需求正在超过训练。

二、国产芯片的进展

国产AI芯片在推理场景进展较快。因为推理对生态要求相对低，只要模型适配好，国产芯片可以达到可用的性价比。

三、对企业的影响

芯片演进直接影响企业用AI的成本。推理芯片成本下降，意味着大模型应用的边际成本越来越低。以前只有大公司用得起的AI能力，中小企业也能用了。