1
重心从集中训练转向推理,高频、低时延的业务调用和智能体任务成为主要消耗。
2
算力从总行数据中心向分行、网点和业务前端下沉,边缘节点承担更多实时处理。
3
评价标准从峰值算力转向单位推理成本和能效。
4
小模型适配与模型调度能力变得与硬件同等重要,决定了算力资源能否被高效利用,而非仅仅被堆积。
郭婵媛/制图