<汇港通讯> 联想集团(00992)在联想创新科技大会(Tech World)上,展示了端侧算力「联想推理加速引擎」。
这款由联想、清华大学及无问芯穹联合研发的推理引擎,专为高效AI PC推理而设计,是一个软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。
「联想推理加速引擎」透过高效能并行解码、算子融合最佳化以及异质运算技术, 实现了多种应用场景下推理速度的大幅提升,以及功耗和记忆体占用的显著降低。与大模型推理晶片结合,透过硬体加速与软体优化的无缝协作,进一步放大了效能提升,形成了叠加效应。
#联想 #联想推理加速引擎 #AI PC (CW)
新闻来源 (不包括新闻图片): 汇港资讯