返回    放大 +    縮小 -
騰訊混元 AI Infra 新開源 HPC-Ops 推理核心算子全面升級
推薦
6
利好
15
利淡
3
滙港資訊
<匯港通訊> 騰訊(00700.HK)旗下騰訊混元在微信指出,為了進一步滿足推理系統對動態業務負載的適應性、核心模組對複雜精度和高性能融合算子的需求,HPC-Ops 推出全新更新開源升級,包含五大關鍵算子。

騰訊混元稱,本次升級在主流推理平台上,有效緩解了 Attention 長尾延遲、顯存搬運開銷、跨卡通訊等實際工程瓶頸,多項性能指標顯著優於現有的開源基線。

HPC-Ops 是騰訊混元 AI Infra 團隊開源,並長期維護的一套工業級、高性能的大模型推理底層算子庫。 (BC)

#騰訊混元
新聞來源 (不包括新聞圖片): 滙港資訊