芯原超低能耗NPU可行端大言模型推理提供超40 TOPS算力

芯原超低能耗NPU可行端大言模型推理提供超40 TOPS算力

(中央社息服20250612 16:39:26)具高能效比的架，泛用于智慧型手和AI PC等端芯原股份（芯原，股票代：688521.SH）今日宣布其超低能耗且高效能的神路理器（NPU）IP已支援在行端行大言模型（LLM）推理，AI算力可充至40 TOPS以上。高能效NPU架足行平台日俱增的生成式AI需求而，不能AI PC等端提供算力支援，而且能因智慧型手等行端低能耗更苛的挑。 芯原的超低能耗NPU IP具高度可定、可充的架，支援混合精度算、稀疏化最佳化和行理。其融合了高效的管理稀疏感知加速技，著降低算延，保AI理流、回迅速。NPU支援百AI演算法，如AI抑制（AI-NR）和AI超分（AI-SR）等，Stable Diffusion和LLaMA-7B等主流AI模型相容。同，NPU IP可芯原其他理器IP整合，算，助SoC者打造足多元化用需求的AI解方案。此外，芯原的超低能耗NPU IP支援TensorFlow Lite、ONNX和PyTorch等主流AI架，可加快客在不同AI用景中的部署程化整合工作。 芯原策略、行副裁、IP事部理戴表示：「智慧型手等行置正逐步演人AI伺服器。著生成式AI（AIGC）和多模大言模型技的快速展，市AI算力的需求呈指成，已成行品的差化要素。在支援高度AI算的程中，能耗控制是最的挑之一。芯原持深耕智慧型手和AI PC的超低能耗的NPU研，透主流SoC合作夥伴的密切作，了技在下一代智慧型手和AI PC中量。」於芯原芯原微子（上海）股份有限公司（芯原股份，688521.SH）是一家藉自主半IP，客提供平台化、全方位、一站式晶片客化服和半IP授服的企。如欲解更多，造：http://www.verisilicon.com 免明：本公告之原文版本乃官方授版本。文供方便解之用，照原文，原文版本乃唯一具法律效力之版本。