蜜臀色欲AV无码人妻,欧美性猛交xxxx免费看蜜桃,西西444WWW无码视频软件,中文字幕无码精品亚洲35,51国精产品自偷自偷综合

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

智東西(公眾號:zhidxcom)
作者 | 云鵬
編輯 | 漠影

智東西11月14日消息,昨日,安謀科技正式發布了專為端側大模型而生的最新一代NPU IP——“周易”X3,其能夠與Arm架構CPU、GPU協同,組成基于Arm生態的異構算力解決方案。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

總體來看,今天發布的“周易”X3在模型支持、硬件架構、軟件生態、算力帶寬、能效面效、擴展性和系統一致性等多方面進行了重點升級。

安謀科技產品研發副總裁劉浩提到,在安謀科技看來,“周易”NPU團隊是驅動創新的核心引擎,NPU也一直是安謀科技的戰略核心產品。

從2018年開始,安謀科技就組建了國內最早的NPU研發團隊之一,目前已經交付了5代NPU,并實現了在終端領域的商業落地,據稱“周易”NPU的研發和支持100%來自中國本土團隊。

劉浩提到,今天端側需要的不是單純的算力堆疊,而是效率優先,一個系統性的、全局優化的算力底座。

一、軟硬件深度協同,“周易”X3多點創新

具體來看此次發布的“周易”X3,其采用了最新的DSP+DSA架構,從定點轉向浮點計算,其最核心的特點是通用、靈活、高效、軟硬件緊密協同的計算架構。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

新的“周易”X3 NPU IP可以兼顧傳統CNN架構與當下主流的Transformer架構,硬件架構方面,周易X3單Cluster算力可以支持8-80TFLOPS(FP8),單核心帶寬最高為256GB/s。

此外,“周易”X3采用了AI專屬硬件引擎AIFF,配合專用硬化調度器,可以實現低至0.5%的CPU負載和低調度延遲。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

軟件生態方面,Compass AI軟件平臺可以提供統一的端到端工具鏈支持全系列“周易”NPU。

目前Compass AI軟件平臺已經兼容了TensorFlow、ONNX、Pytorch等主流AI框架,支持大模型動態Shape能力,同時支持GPTQ等大模型主流量化方案、Hugging Face模型庫,以及LLM、VLM、VLA、MoE等多種類型的模型。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

在模型支持方面,“周易”X3支持的算子數量超過160個、支持的模型數量超過270個。

實際性能表現方面,其CNN模型性能相較上一代提升了30-50%,在相同算力規格下,AIGC大模型能力提升了10倍左右,多核算力線性度可以達到70-80%,大模型Prefill階段算力利用率提升至72%,Decode階段有效帶寬利用率在開啟安謀科技自研的解壓引擎WDC情況下超過100%。

二、AI PC端側AI能力暴漲,“周易”全家桶應用案例集中展示

此次在發布會現場的Demo展區,我們看到基于“周易”NPU IP實現的諸多場景化落地解決方案。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

比如在當下業內大火的AI視覺識物、AI讀懂世界方面,基于“周易”X3,AI PC本地運行MinicpM v2.6模型,可以實現隨時拍照隨時識圖,AI快速圖解各類事物。

在經典的文生圖應用方面,基于“周易”X3,AI PC本地運行Stable Diffusion v1.5,可以實現流暢高質量的端側文生圖,從演示案例來看,圖片的清晰度不錯,同時生成速度僅為“秒級”,AI可以幫助創作者更高效地將創意想法變為現實。

AIGC大模型能力提升10倍!安謀科技Arm China掏出最強NPU IP大招-有駕

在基礎的文生文應用中,我們看到“周易”X3可以支持端側運行DeepSeek-R1-Distill-Qwen-1.5B,AI對話的流暢度、tokens生成速度都有比較明顯的提升。

整體來看,相比前代產品,X3在性能方面的大幅提升以及生態方面的出色支持,帶來的最直觀效果就是AI應用實際體驗的流暢度大幅提升。

據了解,從加速卡、AI PC、AI手機、具身智能、智能座艙、ADAS(高級駕駛輔助系統)到智能IPC等終端,“周易”X3 NPU IP已經可以覆蓋基礎設施、智能汽車、移動終端、智能物聯等領域。

結語:All in AI的安謀,手握軟硬技術生態,加速本土端側AI落地

長期以來,安謀科技專注于核心IP設計,針對AI技術趨勢前瞻布局,可以很好的解決客戶自研AI芯片的痛點。

安謀科技當前的戰略發展方向是“AI Arm China”,也就是全力All in AI。具體來看,安謀科技會提供NPU IP、開放合作、提供完整解決方案。

未來兩年內,安謀科技會發布更多的NPU產品,我們也期待在端側AI爆發的未來,安謀科技能夠在技術和生態上帶給行業更多驚喜。

0

全部評論 (0)

暫無評論