智快網 - 新科技與新能源行業網絡媒體

          微軟Win11電腦本地運行DeepSeek-R1大模型,NPU能力引關注!

             發布時間:2025-01-30 20:12 作者:朱天宇

          在人工智能與邊緣計算的交匯點上,微軟近日邁出了重要一步,宣布推出專為NPU(神經處理單元)優化的DeepSeek-R1模型。這一創新之舉不僅標志著微軟對邊緣計算潛力的深刻洞察,也預示著搭載高通驍龍X芯片的Copilot+ PC將率先迎來一場技術革命,隨后英特爾酷睿Ultra 200V等平臺也將陸續加入這一行列。

          微軟通過官方渠道宣布,DeepSeek-R1的首個版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入駐Azure AI Foundry和GitHub,供開發者下載使用。同時,微軟還透露,參數規模更大的7B和14B版本也即將面世,這將極大地助力開發者充分挖掘Copilot+ PC中NPU的強大性能。

          DeepSeek-R1模型應用場景

          微軟強調,Copilot+ PC上的NPU開創了一種全新的AI應用范式。在這一范式下,生成式AI不僅能夠在被調用時迅速響應,還能支持半連續運行的服務模式。這一特性使得開發者能夠利用AI推理引擎,構建出更加主動、持續的用戶體驗。

          為了實現這一目標,微軟在Phi Silica項目的基礎上,積累了豐富的推理優化經驗和技術。這些經驗和技術被巧妙地融入到針對NPU優化的DeepSeek模型中,包括模型分割以實現性能與效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微軟還借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多樣化的Windows生態系統中實現了模型的廣泛部署。

          DeepSeek模型優化對比

          為了讓更多開發者能夠輕松體驗DeepSeek模型的魅力,微軟提供了便捷的下載途徑。只需在Visual Studio Code中安裝AI Toolkit擴展,開發者即可輕松獲取這一創新成果。同時,以ONNX QDQ格式優化的DeepSeek模型也將很快出現在AI Toolkit的模型目錄中,供開發者直接從Azure AI Foundry中拉取使用。

          原始模型與NPU優化模型響應對比

          微軟還通過實例展示了原始模型與NPU優化模型之間的差異。在相同的提示下,原始模型和NPU優化模型給出了略有不同的響應。這一對比不僅彰顯了NPU優化模型在推理能力上的提升,也進一步驗證了微軟在模型優化方面的深厚實力。

           
           
          更多>同類內容
          全站最新
          熱門內容
          本欄最新
           
          智快科技微信賬號
          微信群

          微信掃一掃
          加微信拉群
          電動汽車群
          科技數碼群

          国产精品久久久久久一区二区三区| 久久国产热精品波多野结衣AV| 国产精品va无码一区二区| 青草青草久热精品视频在线网站| 亚洲精品无码激情AV| 动漫精品第一区二区三区| 久久精品麻豆日日躁夜夜躁| 久久国语露脸国产精品电影| 香蕉国产精品频视| 国产精品乱码高清在线观看 | 日韩精品无码一区二区视频| 亚洲国产精品18久久久久久| 亚洲国产成人99精品激情在线| 精品午夜福利在线观看| 四虎国产精品永久免费网址| 国产亚洲婷婷香蕉久久精品| 在线中文字幕精品第5页| 国产成人精品免高潮在线观看| 午夜在线视频91精品| 日韩色视频一区二区三区亚洲| 日韩一区二区三区四区不卡| 国产亚洲精品美女| 国产精品jlzz视频| 国产乱色精品成人免费视频| 国产精品先锋资源站先锋影院| 精品中文字幕久久久久久| 少妇人妻偷人精品视蜜桃| 四虎永久在线精品免费网址| 国内揄拍国内精品少妇国语| 国产精品亚洲专区无码牛牛| www亚洲精品久久久乳| 国产精品1000夫妇激情啪发布| 国产精品白丝AV嫩草影院| 久久久久女人精品毛片九一| 久久国产精品久久久| 亚洲国产精品一区二区成人片国内 | 免费久久精品国产片香蕉| 国产四虎精品8848hh| 日韩电影免费在线观看网址| 国产午夜亚洲精品不卡| 在线亚洲精品视频|