移遠通信邊緣計算模組成功運行DeepSeek模型,以領先的工程能力加速端側AI落地

    2025-02-13 11:39 來源:美通社 作者:電源網

    上海2025年2月12日 /美通社/ -- 近日,國產大模型DeepSeek憑借其"開源開放、高效推理、端側友好"的核心優勢,迅速風靡全球。移遠通信基于邊緣計算模組SG885G,已成功實現DeepSeek模型的穩定運行,并完成了針對性微調。

    目前,該模型正在多款智能終端上進行深入測試與優化。移遠通信將憑借其卓越的工程化能力,加速端側AI技術在各行各業的規模化應用與普及。


    DeepSeekAI模型創新先鋒

    DeepSeek之所以火爆全球,源于其在模型架構、蒸餾技術以及強化學習等方面的突破性創新。

    完整版DeepSeek-V3模型采用創新的MoE(混合專家)架構,擁有6,710億參數,每秒可處理60個Token,擅長處理長文檔分析、多模態推理等復雜任務和高精度場景。其每層包含256個路由專家和1個共享專家,每個Token僅激活8個專家,極大地提升了學習效率和靈活性,顯著降低了訓練和推理成本,同時加速了Tokens生成。

    為解決小推理模型Self-play學習的不足,DeepSeek-R1通過高效蒸餾技術,將大模型的推理能力遷移到更小、更高效的版本中。這一突破使其小尺寸版本在保持卓越性能的同時,顯著降低了模型體積和計算資源需求,成為端側部署的理想選擇。

    同時,DeepSeek-R1-Zero實驗性版本證明了僅通過強化學習(Reinforcement Learning,RL)、無需監督式微調,大模型也能具備強大的推理能力,為AI模型的訓練開辟了新思路。

    DeepSeek小尺寸版本:端側部署的理想選擇

    DeepSeek-R1版本專注于強化學習技術路線,推理能力強、性價比突出,基于該版本開發的系列小尺寸蒸餾模型,參數范圍覆蓋1.5B至70B,為開發者提供了高性能、低成本的大模型部署與開發解決方案,將有力推動端側AI的商業化應用。

    簡化后的小模型從大模型中繼承了強大的AI能力,盡管參數量減少,但性能依然出色。由于計算量大幅降低,減少了內存和計算資源的消耗,因此特別適合資源有限的端側設備。同時,推理速度顯著提升,能夠滿足端側設備對實時性的需求。此外,小模型體積更小,適配性更強,更容易在各種行業終端和邊緣計算設備上集成和運行。盡管模型壓縮,但通過蒸餾技術,小模型仍能保持較高的精度,確保任務效果不受影響。

    移遠通信:以領先的工程能力加速端側AI落地

    在眾多廠商仍在探索如何支持DeepSeek模型之際,移遠通信已率先取得突破,其搭載高通QCS8550平臺的邊緣計算模組SG885G,成功實現了DeepSeek-R1蒸餾小模型的穩定運行。實測數據顯示,其生成Tokens的速度超過每秒40個Tokens,且未來隨著性能的不斷優化,速度還將進一步提升,為智能終端設備帶來更強大的AI能力。

    同時,移遠通信還與行業合作伙伴緊密合作,在機器人、智能座艙、智能工業等客戶應用上開展深入測試與優化,為用戶提供更為流暢的AI體驗。


    搭載DeepSeek模型的移遠邊緣計算模組和解決方案,不僅適用于消費類和工業類機器人領域,還可廣泛應用于智能座艙、機器視覺、個性化虛擬助理、平板電腦、老人監護、智能家居、AI玩具及可穿戴設備等多元化場景,為各行業提供強大的AI賦能,例如更自然的語音交互、更精準的圖像識別以及更加個性化的服務體驗。

    此外,在成功實現DeepSeek模型端側運行的基礎上,移遠通信還完成了該模型的針對性微調,并應用于自身的大模型解決方案中,為客戶提供更精準、更高效的端側AI服務。這一成果不僅彰顯了移遠通信在端側AI領域的技術實力,更體現了其領先的工程化能力,將有力推動AIoT應用的快速發展與落地。

    面向亟待接入AI能力的廣泛垂直領域,移遠通信將持續投入資源,推動更多高、中、入門級邊緣計算模組,以及智能座艙、5G、LTE模組和解決方案全面接入DeepSeek等先進模型以及云端大模型,助力物聯網設備實現智能化升級,開啟萬物智聯新時代。

    移遠通信 邊緣計算 DeepSeek 工程能力 端側AI

    一周熱門

    亚洲中文无码卡通动漫野外 | 亚洲日本va午夜中文字幕一区| 亚洲黄色中文字幕| 婷婷亚洲综合五月天小说在线| 久久99亚洲网美利坚合众国| 亚洲精品~无码抽插| 亚洲成av人片在线天堂无| 亚洲色欲色欲综合网站| 亚洲产国偷V产偷V自拍色戒| 激情婷婷成人亚洲综合| 亚洲免费观看在线视频| 亚洲成在人线av| 亚洲国产精品成人| 久久久久亚洲国产| 亚洲美女视频网站| 亚洲av无码潮喷在线观看| 久久九九亚洲精品| 久久精品国产96精品亚洲| 亚洲毛片网址在线观看中文字幕 | 亚洲一级片内射网站在线观看| 性xxxx黑人与亚洲| 91亚洲国产在人线播放午夜 | 图图资源网亚洲综合网站| 亚洲AV无码日韩AV无码导航| 久久综合日韩亚洲精品色| 亚洲AV无码乱码国产麻豆| 亚洲乱亚洲乱淫久久| 久久精品国产亚洲av麻豆色欲 | 亚洲成a人片在线观看老师| 亚洲精品无码久久不卡| 国产亚洲精品精品国产亚洲综合| 亚洲乱亚洲乱妇24p| 亚洲人成网站在线观看播放动漫 | 亚洲免费人成视频观看| 亚洲a视频在线观看| 亚洲第一页在线观看| 亚洲依依成人精品| 亚洲乱码国产乱码精华| mm1313亚洲精品无码又大又粗 | 亚洲一区二区影院| 久久久久久亚洲精品|