色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

全志視覺芯片V821接入DeepSeek和豆包視覺大模型

全志在線 ? 來源:全志在線 ? 2025-02-21 09:27 ? 次閱讀

上周,全志生態的小伙伴們成功在全志A733和T527的SoC平臺上實現了DeepSeek-R1-Distill-Qwen-1.5B模型的部署,充分驗證了高算力平臺在端側部署AI推理上的潛力。今天我們帶來一款全志新的視覺芯片V821,通過網絡接入的方式打通DeepSeek-R1滿血版模型和豆包視覺大模型,并展示其語言和視覺交互的能力和多樣性。

相較于大模型的端側部署,云端大模型對端側硬件算力、存儲資源等要求較低,以極佳的成本代價就可以體驗到模型最佳的性能表現,覆蓋更多的場景形態。本地設備將文字,語音,圖像等相關數據通過網絡上傳,憑借云端大模型對數據的分析和推理海量數據的分析和推理能力,并結合網絡搜索的信息,更好地,更加準確地,更加快速地做出判斷和反饋,大幅提升應答速度和輸出的準確率。

全志本次在V821平臺上基于豆包視覺大模型和DeepSeek語言大模型API實現了完整的大模型接入套件,讓V821具備了語言交互及圖像識別等豐富能力,讓開發者更容易實現大模型的應用,極大的方便了基于V821的智能產品的開發與拓展。

V821豆包視覺大模型實時采集圖像進行物品識別示例:

下面的視頻展示V821接入DeepSeek語言大模型,支持多輪對話+流式輸出功能:

通過以上的兩段演示可以發現,在有了接入套件所提供的便利后,云端部署的大模型的運行達到了“滿血”狀態,無論是物品識別還是多輪持續對話都有很快的輸出,確保在微型化設備算力資源受限的情況下,也能流暢自然地使用大模型,實現本地設備與云端AI結合。

V821是一顆高集成度的低功耗WiFi視覺SOC,集成了高性能ISP和H.264、JPEG編碼單元,同時內置了WiFi,因此可以很方便的接入AI視覺大模型,快速實現微型化、高清視頻、云端AI結合、低功耗一體化的視覺產品落地。

V821簡要規格如下:

通用算力:CPU RISC-V 1GHz + MCU RISC-V 600MHz

視頻輸入:1x2lane/2x1lane MIPI-CSI + 支持一路并口CSI

視頻引擎:支持H.264最大3072x3072;MJPEG最大8192x8192;支持雙目1920x1080@15fps + 640x480@15fps

WiFi(內置):WiFi4 單頻2.4GHz + 低功耗版本保活功耗180uA(DTIM10)

其他接口支持一路音頻輸出/一路音頻輸入 + 3xSPI / 3xTWI / 4xUART / 12xPWM / 2xSDIO

全志推出的最新大模型套件,可以無縫切換各種主流大模型。各大模型官方提供的接入示例多是pythonjava等語言實現,而全志的套件使用純C語言實現,內存資源占用少,可方便應用在全志平臺Tina Linux系統和Tina RTOS系統上。目前,該套件已集成到V821 SDK中,會于2月底隨V821 SDK V1.1發出,屆時歡迎各位開發者升級體驗。

使用全志提供的大模型接入套件,只需要簡單的2個步驟即可接入豆包視覺大模型。

步驟1:調用lm_init函數進行初始化大模型

typedef struct {
 const char *url;
 const char *model;
 const char *api_key;
} lm_config;


int lm_init(lm_config *config, lm_handle *handle);

初始化需要填充大模型的URL、模型、API key參數。參數的獲取可在各大模型官網進行注冊賬號后獲得,具體可參考各大模型官方的說明文檔,本文接入的是豆包視覺大模型,可參考以下鏈接獲取參數信息:

https://www.volcengine.com/docs/82379/1362931

步驟2:調用lm_generate函數訪問大模型。

typedef int (*lm_outputcallback)(char* token, void* user_data);


typedef struct {
 char *content;
 prompt_image *img;
} lm_prompt;


int lm_generate(lm_handle handle, lm_prompt *prompt, lm_outputcallback cb, void *user_data);

prompt為輸入的提示詞,其帶有兩個參數,content表示輸入的文本,img為輸入的圖片數據;cb為用戶注冊的回調函數,當接收到云端大模型返回數據時會回調該函數將token信息輸出。

按照以上部署方式使用該套件到V821上,還可以支持DeepSeek的多輪對話和流式輸出。所謂“多輪對話”(Multi-turn Dialogue)是指大模型在與用戶交互時,能夠理解并記住對話歷史,并根據上下文信息持續生成符合邏輯的連貫回復的能力,而流式輸出是在云端大模型生成token回應時能夠實時輸出,支持多輪對話與流式輸出的能力使得對話不再是孤立的“一問一答”,而是更接近人類自然交流的連續互動。

全方位擁抱大模型生態,已成為多產品線全面革新的主旋律。AI大模型的普及為產品落地帶來了更多元的玩法,全志將針對各產品線不同應用場景的獨特需求,深度挖掘本地算力潛能,巧妙融合先進云端技術方案,為用戶帶來更智能便捷的交互體驗,提升工作效率,營造智慧生活,逐步推動AI從前沿科技走向大眾生活,用智能硬件助力AI惠民愿景的落地生根。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 視覺芯片
    +關注

    關注

    1

    文章

    45

    瀏覽量

    11560
  • 全志
    +關注

    關注

    24

    文章

    256

    瀏覽量

    53433
  • 大模型
    +關注

    關注

    2

    文章

    2804

    瀏覽量

    3455
  • DeepSeek
    +關注

    關注

    1

    文章

    638

    瀏覽量

    437

原文標題:輕算力也能玩大模型,V821成功對接DeepSeek和豆包視覺大模型

文章出處:【微信號:gh_79acfa3aa3e3,微信公眾號:全志在線】歡迎添加關注!文章轉載請注明出處。

收藏 0人收藏

    評論

    相關推薦

    聆思CSK6大模型語音開發板接入DeepSeek資料匯總(包含深度求索/火山引擎/硅基流動華為昇騰滿血版)

    本帖最后由 jf_40317719 于 2025-3-6 21:20 編輯 近期也有不少開發者想把自己的智能硬件接入DeepSeek模型,本篇就以聆思CSK6大模型開發板
    發表于 03-06 17:02

    機智云推出集成Deepseek豆包模型的AIoT開發平臺

    近日,字節跳動旗下扣子AI工坊硬件專場活動深圳現場,全球領先的物聯網解決方案商機智云發布重要平臺升級,正式推出行業首個標配DeepSeek豆包模型的AIoT開發平臺,深度融合火山引擎云原生架構
    的頭像 發表于 03-04 10:29 ?357次閱讀

    EVASH芯片公司接入DeepSeek:AI驅動的芯片設計革新

    EVASH芯片公司接入DeepSeek:AI驅動的芯片設計革新
    的頭像 發表于 03-03 17:45 ?155次閱讀

    啟明智顯集成DeepSeek豆包、OpenAI等全球先進AI大模型,助力傳統產品AI智能升級

    啟明智顯借助豆包Deepseek、OpenAI等全球先進AI大模型,助力傳統產品實現AI智能升級
    的頭像 發表于 02-24 16:12 ?460次閱讀
    啟明智顯集成<b class='flag-5'>DeepSeek</b>、<b class='flag-5'>豆包</b>、OpenAI等全球先進AI大<b class='flag-5'>模型</b>,助力傳統產品AI智能升級

    惠倫晶體全面接入DeepSeek等大模型技術

    當下,AI技術正在有力地重塑產業格局,deepseek在網絡上熱度居高不減。惠倫晶體現已通過數字化平臺(飛書)全面接入Deepseek豆包等大模型
    的頭像 發表于 02-18 13:40 ?222次閱讀

    VS680平板接入字節豆包DeepSeek模型

    模型
    深蕾半導體
    發布于 :2025年02月14日 17:38:43

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個不同定位的大模型,其核心差異主要體現在目標場景、能力側重和技術優化方向上。以下是二者的實
    發表于 02-14 02:08

    【實測】用A733平板搭建一個端側Deepseek算力平臺

    ? 隨著DeepSeek 的蒸餾技術的橫空出世,端側 SoC 芯片上運行大模型成為可能。那么端側芯片跑大模型的效果如何呢?本文將在
    發表于 02-13 10:19

    利用A733平板構建端側DeepSeek算力平臺

    隨著DeepSeek 的蒸餾技術的橫空出世,端側 SoC 芯片上運行大模型成為可能。那么端側芯片跑大模型的效果如何呢?本文將在
    的頭像 發表于 02-13 10:18 ?395次閱讀
    利用<b class='flag-5'>全</b><b class='flag-5'>志</b>A733平板構建端側<b class='flag-5'>DeepSeek</b>算力平臺

    海信星海大模型接入DeepSeek

    近日,海信自研的星海大模型接入DeepSeek,在智慧生活和智慧城市領域為用戶帶來全新的智能交互體驗。
    的頭像 發表于 02-12 14:09 ?262次閱讀

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自發布以來吸引了眾多用戶關注,為了讓 deepin 用戶更好地體驗這一前沿技術,UOS AI 現已適配接入 DeepSeek-R1 端側
    的頭像 發表于 02-08 09:52 ?529次閱讀

    esp32如何接入豆包

    要在 ESP32 上接入豆包工具,本質上是讓 ESP32 設備與豆包的 API 進行通信,以獲取相關服務
    的頭像 發表于 02-05 13:40 ?830次閱讀
    esp32如何<b class='flag-5'>接入</b><b class='flag-5'>豆包</b>

    字節跳動發布豆包模型1.5 Pro

    3.5 Sonnet等模型。 該模型采用大規模稀疏MoE架構,使用較小的激活參數進行預訓練,卻能等效7倍激活參數的Dense模型性能,遠超業內MoE架構約3倍杠桿的常規效率。 同時發布的還有新版
    的頭像 發表于 01-23 10:24 ?332次閱讀

    PerfXCloud順利接入MOE大模型DeepSeek-V2

    今日,在 PerfXCloud 重磅更新支持 llama 3.1 之后,其平臺再度實現重大升級!目前,已順利接入被譽為全球最強的 MOE 大模型 DeepSeek-V2 ,已在 PerfXCloud(澎峰云)官網的體驗中心對平臺
    的頭像 發表于 07-27 10:08 ?958次閱讀
    PerfXCloud順利<b class='flag-5'>接入</b>MOE大<b class='flag-5'>模型</b><b class='flag-5'>DeepSeek-V</b>2

    三星中國Galaxy Z系列新品接入豆包模型

    近日,三星電子在中國市場隆重發布了新一代Galaxy Z系列產品,包括Galaxy Z Fold6與Galaxy Z Flip6兩款折疊屏手機。發布會上,三星電子宣布與火山引擎達成重要合作,共同為這兩款旗艦手機的智能助手與AI視覺接入
    的頭像 發表于 07-19 15:54 ?781次閱讀
    主站蜘蛛池模板: 亚洲欧洲无码AV在线观看你懂的 | 亚洲精品乱码久久久久久直播 | 伊人大香线蕉影院在线播放 | 色色色久久久免费视频 | 亚洲国产日韩欧美在线a乱码 | 我的好妈妈BD免费观看 | 在线天天看片视频免费观看 | 高H内射NP古文 | 青青青青青青青草 | 歪歪爽蜜臀AV久久精品人人槡 | xhameter中国| 国产婷婷午夜无码A片 | 99热久久视频只有精品6 | 国产永不无码精品AV永久 | 毛片视频大全 | 色婷婷激婷婷深爱五月小蛇 | 国产成人综合在线观看网站 | 榴莲黄版无限刷 | 美女国产毛片A区内射 | 国产精品亚洲专区在线播放 | 大陆老熟女60岁 | 人妻无码AV中文系统久久免费 | 天天躁日日躁狠狠躁中文字幕老牛 | 在线亚洲国产日韩欧洲专区 | 女女破视频在线观看 | 这里只有精品在线视频 | 国产精品视频人人做人人爽 | 国产高清视频在线观看97 | ⅹxx日本护土 | 国产亚洲精品AV片在线观看播放 | 狠狠色丁香婷婷久久综合 | 亚洲欧洲日产国产 最新 | 十分钟在线观看免费视频高清WWW | 精品丰满人妻无套内射 | 亚洲三区视频 | 我与旗袍老师疯狂床震 | 国产乱码一区二区三区 | 亚洲视频在线免费观看 | 成人在线精品视频 | 亚洲精品久久久久久蜜臀 | 国产精品97久久久久久AV色戒 |

    電子發燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品