色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

全志視覺芯片V821接入DeepSeek和豆包視覺大模型

全志在線 ? 來源:全志在線 ? 2025-02-21 09:27 ? 次閱讀

上周,全志生態(tài)的小伙伴們成功在全志A733和T527的SoC平臺(tái)上實(shí)現(xiàn)了DeepSeek-R1-Distill-Qwen-1.5B模型的部署,充分驗(yàn)證了高算力平臺(tái)在端側(cè)部署AI推理上的潛力。今天我們帶來一款全志新的視覺芯片V821,通過網(wǎng)絡(luò)接入的方式打通DeepSeek-R1滿血版模型和豆包視覺大模型,并展示其語言和視覺交互的能力和多樣性。

相較于大模型的端側(cè)部署,云端大模型對(duì)端側(cè)硬件算力、存儲(chǔ)資源等要求較低,以極佳的成本代價(jià)就可以體驗(yàn)到模型最佳的性能表現(xiàn),覆蓋更多的場(chǎng)景形態(tài)。本地設(shè)備將文字,語音,圖像等相關(guān)數(shù)據(jù)通過網(wǎng)絡(luò)上傳,憑借云端大模型對(duì)數(shù)據(jù)的分析和推理海量數(shù)據(jù)的分析和推理能力,并結(jié)合網(wǎng)絡(luò)搜索的信息,更好地,更加準(zhǔn)確地,更加快速地做出判斷和反饋,大幅提升應(yīng)答速度和輸出的準(zhǔn)確率。

全志本次在V821平臺(tái)上基于豆包視覺大模型和DeepSeek語言大模型API實(shí)現(xiàn)了完整的大模型接入套件,讓V821具備了語言交互及圖像識(shí)別等豐富能力,讓開發(fā)者更容易實(shí)現(xiàn)大模型的應(yīng)用,極大的方便了基于V821的智能產(chǎn)品的開發(fā)與拓展。

V821豆包視覺大模型實(shí)時(shí)采集圖像進(jìn)行物品識(shí)別示例:

下面的視頻展示V821接入DeepSeek語言大模型,支持多輪對(duì)話+流式輸出功能:

通過以上的兩段演示可以發(fā)現(xiàn),在有了接入套件所提供的便利后,云端部署的大模型的運(yùn)行達(dá)到了“滿血”狀態(tài),無論是物品識(shí)別還是多輪持續(xù)對(duì)話都有很快的輸出,確保在微型化設(shè)備算力資源受限的情況下,也能流暢自然地使用大模型,實(shí)現(xiàn)本地設(shè)備與云端AI結(jié)合。

V821是一顆高集成度的低功耗WiFi視覺SOC,集成了高性能ISP和H.264、JPEG編碼單元,同時(shí)內(nèi)置了WiFi,因此可以很方便的接入AI視覺大模型,快速實(shí)現(xiàn)微型化、高清視頻、云端AI結(jié)合、低功耗一體化的視覺產(chǎn)品落地。

V821簡(jiǎn)要規(guī)格如下:

通用算力:CPU RISC-V 1GHz + MCU RISC-V 600MHz

視頻輸入:1x2lane/2x1lane MIPI-CSI + 支持一路并口CSI

視頻引擎:支持H.264最大3072x3072;MJPEG最大8192x8192;支持雙目1920x1080@15fps + 640x480@15fps

WiFi(內(nèi)置):WiFi4 單頻2.4GHz + 低功耗版本保活功耗180uA(DTIM10)

其他接口支持一路音頻輸出/一路音頻輸入 + 3xSPI / 3xTWI / 4xUART / 12xPWM / 2xSDIO

全志推出的最新大模型套件,可以無縫切換各種主流大模型。各大模型官方提供的接入示例多是pythonjava等語言實(shí)現(xiàn),而全志的套件使用純C語言實(shí)現(xiàn),內(nèi)存資源占用少,可方便應(yīng)用在全志平臺(tái)Tina Linux系統(tǒng)和Tina RTOS系統(tǒng)上。目前,該套件已集成到V821 SDK中,會(huì)于2月底隨V821 SDK V1.1發(fā)出,屆時(shí)歡迎各位開發(fā)者升級(jí)體驗(yàn)。

使用全志提供的大模型接入套件,只需要簡(jiǎn)單的2個(gè)步驟即可接入豆包視覺大模型。

步驟1:調(diào)用lm_init函數(shù)進(jìn)行初始化大模型

typedef struct {
 const char *url;
 const char *model;
 const char *api_key;
} lm_config;


int lm_init(lm_config *config, lm_handle *handle);

初始化需要填充大模型的URL、模型、API key參數(shù)。參數(shù)的獲取可在各大模型官網(wǎng)進(jìn)行注冊(cè)賬號(hào)后獲得,具體可參考各大模型官方的說明文檔,本文接入的是豆包視覺大模型,可參考以下鏈接獲取參數(shù)信息:

https://www.volcengine.com/docs/82379/1362931

步驟2:調(diào)用lm_generate函數(shù)訪問大模型。

typedef int (*lm_outputcallback)(char* token, void* user_data);


typedef struct {
 char *content;
 prompt_image *img;
} lm_prompt;


int lm_generate(lm_handle handle, lm_prompt *prompt, lm_outputcallback cb, void *user_data);

prompt為輸入的提示詞,其帶有兩個(gè)參數(shù),content表示輸入的文本,img為輸入的圖片數(shù)據(jù);cb為用戶注冊(cè)的回調(diào)函數(shù),當(dāng)接收到云端大模型返回?cái)?shù)據(jù)時(shí)會(huì)回調(diào)該函數(shù)將token信息輸出。

按照以上部署方式使用該套件到V821上,還可以支持DeepSeek的多輪對(duì)話和流式輸出。所謂“多輪對(duì)話”(Multi-turn Dialogue)是指大模型在與用戶交互時(shí),能夠理解并記住對(duì)話歷史,并根據(jù)上下文信息持續(xù)生成符合邏輯的連貫回復(fù)的能力,而流式輸出是在云端大模型生成token回應(yīng)時(shí)能夠?qū)崟r(shí)輸出,支持多輪對(duì)話與流式輸出的能力使得對(duì)話不再是孤立的“一問一答”,而是更接近人類自然交流的連續(xù)互動(dòng)。

全方位擁抱大模型生態(tài),已成為多產(chǎn)品線全面革新的主旋律。AI大模型的普及為產(chǎn)品落地帶來了更多元的玩法,全志將針對(duì)各產(chǎn)品線不同應(yīng)用場(chǎng)景的獨(dú)特需求,深度挖掘本地算力潛能,巧妙融合先進(jìn)云端技術(shù)方案,為用戶帶來更智能便捷的交互體驗(yàn),提升工作效率,營(yíng)造智慧生活,逐步推動(dòng)AI從前沿科技走向大眾生活,用智能硬件助力AI惠民愿景的落地生根。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 視覺芯片
    +關(guān)注

    關(guān)注

    1

    文章

    45

    瀏覽量

    11553
  • 全志
    +關(guān)注

    關(guān)注

    24

    文章

    256

    瀏覽量

    53418
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2796

    瀏覽量

    3442
  • DeepSeek
    +關(guān)注

    關(guān)注

    1

    文章

    631

    瀏覽量

    395

原文標(biāo)題:輕算力也能玩大模型,V821成功對(duì)接DeepSeek和豆包視覺大模型

文章出處:【微信號(hào):gh_79acfa3aa3e3,微信公眾號(hào):全志在線】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    聆思CSK6大模型語音開發(fā)板接入DeepSeek資料匯總(包含深度求索/火山引擎/硅基流動(dòng)華為昇騰滿血版)

    本帖最后由 jf_40317719 于 2025-3-6 21:20 編輯 近期也有不少開發(fā)者想把自己的智能硬件接入DeepSeek模型,本篇就以聆思CSK6大模型開發(fā)板
    發(fā)表于 03-06 17:02

    機(jī)智云推出集成Deepseek豆包模型的AIoT開發(fā)平臺(tái)

    近日,字節(jié)跳動(dòng)旗下扣子AI工坊硬件專場(chǎng)活動(dòng)深圳現(xiàn)場(chǎng),全球領(lǐng)先的物聯(lián)網(wǎng)解決方案商機(jī)智云發(fā)布重要平臺(tái)升級(jí),正式推出行業(yè)首個(gè)標(biāo)配DeepSeek豆包模型的AIoT開發(fā)平臺(tái),深度融合火山引擎云原生架構(gòu)
    的頭像 發(fā)表于 03-04 10:29 ?335次閱讀

    EVASH芯片公司接入DeepSeek:AI驅(qū)動(dòng)的芯片設(shè)計(jì)革新

    EVASH芯片公司接入DeepSeek:AI驅(qū)動(dòng)的芯片設(shè)計(jì)革新
    的頭像 發(fā)表于 03-03 17:45 ?142次閱讀

    啟明智顯集成DeepSeek豆包、OpenAI等全球先進(jìn)AI大模型,助力傳統(tǒng)產(chǎn)品AI智能升級(jí)

    啟明智顯借助豆包Deepseek、OpenAI等全球先進(jìn)AI大模型,助力傳統(tǒng)產(chǎn)品實(shí)現(xiàn)AI智能升級(jí)
    的頭像 發(fā)表于 02-24 16:12 ?432次閱讀
    啟明智顯集成<b class='flag-5'>DeepSeek</b>、<b class='flag-5'>豆包</b>、OpenAI等全球先進(jìn)AI大<b class='flag-5'>模型</b>,助力傳統(tǒng)產(chǎn)品AI智能升級(jí)

    惠倫晶體全面接入DeepSeek等大模型技術(shù)

    當(dāng)下,AI技術(shù)正在有力地重塑產(chǎn)業(yè)格局,deepseek在網(wǎng)絡(luò)上熱度居高不減。惠倫晶體現(xiàn)已通過數(shù)字化平臺(tái)(飛書)全面接入Deepseek豆包等大模型
    的頭像 發(fā)表于 02-18 13:40 ?211次閱讀

    VS680平板接入字節(jié)豆包DeepSeek模型

    模型
    深蕾半導(dǎo)體
    發(fā)布于 :2025年02月14日 17:38:43

    了解DeepSeek-V3 和 DeepSeek-R1兩個(gè)大模型的不同定位和應(yīng)用選擇

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的兩個(gè)不同定位的大模型,其核心差異主要體現(xiàn)在目標(biāo)場(chǎng)景、能力側(cè)重和技術(shù)優(yōu)化方向上。以下是二者的實(shí)
    發(fā)表于 02-14 02:08

    【實(shí)測(cè)】用A733平板搭建一個(gè)端側(cè)Deepseek算力平臺(tái)

    ? 隨著DeepSeek 的蒸餾技術(shù)的橫空出世,端側(cè) SoC 芯片上運(yùn)行大模型成為可能。那么端側(cè)芯片跑大模型的效果如何呢?本文將在
    發(fā)表于 02-13 10:19

    利用A733平板構(gòu)建端側(cè)DeepSeek算力平臺(tái)

    隨著DeepSeek 的蒸餾技術(shù)的橫空出世,端側(cè) SoC 芯片上運(yùn)行大模型成為可能。那么端側(cè)芯片跑大模型的效果如何呢?本文將在
    的頭像 發(fā)表于 02-13 10:18 ?379次閱讀
    利用<b class='flag-5'>全</b><b class='flag-5'>志</b>A733平板構(gòu)建端側(cè)<b class='flag-5'>DeepSeek</b>算力平臺(tái)

    海信星海大模型接入DeepSeek

    近日,海信自研的星海大模型接入DeepSeek,在智慧生活和智慧城市領(lǐng)域?yàn)橛脩魩砣碌闹悄芙换ンw驗(yàn)。
    的頭像 發(fā)表于 02-12 14:09 ?252次閱讀

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自發(fā)布以來吸引了眾多用戶關(guān)注,為了讓 deepin 用戶更好地體驗(yàn)這一前沿技術(shù),UOS AI 現(xiàn)已適配接入 DeepSeek-R1 端側(cè)
    的頭像 發(fā)表于 02-08 09:52 ?505次閱讀

    esp32如何接入豆包

    要在 ESP32 上接入豆包工具,本質(zhì)上是讓 ESP32 設(shè)備與豆包的 API 進(jìn)行通信,以獲取相關(guān)服務(wù)
    的頭像 發(fā)表于 02-05 13:40 ?794次閱讀
    esp32如何<b class='flag-5'>接入</b><b class='flag-5'>豆包</b>

    字節(jié)跳動(dòng)發(fā)布豆包模型1.5 Pro

    3.5 Sonnet等模型。 該模型采用大規(guī)模稀疏MoE架構(gòu),使用較小的激活參數(shù)進(jìn)行預(yù)訓(xùn)練,卻能等效7倍激活參數(shù)的Dense模型性能,遠(yuǎn)超業(yè)內(nèi)MoE架構(gòu)約3倍杠桿的常規(guī)效率。 同時(shí)發(fā)布的還有新版
    的頭像 發(fā)表于 01-23 10:24 ?320次閱讀

    PerfXCloud順利接入MOE大模型DeepSeek-V2

    今日,在 PerfXCloud 重磅更新支持 llama 3.1 之后,其平臺(tái)再度實(shí)現(xiàn)重大升級(jí)!目前,已順利接入被譽(yù)為全球最強(qiáng)的 MOE 大模型 DeepSeek-V2 ,已在 PerfXCloud(澎峰云)官網(wǎng)的體驗(yàn)中心對(duì)平臺(tái)
    的頭像 發(fā)表于 07-27 10:08 ?953次閱讀
    PerfXCloud順利<b class='flag-5'>接入</b>MOE大<b class='flag-5'>模型</b><b class='flag-5'>DeepSeek-V</b>2

    三星中國(guó)Galaxy Z系列新品接入豆包模型

    近日,三星電子在中國(guó)市場(chǎng)隆重發(fā)布了新一代Galaxy Z系列產(chǎn)品,包括Galaxy Z Fold6與Galaxy Z Flip6兩款折疊屏手機(jī)。發(fā)布會(huì)上,三星電子宣布與火山引擎達(dá)成重要合作,共同為這兩款旗艦手機(jī)的智能助手與AI視覺接入
    的頭像 發(fā)表于 07-19 15:54 ?777次閱讀
    主站蜘蛛池模板: old胖老太fat bbw青年 | 国产色婷婷亚洲99精品 | 亚洲1区2区3区精华液 | 一区精品在线 | 女配穿书病娇被强啪h | 两性色午夜视频免费国产 | 父亲在线日本综艺免费观看全集 | 大学生第一次破女在线观看 | 成片免费观看视频在线网 | 超碰在线 视频 | 国产精一品亚洲二区在线播放 | 国产色婷亚洲99精品AV在 | 最新国产精品视频免费看 | 十九禁啊啪射视频在线观看 | 国产免费午夜高清 | 欧美 亚洲 日韩 在线综合 | 竹菊精品久久久久久久99蜜桃 | 富婆大保健嗷嗷叫普通话对白 | 国产在线观看黄 | 超碰在线线公开免费视频 | 快播可乐网 | 香蕉精品国产高清自在自线 | 中文字幕在线不卡精品视频99 | 午夜宅宅伦电影网 | 国精产品一区二区三区四区糖心 | 国产一区精选播放022 | 嗯啊好爽视频 | 寂寞夜晚视频在线观看 | 国产精品免费视频能看 | 男神插曲女生软件完整版 | 欧美日韩高清一区二区三区 | 强上轮流内射高NP男男 | 果冻传媒视频在线播放 免费观看 | 国产自拍视频在线一区 | 午夜欧洲亚洲AV永久无码精品 | 白丝制服被啪到喷水很黄很暴力 | 亚洲欧美日本久久综合网站 | a级毛片黄免费a级毛片 | 国产免费啪嗒啪嗒视频看看 | 狠狠射首页 | 黄色三级视频网站 |

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品