完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > LLM
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：316個 瀏覽：608次 帖子：3個
2025年，如何提升大型語言模型（LLM）的推理能力成了最熱門的話題之一，大量優化推理能力的新策略開始出現，包括擴展推理時間計算、運用強化學習、開展監督...
樹莓派秒變編程助手：Ollama+Continue的簡易搭建教程！
以下是如何在RaspberryPi上運行大型語言模型(LLM)的方法。本文的目標是找出在RaspberryPi上運行LLM是否是ChatGPT和GitH...
2025-03-27 標簽：Raspberry Pi樹莓派LLM 113 0
本文討論了LLM推理過程對計算資源需求急劇攀升的背景下，現有量化和剪枝技術、新數據格式存在的不足，提出動態塊浮點數（DBFP）及其配套算法-硬件協同框架...
內部業務支撐&前瞻技術布局 One4All下一代生成式推薦系統
作者：京東零售 申磊 自LLM在自然語言處理等領域取得了矚目成就之后，學術界積極探索生成式模型對搜廣推系統的增強或改進方式[1]，現有工作大體可以分為兩...
隨著 DeepSeek、 GPT 和 Llama 等大語言模型（LLMs）不斷推動人工智能的邊界，它們在高效部署方面也帶來了重大挑戰。這些模型在生成類似...
推薦系統的主要任務在于根據用戶的過往行為預測其潛在興趣點，并據此推薦相應的商品。在傳統的推薦系統中，當處理用戶請求時，會觸發多個召回模塊，例如熱門商品召...
作者：算力魔方創始人/英特爾創新大使劉力 之前我們分享了《從零開始訓練一個大語言模型需要投資多少錢》，其中高昂的預訓練費用讓許多對大模型預訓練技術感興趣...
本文系統性地闡述了大型語言模型(LargeLanguageModels,LLMs)中的解碼策略技術原理及其實踐應用。通過深入分析各類解碼算法的工作機制、...
繼上一篇移植了 Mediapipe 的 LLM Inference 后，這篇文章我們將繼續探索 Object Detection Demo 的移植。
在NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化
Recurrent Drafting (簡稱 ReDrafter) 是蘋果公司為大語言模型 (LLM) 推理開發并開源的一種新型推測解碼技術，該技術現在...
新品 | Module LLM Kit，離線大語言模型推理模塊套裝
●●●PART.01產品簡介ModuleLLMKit是一款專注于離線AI推理與數據通信接口應用的智能模塊套件，整合了ModuleLLM與Module13...
英偉達GTC2025亮點：電信行業領先企業啟用代理式AI優化網絡運維
Amdocs、BubbleRAN、ServiceNow、軟銀集團與 Tech Mahindra 基于 NVIDIA AI Enterprise 開發大型...
作者：算力魔方創始人/英特爾創新大使劉力 一，簡介 AnythingLLM 是一個功能強大且靈活的工具，專為在本地環境中部署和管理知識庫而設計。它支持多...
大模型基礎能力越來越高，各行各業都希望運用AIGC降本增收，卻面臨如何結合自身業務場景優化的難題。為了幫助客戶快速打造符合其業務需求的AIGC應用，足下...
你有沒有想過，人類真的能做出完全隨機的選擇嗎？答案可能出乎你的意料。事實上，人類天生就不擅長“隨機”，我們總能在看似無序的事物中發現規律，甚至在本該隨機...
TeleAI提出COPO對齊方法:8B模型超越Llama3-70B的表現
在自然界中，好奇心驅使著生物探索未知，是生存和進化的關鍵。人類，作為地球上最具智能的物種，其探索精神引領了科技、文化和社會的進步。1492 年，哥倫布懷...
實戰案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程
前言：在RK3588上部署Deepseek有兩種方法,分別是使用Ollama工具部署和使用瑞芯微官方的RKLLM量化部署。Ollama是一個開源的大模型...
最近，開源中國 OSCHINA、Gitee 與 Gitee AI? 全文如下： 大模型撞上 “算力墻”，超級應用的探尋之路 文 / 傅聰 近日，大模型教...
大型語言模型（LLM）（如 ChatGPT、Claude 和 Meta AI）的出現是迄今為止人工智能領域最重大的進步。這項新技術也帶來了新風險。眾所周...
新品| LLM630 Compute Kit，AI 大語言模型推理開發平臺
LLM630LLM推理，視覺識別，可開發，靈活擴展···LLM630ComputeKit是一款AI大語言模型推理開發平臺，專為邊緣計算和智能交互應用而設...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題 教程专题
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
