完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > LLM
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：316個 瀏覽：616次 帖子：3個
本文通俗簡單地介紹了什么是大模型、大模型是怎么訓練出來的和大模型的作用。 ? 什么是大模型 大模型，英文名叫Large Model，大型模型。早期的時候...
隨著人工智能技術的飛速發展，大型語言模型（Large Language Model，簡稱LLM）逐漸成為自然語言處理（NLP）領域的研究熱點。LLM以其...
什么是LlamaIndex？LlamaIndex數據框架的特點和功能
LlamaIndex是一個數據框架，用于讓基于LLM的應用程序攝取、結構化和訪問私有或領域特定的數據。它提供Python和Typescript版本。
MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區別在于，在 MQA 中不同的注意力頭共享一個K和V...
ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到圖像生成等任務中表現出令人印象深刻的性能。
單模態大模型，通常大于100M～1B參數。具有較強的通用性，比如對圖片中任意物體進行分割，或者生成任意內容的圖片或聲音。極大降低了場景的定制成本。
LLM底座模型：LLaMA、Palm、GLM、BLOOM、GPT結構對比
使用RMSNorm（即Root Mean square Layer Normalization）對輸入數據進行標準化，RMSNorm可以參考論文：Roo...
本文將分享如何將最新的端側大語言模型部署到超高性價比SoC上，向業界對端側大模型部署的開發者提供一種新的思路。
LLM推理加速新范式！推測解碼（Speculative Decoding）最新綜述
這個問題隨著LLM規模的增大愈發嚴重。并且，如下左圖所示，目前LLM常用的自回歸解碼（autoregressive decoding）在每個解碼步只能生...
LLM推理上的DeepSpeed Inference優化實踐方案
首先將 batch 拆分為 micro-batch，其中 micro-batch 數等于 pipeline 深度，micro-batch通過動態隊列的順...
它包括Megatron方面的進步，這是一個由 NVIDIA 研究人員領導的開源項目，旨在開發有效培訓法學碩士的技術。企業可以使用 NeMo Mega...
這個架構的輸入，是多個相機拍攝的圖像，輸出則是自動駕駛的一系列任務，當中包含了動態障礙物的檢測和預測，靜態場景的理解，以及這兩個基礎之上的一系列下游規控任務。
2022-11-18 標簽：嵌入式自動駕駛Transformer 6511 0
大模型（LLM）由于其卓越的自然語言理解、推理等能力，已經被應用于各種場景，取得了前所未有的效果。
趁著ChatGPT這一熱門話題還未消退，我們來聊一聊這類大規模語言模型（LLM）或通用人工智能（AGI）背后的細節。畢竟目前相關的概念股跟風大漲，但還是...
探索ChatGLM2在算能BM1684X上INT8量化部署，加速大模型商業落地
1.背景介紹在2023年7月時我們已通過靜態設計方案完成了ChatGLM2-6B在單顆BM1684X上的部署工作，量化模式F16，模型大小12GB，平均...
單日獲客成本超20萬，國產大模型開卷200萬字以上的長文本處理
電子發燒友網報道（文/周凱揚）隨著AGI生態的蓬勃發展，各種支持多模態的大模型推陳出新，比如最近比較火的音樂大模型Suno和文生視頻大模型Sora等等。...
實戰案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程
前言：在RK3588上部署Deepseek有兩種方法,分別是使用Ollama工具部署和使用瑞芯微官方的RKLLM量化部署。Ollama是一個開源的大模型...
用數值的高低來判斷自動駕駛水平的高低，至少需要有相似的比較前提。如果運行的區間、處理任務的能力存在巨大差別，那么兩套方案的難度和價值，很難直接通過L2/...
隨著人工智能技術的飛速發展，自然語言處理（NLP）領域迎來了革命性的進步。其中，大型語言模型（LLM）的出現，標志著我們對語言理解能力的一次飛躍。LLM...
對于任何沒有額外微調和強化學習的預訓練大型語言模型來說，用戶得到的回應質量可能參差不齊，并且可能包括冒犯性的語言和觀點。這有望隨著規模、更好的數據、社區...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題 教程专题
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
