1. OpenAI DALL·E 3來了，集成ChatGPT，生圖效果太炸了

原文：https://mp.weixin.qq.com/s/P4HwP3VwzSnndD5LSt8pXw

終于，OpenAI 的文生圖 AI 工具 DALL-E 系列迎來了最新版本 DALL?E 3，而上個版本 DALL?E 2 還是在去年 4 月推出的。

OpenAI 表示，「DALL?E 3 比以往系統(tǒng)更能理解細微差別和細節(jié)，讓用戶更加輕松地將自己的想法轉化為非常準確的圖像。」

2. GPT-4終結人工標注！AI標注比人類標注效率高100倍，成本僅1/7

原文：https://mp.weixin.qq.com/s/AwXljsdH1SG0qzNeYTaprA

3. Transformer+強化學習，谷歌DeepMind讓大模型成為機器人感知世界的大腦

原文：https://mp.weixin.qq.com/s/pp9viv9IfdiLMFXgy4h56A

• 第一，我們希望機器人系統(tǒng)能比人類遠程操作者更加熟練，利用硬件的全部潛力來快速、流暢和可靠地完成任務。
• 第二，我們希望機器人系統(tǒng)能更擅長自動積累經驗，而不是完全依賴高質量的演示。

• 論文：https://q-transformer.github.io/assets/q-transformer.pdf
• 項目：https://q-transformer.github.io/

4. Transformer的上下文學習能力是哪來的？

原文：https://mp.weixin.qq.com/s/7eRwSwIE-X-qfjAsOCW1WQ

論文鏈接：https://arxiv.org/abs/2309.05858

• 概括了 von Oswald 等人的理論，并展示了從理論上，Transformers 是如何通過使用基于梯度的方法優(yōu)化內部構建的目標來自回歸預測序列下一個元素的。
• 通過實驗對在簡單序列建模任務上訓練的 Transformer 進行了逆向工程，并發(fā)現(xiàn)強有力的證據(jù)表明它們的前向傳遞實現(xiàn)了兩步算法：(i) 早期自注意力層通過分組和復制標記構建內部訓練數(shù)據(jù)集，因此隱式地構建內部訓練數(shù)據(jù)集。定義內部目標函數(shù)，(ii) 更深層次優(yōu)化這些目標以生成預測。
• 與 LLM 類似，實驗表明簡單的自回歸訓練模型也可以成為上下文學習者，而即時調整對于改善 LLM 的上下文學習至關重要，也可以提高特定環(huán)境中的表現(xiàn)。
• 受發(fā)現(xiàn)注意力層試圖隱式優(yōu)化內部目標函數(shù)的啟發(fā)，作者引入了 mesa 層，這是一種新型注意力層，可以有效地解決最小二乘優(yōu)化問題，而不是僅采取單個梯度步驟來實現(xiàn)最優(yōu)。實驗證明單個 mesa 層在簡單的順序任務上優(yōu)于深度線性和 softmax 自注意力 Transformer，同時提供更多的可解釋性。

• 在初步的語言建模實驗后發(fā)現(xiàn)，用 mesa 層替換標準的自注意力層獲得了有希望的結果，證明了該層具有強大的上下文學習能力。

5. 1.5T內存挑戰(zhàn)英偉達！8枚芯片撐起3個GPT-4，華人AI芯片獨角獸估值365億

原文：https://mp.weixin.qq.com/s/GjG_OpzlAO7vGwOW7fmE-w

• 520MB片上SRAM內存
• 65GB的高帶寬HBM3內存
• 以及高達1.5TB的外部DRAM內存

GPU的架構非常嚴格，面對圖像、視頻、文本等多樣數(shù)據(jù)時可能不夠靈活，而SambaNova可以調整硬件來滿足工作負載的要求。

6. 十分鐘，深入淺出理解Transformer

原文：https://mp.weixin.qq.com/s/xtyP6cg6vROOXe1vlPEEew