Chip Huyen 分析了近900個流行的開源AI專案，發現2023年應用和AI工程層爆發式增長，基礎設施層變化較小。中國開源生態與西方分化明顯，湧現出許多針對中文的模型和工具。

探索大型語言模型在自動駕駛中的效用：它們能否被信任用於無人駕駛汽車，關鍵挑戰是什麼？

本文介紹了 vec2text 方法，一種能夠從文本嵌入向量中完美還原原始文本的技術，揭示了當前 RAG 系統和向量資料庫在資料安全方面的重大隱患。

本文探討了如何預測使用者對AI模型回覆的偏好，以實現模型路由和提升效率。作者透過實驗證明了使用少量資料即可實現偏好預測，並展示了其在不同查詢下的表現差異。

高質量資料是現代深度學習模型訓練的燃料。本文探討了如何透過人類標註收集高質量資料，包括任務設計、標註員選擇與培訓、資料聚合等操作步驟。文章還介紹了眾包智慧、標註者一致性評估方法（如Cohen's Kappa、MACE）以及兩種標註正規化（描述性與規範性）。此外，討論了利用影響函式、訓練動態（如資料對映、遺忘事件、AUM）和噪聲交叉驗證來識別錯誤標籤的技術。

本文深入探討了 AI 模型生成文本的機率機制，重點介紹了溫度、top-k、top-p 等取樣策略，以及測試時計算和結構化輸出的方法，幫助讀者理解和最佳化模型輸出。

Qdrant 1.7.0 引入了對稀疏向量的原生支援，實現了關鍵詞搜尋與語義搜尋的混合檢索；全新的 Discovery API 提供了更精確的向量搜尋方式，包括髮現搜尋和上下文搜尋；使用者自定義分片功能允許靈活控制資料分佈；基於快照的分片傳輸機制提升了叢集擴充套件效率。此外，還包含多項效能最佳化和穩定性改進。

本文全面調查了針對大型語言模型的對抗性攻擊，涵蓋威脅模型、攻擊型別（包括標記操縱、基於梯度的攻擊、越獄提示和紅隊測試技術），並討論了黑盒和白盒設定下的挑戰與方法。

本文全面介紹多模態AI系統，特別是大型多模態模型（LMM）。文章從多模態的必要性、資料模態型別、多模態任務入手，詳細解析了CLIP和Flamingo兩大模型的架構與訓練方法，並探討了LMM的前沿研究方向，包括多模態輸出生成、指令跟隨、高效介面卡等。

本文總結了當前大語言模型研究的十大方向，涵蓋幻覺、上下文學習、多模態、速度與成本、新架構、GPU替代品、智慧體、人類偏好學習、聊天介面效率以及非英語語言模型。作者基於與業界和學術界的交流，分析了每個方向的現狀和挑戰。

自2022年底ChatGPT釋出以來，生成式AI引發了巨大興趣和炒作。企業紛紛制定GenAI戰略，但實際能力與期望之間存在差距。IDC調查顯示，近80%的高管有信心在未來利用GenAI，但只有30%的企業目前準備就緒。文章探討了企業採用GenAI的路徑，包括自建模型與購買API的抉擇，以及治理、透明度和資料架構等關鍵問題。

數字技能差距持續存在，人工智慧和機器學習領域的短缺尤為嚴重。SAS調查顯示63%的決策者認為AI/ML技能缺口最大。O'Reilly報告指出，NLP和深度學習興趣激增，資料工程和雲端計算技能需求旺盛。企業正透過培訓和技能提升來應對這一趨勢。

Databricks宣佈以13億美元收購生成式AI初創公司MosaicML，後者以開源模型MPT-7B和MPT-30B聞名。收購旨在將MosaicML的AI能力整合到Databricks Lakehouse平臺，為企業提供低成本、可定製的生成式AI解決方案，並推動AI民主化。

本文深入探討了以大語言模型（LLM）為核心控制器的自主智慧體系統。系統包含規劃、記憶和工具使用三大元件：規劃透過任務分解和自我反思實現複雜任務處理；記憶分為短期（上下文學習）和長期（外部向量儲存）；工具使用使智慧體能呼叫外部API。文章還介紹了多個案例（如ChemCrow、生成式智慧體）和概念驗證（AutoGPT、GPT-Engineer、BabyAGI），並討論了有限上下文視窗等挑戰。

文章探討了AI對應用開發人員的影響。雖然AI工具如ChatGPT和GitHub Copilot能提高效率，但它們缺乏創造力，且可能產生幻覺，因此人類開發者仍然不可或缺。調查顯示，僅有33%的組織使用此類工具，但實際使用率可能更高。培訓是最大的挑戰，而非易用性。

歐洲議會議員以壓倒性多數透過了《歐盟人工智慧法案》草案，該法案將根據風險等級對AI應用進行監管，高風險AI需進行影響評估，不可接受風險的AI將被禁止。法案可能成為全球標準，但也存在靈活性不足的爭議。

AI開發平臺提供商Cohere宣佈完成2.7億美元C輪融資，由Inovia Capital領投，NVIDIA、Oracle、Salesforce Ventures等參投。資金將用於加速企業安全構建AI應用，鞏固其領導地位。

Weights & Biases 在首屆線下大會上釋出了兩款新產品：W&B Weave（應用構建工具包）和 W&B Production Monitoring（生產監控工具），旨在支援大型語言模型（LLM）的開發和運維。

Chip Huyen在Fully Connected會議上發表演講，介紹了一個幫助團隊制定生成式AI戰略的簡單框架。該框架源於她與朋友的對話，目前仍在完善中，她計劃未來將其擴充套件為一篇完整的文章。

Altair的一項國際調查顯示，資料和AI戰略的採用率很高，但專案因組織、技術和財務三種摩擦而停滯。人才短缺、AI素養低、遺留系統和前期成本是主要障礙。儘管失敗率高，組織仍繼續投資AI以求長期收益。

Qdrant宣佈完成750萬美元種子輪融資，由Unusual Ventures領投。文章討論向量資料庫在AI時代的重要性，非結構化資料的爆炸式增長，以及Qdrant作為開源向量相似性搜尋解決方案的進展和未來計劃。

本文全面介紹了提示工程的概念、方法及其在大型語言模型中的應用，涵蓋從基礎提示到高階技術的各個方面，包括零樣本、少樣本、指令提示、自一致性取樣、思維鏈、自動提示設計和增強型語言模型等。

本文是Lilian Weng對2020年《Transformer家族》一文的重大更新，篇幅翻倍。文章系統梳理了近年來Transformer架構的眾多改進，涵蓋注意力機制、位置編碼、長上下文支援、自適應建模和高效注意力等核心主題，並納入Transformer-XL、Rotary位置嵌入、ALiBi、通用Transformer等最新進展。

全面概述最佳化大型Transformer模型推理的技術，包括蒸餾、量化、剪枝、稀疏化、混合專家和架構改進。文章討論了記憶體佔用和低並行性等挑戰，並提出了減少記憶體使用、計算和延遲的方法。

微軟技術長凱文·斯科特分享了對大型AI模型、生成式AI、生產力提升、科學突破以及負責任AI的見解，並預測2023年將是AI領域最激動人心的一年。

文章介紹了微軟將DALL·E 2整合到Azure OpenAI服務中，以及品牌如美泰、RTL Deutschland等如何利用該技術激發創意、提高生產力。還涵蓋了Microsoft Syntex和Power Automate等AI工具的應用。

微軟開源了Project FarmVibes套件，包括FarmVibes.AI，旨在透過資料驅動農業提高產量並降低成本。該工具包利用Azure上的演算法預測施肥、除草和播種的最佳方案，並幫助農民應對氣候變化。

資料與AI技術將重塑金融服務業的聯絡中心，透過智慧自動化提升客戶體驗、降低運營成本並增強合規性。

MAUI63組織利用搭載人工智慧的無人機研究極度瀕危的毛伊海豚，目前僅存54頭。該技術有助於識別個體並瞭解其行為，為保護工作提供支援。

英國14歲學生Eithne因疫情導致數學落後，透過Eedi線上輔導平臺使用微軟研究院開發的AI動態測驗，識別知識漏洞並個性化學習路徑，解決了95%的誤解，增強了信心。該AI基於診斷性選擇題的答案預測學生知識差距，並正在開發下一代因果機器學習模型以推薦個性化學習路徑。