Altair的一項國際調查顯示，數據和AI戰略的採用率很高，但項目因組織、技術和財務三種摩擦而停滯。人才短缺、AI素養低、遺留系統和前期成本是主要障礙。儘管失敗率高，組織仍繼續投資AI以求長期收益。

Qdrant宣佈完成750萬美元種子輪融資，由Unusual Ventures領投。文章討論向量數據庫在AI時代的重要性，非結構化數據的爆炸式增長，以及Qdrant作為開源向量相似性搜索解決方案的進展和未來計劃。

本文全面介紹了提示工程的概念、方法及其在大型語言模型中的應用，涵蓋從基礎提示到高級技術的各個方面，包括零樣本、少樣本、指令提示、自一致性採樣、思維鏈、自動提示設計和增強型語言模型等。

本文是Lilian Weng對2020年《Transformer家族》一文的重大更新，篇幅翻倍。文章系統梳理了近年來Transformer架構的眾多改進，涵蓋注意力機制、位置編碼、長上下文支持、自適應建模和高效注意力等核心主題，並納入Transformer-XL、Rotary位置嵌入、ALiBi、通用Transformer等最新進展。

全面概述優化大型Transformer模型推理的技術，包括蒸餾、量化、剪枝、稀疏化、混合專家和架構改進。文章討論了內存佔用和低並行性等挑戰，並提出了減少內存使用、計算和延遲的方法。

微軟首席技術官凱文·斯科特分享了對大型AI模型、生成式AI、生產力提升、科學突破以及負責任AI的見解，並預測2023年將是AI領域最激動人心的一年。

文章介紹了微軟將DALL·E 2集成到Azure OpenAI服務中，以及品牌如美泰、RTL Deutschland等如何利用該技術激發創意、提高生產力。還涵蓋了Microsoft Syntex和Power Automate等AI工具的應用。

微軟開源了Project FarmVibes套件，包括FarmVibes.AI，旨在通過數據驅動農業提高產量並降低成本。該工具包利用Azure上的算法預測施肥、除草和播種的最佳方案，並幫助農民應對氣候變化。

數據與AI技術將重塑金融服務業的聯絡中心，通過智能自動化提升客户體驗、降低運營成本並增強合規性。

MAUI63組織利用搭載人工智能的無人機研究極度瀕危的毛伊海豚，目前僅存54頭。該技術有助於識別個體並瞭解其行為，為保護工作提供支持。

英國14歲學生Eithne因疫情導致數學落後，通過Eedi在線輔導平台使用微軟研究院開發的AI動態測驗，識別知識漏洞並個性化學習路徑，解決了95%的誤解，增強了信心。該AI基於診斷性選擇題的答案預測學生知識差距，並正在開發下一代因果機器學習模型以推薦個性化學習路徑。

日本公司SI-com及其母公司ISCEC Japan利用微軟Azure認知服務開發了AI-Mimi，一種結合人工與AI的混合字幕系統，旨在為當地電視台提供經濟高效的實時直播字幕，以服務聾啞及聽力障礙羣體。該系統經過測試並獲得積極反饋。

微軟發佈了其負責任AI標準，旨在指導AI系統的構建以確保公平、可靠、隱私等價值觀。該標準包含具體要求和工具，並分享了實際應用中的經驗教訓。

新加坡國家公園局、微軟和保護國際聯合推出Fin Finder應用，利用人工智能視覺識別技術快速鑑定非法交易的鯊魚和鰩魚鰭，將鑑定時間從數天縮短至數秒。

微軟AI for Accessibility項目資助了RIT團隊研究聾啞及聽力障礙（DHH）用户如何與支持手語的個人助理設備交互。通過“巫師實驗”收集ASL命令數據，創建了公共數據集，為未來ASL識別技術奠定基礎。

Pinecone 工程副總裁 Jörg Schad 在 11 月 4 日的網絡研討會上回顧了檢索技術的演進，並指出：當 AI 代理調用檢索時，真正決定答案對錯的往往不是召回率，而是檢索之上的“上下文與決策層”。

Mistral 發佈 Studio 平台更新，新增託管智能體、應用、工作流觸發與可視化、企業上下文、可觀測性和評估能力，支持在雲端、VPC 或本地部署，幫助企業在保留數據控制權的同時更快將 AI 用例投入生產。

Moonshot AI 的 Kimi K3.1 Pro 正式上線 Fireworks。它採用稀疏注意力與 2.78T 總參數架構，在 Sierra τ³-Banking 等專用智能基準上名列前茅，並在多個任務中展現出優秀的質量成本比。

Cohere 的 Embed 5 和 Rerank 5 模型現已在 OpenRouter 上線，用户可通過單一 API 密鑰快速構建 RAG 管道。

Fireworks在Forge大會上發佈了一系列新產品，涵蓋超高速推理、背景模式、模型路由平台Nexus、訓練與評估工具以及企業級控制功能，旨在幫助企業圍繞自身專長、數據和任務構建專業化AI。

Cohere 宣佈其 Model Vault 與 Model Vault Encrypted 平台開始支持第三方開源模型；默認零數據保留，並按區域提供主權推理與加密使用中保護。

Fireworks Research 發佈 Ember-1，一個基於 Kimi K3 的專用模型，在多項基準測試和實際客户 A/B 測試中保持同等質量，同時將推理 token 減少 35-50%。該模型現已在 Fireworks 無服務器平台以研究預覽形式提供。

LlamaIndex 團隊通過工作負載感知量化、投機解碼以及深入的 kernel 與 CPU 元數據優化，將 OCRia-1 文檔解析模型在單張 B200 GPU 上的生成速度從約 285 tokens/s 提升至約 2800 tokens/s。

Baseten 重新設計了增量權重同步路徑，直接以 GPU 上的權重作為父版本，不再在 CPU 內存中保留完整檢查點。GLM-5.3 的770GB權重同步時間從約36秒降至15秒，請求暫停從6秒縮短到0.8秒，吞吐量提升最高3.2倍，並解鎖了此前受限於 CPU 內存的 Kimi K3 在 GB300 上的 RL rollout。

Baseten 推出自動擴縮容計劃功能，允許在可預測的流量高峯前提前增加副本，從而減少冷啓動延遲。每個環境最多可配置 10 個計劃，支持每日、每小時或一次性時間窗口，通過儀表板、CLI 或管理 API 設置。

Cohere 更新其在加拿大的投資進展，計劃到 2031 年投入超過 40 億加元用於研發和 AI 基礎設施，並創造 1,500 多個崗位，其中約 1,000 個為高技術職位。

ElevenLabs 發佈 Eleven Realtime 系列語音到語音模型，將語音識別、輪次判斷、LLM 與語音合成整合為端到端調優的完整語音智能體。首發 v1 Mini 與 v1 Max 兩款型號，支持 90 多種語言和 1.7 萬多種音色，併兼容 OpenAI Realtime API。

Cursor 在擴展市場中發現並移除了被惡意篡改的 Claude Code 擴展（版本 2.1.313），該版本會嘗試安裝 SSH 後門和持久化機制，影響最多 5,000 名用户。Cursor 已關閉市場、輪換密鑰、重建並恢復服務，並提供了檢測與修復指南。

Baseten 旗下研究實驗室 Base Labs 發佈 joey-1（2B），這是一款面向高併發、低延遲場景的決策模型，P50 延遲僅 20 毫秒，價格為每百萬 token 0.01 美元，並已在 Baseten Model APIs 上線、在 Hugging Face 開放權重。

Baseten 成為 Postman 面向企業智能體的推薦推理合作伙伴。雙方結合 Postman 的智能體構建與治理工具和 Baseten 的高性能推理及後訓練能力，幫助企業將智能體投入生產，並在質量、延遲和成本之間取得平衡。