KPMG與Anthropic宣佈全球聯盟，將Claude嵌入其數字閘道器平臺，為稅務和法律客戶提供新工具，並供全球超過27.6萬名員工使用。Anthropic還將KPMG指定為私募股權的首選合作伙伴，共同為投資組合公司開發基於Claude的產品。

Anthropic正在組織與來自不同智慧傳統（包括超過15個宗教和文化團體）的學者、神職人員、哲學家和倫理學家進行對話，以探討AI發展中的問題。這些對話旨在從多元視角為Claude的價值觀、行為和憲法內容提供資訊，並已在道德形成方面產生實驗性想法，例如為Claude提供可呼叫的“道德提醒”工具。未來計劃與法律學者、心理學家、作家和民間機構等更多群體交流。

ElevenLabs推出兩項教育計劃：教授影響計劃，為教授提供免費Pro級使用許可權，讓學生也能在課程中使用語音AI；同時釋出基於愛因斯坦檔案的語音智慧體，實現互動學習體驗。

Cerebras 開始為企業客戶提供 Kimi K2.6 萬億引數開放權重模型的推理服務。該模型在編碼和智慧體任務上表現卓越，推理速度達到每秒 981 個 token，是GPU雲服務的 6.7 倍，能夠實現近乎即時的智慧體開發，大幅提升開發者生產力。

本期LlamaIndex新聞通訊介紹了ParseBench——首個為AI代理構建的OCR基準測試，以及新的開源工具：用於安全文件互動的Sandboxed-Lit CLI代理和用於私有部署的LiteParse-Server。此外，還回顧了新加坡和紐約的社群活動。

Anthropic 收購了 SDK 和 MCP 伺服器工具領域的領導者 Stainless，以增強 Claude 代理連線資料與工具的能力。Stainless 自 2022 年成立以來一直為 Anthropic 提供 SDK 生成服務，此次整合將推動開發者體驗與代理連線的前沿。

Baseten 透過量化、最佳化注意力核心和執行時改進，在 NVIDIA Blackwell GPU 上實現了 Flux.2 [dev] 2.3 倍和 Qwen-Image 1.6 倍的加速，在 Hopper GPU 上也獲得了顯著提升。

Cursor 釋出了其 AI 程式設計助手 Composer 2.5，在智慧性和行為上較 Composer 2 有顯著提升。該版本透過規模化訓練、更復雜的強化學習環境和新的學習方法，改進了長期任務的處理能力、指令遵循的可靠性，並最佳化了溝通風格和努力校準。Composer 2.5 基於 Moonshot 的 Kimi K2.5 開源檢查點構建，並採用了針對性的文本反饋強化學習、合成資料生成以及分片 Muon 最佳化器等新技術。定價為每百萬輸入 token $0.50，每百萬輸出 token $2.50，並提供更快但更貴的變體。第一週內使用量加倍。

本文介紹了一個利用LiteParse構建的AI代理演示應用，該代理能夠處理SEC檔案、跨檔案搜尋並回答帶有精確引用的問題。文章詳細講解了專案架構，包括PDF解析、文件儲存、工具定義、聊天端點和引用系統，並說明了如何整合SEC EDGAR獲取檔案。整個專案約600行庫程式碼，無需向量資料庫或外部基礎設施。

美國海軍海上系統司令部授予Unstructured一份合同，旨在設計和演示AI驅動的解決方案，幫助作戰人員更快獲取關鍵資訊，減少操作員負擔，並加速反潛戰和水面戰決策。該方案結合Unstructured的資料處理和Elastic的企業搜尋能力，將整合異構資料來源，提供可解釋的搜尋結果，首先應用於AN/SQQ-34航母戰術支援系統和AN/UYQ-100水下戰決策支援系統，並計劃未來擴充套件至聯合全域指揮控制等領域。

Unstructured 在其文件處理工作流中新增 Extract 節點，支援透過 LLM 或正規表示式從文件中提取結構化 JSON 資料，適用於智慧文件處理、資料庫記錄生成等場景。

Unstructured推出webhooks功能，可根據任務生命週期事件自動觸發下游操作，支援透過工作區或工作流範圍與任何端點整合。

Unstructured發現，合併高質量但標註風格不一致的資料集反而降低了模型效能。他們構建了一個基於VLM的智慧體標籤統一流水線，在訓練前協調標註差異，最終在14項指標上取得提升。

Unstructured使用SCORE-Bench基準測試評估了五種前沿模型在企業文件解析上的表現，發現原始模型呼叫與最佳化管線之間存在顯著差距。儘管模型在推理和幻覺控制（尤其Claude Opus 4.6）上表現強勁，但在表格提取、文件結構和輸出一致性方面仍落後於專業管線，差距高達23個百分點。文章指出，差距並非能力問題，而是配置問題，透過最佳化提示、後處理和輸出結構約束可以有效彌合。

Unstructured釋出新指南，深入講解高階檢索增強生成（RAG）技術，涵蓋智慧分塊、後設資料過濾、GraphRAG、混合搜尋和代理工作流等，旨在幫助開發者構建可擴充套件的企業級AI管道。

Unstructured 宣佈一系列更新，包括簡化的拖放介面、生成式精煉技術以提高輸出保真度，以及簡化的定價方案。新工作流程結合高解析度分割槽與視覺語言模型增強，實現更高精度和結構儲存。

大多數團隊仍以每秒Token數和每百萬Token成本評估LLM，但這些指標無法預測生產行為。本文揭示了速度、成本和質量之間的真實權衡，介紹了帕累託前沿作為評估框架，並強調了TTFT、p99延遲等關鍵生產指標。

本文詳細介紹了六種經過生產驗證的LLM推理最佳化策略，幫助團隊匹配特定瓶頸與最高效的最佳化方法，包括批處理、預填充與解碼最佳化、KV快取最佳化、注意力與記憶體最佳化、並行化以及離線批處理推理。

本文介紹了2026年最佳的開源小型語言模型（SLM），包括Qwen3.5-0.8B、Gemma-3n-E2B-IT、Phi-4-mini-instruct、SmolLM3-3B和Ministral-3-3B-Instruct-2512，並探討了它們在資源受限環境下的生產部署適用性、優缺點以及常見問題。

本文介紹了2026年最優秀的開源影像生成模型，包括FLUX.2、Stable Diffusion、GLM-Image和Z-Image-Turbo，並分析了它們的優勢、注意事項以及適用場景。

本文全面解析GPU記憶體（VRAM）在大型語言模型（LLM）推理中的作用，涵蓋模型權重、KV快取和框架開銷的記憶體消耗，提供記憶體計算公式，解釋為何模型“理論上”能執行卻遭遇OOM，並介紹量化、張量並行、KV快取最佳化等策略，以及BentoML推理平臺如何簡化這些最佳化。

本文全面介紹DeepSeek系列模型，包括V3、R1、V3.1及其變體，對比它們的特點、效能和應用場景，幫助選擇最合適的模型並安全部署。

本文介紹了2026年最優秀的開源大語言模型，包括DeepSeek-V4、MiMo-V2.5-Pro和Kimi-K2.6，並解答了關於效能最佳化、自託管部署等常見問題。

本文詳細介紹了截至2026年4月ChatGPT各付費層級的使用限制，包括訊息上限、模型切換及上下文視窗大小。分析了限制存在的原因：基礎設施負載、成本控制、公平訪問和防止濫用。此外，還探討了專有模型的其他侷限性，如效能不穩定、資料隱私風險、缺乏定製化和成本不可預測。最後，推薦自託管開源LLM作為擺脫所有限制的解決方案。

一份關於訓練自定義EAGLE-3草圖頭部的全面指南，用於推測解碼，在不犧牲輸出質量的情況下，將LLM推理延遲降低1.5-2.5倍。涵蓋資料集準備、超引數調優、訓練流程、評估和部署。

本文提出了最佳化 AI 排程框架的三個通用模式：保持 .md 檔案精簡且由人工編寫、使用 R.P.I. 框架（研究-規劃-執行）進行提示詞結構化、以及利用子代理（並行扇出和流水線）維護乾淨的上下文視窗。強調排程框架而非模型本身才是工程判斷髮揮作用的關鍵，並建議使用者選擇並持續迭代一個排程框架，而不是頻繁更換。

NVIDIA Nemotron 3 Nano Omni 是一款開源的多模態基礎模型，將音訊、影像、影片和文本統一到單一上下文中。基於 Nemotron 3 Nano 骨幹網路構建，為智慧體工作流中的子智慧體提供高效且準確的推理能力。Baseten 現已支援該模型，提供高效能推理、多雲容量管理和企業級安全。

Baseten 釋出 Frontier Gateway，這是一個託管 API 閘道器，基於 Baseten Dedicated Inference，允許 AI 實驗室以自有域名服務模型，無需自建或購買第三方閘道器，降低工程負擔並提升效能。

本文介紹了DFlash，一種新型推測解碼技術，透過並行預測多個令牌突破EAGLE的2倍加速上限。Baseten的實現基於Qwen3-8B模型，在各種基準測試中實現約3倍加速，比vLLM快10-30%。文章詳細解釋了DFlash的工作原理、訓練方法及與EAGLE和vLLM的效能對比。

Baseten透過vLLM-Omni最佳化Qwen3-TTS，實現了每百萬字元僅需3-4美元的成本，比閉源替代方案低90%，同時保持高語音保真度。本文詳細介紹了多種最佳化技術，包括分離式聲學令牌生成與解碼、CUDA圖最佳化、說話人嵌入快取、動態幀累積以及單詞時間戳新增，並探討了微調定製語音的可能性。