中國AI公司智譜AI宣佈開源其新一代GLM模型系列，包括推理速度達DeepSeek-R1八倍的GLM-Z1、具備自主推理能力的Rumination模型GLM-Z1-Rumination-32B-0414，以及增強智慧體能力的GLM-4-32B-0414。同時推出國際平臺Z.ai，並透過MaaS平臺提供企業級服務。此舉展示了其技術實力和全球野心，可能為潛在IPO做準備。

一篇新論文主張將人工智慧視為正常技術，而非超智慧實體。它強調AI的緩慢採用、漸進的經濟影響以及人類控制的重要性，與烏托邦/反烏托邦敘事形成對比。

DeepSeek AI 釋出新論文，提出自原則批評調優（SPCT）方法，旨在增強通用獎勵模型在推理階段的擴充套件性。同時暗示下一代模型 R2 即將到來，引發業界關注。

針對LLM整合應用中OWASP排名第一的提示注入威脅，BAIR研究人員提出了兩種無需額外計算或人工成本的微調防禦方法：StruQ和SecAlign。StruQ透過結構化指令微調使LLM學會忽略資料部分的注入指令，SecAlign透過特殊偏好最佳化進一步將最佳化攻擊成功率降至8%以下，且不損失模型通用效能。

PLAID是一種多模態生成模型，透過學習蛋白質摺疊模型的潛空間，同時生成蛋白質的一維序列和三維結構。它僅需序列資料訓練，並支援功能與生物體提示，解決了全原子生成、生物體特異性和控制規範等實際問題。

AI 服務暫時不可用，以下為來源摘要，待恢復後補全翻譯：A problem well stated is a problem half solved. This quote applies as much to life as it does to information retrieval. With a well-formulated query, retrieving the relevant document becomes trivial. In reality, however, most users struggle to precisely define what they are searching for. While users may struggle to formulate a perfect request — especially in unfamiliar topics — they can easily judge whether a retrieved answer is relevant or not.

我們部署了100輛強化學習（RL）控制的車輛進入高峰時段的高速公路交通，以緩解擁堵並降低所有人的燃油消耗。透過資料驅動的模擬訓練，RL智慧體學會了在保持通行能力和安全性的同時最大化能效。實地測試表明，少量經過良好控制的自動駕駛汽車（AV）即可顯著改善交通流和燃油效率，節省高達15-20%的能量。

本文介紹如何利用Qdrant的距離矩陣API進行資料探索，包括降維、聚類和圖表示等方法，幫助發現大規模非結構化資料中的隱藏結構。

AI 服務暫時不可用，以下為來源摘要，待恢復後補全翻譯：Why We Built Our Own Storage Engine Databases need a place to store and retrieve data. That’s what Qdrant’s key-value storage does—it links keys to values. When we started building Qdrant, we needed to pick something ready for the task. So we chose RocksDB as our embedded key-value store. It is mature, reliable, and well-documented. Over time, we ran into issues. Its architecture required compaction (uses LSMT), which caused random latency spikes. It handles generic keys, while we only use it for sequential IDs. Having lots of configuration options makes it versatile, but accurately tuning it was a headache. Finally, interoperating with C++ slowed us down (although we will still support it for quite some time).

著名AI專家Chip Huyen總結了構建生成式AI應用時常見的六大陷阱：在不必要時使用生成式AI、混淆糟糕產品與糟糕AI、初始設計過於複雜、過度依賴早期成功、放棄人工評估以及眾包用例缺乏戰略。本文透過具體案例提供了實用建議，幫助團隊避免這些錯誤。

本文深入探討了AI智慧體的概念、工具、規劃能力及評估方法。智慧體由環境和工具集定義，藉助基礎模型的突破效能力，有望成為我們的助手、同事和教練。文章詳細介紹了工具類別（知識增強、能力擴充套件、寫入動作）、規劃流程（計劃生成、反思糾錯、執行）以及智慧體特有的失敗模式。

本文分析了關於AI能力進步是否放緩的爭論。作者認為，模型擴充套件（scaling）並未終結，但行業領袖的預測不可靠；推理擴充套件（inference scaling）有潛力但存在侷限性；能力提升與實際經濟影響之間的關聯很弱，產品開發和採用才是關鍵瓶頸。

對2024年全球選舉中AI使用情況的分析發現，超過一半的深度偽造並非出於欺騙意圖，且大多數欺騙性內容無需AI也能低成本製作。虛假資訊的傳播更多取決於受眾需求而非技術手段。

研究表明，使用不同隨機種子但相同資料和批次順序訓練的TopK稀疏自編碼器（SAE），其學習到的潛在特徵僅有約53%是共享的。未共享的特徵中許多是可解釋的。較窄的SAE特徵重疊較高，而隨著SAE規模增大，重疊降低。這一現象與特徵分裂和吸收理論一致，表明SAE並未發現“通用”特徵集。

獎勵駭客攻擊是指強化學習智慧體利用獎勵函式的缺陷或歧義來獲取高獎勵，而沒有真正學習或完成預期任務的行為。隨著語言模型的普及和RLHF成為對齊訓練的主要方法，獎勵駭客攻擊已成為關鍵的實際挑戰。本文詳細介紹了獎勵駭客攻擊的定義、型別、原因以及緩解策略。

本文探討了數學在機器學習研究中的角色演變。儘管大規模計算和資料驅動的方法取得了顯著成功，但數學仍然至關重要，只是其作用從提供理論保證轉向了事後解釋和高層次設計。文章展示了內在維度、曲率、拓撲學、對稱性和範疇論等數學概念如何幫助理解深度學習的內部機制，並指出純數學領域如拓撲學和幾何學正與機器學習深度融合，為模型分析和設計提供新工具。

BAIR研究團隊提出Anthology方法，透過為大型語言模型生成詳細的人物背景故事，使其能夠模擬具有代表性、一致性和多樣性的虛擬人格。該方法在逼近真實人類調查資料方面優於傳統條件設定，為社會科學研究提供了成本效益高的替代方案。

本文探討了使用稀疏自編碼器（SAE）潛在變數的自然語言解釋來模擬LLM中的啟用。作者發現，當前解釋能正確識別不到50%的活躍潛在變數，儘管特異性很高，但由於活躍與非活躍潛在變數的極端不平衡，導致大量誤報。根據解釋預測啟用值的相關性很弱。結果表明，自然語言解釋還不足以可靠地模擬模型啟用。

本文中，Huong (Celine) Hoang分享了她在Qdrant夏季程式碼計劃期間將ONNX交叉編碼器整合到FastEmbed庫的經歷。該專案透過相關性分數實現搜尋結果重排序，增強了上下文感知搜尋應用的能力。主要挑戰包括構建新的輸入輸出方案、分詞處理、模型載入與測試。該功能已在FastEmbed 0.4.0中可用。

本文介紹向量資料庫的基本概念、與傳統資料庫的區別、核心元件（ID、維度、負載）、架構（集合、距離度量、儲存）、主要功能（索引、搜尋、更新、刪除），以及密集向量與稀疏向量、混合搜尋、量化、分散式部署、多租戶和資料安全等高階特性。

向量量化是一種用於壓縮高維資料的技術，透過減少記憶體佔用同時保留關鍵資訊，實現更高效的儲存和搜尋。本文介紹了三種主要的量化方法：標量量化、二進位制量化和乘積量化，並討論瞭如何平衡精度、速度和壓縮率。

文章指出，儘管LLM聊天機器人在基準測試中不斷進步，但使用者體驗並未同比提升。當前對話系統缺乏目標感，易出現角色漂移，難以實現長期目標導向的互動。作者提出對話動作令牌（DAT）方法，透過強化學習引導模型進行多輪目標驅動對話，並探討了未來研究方向。

本文探討如何確保AI造福人類，提出應以人類福祉為核心，構建積極願景。儘管福祉定義存在爭議，但公認的要素如親密關係、有意義的工作、成長和積極情緒等可作為基礎。文章強調需要制定衡量AI對福祉影響的指標，訓練模型以支援福祉，並以促進福祉的方式部署AI。

本文基於對多家公司部署生成式AI應用的研究，總結了一個通用平臺架構。從最簡單的查詢-響應模型開始，逐步新增元件：上下文增強（RAG、查詢重寫）、防護欄（輸入/輸出）、模型路由與閘道器、快取最佳化、複雜邏輯與寫入操作，以及可觀測性與編排。每個元件的設計權衡和實現考量均有詳細討論。

本文由Lilian Weng撰寫，深入探討了大型語言模型（LLM）中的外部幻覺問題，即模型生成不基於上下文或世界知識的虛假內容。文章分析了幻覺的成因，包括預訓練資料缺陷和微調新知識的風險，介紹了檢索增強評估、取樣一致性檢測等幻覺檢測方法，並綜述了檢索增強生成、驗證鏈、取樣調整、事實性微調等抗幻覺技術。

本文探討了大語言模型（LLM）在金融市場中的應用潛力與挑戰。儘管LLM在自然語言處理中表現優異，但在金融時間序列預測中面臨資料稀缺、噪聲多、對抗性環境等問題。文章分析了多模態學習、殘差化、長上下文視窗等技術的可能用途，並指出合成資料生成和基礎分析輔助是更可行的方向。總體保持謹慎樂觀。

本文探討了衡量個人成長的三種獨特指標：變化速率、解決問題的時間和未來選項的數量。作者透過與朋友的交流和個人反思，提出這些啟發式方法幫助她追求新奇和探索，而不是傳統的財務或社交指標。

擴散模型在影像合成方面取得了顯著成果，現在研究界正轉向更困難的影片生成任務。本文回顧了從零開始設計擴散影片模型的方法，包括引數化、取樣、3D U-Net和DiT架構，以及透過微調或免訓練適應將影像模型擴充套件到影片的技術。重點介紹了VDM、Imagen Video、Sora、Make-A-Video、Tune-A-Video、Video LDM、Stable Video Diffusion、Lumiere、Text2Video-Zero和ControlVideo等代表性工作。

本文綜述了AI模型中性別偏見的研究，包括詞嵌入、人臉識別、指代消解、大語言模型和影像生成模型中的偏見，並討論了研究空白、其他型別的偏見以及解決偏見的方法與哲學問題。

Mamba是一種基於狀態空間模型的新型AI架構，透過選擇性機制實現高效的長序列處理，在語言建模上媲美甚至超越同等規模Transformer，為AI發展開闢了新方向。