來自arXiv的一篇論文提出“建構性對齊”框架,挑戰當前AI對齊中的靜態偏好假設,將對齊重新定義為控制偏好演化的過程,而非滿足固定偏好。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-07-02
Arena是2023年加州大學伯克利分校的研究專案,其商業服務上線僅八個月,年化經常性收入就達到1億美元。該平臺以眾包AI模型效能排行榜聞名,已累積超過1000萬使用者評估。
隨著 AI 從模型開發轉向生產推理,計算需求加速並轉向持續執行的 AI 工廠。NVIDIA 推出新戰略,透過收入分成和信用支援模式,讓初創企業、模型構建者等獲得大規模加速計算資源。Sharon AI 和 Firmus 等公司已率先部署。
Meta投資數十億美元發展AI和資料中心,現計劃開拓雲基礎設施業務,出售AI計算能力和模型,與AWS、Google Cloud和Azure競爭。
Anthropic在經歷出口限制後重新部署Fable 5模型,但新版本引入了更嚴格的安全分類器,導致更多良性請求被攔截,尤其在程式設計任務中。美國政府獲得模型預釋出訪問權和專用計算資源,標誌著AI行業向國家管控方向轉變。
Senior SWE-Bench是一個新的開源基準測試,旨在評估AI智慧體像高階工程師一樣處理未充分指定的任務、進行執行時除錯以及提供優雅解決方案的能力。該基準包含50個公開和50個私有任務,涵蓋多種程式語言和棧,結果顯示頂尖模型在高階別任務上仍有超過75%的失敗率。
人工智慧正從輔助工具轉變為科學基礎設施的一部分,提高了生產力,但可能縮小研究範圍和減少合作。一項《自然》研究發現,AI增強的研究者發表論文數量是其他人的三倍,但研究主題範圍減少5%,合作減少22%。風險在於研究工業化,缺乏深入批判性思考。
Panel Designer 是一個直觀的設計工具,允許使用者在真實裝置上拖放元件來設計UI,並支援匯出佈局提示以便AI生成程式碼。它提供預覽模式、版本管理功能,並支援匯入JSON或SwiftUI程式碼。
作者認為,在面對面交談中使用AI筆記工具,破壞了社交的“後臺”真實性,使每一次閒聊都成為被記錄的表演,呼籲建立新的社交規範來保護那些本應轉瞬即逝的對話。
WebDeck 是一個開源工具,可將 PowerPoint (.pptx) 簡報一鍵轉換為互動式網頁簡報。它透過AI智慧解析PPT內容,並重構為原生網頁元件,支援響應式設計、多種區塊型別、視覺化編輯和離線使用。旨在解決PPT分享時格式相容性差、移動端顯示錯亂、內容死板等痛點。
More AI 是一款免費開源、面向 Windows 的 AI 桌面應用,支援本地和雲端模型。它提供聊天、程式碼 IDE、音樂/圖片/影片創作、工作流編排、AI 競技場等功能,並內建治理引擎和加密審計追蹤,確保所有 AI 行為透明可控。使用者可以自由選擇模型提供商,完全離線執行或混合使用雲 API。
Float公司憑藉僅三人的團隊,利用Tiger Data技術運營一家AI能源公司。其旗下的體現碳觀測站(Embodied Carbon Observatory)透過採用TimescaleDB,將查詢時間從6秒縮短至100毫秒以內,有效區分了電網改進與真正的脫碳。
VektorGeist推出了操作員與代理平臺,旨在透過AI驅動的操作員和代理簡化複雜任務,提升自動化水平。
這幅漫畫諷刺了AI公司透過盜用智慧財產權牟利,質疑它們是否正在逍遙法外。
Scritty為每一個AI編碼代理提供可共享、可搜尋的記憶功能。
該論文研究域泛化問題,特別是在反因果設定下,其中結果導致觀察到的協變數。作者提出兩種方法,透過利用多環境中的無標籤資料來正則化模型對協變數均值和協方差變化的敏感性,並提供最壞情況下的最優性保證。在物理系統和生理訊號資料集上展示了實證效能。
推理大語言模型(LLM)透過測試時擴充套件實現資料集級準確率隨token預算增加而提升,這推動了自適應推理的發展——僅在能提高可靠性時消耗token,否則儘早停止。然而,設定token預算和自適應推理閾值涉及根本的風險-準確率權衡。本文將此問題重新定義為風險控制,即在限制錯誤率的同時最小化計算量。框架引入上閾值(在模型自信時停止推理,避免錯誤輸出)和新型引數化下閾值(提前停止無法解決的例項,避免過早停止)。給定目標風險和驗證集,使用無分佈風險控制來最優指定這些停止機制。在多種推理任務和模型上的實驗證明了該方法在滿足使用者指定風險目標的同時,實現了計算效率提升。
殘差上下文擴散(RCD)是一種針對擴散大語言模型(dLLM)的新模組,它透過回收丟棄令牌的計算資源來提高效率和準確性。RCD將丟棄的令牌表示轉換為上下文殘差,並重新注入去噪過程。它採用解耦的兩階段訓練流程,在多個基準測試中實現了5-10個百分點的準確率提升,在AIME任務上幾乎將基線準確率翻倍,並將去噪步驟減少4-5倍。
擴散大型語言模型(dLLM)在多項任務上已達到自迴歸模型的效能,同時推理效率更高。其關鍵設計之一是每個擴散步驟選擇去掩碼令牌的取樣過程。當前啟發式方法需要手動調整且效能隨塊大小增大而下降。本文提出使用強化學習訓練取樣策略,形式化掩碼擴散取樣為馬爾可夫決策過程,並基於單層Transformer設計輕量策略。實驗表明,該策略在半自迴歸生成中與先進啟發式方法效能相當,在全擴散設定中更優。
MemoryLLM透過將前饋模組(FFN)與自注意力解耦,實現了可解釋的上下文無關詞元級神經檢索記憶,提升了計算效率。
強化學習微調提升了視覺語言模型在推理基準上的表現,但研究發現模型在面對誤導性標註或錯誤思維鏈時魯棒性顯著下降。封閉模型比開源模型更魯棒,且存在準確性與忠實性之間的權衡。僅靠對抗性增強不足以解決問題,引入忠實性獎勵可改善對齊,但可能引發捷徑學習。
本文提出了一種基於迴歸的攤銷最大內積搜尋(MIPS)方法,透過訓練神經網路直接預測MIPS解,從而攤銷固定鍵資料庫上重複查詢的成本。關鍵見解是MIPS值函式是鍵集的支撐函式,其梯度指向最優鍵。作者提出了兩種互補模型:SupportNet(輸入凸神經網路,迴歸支撐函式)和KeyNet(向量值網路,直接回歸最優鍵)。在BEIR基準上的實驗表明,在相同計算量下,這些模型顯著提升了IVF匹配率。
研究發現,自組織的多智慧體LLM團隊在協調時往往無法達到最佳專家成員的表現,效能損失最高達41.1%。主要瓶頸在於未能有效利用專家意見,而非識別專家。團隊傾向於整合妥協,這雖然提高了對對抗性智慧體的魯棒性,但犧牲了整體效能。
Meta向約6000名員工傳送內部備忘錄,警告2026年內部AI使用成本正逼近數十億美元。30天內員工消耗了73.7萬億代幣,內部排行榜“克勞德經濟學”加劇了無意義使用。技術長博斯沃思強調代幣消耗不等於生產力。Meta將部署“AI閘道器”儀表板進行集中監控,並從2027年開始實施正式代幣預算,同時引導員工轉向自家編碼助手MetaCode。
Introspection公司聯合創始人Roland Gavrilescu在AI Engineer World's Fair上闡述了自動研究的概念,即構建“外迴圈”讓代理透過反饋訊號、評估和人類輸入來維護和改進主系統。他介紹了代理“配方”、內外迴圈分工,以及人類在軟體工廠中的核心地位。
AuthSec是一個統一的Go服務,提供完整的身份生命週期管理,包括認證、MFA、OIDC聯合、RBAC、SCIM、客戶端管理、外部服務憑證和SPIFFE/SPIRE工作負載身份,所有功能都整合在一個單一的二進位制檔案中。
AI時代的FOMO(錯失恐懼症)已演變成一種慢性焦慮,源於技術迭代速度遠超人類學習能力。文章分析了其症狀、代價以及背後被設計的焦慮經濟,並提出了真正的解決方案:從“我是否跟上”轉向“我創造了什麼”,建立專注的資訊攝入習慣。
消費者權益組織Which?的調查顯示,Tripadvisor使用AI生成的酒店評論摘要常常淡化嚴重投訴,例如將因大規模食物中毒被起訴的酒店描述為“一塵不染”,並稱贊有性騷擾投訴的度假村服務“友好”。
本文介紹了Databricks AI在大規模GPU訓練中遇到的三種失敗模式:任務崩潰、靜默效能下降和數值錯誤。透過使用多樣化的極端工作負載進行壓力測試,並結合多階段健康檢查系統(主動引導檢查、被動連續檢查、定期多節點檢查),有效捕捉和預防GPU故障,確保訓練可靠性。
甲骨文在AI資料中心上投入數千億美元,但在一份監管檔案中承認這些投資可能無法收回。檔案詳細列出了需求誤判、客戶違約、電力短缺、建設風險等多種因素。儘管面臨重重挑戰,甲骨文仍計劃繼續鉅額投資,併為此增加債務。