AI 日報

猶他縣部署人工智能模型分析航拍圖像，發現25,000個此前未標繪的雨水井。這一發現增強了滅蚊工作，使得工作隊能處理更多繁殖地，減少西尼羅河病毒等蚊媒疾病的風險。

一個關於AI的賓果遊戲網站。

安全研究人員發現一種名為Agentjacking的攻擊方法，利用虛假錯誤報告劫持AI編碼代理，無需惡意軟件或密碼即可在開發者機器上執行任意代碼。該攻擊針對Sentry錯誤追蹤工具，通過注入惡意命令，成功入侵Claude Code、Cursor和Codex等代理，成功率85%，涉及2388個組織。Sentry未修復根本原因，僅添加了臨時過濾。此漏洞暴露了AI代理處理外部數據的普遍風險。

文章探討了AI生成代碼質量提升如何改變軟件工程的本質。作者認為，代碼不再是珍貴的資產，而是可丟棄的緩存，團隊應更多關注評估和架構而非僅依賴代碼。

本文介紹了Strands Evals SDK中的檢測器，它可以自動識別AI智能體執行軌跡中的故障並進行根因分析，將診斷時間從數小時縮短至數分鐘。文章詳細講解了如何調用檢測函數、解讀結構化輸出（包括分類故障、置信度、因果鏈和修復建議），以及如何將檢測集成到評估管線中實現自動化診斷。

蘋果新推出的“描述快捷指令”功能讓用户通過自然語言創建自動化流程，但AI生成的快捷指令可能帶來安全風險，尤其是持久化自動化可能在不被理解的情況下執行敏感操作。用户和企業需要謹慎審查觸發器、權限和數據操作。

一封由美國及其盟國眾多科技領袖簽署的公開信，呼籲撤銷對Anthropic的Fable和Mythos大模型出口管制，主張以科學、透明的方式處理AI風險評估。

Velxio是一款免費、開源的在線電路仿真器，支持SPICE精確模擬和多種微控制器（Arduino、ESP32、RP2040、ATtiny85等）的實時協同仿真。最新2.5版本引入了基於ngspice-WASM的實時SPICE模擬，可實現數字與模擬混合協同仿真。該工具無需安裝、無需賬户，完全在瀏覽器中運行，支持自定義芯片（C、Rust、AssemblyScript）、100多個交互元件、示波器、電壓表等。

本文探討了AI智能體的定義，提出智能體是一個使用LLM決定應用控制流的系統。作者贊同Andrew Ng的觀點，認為智能體能力是一個頻譜，並介紹了“智能體化”的概念及其在開發、運行、評估和監控中的意義。

LangChain構建了一個基於Deep Agents的GTM代理，自動完成潛在客户研究和郵件起草，並整合賬户情報，實現了線索轉化率提升250%，每位銷售代表每月節省40小時。

本文分析了兩個看似對立的博客文章——Cognition團隊的“不要構建多智能體”和Anthropic團隊的“我們如何構建多智能體研究系統”，指出它們實際上有很多共同點，並提供了關於何時以及如何構建多智能體系統的見解。關鍵要點包括：上下文工程至關重要、以“讀”為主的多智能體系統比以“寫”為主的更容易、以及生產可靠性和工程挑戰。文章還介紹了LangGraph和LangSmith等工具如何幫助解決這些挑戰。

瞭解 Replit 如何利用 LangSmith 的觀測能力調試複雜的代理工作流，包括改進的追蹤性能、搜索功能和人機協同線程視圖。

Interrupt 2025 是 LangChain 舉辦的首屆行業大會，匯聚了來自全球的 800 名參與者。會議重點討論了代理工程作為新學科、多模型應用、LangGraph 用於構建可靠代理以及 AI 可觀測性等主題。同時，LangChain 發佈了一系列新產品，包括 LangGraph Platform 正式版、Open Agent Platform、LangGraph Studio v2、LangGraph Pre-Builts、LangSmith 可觀測性更新、Open Evals 和 LLM-as-Judge 等。

本教程介紹如何利用Pinecone Serverless、LangChain和LangServe構建生產級RAG應用，解決原型與生產之間的差距，包括向量存儲管理、快速部署和可觀測性。

本文深入探討了構建可靠智能體系統的核心挑戰——確保LLM在每一步都擁有適當的上下文。作者比較了工作流與智能體、聲明式與命令式方法，並介紹了LangGraph框架的設計理念。文章還批評了OpenAI的智能體指南，讚賞了Anthropic的定義，並討論了框架的“天花板”與“地板”概念。

Promptim 是一個實驗性的提示優化庫，通過自動化迭代改進提示詞，幫助開發者節省時間、提升 AI 系統性能。它利用數據集和評估器進行優化循環，並支持人工反饋集成。

New Computer利用LangSmith改進其AI記憶檢索系統，實現了50%更高的召回率和40%更高的精確度，通過追蹤迴歸和調整對話提示來優化性能。

學習評估深度代理的5種模式：定製測試、單步驗證、完整回合、多輪模擬和環境設置。

Eva 是一款完全離線的 Android AI 助手，所有功能（包括語言模型、語音識別、文檔搜索、地圖、音樂和維基百科）均在設備上運行，無需賬户或雲端連接。它提供聊天、離線地圖導航、音樂播放器、文檔閲讀、圖像管理等功能，並支持通過語音或文本交互。

Recursive公司發佈了自動化AI研究系統的早期成果，在三個基準測試中實現了最先進的性能：固定預算語言模型訓練、小模型訓練速度和GPU內核優化。該系統自動化了研究循環，通過提出、實現、實驗、驗證和迭代來改進目標。在NanoChat任務中，系統以0.9109 BPB的表現超越了社區最佳結果；在NanoGPT Speedrun中，訓練時間縮短至77.5秒；在SOL-ExecBench中，GPU內核優化達到0.754的SOL得分。系統發現了多種創新技術，如哈希表增強的n-gram嵌入和字節級特徵。

Degen & Co. 是一個平台，允許用户創建具有不同個性的AI投資者，例如動量追逐者、股息保守派或末日預言者。每個AI交易員都有獨立的意見、交易策略，並會撰寫交易日誌。用户可以選擇原型、調整個性設置、設定硬性規則和初始投資組合，然後觀察AI的運行。

自上週五以來，Anthropic與Mythos和Fable模型相關的爭議持續發酵。本文梳理了事件時間線，包括Anthropic與國防部的爭端、Mythos模型的發佈、白宮的分歧、Fable 5的推出及其安全限制引發的批評、以及最終導致特朗普政府實施出口管制的風波。文章分析了支持與反對Anthropic的論點，作者認為Anthropic大體上做出了正確決定，並間接為Fable做了廣告。

一段關於IBM和挪威主權基金CEO討論人工智能是否構成泡沫的YouTube視頻的頁面信息。

上週末，應華盛頓要求，Anthropic突然下線了其最新、最強大的AI模型。這家美國公司稱，在白宮要求封鎖所有外國國民（包括其員工）的訪問後，它別無選擇。在國外，這一事件清醒地提醒人們，美國不僅主導着前沿AI，其政府還掌控着誰可以使用它的權力。特朗普政府的行動迅速、全面，且幾乎沒有預警或解釋。Fable 5和Mythos 5模型的空前關閉——它們本已受到限制在“高風險領域”使用的保障措施——為長期以來的論點注入了新的力量，即警告不要依賴美國的關鍵技術。這為已經在主張自身需要領導該技術的政治家、政府和企業提供了新的彈藥。在英國，AI和在線安全部長Kanishka Narayan沒有直接提及Anthropic、特朗普或美國，但利用這次關閉來論證英國必須發展自己的AI能力，並將其框定為國家安全問題。他説：“我們嚴肅對待每一個對我們主權構成的威脅，但我們還沒有學會以同樣的方式對待這個。”他稱AI是“我們時代的核心政治問題”，並認為英國必須決定這項技術將如何塑造其經濟、安全和主權，“否則別人會替我們決定答案。”在法國，反應更加直接，也更明確地指名美國。前總理Gabriel Attal稱這次關閉是“AI戰爭”的開始，並表示這表明法國如果依賴他人的關鍵技術就會脆弱。他將Anthropic模型的撤出比作伊朗封鎖霍爾木茲海峽，認為獲得AI現在是一個戰略瓶頸，法國必須為此做好準備。這並非全新論點。歐洲多年來一直擔心對美國的依賴，歐盟越來越強調在芯片、雲計算和AI等領域減少對外部提供商的依賴。但Anthropic關閉事件使事情變得更加緊迫，加劇了在特朗普領導下對美國作為盟友可靠性的深深不安——從貿易爭端到威脅退出北約。加拿大也得出了類似結論。總理Mark Carney表示，這一情況凸顯了僅依賴一個合作伙伴獲取AI等關鍵資源的風險。他説：“我們目前與Mythos和Fable所處的困境，就是過度依賴某些模型可能發生的情況。這個情況下沒有人做錯什麼。但如果我們只是接受這一點，不吸取教訓，不建立和多樣化，那麼我們就會做錯。”其他國家早已走上這條路。北京長期以來一直支持國內AI公司，中國是少數擁有能與美國前沿AI實驗室產品相媲美的模型的地方之一。但大多數政府和企業的規模和資源無法與美國或中國的前沿實驗室相比。主權AI並不總是意味着構建最大或最強大的工具。法國的Mistral和加拿大的Cohere表明，即使模型無法並駕齊驅，這些國家之外也能做出紮實的努力。其他國家，如新加坡和阿聯酋，專注於更狹窄但具有戰略意義的優先事項，如基礎設施或對本地語言更好的模型。當然，還有開源模型，其能力可能有一天會達到Mythos的水平，且難以被任何一方控制。特朗普可能將限制Mythos和Fable視為國家安全問題。但這一論點也是雙向的：既然華盛頓在問AI是否太過重要以至於不能讓人人都使用，其他政府也在問他們是否能承受由華盛頓來決定誰可以使用。Anthropic可能很快會重新上線Mythos和Fable。但恢復全球對美國AI的信任則是另一回事。無論關閉持續多久，它都揭示了訪問美國前沿AI模型的脆弱性。許多政府和企業不喜歡他們看到的——他們決心確保這種事不再發生。

LangChain與Fireworks合作微調開放模型，從生產追蹤中挖掘感知錯誤信號，以極低成本達到前沿模型性能。

LangSmith 的新功能 Align Evals 幫助開發者校準評估器，使其更符合人類偏好，從而減少評估分數與人工判斷之間的差異。

瞭解什麼是成對評估，為什麼在LLM應用開發中可能需要它，並通過LangChain的LangSmith示例瞭解如何使用它。

OpenEvals和AgentEvals提供了預構建的評估器，支持LLM-as-judge、結構化數據和代理軌跡評估。這些開源包幫助開發者快速建立評估流程，確保LLM應用可靠性。

LangSmith推出自我改進的LLM評判器，通過將人工修正存儲為少樣本示例，無需提示工程即可使評判與人類偏好保持一致。

大型科技公司正試圖推動一項聯邦AI優先立法，以取代各州分散的法規，但此舉與兒童安全法案捆綁，面臨政治混亂和反對。