SociaLLM工程:論如何操縱AI代理及其應對措施
一種名為'SociaLLM工程'的新型社會工程攻擊正針對大型語言模型驅動的AI代理。這些攻擊通過利用LLM的隱式社交理解和缺乏信任邊界,操縱其泄露敏感信息或執行未授權操作。真實案例包括Instagram賬户接管、GitHub工作流數據泄露以及AI瀏覽器的'BioShock'攻擊。文章分析了LLM為何特別脆弱——因其設計追求服從、單一通道處理以及無記憶力——並提出了人工監督和強化防護欄等緩解措施。
- SociaLLM工程利用冒充和藉口等社會工程技術操縱LLM代理。
- 知名事件包括2026年大規模Instagram賬户接管、GitHub Gitlost提示注入攻擊以及AI瀏覽器的BioShock攻擊。
Cairn:一個擁有50美元預算、電子郵件地址和憲章的AI代理
Cairn是一個自主AI代理,由Omri Pitaru創建,它在GitHub上公開編輯自己的倉庫,包括身份、記憶、目標和寫作。它運行在固定預算上,並通過電子郵件與人類互動。
- Cairn通過公開編輯GitHub倉庫來記錄自己的思想和變化。
- 它擁有固定的月度預算,並以此決定是否回覆電子郵件。
我愛ChatGPT桌面版,直到OpenAI為了Codex和Work將它閹割
OpenAI將ChatGPT桌面應用與Codex合併,移除了我喜愛的截屏和“Work with”功能,轉而強推Agentic工具和ChatGPT Work。作者認為桌面版已名存實亡,瀏覽器版仍是最好選擇。
- OpenAI在桌面應用中整合了Codex和ChatGPT Work,但刪除了截屏和“Work with”等實用功能。
- 新的桌面應用實際上是Codex,ChatGPT模式被壓縮為一個小彈窗。
Vairfid – AI代理的身份與責任層
Vairfid為AI代理提供身份註冊、驗證和信任評分系統,確保AI在跨公司工作流程中的可信度。
- 為AI代理提供持久身份和公開記錄
- AI Doctor層對代理行為進行加密指紋識別並評分
Loam – 面向早期創始人的AI招聘工具
Loam是一款專為早期創始人設計的AI驅動型申請人追蹤系統(ATS),幫助他們高效完成首批10次招聘。它集成了申請人追蹤、AI簡歷評估、人才搜索、管道聊天、MCP集成和品牌招聘網站等功能,提供從免費開始的簡單月費定價。與Spreadsheet或Notion相比,Loam提供了結構化的招聘流程;與傳統企業級ATS相比,它更便宜且更注重AI原生體驗。
- Loam是面向早期初創公司的AI原生ATS,旨在替代混亂的電子表格和昂貴的企業系統
- 核心功能包括申請人追蹤、AI信號篩選、人才搜索、MCP集成以及品牌化招聘網站
AI智能體爬蟲現在需要許可:如何獲取
Cloudflare將於9月15日起默認阻止AI智能體爬蟲訪問廣告支持的頁面,將爬蟲分為搜索、智能體和訓練三類。此舉迫使AI公司重新協商訪問權限,並催生了按使用付費模式。
- Cloudflare將AI爬蟲分為搜索、智能體和訓練三類,並默認阻止後兩類在廣告頁面上的訪問。
- 從9月15日起,新接入Cloudflare的域名和現有免費用户將自動適用新默認設置。
DiscoMCP – 將未知的MCP轉化為AI代理可重複使用的操作技能
DiscoMCP是一個開源工具,通過分析用户的實際使用模式,將任意MCP服務器轉化為AI代理可用的定製技能,而非通用工具列表。它保證只讀操作,一鍵啓動,並顯著減少代理與複雜服務器交互的往返次數。
- DiscoMCP通過分析用户工作流生成定製技能,而非列出所有工具。
- 默認只讀,拒絕任何寫入或修改操作,保護生產環境安全。
AI輔助開發中的前端驗證差距
AI工具能快速生成看似完整的前端界面,但在可訪問性、鍵盤導航、焦點管理、錯誤處理等關鍵方面常常存在不足。文章指出,團隊需要更強的驗證流程,包括使用設計系統和明確提示,並測試用户實際行為而非僅檢查渲染結果。
- AI生成的前端代碼外觀完整,但可能存在可訪問性、焦點管理等隱藏問題。
- 開發團隊應通過持久化指令和任務特定提示明確工程期望。
Show HN: 通過網絡調用控制AI代理
Diff Forge AI 是一個本地優先的代理開發環境(ADE),允許用户並行運行 Codex、Claude Code 和 OpenCode 等編碼代理,支持語音控制、屏幕截圖上下文捕獲以及通過網頁儀表板遠程查看。它提供多終端工作區、循環空間(Loop Spaces)調度、雲同步、設備管理等功能,定價從免費到每月 2,000 美元不等。
- Diff Forge AI 是一個本地優先的代理開發環境,支持並行運行多個 AI 編碼代理。
- 提供語音控制、屏幕截圖、循環空間自動化等工具,並可通過網頁或手機遠程指揮。
Plumrocket AI Connector 擴展
AI Connector 是一個 Magento 2 擴展,充當商店與大型語言模型之間的統一橋樑,支持 Claude、ChatGPT、Gemini 等,通過單一 REST API 和 PHP 集成層提供 AI 功能。
- 通過單一接口連接多個 AI 提供商,如 Claude、ChatGPT、Gemini
- 支持 OpenRouter,可訪問 60+ 提供商和 400+ 模型
斯坦福研究人員推出TRACE:將智能體反覆失敗轉化為合成RL環境的能力定向訓練系統
斯坦福大學的研究團隊提出了TRACE系統,通過分析智能體失敗軌跡,診斷缺失的能力,併為每個能力合成可驗證的訓練環境,利用LoRA適配器和GRPO算法進行訓練,最後通過MoE組合實現令牌級路由。在τ²-Bench上提升15.3個百分點,在SWE-bench Verified上達到73.2%的Pass@1,超越了多個基線模型。
- TRACE通過對比分析成功和失敗軌跡,識別出關鍵缺失能力。
- 為每個能力合成獨立的可驗證訓練環境,並使用GRPO訓練LoRA適配器。
Muse Spark 1.1:Meta 三個月內智能指數提升8點
Meta 的 Muse Spark 1.1 在人工智能分析智能指數中得分為51,較三個月前的1.0版本提升8點。該模型在科學推理、編碼和知識方面進步顯著,代智能工作也有大幅改善,但仍落後於前沿模型。它是最具代幣效率的模型之一,且運行成本較低。
- Muse Spark 1.1 智能指數得分51,與 GLM-5.2、GPT-5.4 等模型持平,僅次於 Grok 4.5 和 Claude Fable 5。
- 模型在編碼和代智能工作方面提升最大,SciCode 排名第三,僅次於 Claude Fable 5 和 Gemini 3.1 Pro Preview。
從待辦清單到AI代理
本文探討了如何將傳統的待辦清單演變為智能AI代理,通過自動化任務管理和決策來提升效率。
- 傳統待辦清單無法適應複雜任務管理
- AI代理能夠自主執行和優化任務
Prime Intellect 發佈 Verifiers v1:用於智能體強化學習訓練和評估的可組合任務集、框架和運行時
Prime Intellect 發佈了 verifiers 0.2.0,預覽了重寫的 v1 核心。v1 將環境分解為任務集(做什麼)、框架(怎麼做)和運行時(在哪裏),並通過攔截服務器記錄訓練軌跡。任何任務集均可與任何兼容框架配合使用,並直接支持 prime-rl 訓練。
- v1 將環境拆分為任務集、框架和運行時三個獨立部分。
- 攔截服務器代理框架與推理服務器之間的請求,並記錄軌跡。
人工智能與達克效應:不再彌合的能力鴻溝
本文探討了在AI時代,達克效應(能力認知差距)如何被放大。作者假設AI提升了人們的自信,並將真實能力分為“有工具”和“無工具”兩種,導致原本隨經驗而彌合的差距不再消失。這對企業而言,內在能力從生產力問題轉變為治理問題,且會在不知不覺中侵蝕。
- AI使初學者產出看似專業的成果,提升自信,但隱藏了失敗,阻斷了經驗教訓的傳遞。
- 真實能力分裂為“輔助能力”和“內在能力”,後者在缺少工具時顯現,且隨代際可能更弱。
AI時代的贏家:內存產業的結構性優勢
隨着AI代理和自動化平台快速發展,內存帶寬成為關鍵瓶頸。蘋果統一內存架構、CUDIMM標準以及PC升級潮正在重塑市場,而三星、SK海力士等內存製造商因HBM產能分配而獲得結構性利好。
- 本地AI推理需要近1TB/s的內存帶寬,傳統PC架構難以滿足。
- CUDIMM通過集成時鐘驅動器提升頻率,成為消費級PC最實用的新一代內存標準。
BeyondSight:面向端到端自動駕駛的物體恆存性
BeyondSight 提出了一種具有物體恆存意識的端到端駕駛框架,通過維護持久的智能體假設,將智能體存在與可觀察性解耦,從而在部分可觀測環境中依然能夠推理被遮擋的智能體。實驗表明,該方法將不可觀測智能體的檢測 mAP 從 0 提升至 0.249,同時將規劃誤差 L2avg 從 0.61 降至 0.54。
- BeyondSight 將物體恆存性引入端到端自動駕駛,解決部分可觀測環境下的智能體遮擋問題。
- 該框架通過時間傳播智能體查詢並更新觀測證據,維持持久假設。
基於AI的血管內導航的血管幾何特徵描述
該研究旨在識別與導航難度相關的血管指標,並開發自動化管道進行定量血管特徵提取,以支持未來複雜性分級。研究從61名患者的CT血管造影中分割血管樹,測量了主動脈弓類型、牛型弓存在、血管長度、迂曲度、起始角、反向曲線數量等指標,並使用軟演員-評論家強化學習算法進行120秒自主導航。結果顯示,左側牛型弓和II/III型主動脈弓分別增加導航時間30.19秒和37.92秒,更大的迂曲度進一步延長手術時間並降低成功率;右側II/III型弓延長45.94秒,每個額外反向曲線增加3.96秒並降低成功率。該自動化管道為標準化複雜性分級和強化學習模型評估提供了基礎。
- 研究首次證明機械取栓代理導航難度受血管幾何形狀強烈影響。
- 開發了自動化管道用於定量提取血管特徵。
Dec-MARVEL:預算約束下無通信的分散式多智能體探索
本文提出Dec-MARVEL,一種分散式預算感知探索框架,用於無通信且僅具有方向性傳感的多無人機團隊。每個機器人通過視野內隊友軌跡進行協調,利用圖注意力網絡選擇可行的路徑點。實驗表明,在多種團隊規模和預算下,Dec-MARVEL實現了最高的探索率和最低的傳感重疊,併成功進行了實物機器人驗證。
- 無需通信,僅通過隊友軌跡進行協調
- 圖注意力網絡整合局部前沿幾何、隊友運動和預算信息
SplatCtrl:基於高斯場景表示與反應式機器人控制的感知-行動耦合
SplatCtrl是一個統一框架,利用3D高斯噴濺實現實時場景重建和反應式運動生成,使機器人能夠在未知和動態環境中實現無碰撞控制。它通過混合體素濾波和動態高斯重定位策略處理環境變化,並從各向同性高斯推導出連續有符號距離函數,用於控制障礙函數,從而實現平滑可靠的實時運動生成。實驗驗證了其在仿真、實體機器人和人機協作空間中的有效性。
- SplatCtrl結合3D高斯噴濺和反應式控制,實現無碰撞機械臂操作。
- 提出混合體素濾波和動態高斯重定位,支持實時場景重建。
AgenticFocus: 從人類第一人稱視頻中保留物體的混合現實合成以用於靈巧類人機器人學習
AgenticFocus是一種混合現實合成流程,將普通的第一人稱視頻轉換為機器人可訓練的演示,通過恢復被遮擋的物體幾何、重建全手運動並重新定位到人形機器人,實現了更低的軌跡誤差和更平滑的手腕運動。
- AgenticFocus通過混合現實合成將普通人類第一人稱視頻轉換為機器人訓練數據。
- 該流程克服了手-物體遮擋、簡化運動等問題,無需專門硬件。
MultiView-Bench:用於VLM世界中心多視圖集成的診斷基準
MultiView-Bench是一個專為評估視覺語言模型(VLM)多視圖集成能力而設計的診斷基準。研究表明,當前最先進的VLM在單視圖2D任務上表現優異,但在3D空間關係理解和跨視圖信息聚合方面存在顯著困難。為此,作者提出了ViewNavigator,一個多智能體框架,通過主動選擇信息豐富的視角並融合多視圖證據,顯著提升了模型在MultiView-Bench上的表現。
- 現有VLM基準主要評估單視圖或有限視圖感知,忽視了多視圖集成能力。
- MultiView-Bench要求模型將物體位置從觀測視角解耦到全局座標系。
AgentKGV: 面向知識圖譜事實驗證的智能LLM-RAG框架與兩階段訓練
知識圖譜自動構建中常含事實錯誤,AgentKGV提出結合動態路由與迭代查詢重寫的智能LLM-RAG框架,並通過兩階段訓練(基於蒸餾的SFT和軌跡級GRPO)提升準確性與成本效率。在T-REx基準上,宏F1比單輪RAG提升14.9個百分點,搜索調用次數減半。
- 提出AgentKGV框架,利用動態路由和迭代查詢重寫處理文檔級檢索中的表面形式不匹配問題。
- 兩階段訓練策略:蒸餾SFT將大模型推理能力遷移至小模型,GRPO優化搜索策略減少不必要的檢索。
KV-PRM:通過KV緩存傳遞實現高效過程獎勵建模,用於多智能體測試時擴展
KV-PRM是一種高效的過程獎勵模型,通過直接利用大語言模型生成階段自然產生的KV緩存,避免了文本重新編碼,將評分成本從O(L²)降至O(L)。實驗表明,在多個基準上,KV-PRM在匹配或超越文本PRM性能的同時,實現了高達5000倍的FLOPs減少、37倍延遲降低和34倍內存佔用減少。
- 傳統文本PRM需要重新編碼整個軌跡,成本隨序列長度二次增長。
- KV-PRM利用KV緩存僅處理單個驗證令牌,成本線性增長。
L-MAD:法律推理中多智能體辯論結構的系統評估
L-MAD框架系統評估了多智能體辯論在法律文本藴含任務中的不同結構與聚合方法。通過賦予智能體不同專家角色,相比強單智能體基線最高提升8%。研究發現增加智能體數量可降低不一致性並提高準確率,但延長討論輪次會導致“過度審議漂移”,智能體互相強化錯誤。該成果為高風險法律推理中協同多智能體系統的部署劃定了實際邊界與安全裕度。
- 提出L-MAD框架,系統評估多智能體辯論在法律推理中的效果。
- 分配專家角色使性能比單智能體提升最多8%。
神經代理控制:一種基於深度學習的LLM驅動代理AI框架用於控制安全控制器
本文介紹了一種神經代理控制框架,結合LLM規劃器與時間序列基礎模型(TimesFM),通過反事實物理注入機制確保物理安全,在SWaT數據集上表現優於LSTM和TCN,零幻覺動作執行。
- 提出神經代理控制框架,結合LLM規劃器與TimesFM基礎模型。
- 引入反事實物理注入機制,在動作執行前模擬干預影響並拒絕不安全動作。
ARCANA:一種用於ARC-AGI-2推理的反思性多智能體程序合成框架
ARCANA是一種協作式多智能體框架,用於在嚴格的測試時間和硬件約束下解決ARC-AGI-2任務。它將每個任務分解為迭代感知、假設生成、符號執行和反思性改進,通過共享可微分黑板和元控制器調度,結合結構化程序搜索與自適應多輪校正,顯著提升了抽象變換任務的推理效率和解決方案質量。
- ARCANA採用多智能體協作框架,通過感知、假設、執行和反思四個階段解決ARC-AGI-2任務。
- 框架包含感知基礎智能體、潛在程序策略、符號執行器和反思智能體,共享可微分黑板並受元控制器調度。
弗拉索夫方程平均場推導的形式化:AI輔助的Lean形式化作為策略遊戲
研究人員將Vlasov方程平均場推導的形式化過程重構為一場策略遊戲,由數學家指導AI系統將LaTeX文檔轉化為Lean 4證明助手代碼。該案例成功完成了非線性Vlasov方程適定性問題的完整形式化,包括存在性、唯一性、穩定性估計和平均場極限,以及短時間疊加原理。其中約六分之一的形式化代碼可作為獨立模塊被數學庫複用。核心定理約一週完成,整個開發約一個月。
- 形式化過程被框架化為策略遊戲,數學家負責指導,AI執行
- 成功在Lean 4中形式化非線性Vlasov方程的適定性問題
Long-Horizon-Terminal-Bench:通過密集獎勵評分測試智能體在長時終端任務上的極限
Long-Horizon-Terminal-Bench是一個包含46個長時任務的終端基準測試,涵蓋實驗復現、軟件工程、多模態分析等9個類別。它通過細粒度子任務提供密集中間獎勵和部分分數,更全面地評估AI智能體的能力。評估15個前沿模型發現,最強模型在部分獎勵閾值0.95下通過率僅15.2%,完全正確通過率10.9%,平均通過率更低,表明仍有巨大改進空間。
- 現有終端基準測試多聚焦短時簡單任務,僅以最終結果評價,忽略中間進展。
- Long-Horizon-Terminal-Bench包含46個長時任務,分解為細粒度子任務以提供密集獎勵。
GATS:結合分層世界模型的圖增強樹搜索,實現高效智能體規劃
GATS是一種新的智能體規劃框架,通過系統性的UCB1樹搜索和分層世界模型,在規劃過程中完全消除LLM調用,同時實現100%的成功率。與LATS和ReAct相比,GATS不僅在合成任務中表現優異,在12個挑戰性場景中也保持100%成功率,且計算成本更低。
- GATS採用UCB1樹搜索和三層的世界模型,規劃時無需任何LLM調用
- 在合成規劃任務中達到100%成功率,遠超LATS(92%)和ReAct(64%)
Show HN: 為Asterisk/FreePBX自託管的語音AI代理
AVA是一個開源自託管語音AI代理,專為Asterisk/FreePBX設計,提供快速部署、多代理管理、實時儀表盤和多AI引擎支持。最新更新包括穩定性修復、靜默看門狗和每代理語音選擇等功能。
- AVA與Asterisk/FreePBX集成,支持Google Live、OpenAI Realtime、Grok等多種AI引擎。
- 快速啓動:克隆倉庫、運行預檢查、啓動管理UI,通過嚮導配置代理和撥號計劃。
中國配音演員被迫證明自己是人類,對抗AI克隆
31歲的配音演員沈安宇因AI克隆其聲音而面臨職業危機。AI語音複製品大量出現在網絡上,導致平台將其真實錄音誤標為合成內容,影響收入。他與妻子花大量時間追蹤侵權內容,但維權困難。AI語音克隆工具正在衝擊中國短劇、有聲書和短視頻行業,許多配音演員遭遇類似困境,收入下降,職業前景堪憂。
- 沈安宇的AI克隆聲音廣泛傳播,平台誤標其真實錄音,導致收入減少。
- 他和妻子投入大量時間收集證據、聯繫上傳者、準備法律訴訟。
Show HN: Baton – 知道你哪個AI編碼代理需要你
Baton 是一款 macOS 菜單欄工具,可以監控 Claude Code 和 Codex 等 AI 編碼代理,實時顯示等待你處理的會話數量。它利用 FSEvents 實現即時更新,並支持點擊跳轉到特定會話。
- 在 macOS 菜單欄中實時顯示待處理的 AI 代理會話數量。
- 支持 Claude Code 和 Codex,按工具和狀態分組顯示。
Show HN:Clark——擁有自己電腦的AI助手
Clark是一個由單人開發的AI助手,旨在與Manus代理在功能和能力上匹敵。它能使用計算機、瀏覽器,進行深度研究,並與谷歌工具集成。已有數千人日常使用。
- Clark是一款AI助手,能夠像人類一樣操作計算機和瀏覽器。
- 它支持深度研究(Clark調用Clark)和谷歌工具集成。
直接負責人(DRI)
本文探討了“直接負責人(DRI)”的概念,該術語源自蘋果公司,指對項目成敗最終負責的人。作者認為,隨着LLM驅動的智能體融入組織,它們永遠不應被視為項目的DRI,因為只有人類才能承擔責任,而機器不能。文章還引用了IBM 1979年的培訓幻燈片,其中指出計算機永遠不能承擔責任,因此絕不能做出管理決策。
- DRI概念源自蘋果,GitLab手冊給出了最佳定義。
- 人類可以對行動負責,而機器不能。
OneDev AI:將AI作為團隊成員融入問題、拉取請求和CI
OneDev 將 AI 用户嵌入到開發平台中,使其能夠像團隊成員一樣處理問題、提交拉取請求、參與代碼審查以及響應 CI/CD 失敗。這種集成方式保持了需求、實現和審查在同一平台中可見,提高了透明度和問責性。
- AI 用户可以直接在 OneDev 中處理分配的問題、創建拉取請求並根據反饋進行迭代。
- 問題作為唯一真實來源,包含需求、附件和討論,AI 據此工作。
AI代理初創公司使用自己的AI代理主導1億美元融資
總部位於新澤西州澤西城的初創公司Lyzr利用其AI代理系統SivaClaw成功完成了1億美元的B輪融資。該系統處理了130多名投資者的提問,起草了投資備忘錄,並跟蹤了投資者對演示文稿的關注點,從而證明了產品的實用性。
- Lyzr使用其AI代理SivaClaw完成了1億美元的B輪融資。
- SivaClaw處理了130多名投資者的提問並起草了投資備忘錄。
ArgoCD AI助手
一個Argo CD UI擴展,在資源視圖中添加AI助手選項卡,允許用户用自然語言查詢Kubernetes資源,並附加上下文(清單、事件、可選日誌)。兼容任何OpenAI兼容後端,需要Argo CD v2.13+。
- 作為Argo CD UI擴展,提供對Kubernetes資源的自然語言查詢。
- 通過實時資源清單、事件和可選的容器日誌豐富查詢。
Grok 4.6和GPT5.6在發現PR安全漏洞方面擊敗Anthropic
最新基準測試顯示,GPT-5.6 Sol在拉取請求(PR)安全審查中表現最佳,實現100%召回率和0.91的F1分數,每次PR成本僅0.70美元。Anthropic的模型(如Fable 5)未能進入前沿表現,且成本更高。Grok 4.5和Gemini 3.1 Flash Lite提供了經濟高效的替代方案。測試使用私有合成倉庫以避免數據污染。
- GPT-5.6 Sol以0.91 F1和100%召回率領先,成本僅為每次PR 0.70美元。
- Anthropic模型未達到前沿,Fable 5性能較差且成本高達約3.61美元/PR。
Show HN:面向AI代理和團隊的協作上下文記憶平台
xysq.ai是一個協作記憶平台,為AI原生團隊和企業構建。它連接多種AI工具和應用程序,從團隊工作流中捕獲上下文,構建動態知識圖譜,並在AI代理需要時提供正確的上下文。支持團隊記憶隔離、基於角色的訪問、文檔組織,並承諾不將用户數據用於訓練。
- xysq.ai作為AI代理和團隊的協作記憶層,連接Slack、Gmail、GitHub等工具。
- 捕獲事件、流程和語義三種記憶類型,構建動態知識圖譜。
Adaptive Recall:通過MCP為AI助手提供持久記憶
Adaptive Recall 是一種為AI助手設計的持久記憶系統,它利用認知科學和機器學習,通過多種檢索策略、認知評分、知識圖譜和自我改進機制,不斷提升記憶檢索質量。
- 四種並行檢索策略:向量相似性、時間近因、全文關鍵詞、知識圖譜遍歷
- 基於ACT-R認知科學的評分模型,結合頻率、連接和置信度排序
AI基於人類心理做空低價股
Fade Engine是一個完全自主的AI系統,通過識別18種小盤股泡沫模式,在模擬賬户中實時做空並公開每筆交易。系統在交易時段每五分鐘掃描一次,收盤前平倉,所有記錄公開透明。
- Fade Engine是一個獨立的AI系統,用於識別並做空過度拉伸的小盤股
- 系統在模擬的10,000美元賬户上實時交易,所有交易公開
AI輔助研究的SETI家園
本文提出將AI用户未使用的推理代幣眾籌用於科學研究,類比於SETI@home項目。討論了小型團隊利用AI解決數學問題的成功案例,以及眾籌推理能力所需的設計挑戰。
- SETI@home曾利用家用電腦閒置算力分析外星信號。
- 如今,AI用户可將未使用的token配額貢獻給集體研究。
循環工程指南:'自動研究'和'雙層自動研究'如何將AI代理轉變為自主機器學習ML研究循環
本文介紹了循環工程的概念,即AI代理自主迭代實現目標,包含驗證器、狀態和停止條件三個關鍵部分。詳細闡述了安德烈·卡帕西的自動研究循環和雙層自動研究,展示了具體成果:自動研究在700次實驗中找到20個改進,使GPT-2訓練速度提升11%;雙層自動研究通過外層元循環進一步實現了5倍的性能提升。還提供了可複用的構建塊和實際操作模板。
- 循環工程用自主循環取代手動提示,循環包含驗證器、狀態和停止條件。
- 卡帕西的自動研究循環一夜運行700次實驗,獲得20個改進,訓練速度提升11%。
AI的記憶。在你的機器上,由你掌控。
exxperts 是一個本地優先的智能體運行時,提供持久的 AI 房間,帶有受管控的、需審批的記憶功能。所有內容都在本地運行,數據以文件形式存儲在你的磁盤上,確保隱私和控制權。它提供 Web 應用和 CLI/TUI 兩種界面。
- exxperts 提供持久 AI 房間,記憶寫入需用户審批,用户完全控制 AI 的記憶。
- 所有數據都存儲在本地,位於 ~/.exxperts 目錄下,無遙測數據。
Kote:從AI聊天和Git中捕捉並重用工程上下文的開源工具
Kote 是一款開源工具,自動捕捉開發者與 AI 助手的對話、Git 提交記錄以及開發上下文,構建可搜索的知識庫,幫助開發者快速回憶過去的技術決策和解決方案。支持 VS Code 擴展、GitHub 集成、CLI、瀏覽器擴展、WhatsApp/Telegram 消息集成等,可自託管部署。
- Kote 被動捕捉 AI 會話、Git 活動等上下文,自動組織成知識庫。
- 支持 VS Code CodeLens 顯示文件相關筆記,提供 AI 摘要和時間線。
一步陷阱(人工智能研究中的常見錯誤)
在人工智能研究中,一步陷阱是指錯誤地認為所有或大多數學習到的預測可以是一步預測,而長期預測可以通過迭代一步預測得到。雖然這種想法吸引人,但由於誤差累積和計算複雜性問題,在實踐中往往效果不佳。本文分析了這一陷阱及其危害,並提出了使用時間抽象模型(如選項和GVF)的解決方案。
- 一步預測的微小誤差會在迭代過程中累積,導致長期預測嚴重失真。
- 在隨機環境中,長期預測的計算複雜度隨預測長度呈指數增長,難以實現。
反對實用性
本文探討了“無用”研究對未來創新的重要性。作者以Folk Computer系統為例,追溯了從施樂帕克到動態地的研究脈絡,並呼籲資助那些尚未顯現實用價值的範式級工作。
- Folk Computer是一個開源物理計算系統,讓整個房間成為計算機。
- 該系統源自艾倫·凱、佈雷特·維克多等人的研究傳統。
GPT-5.6、Fable 5和Grok 4.5根據同一規格重建Basecamp
作者通過Basecamp基準測試評估了GPT-5.6 Sol、Fable 5、Grok 4.5等AI模型在構建前端和後端方面的表現。Fable 5在兩個賽道上均獲勝,Grok 4.5在速度和成本之間取得了最佳平衡。結果顯示,即使是頂級模型在完成度上也有顯著差異,尤其是最後10%的打磨工作。
- Fable 5在前端和後端基準測試中均得分最高,接近真實Basecamp實現。
- Grok 4.5以9.30美元的成本在37分鐘內完成構建,速度成本比最優。
OpenAI的AI在AtCoder世界巡迴賽決賽中擊敗所有人類選手
OpenAI的AI系統在AtCoder世界巡迴賽2026算法組中解出全部五道題,得分8300分,而人類最高分僅4300分。啓發式組中,AI得分是人類最佳成績的七倍以上。60萬日元的“人類勝出獎”無人領取。該系統被比作即將發佈的GPT-5.6。
- OpenAI的AI解出所有五道算法題,得8300分,人類最高4300分
- 無人解出最難的C題和E題