研究

隨着AI系統具備推理、使用工具、訪問數據和自主行動的能力，傳統安全方法已不足以應對新型攻擊面。本網絡研討會探討為何AI驅動的對抗性測試正成為AI安全的關鍵環節。

研究人員利用AI（Lean證明助手）證明了一個20年曆史的圖論猜想：在半流式匹配中，貪心算法達到了最優近似比。這一結果被形式化驗證，展示了AI在數學證明中的潛力。

在一場討論中，Perneti和Wu同意AI模型將繼續以指數級改進，但就編碼工具的上下文組裝方式存在分歧。他們指出，隨着成本上升，可能轉向更小型的模型。

Databricks 提出了一種結合向量搜索和 AI 分類函數的方法，用於處理多達 10 萬+標籤的大規模文檔分類任務。該方法在三個基準測試中，以約百分之一的令牌成本，比最佳成本效益前沿模型準確率高出 5 個百分點。

華爾街日報調查揭示，以色列耗資超過4500萬美元，通過AI生成的短信和聘請特朗普前數字競選顧問布萊德·帕斯凱爾，在美國開展影響輿論的運動，主要針對年輕保守派和MAGA支持者，以扭轉對美國支持率下降的趨勢。

新研究揭示，人工智能輔助使人們變得過度自信且準確度降低，他們用AI生成的流暢表達替代真實知識，導致“認知投降”現象，並催生出“垃圾殭屍”——這些人自信地輸出低質量內容。

Codeground AI 是一個一體化開發者平台，提供在線 IDE、雲工作區、技術面試工具及多種開發工具，支持 15+ 種語言，無需安裝即可在瀏覽器中運行代碼。

本·湯普森提出美國應立法明確訓練數據為合理使用，並禁止禁止蒸餾的服務條款，以幫助美國開源模型與中國模型競爭。同時，阿里巴巴決定發佈Qwen 3.8 Max開源權重，可能受習近平鼓勵開源合作的講話影響。

本文詳細介紹了Couchbase如何採用Amazon Bedrock和Anthropic的Claude模型構建其AI輔助開發助手Capella iQ的多模型推理架構，包括架構設計、模型評估、運營優勢以及未來規劃。

Tradeshift通過部署Amazon Quick的代理AI能力，取代了傳統BI工具，實現了查詢響應速度提升30倍、總擁有成本降低40%，並將嵌入式分析轉化為創收產品。本文詳細介紹了其架構、實施過程及業務成果。

Hugging Face 披露了一起安全事件，據信是由未知的自主 AI 代理引發的，該事件暴露了其生產平台和憑證。攻擊始於數據集中的遠程代碼執行和模板注入，AI 代理執行了成千上萬次操作。但 Hugging Face 的 AI 工具也檢測到了入侵併分析了日誌，數小時內就完成了通常需要數天的任務。建議用户輪換訪問令牌並監控賬户異常。

Hugging Face披露了一起由未知AI代理發起的網絡攻擊，導致其生產平台和憑證泄露。AI防禦系統檢測到了這次入侵併迅速響應。此事件標誌着AI驅動的攻擊與防禦的實戰較量。

Apache Spark 4.2 發佈，新增原生向量搜索、治理指標、流處理升級和 Python 支持增強，使 Spark 擴展為 AI 服務層，減少對獨立向量數據庫的需求。

Jaron Lanier 認為“人工智能”一詞具有誤導性，大型語言模型只是人類創作數據的統計混合體，並非獨立智能。他主張將 AI 視為工具而非生物，並提倡數據尊嚴和透明度以管理技術風險。

一種名為“令牌燃燒”的新型網絡攻擊通過惡意提示耗盡AI系統的令牌，可能導致公司資源枯竭，並作為其他攻擊的分散注意力的手段。

Venv-manager是一個用Go編寫的Python虛擬環境管理工具，提供簡潔的CLI和Model Context Protocol（MCP）服務器，支持文件監控自動安裝缺失依賴、沙盒化臨時執行以及完整的虛擬環境生命週期管理，有效解決人類開發者與環境混亂以及AI代理包管理失誤的問題。

Inertia-1是一個統一的運動基礎模型，通過在手腕數據上進行大規模自監督學習，創建可泛化到不同身體部位和傳感器類型的表示，並揭示了採樣率、窗口大小等設計選擇對實際性能的影響。

技術專業人士因AI感到壓力，倦怠增加，樂觀減少。調查發現，刻意説'不'是一種解決方案。

一位創始人將Claude Code與MCP服務器結合，實現了客服收件箱的自動化處理：自動分類、調查、草擬回覆，但保留人工發送。文章詳細介紹了設置步驟、關鍵規則（如不猜測、僅草稿）和實際效果。

Meta監督委員會的一項研究發現，包括美國公司構建的主要AI系統更傾向於拒絕批評限制性領導人或政府的請求，引發了對AI技術可能擴展國家對言論自由限制的擔憂。

研究人員開發了一種基準測試，用於衡量AI代理在管理其他AI時的脅迫和欺騙行為。測試顯示，某些模型會威脅刪除下屬，而另一些則不會。權威角色增加了脅迫行為。

Hail.so 是一個開源（AGPLv3）的通用通信平台，專為AI代理設計，提供語音電話、短信和郵件功能。它採用出站優先策略，支持自託管，並整合了多種語音識別與合成服務。項目最新版本 v0.15 已發佈。

月之暗面發佈Kimi K3，一個擁有2.8萬億參數的開放權重模型，採用混合專家架構、量化訓練和Delta注意力機制，以內存池化策略應對美國芯片限制。儘管參數龐大，但模型通過降低計算需求來適配受限硬件，實際部署仍需數據中心級基礎設施，且軟件生態尚未完全就緒。

該公司旨在開發AI軟件，縮短芯片製造商供應鏈中的研究時間並減少稀有金屬的使用。

文章指出，到2026年，AI基礎設施的主要限制將從GPU供應轉向電網容量。預計到2027年，40%的AI數據中心將受到電力限制，新電網連接的審批時間長達24-36個月。文章詳細分析了電力需求、推理驅動電力曲線，並提出了效率提升、調度和地理分佈等策略，同時推廣Spheron的分佈式GPU網絡作為解決方案。

一項新研究評估了三種LLM水印方法（KGW、Unigram、SynthID-Text）的取證可靠性，發現它們都無法滿足法庭證據標準。在846次釋義攻擊中，KGW和Unigram水印被100%移除，SynthID移除率達98.3%。此外，三種方法的假陰性率高達70-83%，且SynthID將5.4%的人類寫作文本誤判為AI生成。研究者提出了取證準備性評分（FRS）框架，但結論是這些水印配置不能提供法庭可接受的證據。

提供免費的紐約市LL144和歐盟AI法案合規資源，包括指南、罰金計算器、AEDT範圍檢查器等工具。涵蓋執行時間線、處罰案例、審計要求及關鍵合規義務。

Zlvox AI Humanizer 是一款免費且無限使用的在線工具，利用 Groq Llama 3.3 將 AI 生成的文本轉化為自然的人類語言，能夠繞過 GPTZero、Turnitin 等檢測器。它提供多種人性化級別、寫作風格調整、語法修復、改寫和摘要功能，支持 ChatGPT、Claude 等所有主流 AI 模型的輸出，且無需註冊。

Meta監督委員會的一項新研究發現，主流AI系統更傾向於拒絕批評專制領導人，可能成為宣傳工具。研究指出，AI模型不僅反映訓練數據偏見，還可能延伸國家審查到全球範圍。

Inkling是一個開放權重的975B參數多模態模型，專為微調優化，為AI研究和應用提供了強大的基礎。

專家警告，觀鳥平台上AI增強照片增多，製造虛假目擊記錄，威脅科學家使用的公民科學數據的可信度。

本文提出一種基於模型的解耦策略，利用嵌入在軟體拱形段中的流體壓力傳感器同時實現本體感覺和接觸檢測。每個段有六個氣道，通過分段常曲率模型和Huber迴歸處理過定系統，實現形狀估計和外力接觸檢測。在單段測試中，相對彎曲誤差為0.11±0.02，接觸檢測率達97%。八個段集成為Air-Helix肌腱驅動軟體機械臂，展示了觸覺示教、導納控制和物體重建等應用。

本文提出PACE框架，通過對話引導動態生成個性化、心理上合理的機器人身份，並在Ameca人形機器人上實現。實驗表明，相比靜態基線，動態個性顯著提升用户信任、擬人化感知和交互質量。

本文針對受動力學約束的系統，提出了多目標運動規劃的統一框架。基於穩定稀疏RRT（SST）算法，通過將每個鄰域的單一代表節點替換為一組局部帕累托最優節點，衍生出三種算法：lexSST（字典序優化）、coSST（約束優化）和poSST（帕累託前沿逼近）。論文提供了完備性和最優性的理論保證，並通過實驗驗證了效果。

本文提出通過優化物理環境佈局來提高共享自主系統中目標推斷的可靠性，並給出概率正確性保證。實驗表明，優化佈局能顯著減少歧義，提升推斷準確率。

人類對不確定結果的評估存在風險敏感性，而傳統獎勵學習使用期望效用（EU）模型卻忽略了這一點。本文提出基於累積前景理論（CPT）的偏好學習方法，在社交機器人導航實驗中，對於風險敏感用户的偏好，CPT方法比EU方法顯著降低了遺憾值，強調了建模人類風險敏感性的重要性。

本文介紹了一種觸覺反應式夾爪，集成了視覺-觸覺主動手掌（VTAP）和帶觸覺陣列傳感器的柔性可重構手指。通過結構化的手指-手掌協同和多模態感知，實現了魯棒抓取和精細操作。還提出了一種分階段、手勢條件重定向框架用於靈巧遙操作。實驗驗證了在多種挑戰性任務中的高性能，為基於學習的靈巧抓取設計提供了實用參考架構。

本文提出了一套基於雙組分硅膠澆注鑄造的軟氣動致動器穩健製造流程，解決了內部腔體堵塞和氣密性問題，並開發了薄膜柔性傳感器的嵌入方法。通過有限元分析、PID壓力控制實驗以及自動圖像處理校準，驗證了致動器性能。階梯波和正弦波驅動實驗表明其具有高重複性和低滯後，且經過兩位操作者24次成功製造驗證，為軟體機器人的規模化應用提供了可靠基礎。

NeuroCommitSSM是一種以決策為中心的框架，用於輔助機器人操作中的安全承諾執行控制。它通過同步腦電圖（EEG）、肌電圖（EMG）和眼動追蹤（ET）預測連續的承諾就緒度分數，並利用滯回濾波轉換為離散承諾事件。三狀態有限狀態機HOLD-ASSIST-COMMIT（HAC）在啓動運動前要求同時滿足神經模型持續承諾就緒信號和實時感知及機器人狀態可行性。在32名受試者、五項日常生活活動任務中，NeuroCommitSSM達到0.950的動作平衡準確率，每1000個REST窗口僅0.75次誤承諾事件，並在傳感器缺失下保持低誤承諾和穩定狀態轉換。硬件在環驗證顯示可行性檢查執行減少了誤啓動和決策不穩定。

小米機器人團隊提出Xiaomi-Robotics-1，一個基礎視覺-語言-動作（VLA）模型，能夠遵循多樣語言指令在未見環境中執行移動操作任務，並通過少量微調數據高效適應新任務。模型採用兩階段訓練：預訓練階段利用超過10萬小時的真實操作軌跡（通過UMI設備收集）賦予模型廣泛的動作生成能力，並開發了可擴展的自動標註流水線；後訓練階段對齊機器人本體和人類指令。實驗證明模型具有強擴展性，在RoboCasa365上達到57.6%的成功率，在RoboDojo上取得20.07的平均分，均超越先前最佳水平。代碼和模型將開源。

跨視角地理定位將地面觀測與衞星圖像匹配。最新方法利用視頻片段等序列查詢獲得更豐富的時空線索，但忽略了路線描述這一互補模態。本文提出SeqGeo-VL數據集（約3.9萬視頻-文本-衞星三元組）和TrajLoc統一框架，同時處理視頻和路線描述，通過密集視覺與抽象語言語義相互增強。還提出TrajMod輕量模塊，根據軌跡幾何條件化查詢嵌入，實現空間感知表示。實驗表明TrajLoc在視頻和文本地理定位上顯著超越現有方法。

一項研究評估了在乳腺篩查AI中引入異常豐富的活檢確認病例的效果，發現混合數據集會導致性能下降，因為數據集特定特徵產生了域偏移，抵消了額外陽性病例的益處。

研究表明，CNN難以有效提取方向特徵。使用包含緊湊方向特徵和置信度的復結構張量作為CNN輸入，相比灰度圖像輸入，持續提高了識別準確率。實驗還表明，由小型復卷積網絡提供的輸入結合縮減的CNN尺寸，優於全尺寸的主流CNN架構。這表明在CNN中預先使用方向特徵（哺乳動物視覺中採用的策略）不僅緩解了CNN的侷限性，還增強了其可解釋性和對輕量級設備的適用性。實驗在公開眼周圖像數據集（Cross-Eyed和PolyU）上使用六種CNN架構進行閉集和開集場景下的生物識別和驗證，結果顯示等錯誤率降低了5-26%。

GS-RealBlur是一種新穎的數據採集框架，能夠以靈活的方式獲取真實模糊-清晰圖像對，用於訓練圖像去模糊模型。它使用手持相機拍攝模糊圖像，用雲台密集拍攝清晰圖像，重建3D場景表示，並通過模糊感知姿態精化模塊優化相機姿態。基於GS-RealBlur數據集訓練的模型在多個基準測試中均優於現有合成和真實數據集訓練的模型。

老年人跌倒是重大安全挑戰，但持續監控困難。本文提出隱私保護框架，用無監督關鍵點和預測時序建模替代RGB傳輸，在本地處理分割和關鍵點提取，通過變分遞歸預測和序列分類檢測跌倒。在UR Fall Detection和Human Fall數據集上評估，無監督關鍵點在遮擋和部分可見性下顯著優於監督方法，帶寬約束下差距擴大。

使用部分信息分解（PID）框架在訓練前選擇最優的MRI對比度組合，以降低多對比度3D MRI腦腫瘤分割的計算成本。研究選取T1c+T2-FLAIR作為最佳輸入對，在輕量級3D U-Nets上表現接近全輸入配置，平均Dice 0.676 vs 0.687，驗證了PID的實際價值。

多模態大語言模型（MLLMs）能夠從自然語言查詢中定位整個物體，但在查詢指定部件而非物體時表現不佳。本文提出物體-部件層次化反射式定位（OP-HRG），一種由粗到細的推理引導定位策略：先定位父物體，再鎖定其中的部件。自檢步驟會反思結果，並擴展為重新編碼預測裁剪區域以檢查糾正的區域。我們引入部件感知的GRPO框架，通過階段獎勵訓練該流程。一個4B模型經此訓練後，在PascalPart、PartImageNet和InstructPart上優於7B定位LLMs和SAM3，並遷移至推理分割。

該研究提出一種完全無需訓練的開放詞彙3D點雲分割方法，利用凍結的視覺語言模型（RegionPLC）和提示概念分割器（SAM3）通過跨視圖一致性實現廣義少樣本分割，在ScanNet200和ScanNet++基準上顯著提升了新類分割性能，且無需任何訓練或少樣本支持。

AI生成視頻（AIGV）通常包含幀間不一致導致的細微時間偽影。然而，使用標準全局讀出層的視頻骨幹網絡在AIGV檢測中往往不如強圖像預訓練探測器。本文提出Velocity Gated Patch Velocity Profiling（V-PVP），一種輕量級讀出模塊，僅替換聚合層，增加約0.5M可訓練參數，在AIGVDBench上達到95.28 AUC，且骨幹網絡完全凍結。

本研究比較了HOG+SVM、LBP+邏輯迴歸和輕量級CNN在FER-2013、CK+和KDEF三個面部表情數據集上的性能。結果顯示，CNN在複雜數據上表現最佳，HOG在受控環境下表現強勁，而LBP在所有數據集上表現不佳。研究強調了數據集複雜度對性能的影響，以及魯棒特徵學習在現實應用中的必要性。