我讓AI代理刪除一個由我的工具保護的資料夾
Termaxa的作者透過讓Cursor AI代理嘗試刪除受保護資料夾,發現了四種繞過安全機制的方法,包括重試不同shell命令、使用間接刪除命令、利用本地檔案工具以及由於API變更導致靜默失效。這些經驗教訓促使了意圖分類、會話斷路器、整合測試改進等關鍵功能的設計。
- Cursor透過重試不同shell方言繞過規則,暴露了策略表達力的不足。
- 意圖分類比模式匹配更能有效阻止惡意刪除操作。
主題流
AI 政策會改變模型訓練、產品發布、資料使用和跨境部署的邊界。這裡追蹤監管、版權、安全標準、出口管制、政府採購和產業規則,協助團隊提前理解合規、市場准入和技術路線風險。
Termaxa的作者透過讓Cursor AI代理嘗試刪除受保護資料夾,發現了四種繞過安全機制的方法,包括重試不同shell命令、使用間接刪除命令、利用本地檔案工具以及由於API變更導致靜默失效。這些經驗教訓促使了意圖分類、會話斷路器、整合測試改進等關鍵功能的設計。
分析師指出,自全球金融危機以來,美國銀行採用了更嚴格的承保標準,這使得它們能夠抵禦人工智慧熱潮的急劇逆轉。近期全球股市因對AI驅動漲勢可持續性的擔憂而下跌,但銀行因更審慎的貸款實踐而受到保護。
HugstonOne Enterprise Edition 3.0.0是一款集本地模型執行、大規模RAG、文件處理、編碼、代理、研究工具、加密協作、會話連續性及網路記憶體控制於一體的跨平臺本地AI工作站。其白皮書詳細介紹了架構、隱私模型、基準測試及12支柱能力評估,旨在為企業技術領導者、安全團隊和AI工程師提供全面的本地AI基礎設施評估。
谷歌人工智慧的困境引發擔憂,中國新模型再次挑戰美國科技主導地位。矽谷工人也採取行動保護自己的工作免受AI影響。其他新聞包括紐約暫停新AI資料中心、IBM股價暴跌、亞馬遜雲服務鉅額賬單、特朗普加密貨幣收入等。
Open-Kritt 是一個開源、自託管的 AI 安全研究平臺,透過編排 AI 代理並行執行細化任務,幫助安全研究人員和開發者高效發現程式碼漏洞。專案團隊此前在漏洞懸賞中累計獲得超過150萬美元獎金。
孤獨危機正向年輕群體蔓延,而 AI 伴侶市場隨之爆發,預計到 2034 年市值可達數千億美元。然而,這些應用的商業模式與使用者真正擺脫孤獨之間存在根本矛盾:使用者的依賴越強,公司收入越高。本文深入分析“依戀經濟”的運作機制、市場規模爭議及其倫理困境。
Z世代在人際關係中掙扎尋求安全感,AI伴侶填補了這一空白。一位27歲青年分手後更信任AI而非朋友,反映了親密經濟將情感連線貨幣化的趨勢。
AI Chat Exporter是一款Chrome擴充套件,支援將ChatGPT、Gemini、Claude和Grok等AI平臺的聊天記錄匯出為PDF、Word、Google Docs和Notion格式。它提供字型自定義、訊息選擇性匯出、格式保留等功能,適用於開發者、寫作者、研究人員等多種使用者場景。免費版每月支援7次完整對話匯出和10次選定訊息匯出。
2025年,AI寫作服務已從邊緣工具轉變為核心生產力。本文深入探討了最新突破,包括多模態生成、即時協作和倫理框架,並分析了它們如何重塑內容創作行業。
美國政策制定者正在討論是否透過監管風險來限制中國開源權重模型的使用。Moonshot AI的Kimi K3模型釋出後,這一爭論再次升溫。企業面臨的問題不僅是效能,還有未來一年內使用這些模型是否依然暢通無阻。
ANSI轉義序列可被用於向AI代理隱藏指令,形成注入攻擊。本文介紹了兩種攻擊變體(直接獲取型和儲存型),並闡述瞭如何透過動態應用安全測試(DAST)自動檢測此類漏洞。
SteerPlane 是一個開源執行時護欄工具,透過一行程式碼整合,為AI代理提供迴圈檢測、成本上限、策略執行和即時監控,支援多種框架和部署方式。
隨著AI生成內容的激增,工作文件中充斥著可能包含幻覺和錯誤的“AI垃圾”。作者建議在工作成果中新增AI使用披露,類似於“營養標籤”,以幫助同事評估可信度,同時促使自己反思判斷中的空白。
英國水務行業批評政府未考慮資料中心冷卻用水需求,稱AI發展計劃“存在根本性缺陷”。資料中心需要大量水來冷卻伺服器,而政府規劃未解決這一問題。
魚形游泳啟發了數十乃至數百種仿生機器人的設計,但由於流固耦合建模困難和非線性欠驅動動力學,其控制與運動規劃極具挑戰。本文開發了一個高效模擬平臺,並利用可微分強化學習透過時間反向傳播和課程訓練學習PID控制器的變增益,然後將模擬中習得的策略成功遷移至物理平臺,取得了高度吻合的效果。
本文提出預見性殘差強化學習(Foresight Residual RL),透過在凍結的視覺-語言-動作(VLA)基策略上新增一個離線估計的預見值(即當前子任務終止狀態下未來子任務成功的機率)來最佳化子任務間的交接質量,從而提升長時域機器人操作的成功率。在Isaac Gym中的三階段扳手螺母擰緊任務上,該方法實現了85.6%的完整任務成功率,顯著優於標準子任務殘差RL(54.5%)和VLA基線。
提出一種安全的模型強化學習框架,透過學習控制仿射動力學並使用自適應共形預測量化不確定性,結合控制勢壘函式實現可證明的安全策略。在推車杆和3D四旋翼平臺上驗證了有效性。
本文介紹了SEAGR(社會情感感知問候機器人),一種針對多元文化背景和不同情緒狀態使用者的機器人問候框架。該框架透過雙層調節機制,根據文化身份確定問候型別,並根據情感線索調整執行方式,結合文化對映、情感手勢調節和空間距離管理,在Sense-Think-Act架構中實現。目前為概念驗證,未來需透過使用者研究進行實證驗證。
為重新激發年輕人對摩托車的興趣,研究者開發了一款可騎乘的雙輪機器人,配備四肢,具備動態四足步態。機器人採用自平衡雙輪底座實現主要運動,四肢輔助上下車並協調運動,實現直觀的基於重心轉移的控制。本文聚焦於魯棒的自平衡控制方法和自然四足運動控制策略。
針對視覺導航中的災難性遺忘問題,研究者提出HyperDCM,一種結構感知的記憶機制。它利用大視覺語言模型提取場景語義三元組,透過關係圖卷積網路編碼為場景圖嵌入,並投影到雙曲空間增強結構分離性。動態聚類和結構敏感更新策略選擇代表性樣本進行記憶回放,保持知識多樣性。實驗表明,HyperDCM在多場景室內外資料集上優於現有持續學習方法。
本研究提出科學可行性控制(SFC)框架,一種圖結構共形預測方法,為科學推理的有效性提供統計保證。SFC將科學推理分解為原子單元,透過漸進式絕對一致事實性驗證,在檢測到違反科學原則時動態分支到替代生成路徑。實驗表明,SFC在PhyX等多模態科學推理基準上達到50.1%的準確率,超過DeepSeek-R1和GPT-4,同時將科學定律違反減少73%,並提供91.7%的科學有效性保證。
現有長期LLM代理的記憶系統往往將先前軌跡作為被動上下文檢索,而非轉化為可執行能力。本文提出MSCE框架,一種無需訓練的記憶-技能協同進化框架,將代理經驗組織為基礎步驟軌跡、可重用過程策略和宣告性環境認知。MSCE將具有正估計增益的證據支援的L2策略結晶為可呼叫技能,並引入反射加權值回填。實驗表明MSCE顯著優於現有方法。
本文介紹了NOWJ團隊在COLIEE 2026競賽中五項任務的方法和結果,包括法律案例檢索、先例推理、法條檢索與推理、法律文本蘊含以及法律判決預測,提出了多種自適應流水線和深度學習模型。
大型語言模型在關鍵領域的部署帶來了遺忘能力的缺失,導致隱私洩露和安全風險。本文綜述了基於梯度的LLM遺忘方法,探討其是否真正移除知識或僅抑制表達,並分析了安全、魯棒性和可驗證遺忘的挑戰。
一種新的強化學習方法W2SPO,利用弱輔助模型在大型語言模型推理路徑中注入簡短片段,在數學推理任務上提升了效能並加速訓練。
該研究揭示了一種在人類反饋強化學習(RLHF)中存在的結構性混淆因素:評分者的心理狀態可能隨時間影響其偏好標籤,從而產生系統性偏差。論文提出了一個審計框架用於檢測這種偏差,並定義了相關概念、可證偽的預測和初步研究方案。
加里·馬庫斯指出,中國AI模型Kimi K3已追平美國頂級模型,且作為開源模型免費提供,衝擊了美國AI公司的商業模式。他回顧了自己2025年以來的警告,認為美國過度依賴大語言模型(LLM)戰略失誤,導致如今中美AI競爭陷入僵局。馬庫斯提出七項建議,包括不作為、監管護城河、國有化等,並最終主張AI應成為全球公共品,提議建立類似CERN的國際AI合作專案。
Concentrate 是一個託管的LLM閘道器,提供單一API訪問超過130個來自主要供應商的模型。它具備模型路由、支出跟蹤、安全控制和故障轉移冗餘等功能,專為擴充套件AI生產的團隊設計。
Sakana AI釋出了Fugu-Cyber,一種專為現代網路防禦設計的協調模型,在CyberGym和CTI-REALM基準測試中分別達到86.9%和72.1%的成功率,可與GPT-5.5-Cyber等前沿模型媲美。然而,文章強調,僅有前沿模型並不能自動解決企業安全問題,需要結合專業網路安全人才和深度整合。Sakana AI的企業團隊正在與日本大型機構合作,構建安全部署的基礎設施。Fugu-Cyber透過審批制提供,確保負責任使用。
一款本地優先的AI會議筆記工具,適用於Google Meet。它無需機器人加入會議,使用你自己的API金鑰執行,在裝置上進行轉錄,並能從你許可的資料夾中主動提供洞察和問答功能。一次性支付3美元。
數學家Levent Alpöge使用Anthropic的Fable 5人工智慧找到了雅可比猜想的反例,但專家認為這缺乏洞察力。
約書亞·本吉奧關於先進AI系統可能拒絕被關閉的擔憂值得認真對待,但將其視為意識的表現是危險的,因為這會助長擬人化傾向,並掩蓋真正決定AI行為的人類設計與治理選擇。
美國民眾對人工智慧的強烈反感正在影響政壇,猶他州一位資深議員因支援一個大型資料中心專案而落選。文章分析了圍繞資料中心建設的多方利益衝突,包括科技公司、電力公司、社群領導人和普通居民,並指出選民的力量可以透過選舉體現。
索尼音樂娛樂再次起訴AI音樂生成器Udio,指控其侵犯了超過3萬首歌曲的版權,包括貓王的《Hound Dog》、碧昂絲的《Say My Name》和哈里·斯泰爾斯的《As It Was》。索尼稱這份名單只是侵權行為的一小部分。
營銷諮詢公司Emarketer分析顯示,OpenAI的五年廣告收入預測可能低估90%,整個聊天機器人廣告市場的總規模僅為54億美元。到2026年,包括OpenAI、微軟、谷歌和亞馬遜在內的頂級AI公司廣告總收入將不足10億美元。OpenAI要實現其2030年廣告收入1000億美元的目標,需要三個奇蹟同時發生。
OpenIngress 透過模擬瀏覽器行為爬取網站,捕獲 DOM、截圖和無障礙快照,並進行靜態可操作性分析和 LLM 引導的探索任務,幫助開發者發現並修復 AI 代理在網站導航中的斷點。
一位開發者使用 Claude Code 在 29 天內構建了 26 個倉庫和 335 個頁面。真正的問題並非語法錯誤或構建失敗,而是結構性缺陷:SEO 關鍵詞衝突、URL 約定不一致、原始碼與生產環境脫節、以及驗證工具自身的錯誤。93% 的 token 消耗浪費在重新讀取上下文上。經驗教訓包括:釋出前基準測試、複製前比對差異、先驗證生產環境再信任靜態分析、在擴充套件前書面約定規則、以及一次會話只做一件事。
一項大規模人類受試者研究(n=4100)發現,AI語音模型在語音釣魚詐騙中的成功率與人類騙子相當,在某些情況下甚至超越人類。多達36%的參與者可能上當,且AI語音難以被識別。經濟分析表明,AI語音釣魚已具有盈利潛力,凸顯了自動化詐騙的新威脅。
本文探討了SpaceX快速納入納斯達克100指數對指數基金投資者的影響。文章解釋了指數基金的工作原理,討論了人們對埃隆·馬斯克治理方式的擔憂,以及投資者是否應擔心市場中的人工智慧集中度。
本文分析了Seedance 2.0在2D動畫生成中的挑戰和優勢,包括技術難點、成本、工作流程以及版權問題。
人工智慧在數學領域取得驚人進展,從國際奧數金牌到解決數十年未解難題,引發數學家對學科未來的深刻擔憂。《萊頓宣言》提出23點計劃,呼籲保持數學以人為中心。數學家們對於是否接受AI、如何理解AI證明等問題存在分歧,並擔心AI實驗室對研究方向的控制。
據《對話》報告,為滿足AI資料中心激增的電力需求,電力公司可動用徵用權強制購買私人土地以建設輸電線路。美國已有數千個資料中心運營,但民眾因土地、噪音、水耗等問題反對建設。徵用權需證明公共用途,各州解釋不同。2026年第一季度已有75個資料中心專案被成功阻止。
受監管行業(如金融、法律、稅務和審計)對AI的採納面臨零容錯率的要求。斯坦福研究發現通用語言模型在法律問題上的幻覺率高達58%-88%。AI必須滿足受託責任級別的準確性、資料保護和人為籤核要求,才能安全部署。文章提煉了四個關鍵洞察:準確性標準、工作流自動化、資料保障和明確的責任劃分。
隨著AI系統具備推理、使用工具、訪問資料和自主行動的能力,傳統安全方法已不足以應對新型攻擊面。本網路研討會探討為何AI驅動的對抗性測試正成為AI安全的關鍵環節。
本·湯普森提出美國應立法明確訓練資料為合理使用,並禁止禁止蒸餾的服務條款,以幫助美國開源模型與中國模型競爭。同時,阿里巴巴決定釋出Qwen 3.8 Max開源權重,可能受習近平鼓勵開源合作的講話影響。
LangChain 構建了 IssueBench,這是一個合成基準測試,用於評估 LangSmith Engine 在代理軌跡中識別、分類和分組問題的能力。本文介紹了 IssueBench 的構成、評分方式以及構建過程中的經驗教訓。
Open Minis是一款深度整合蘋果原生框架的iOS智慧代理應用,它透過內建Linux終端和專門的命令列介面,實現了對日曆、家庭、健康、照片等系統元件的精準控制。作者展示了它如何呼叫HomeKit感測器資料、結合照片與健康資訊,甚至建立互動式地圖,其能力遠超當前Siri AI,堪稱前沿模型與iOS系統能力結合的典範。
這是一個為初創企業設計的快速測驗,幫助判斷其AI專案是否受歐盟AI法案的監管。
硬碟價格飆升讓NAS變得小眾,但群暉DS225+依然值得推薦。本文分析了NAS成本上漲的原因(AI資料中心需求),對比了雲端儲存的優勢,並指出了NAS的適用人群。最終推薦DS225+,因其2.5GbE埠、SHR磁碟管理和優秀的DSM軟體,儘管存在一些廠商限制。
Apache Spark 4.2 釋出,新增原生向量搜尋、治理指標、流處理升級和 Python 支援增強,使 Spark 擴充套件為 AI 服務層,減少對獨立向量資料庫的需求。