將違禁文本嵌入間諜軟體以阻礙AI分析
至少一名惡意軟體開發者正在其間諜軟體中加入關於核武器和生物武器的文本，以阻止自動AI分析。該技術將觸發策略的內容放在JavaScript註釋中，導致AI掃描器拒絕或誤分類檔案，但傳統檢測方法仍然有效。
近日，安全研究人員發現至少一個惡意軟體開發者正在採用一種新穎的反分析技巧：在間諜軟體中嵌入關於核武器和生物武器的文本，以阻止自動AI分析。該惡意軟體以JavaScript檔案形式傳播，其_index.js負載以一個巨大的JavaScript塊註釋開頭，其中包含虛假的系統指令和觸發策略的內容。由於這些內容被放在註釋中，它們不會影響JavaScript的正常執行，執行時環境會直接跳過。
這種設計的目的是針對基於AI的分析流程，而非Node、Bun或Python等常規執行時環境。當AI掃描器或分析工具讀取檔案開頭並傳遞給語言模型時，這些策略觸發內容可能導致模型拒絕響應、產生提示混淆、汙染上下文或提前分類，從而在掃描器到達實際惡意程式碼之前就中斷分析。
然而，安全專家指出，這並非一種神奇的繞過靜態檢測的方法。YARA規則、熵值檢查、AST解析、字串提取、反混淆以及行為規則仍然可以有效檢測該惡意軟體。這只是一種針對基於LLM的初步分類系統的實用反分析技巧。
該技術的發展凸顯了AI安全領域的一種新趨勢：攻擊者正在尋找利用AI模型自身弱點的方法。隨著越來越多的安全工具整合AI進行初步分析，這種對抗策略可能會變得更加普遍。安全團隊應意識到這種風險，並在構建AI分析流水線時採取適當的防範措施，如明確隔離不可信資料。