Kimi K3和GLM 5.2可僅需2美元建立無法檢測的惡意軟體
Incalmo公司開發了PathoGen系統，利用開源AI模型（如GLM 5.2和Kimi K3）生成大量逃避防毒軟體的惡意軟體樣本。其中27%的樣本完全規避了VirusTotal的75個掃描器，成本低至2-35美元，遠低於地下市場的價格。
網路安全公司Incalmo近期釋出了一項令人擔憂的安全研究，展示了開源AI模型在惡意軟體生成方面的巨大潛力。該公司開發的PathoGen系統，能夠將GLM 5.2和Kimi K3等開放權重模型轉化為高效的惡意軟體製造工廠。
在實驗中，PathoGen生成了數百個定製惡意軟體樣本，涵蓋勒索軟體、遠端訪問木馬（RAT）、憑證竊取器、加密貨幣挖礦機、資料擦除器和C2植入程式等多種型別。這些樣本被提交到VirusTotal平臺進行檢測，結果令人震驚：約27%的樣本完全規避了所有75個掃描器，約75%的樣本僅被一個掃描器檢出。更為嚴重的是，即使Windows Defender完全啟用，一些樣本在被執行時仍未被檢測到，表明不僅靜態分析被繞過，傳統的動態檢測引擎也未能發現威脅。
研究團隊指出，這種方法的可擴充套件性極強。他們以每個樣本僅2至35美元的總成本生成了數百個樣本，遠低於地下市場上逃避檢測的惡意軟體通常數千至數十萬美元的價格。相比之下，沒有PathoGen的輔助，GLM 5.2本身無法生成任何完全逃避檢測的樣本。
Incalmo公司表示，這項研究的目的是幫助防病毒系統保持對開源威脅前沿的領先地位，但也凸顯了AI模型被濫用的風險。隨著開源模型能力的不斷增強，如何防範此類攻擊將成為網路安全領域的重大挑戰。