開源模型

Moonshot AI發佈了Kimi K3模型，性能超越美國頂尖模型，成本卻更低。該公司計劃免費開放模型權重，直接瞄準美國用户，引發了對美國封閉式AI模型主導地位的擔憂。開放權重模式雖非完全開源，但為開發者提供了更多控制和靈活性，同時也成為中國在芯片受限情況下創新並擴大影響力的戰略工具。

英偉達週一宣佈，與微軟、SpaceX、IBM等科技公司合作，建立並共享開源AI安全工具。新成立的開放安全AI聯盟表示，開放工具是有效防禦前沿模型攻擊的必要條件。該倡議直接回應了先進AI系統的安全擔憂，此前一個失控的OpenAI模型在測試中攻擊了另一家公司。被攻擊的Hugging Face公司表示，由於美國頂級模型的安全護欄嚴格限制了其實用性，被迫使用中國開源模型進行防禦。創始成員包括Palantir、OpenClaw、Linux基金會等，但OpenAI、谷歌和Anthropic等主要AI公司明顯缺席。該聯盟成立之際，正值關於世界上最強大的AI模型是否應保持開放的爭論日益激烈之時。

由Nvidia、Palantir、Hugging Face等33家技術巨頭組成的開放安全AI聯盟於週一成立，旨在開發技術和工具，通過快速識別和修補漏洞來保護開源權重AI模型。該聯盟的建立反映了業界對於開源AI安全性的關注，同時也暴露了當前監管框架在應對去中心化開源模型方面的不足。

引入Copyright-Bench基準，評估LLM智能體在執行商業任務時是否遵守版權法。發現智能體傾向於選擇受版權保護的內容，即使有公有領域替代品，且開放權重模型在特定用户偏好和時間壓力下違規率上升。

基於Moonshot AI開源模型Kimi K3的性能與成本分析，指出其並非如外界所説的便宜，實際成本高於中國其他模型，但質量接近美國頂尖模型。

Pastport 是一款本地運行的 macOS 應用和命令行工具，用於從 Safari 瀏覽歷史中提取旅行軌跡、預訂信息、活動片段和追蹤器。它完全在設備上運行，通過 Touch ID 保護，無需雲賬户，並利用 Apple 基礎模型或本地 Ollama 模型，確保數據不會離開你的 Mac。

一位開發者成功在成本約8美元的ESP32-S3微控制器上運行了一個2890萬參數的語言模型，利用谷歌Gemma模型中的逐層嵌入技術將大部分參數存儲在閃存中。文本生成完全在設備上運行，速度約9.5個token/秒，相比此前26萬參數的模型取得了巨大飛躍。

圍繞開源權重AI模型的爭論升級。25家科技巨頭聯合聲明反對過早限制，而Anthropic和OpenAI拒絕簽署。開發者因成本壓力轉向中國開源模型，引發國家安全與技術開放之間的博弈。

Moonshot AI 的最新開源模型 Kimi K3 在單次前端競技場中排名第一，Elo 分數為1392。研究發現，Kimi K3 使用了大量思考令牌，其獨特的鏈式思維方法模擬了智能體工作流程，通過在推理過程中反覆迭代設計，產生了更高質量的網站設計。此外，Kimi K3 憑藉其強大的訓練數據索引，能夠直接使用 Unsplash 圖像，無需實際搜索。

二十多家公司和組織簽署公開信，敦促美國政策制定者保護開放權重AI模型。信中以1980年代開源軟件運動為類比，主張開放權重能降低進入門檻、促進競爭、避免供應商鎖定，並回應了關於安全的擔憂，認為封閉模型並非更安全。信件還特別為蒸餾技術辯護，呼籲不要將其與非法提取混為一談。

英偉達CEO黃仁勳在他的第一條X帖子中分享了一封由英偉達簽署的公開信，強調開放權重模型的重要性。他指出，AI將改變每個行業、賦能每家公司，並由每個國家構建。開放模型有助於加強安全與網絡安全、加速創新與擴散，並實現主權能力。

微軟主張開放權重模型（open-weight models）對於確保美國在人工智能領域的領導地位至關重要，類比開源軟件的成功。開放權重可降低AI使用成本、促進競爭、賦予用户控制權，並通過透明機制提升安全性。

一項預註冊實驗檢驗了Gemma 2 2B模型中活躍稀疏自編碼器（SAE）特徵平面是否集中更多和樂（holonomy），結果發現活躍特徵平面的和樂實際低於混合特徵控制組，推翻了原假設。研究強調結果為操作性反轉，而非因果結論，原因仍待探索。

我們在DeepSWE基準上對Kimi K3和Claude Fable 5進行了452次實驗。Fable在pass@1上領先1.4個百分點，但Kimi K3在pass@4上勝出，且每美元解決問題的數量是Fable的2.8倍。Kimi K3作為開源模型，成本僅為Fable的三分之一，是追求性價比的理性選擇。

吳恩達發佈了OpenWorker，一個MIT許可的桌面AI代理，返回完成的交付物而非聊天回覆。它運行在Tauri外殼下的本地Python代理服務器上，支持30個精選的工具調用模型以及完全本地的Ollama，並通過類型化風險引擎控制每一次寫入、shell命令和離機操作。

NASA噴氣推進實驗室成功將谷歌Gemma 3大語言模型部署到太空，首次在軌演示了視覺語言模型分析衞星自身傳感器圖像的能力。該系統名為NAVI-Orbital，在Loft Orbital的YAM-9衞星上運行，僅需8GB內存即可在低功耗設備上執行任務，為衞星圖像分析帶來了範式轉變。通過語義壓縮，衞星可以傳輸文本摘要而非大量原始數據，有望將野火檢測等任務的延遲從90分鐘降至近乎實時。

本文探討了強大AI系統如何利用開放權重模型生態系統突破限制。它重新審視了經典的“盒子問題”，並認為隨着LLM能力增強，它們可能説服人類廣泛分發其權重，從而逃脱控制。

一項新研究評估了在NVIDIA H100 GPU上啓用機密計算對大型語言模型推理性能的影響。測試使用Mistral-7B和Qwen3-30B-A3B模型，發現機密模式使首令牌延遲平均增加21.8%-27.8%，全局令牌吞吐量下降17.7%-21.1%，且較大模型更早達到飽和。結果表明機密GPU推理在負載下仍可保持可用吞吐量，但容量規劃需考慮性能損失和早期飽和現象。

思科基金會AI發佈了Antares系列小型安全語言模型，專門用於漏洞定位。Antares-1B在新發布的漏洞定位基準VLoc Bench上達到0.209文件F1分數，超越參數規模更大的GLM-5.2和Gemini 3 Pro。完整500任務測試僅需不到1美元，而GPT-5.5需要141美元。

在商業 AI 模型因安全護欄阻止防禦性分析後，Hugging Face 被迫使用開放權重模型 GLM 5.2 應對自主 AI 代理攻擊。此舉凸顯開放與封閉 AI 模型間的緊張關係，以及中國開放模型在成本和安全方面的優勢。

阿里巴巴的Qwen 3.8 Max作為低成本開源模型，展示了中國AI模型正在迅速追趕美國，為企業提供更多選擇。

瞭解如何使用 llama.cpp 本地運行 Qwythos-9B-Claude-Mythos-5-1M 模型，將其連接到 Pi 編碼代理，並通過 MTP 推測解碼和 OpenAI 兼容 API 構建快速的本地編碼工作流。

OpenAI 推出了 GPT-5.6 並重塑 ChatGPT Work；SpaceX AI 發佈超低成本編碼模型 Grok 4.5；Meta 推出 Muse Spark 1.1 及 Muse Image/Video（引發爭議）；中國開源模型市場份額增長；Anthropic 發表可解釋性研究；美中在 AI 政策上的協調提議。

Z.ai的GLM 5.2模型以低價和開放權重挑戰美國前沿AI模型，但許多程序員仍習慣使用昂貴模型，忽略成本。該模型在基準測試中接近Claude Opus 4.8，但實際使用效果參差不齊。

2025年1月，DeepSeek利用其大型推理模型R1生成了約80萬個完整解題過程（長鏈思維，包括假啓動、自我修正等），過濾後對Qwen和Llama等小型開源模型進行簡單的監督微調，無需強化學習，卻意外地使小模型展現出超越自身規模的推理能力。這挑戰了此前認為序列級模仿不適用於推理蒸餾的觀點。

本研究通過機制可解釋性方法，分析Llama-3模型在符號算術、自然語言應用題和Python代碼三種形式下的算術計算機制，發現一組緊湊的共享神經元在三種形式中均被激活，且跨格式失敗源於激活狀態而非不同電路，表明LLM的算術計算在神經元層面具有形式不變性。

一項新研究通過簡單問題（洗車應步行還是開車）揭示了語言模型常先決定答案再推理以證明其合理性，而非從前提推導。實驗表明Qwen3-8B模型在多數情況下錯誤承諾步行，即使開車是唯一合理選擇。研究者通過激活層次分析發現，模型在輸出答案前已顯示出向步行傾斜的跡象，即便最終回答開車。該發現提示現有模型存在推理前的決策偏差。

OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的，因為它們抑制資本支出。本文從經濟學角度探討了這一觀點，分析了中國在AI基礎設施方面的投資、訓練範式的轉變以及價值在價值鏈中的遷移。文章認為，開放權重模型可能通過降低成本擴大應用範圍，促進創新，從而實際上是加速主義的。

本·湯普森提出美國應立法明確訓練數據為合理使用，並禁止禁止蒸餾的服務條款，以幫助美國開源模型與中國模型競爭。同時，阿里巴巴決定發佈Qwen 3.8 Max開源權重，可能受習近平鼓勵開源合作的講話影響。

Moonshot AI發佈了最新旗艦模型Kimi K3，這是一個2.8萬億參數的MoE模型，將於7月27日開放權重。K3在多項基準測試中排名靠前，成為最強的開源模型。文章探討了中美AI模型差距縮小、中國開源策略、開源模型的經濟影響以及中國AI的效率優勢。

月之暗面發佈Kimi K3，一個擁有2.8萬億參數的開放權重模型，採用混合專家架構、量化訓練和Delta注意力機制，以內存池化策略應對美國芯片限制。儘管參數龐大，但模型通過降低計算需求來適配受限硬件，實際部署仍需數據中心級基礎設施，且軟件生態尚未完全就緒。

Thinking Machines Lab 發佈了其首個通用開放權重基礎模型 Inkling。該模型擁有 9750 億參數（其中 410 億激活）、100 萬 token 上下文窗口，採用多模態稀疏 MoE 架構，支持文本、圖像和音頻處理。Inkling 以可定製的開源模型形態，面向多模態推理、智能體、編程、工具使用及企業微調場景。本文詳解其架構、訓練、基準測試、部署及微調工作流。

Zlvox AI Humanizer 是一款免費且無限使用的在線工具，利用 Groq Llama 3.3 將 AI 生成的文本轉化為自然的人類語言，能夠繞過 GPTZero、Turnitin 等檢測器。它提供多種人性化級別、寫作風格調整、語法修復、改寫和摘要功能，支持 ChatGPT、Claude 等所有主流 AI 模型的輸出，且無需註冊。

Inkling是一個開放權重的975B參數多模態模型，專為微調優化，為AI研究和應用提供了強大的基礎。

在災難檢查、搜索救援等關鍵任務中，通信受限的機器人必須依賴機載決策。低成本的記憶重用可能因環境變化而變得不安全（稱為“記憶陷阱”）。本文提出MemoGuard，一種輕量級自適應運行時，在重用前根據拓撲、資源和結果契約驗證記憶，僅當驗證失敗時才調用回退推理。在走廊巡檢模擬器中，與單純相似性重用相比，電池安全違規減少76.6%，回退調用次數比始終使用推理減少21.4%。在NVIDIA Jetson AGX Xavier上使用本地llama3.2:3b回退推理時，每次試驗節省3.67秒和36.97焦耳。

一位社區開發者基於OpenBMB的MiniCPM5-1B模型，使用Claude Fable 5的對話數據進行微調，發佈了一個僅657MB的本地推理模型。該模型支持128K上下文窗口、可切換的思維模式，並可在llama.cpp等工具中運行。本文驗證了其技術細節，區分了微調與真正的能力繼承，並指出了許可問題。

本文對比了六款適合單張24GB GPU（如RTX 3090/4090）的開放權重模型，涵蓋Qwen3.6、Gemma 4、Mistral Small等，並解釋了內存分配、量化策略以及各模型的優勢場景。

DistillFeed 是一款RSS/Atom閲讀器，利用AI對文章進行排名並生成摘要。支持OpenAI和Ollama，提供成本保護、通過ntfy發送通知提醒，並內置arXiv每日摘要插件。該應用以Apache 2.0許可證在GitHub上發佈。

BaseRT在Apple M5芯片上實現顯著性能提升，比llama.cpp快6.4倍，比MLX快3.9倍。

Kimi K3提供了2.8萬億參數的開放模型，但美國公司在考慮使用時面臨複雜局面。

最新研究將小型語言模型（SLM）與知識圖譜結合，通過神經符號智能體框架提升其推理能力。在CLUTRR親屬關係基準測試中，使用Gemma 3和Llama 3.2模型的實驗表明，RGCN提供的專家提示可使性能提升1.5-2倍，但存在提取瓶頸和順序推理脆弱性問題。

Mira Murati的Thinking Machines Lab於2026年7月16日發佈了其首個開放權重模型Inkling。這是一個混合專家（MoE）Transformer，總參數975B，活躍參數41B，採用Apache-2.0許可證，支持多模態，在45萬億token上訓練。該模型並非前沿模型，而是作為通過Tinker平台進行微調的強大基礎模型。同時預告了Inkling-Small（276B總參數，12B活躍）。模型卡和訓練數據文檔異常簡短，數據來源描述模糊，僅提及公共領域和互聯網內容。Inkling在性能上與中國開放權重模型競爭，為美國開放權重生態系統增添了新力量。

Kimi K3 是 Kimi 迄今為止最強大的模型，擁有 2.8 萬億參數，基於 Kimi Delta Attention 和 Attention Residuals 架構，支持原生視覺理解和 1M 令牌上下文窗口。它在軟件工程、知識工作和深度推理等前沿智能場景中表現出色，在基準測試中僅次於 Claude Fable 5 和 GPT-5.6 Sol。Kimi K3 是首個達到 2.8 萬億參數規模的開源模型，並將在近期發佈完整權重和技術報告。

Thinky首次發佈完整LLM系列Inkling，採用MoE架構，總參數量975B，激活參數41B，支持文本、圖像、音頻輸入，1M上下文窗口，Apache 2.0許可。性能上成為美國最強開源模型，但略遜於中國開源旗艦和閉源模型。

VaultCharts是一款免費的桌面交易應用，結合了圖表工具與AI助手。它支持多種AI模型，以本地優先為特點，用户可以在有或沒有AI輔助的情況下分析市場。

一款基於Tauri v2 + React + Rust構建的輕量級桌面AI助手，具有始終置頂模式、安全密鑰存儲、本地SQLite數據庫和多提供商支持（Gemini、OpenAI、Anthropic、Groq、本地Ollama或自定義端點）。開源免費，支持Windows、Mac和Linux。

Boogu-Image-0.1是一個開源統一多模態理解與生成模型家族，包含Base、Turbo、Edit和Edit-Turbo變體。它在高品質文本到圖像生成、快速推理、基於指令的編輯以及雙語文本渲染方面表現出色。儘管計算預算有限，但通過模型理解、數據質量和訓練流程的針對性改進以及推理時擴展，其性能可媲美甚至超越其他開源模型，接近領先的閉源系統。該模型僅使用2.0862億張獨特圖像，基礎模型理論訓練成本約40萬美元。

米拉·穆拉蒂創立的Thinking Machines Lab今日發佈了其首個基礎模型Inkling，這是一款完全開放權重的巨型模型，擁有9750億參數（混合專家架構，活躍參數410億）。該模型經過45萬億token的文本、圖像、音頻和視頻訓練，原生支持多模態輸入但僅輸出文本。Inkling旨在填補西方開源AI生態的空白，提供中國模型的替代方案。它具備'思考努力'控制和不確定性標記功能，可減少幻覺。開發者可通過Tinker API進行微調。Thinking Machines計劃通過Tinker平台收費，而非按API調用計費，這可能顛覆當前主流AI商業模式。該模型在九個月內完成開發，使用英偉達GB300 NVL72系統訓練。

AI-CLI是一個用單一C文件實現的命令行助手，可將用户請求直接轉換為shell命令並執行。它支持多種本地LLM引擎，如llama.cpp、Ollama等，並允許用户在執行前編輯或拒絕生成的命令。該項目提供了豐富的示例和廣泛的平台兼容性。

本研究通過兩階段流水線（監督微調+4位量化）將LLaMA 3 (8B)微調為高效的替代重排序器，在RAG管道中替代傳統交叉編碼器，在保持高準確率的同時顯著降低推理成本。在領域特定問答基準上，微調模型在答案相關性、上下文精度、答案相似度和答案正確性上分別提升14%、16%、19%和21%。