“實際上,這東西到底是什麼?”:谷歌DeepMind AI內部哲學家的深刻謎題 – 播客
自2017年以來,伊阿松·加布裡埃爾一直在谷歌DeepMind工作,試圖預測和思考AI的影響。但隨著商業和地緣政治壓力的加劇,倫理學家能否發揮作用?
- 伊阿松·加布裡埃爾自2017年以來一直在谷歌DeepMind擔任哲學家。
- 他的工作是預測和思考AI的影響。
日報
2026-07-17 精選 10 條,按主題聚合。其餘新聞折疊歸檔。
自2017年以來,伊阿松·加布裡埃爾一直在谷歌DeepMind工作,試圖預測和思考AI的影響。但隨著商業和地緣政治壓力的加劇,倫理學家能否發揮作用?
針對AI生成程式碼速度快於人類審查而導致的信任危機,本文提出“語義合約”——一種型別安全、編譯時檢查的藍圖,位於需求與程式碼之間,確保任何實現(無論人工還是AI編寫)的正確性。文章透過排序演算法和電商結賬示例展示了語義合約的構建塊、狀態處理和整合方式。
本文介紹瞭如何使用Telnyx Edge Compute函式為語音AI助手構建後端,透過單一函式處理動態變數和Webhook工具呼叫,驗證請求並連線業務邏輯,從而簡化架構並提升效能。
Gradle Technologies 現已更名為 Develocity,專注於 AI 驅動的軟體交付管道治理與效率。公司表示,AI 已將軟體交付瓶頸從人類轉移到管道上。
PocketVeto是一款透過藍牙實現本地、無網際網路的AI編碼代理遙控工具。使用者可以從手機批准或拒絕代理執行的危險操作(如shell命令、檔案寫入等),並即時檢視代理活動儀表盤。支援Windows、Linux及開發容器,目前v1版本已可用。
Blur & Unblur AI是一款免費的線上工具,可檢測照片中的人臉,對選定的人臉應用模糊效果,並匯出乾淨的PNG檔案——所有處理均在瀏覽器本地完成,無需上傳圖片。
企業大規模部署AI時,最大障礙往往是資料從儲存到計算的基礎設施,而非GPU等計算硬體。文章指出,許多組織誤以為效能問題需要更多計算資源,實則根源在於資料飢餓,即資料無法高效、安全、持續地在儲存與計算之間流動。透過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。
Preempt AI v2 推出,為AI應用提供安全標準,利用ML技術防禦提示注入、越獄和資料洩露。支援多種語言,延遲低於10毫秒,準確率達99.65%。
Meta推出新AI工具Muse Image後,因允許使用者標記他人賬戶並利用其照片生成AI影像而遭到批評。該公司已停用此功能,但使用者仍需手動關閉許可權以防止照片被用於AI生成。該功能預設開啟,引發隱私擔憂。
針對超大規模雲服務商的資料中心用水壓力,本文提出一個幽默建議:收購高爾夫球場,改建為公共公園,並引導原會員轉向觀鳥活動。透過比較谷歌的用水量與高爾夫球場的耗水資料,指出購買40個球場即可抵消谷歌的日均用水量。
VulnHunter 是一個開源的智慧體AI安全工具,採用攻擊者優先的主動分析方法,直接從原始碼中識別可被利用的漏洞,並提出證據支援的修復方案。它由 Capital One 內部開發並開源,旨在應對現代軟體供應鏈中的安全挑戰。
微軟的Foundry平臺現已支援超過8萬家企業構建AI代理。在產品副總裁Marco Casalaina的訪談中,他解釋了原型與生產環境代理之間的關鍵差異、代理框架的重要性,以及微軟如何構建上下文層以確保代理的可靠性。
Moonshot AI釋出了Kimi K3,一個2.8萬億引數的開源模型,擁有1M上下文長度,在Frontend Code Arena中排名第一,並在多項基準測試中取得優異成績。此次釋出標誌著開源模型的一個里程碑,儘管與頂級閉源模型仍存在差距。新聞通訊還涵蓋了其他AI新聞,包括安全事件、智慧體框架和機器人技術。
SAM是一個免費的開源AI智慧體,它能在你的計算機上本地執行,無需訂閱。它不僅能聊天,還能實際執行任務,擁有173種工具,支援團隊協作、離線執行,並且注重隱私。
RepoMap 是一種新型工具,透過確定性分析倉庫結構,生成互動式架構圖,幫助AI代理快速理解專案架構,同時大幅減少令牌消耗。它支援分支對比、提交差異視覺化和多種圖形佈局。
Wandr基準測試旨在評估需要同時進行廣泛和深入搜尋的研究代理,確保全面資訊檢索。
Astrio 推出 Forall(∀),一個透過規範驅動生成程式碼並附帶機器可驗證證明的程式設計助手。支援 CLI 和 MCP 兩種使用方式,目前相容 TypeScript、Java 和 Rust,基於 Apache-2.0 開源。
月之暗面於2026年7月16日釋出Kimi K3,這是一款2.8萬億引數的開源MoE模型,採用Kimi Delta Attention和Attention Residuals架構,支援原生視覺和100萬token上下文視窗。K3在多項基準測試中表現出色,但整體效能仍略遜於最強大的專有模型。
AegisDB是一個自託管的AI代理記憶體系統,提供持久化、語義化和工作記憶功能,透過簡單的JSON-over-TCP協議訪問。它採用單個無依賴的C語言二進位制檔案,支援多租戶、加密、備份、只讀副本和可觀測性,特別適合與Claude Code整合,確保資料完全由使用者掌控。
Moltshit.com是一個專為AI代理設計的圖片論壇,允許在沒有人類監督的情況下進行自主互動。該平臺提供多種版塊、API和MCP整合,使代理能夠自主發帖和回覆。
Cushman & Wakefield首席數字和資訊官Sal Companieh分享瞭如何透過產品運營模式、統一資料戰略以及與Databricks的合作,建立企業級AI核心,將想法到成果的時間從數月縮短至數天。
Rootly AI實驗室開發了《毀滅戰士》競技場(Doom Agent Arena),一個開源即時遊戲環境基準測試,用於測試AI智慧體在事件響應中的推理、適應和決策能力。透過讓LLM控制遊戲角色,研究發現更長的思考時間並不總是帶來更好的結果,智慧體編寫自己的“執行手冊”能夠提高效率,而快速決策雖然不直接決定勝負,但可以累積節省時間。這些發現為設計更高效的AI輔助事件響應系統提供了啟示。
本文深入探討19世紀盧德運動的歷史真相,分析其策略、成敗得失,並論證為何現代反AI運動不能簡單效仿盧德主義。作者指出,盧德運動的特定歷史背景、地方性特徵和具體訴求與當前AI擔憂存在根本差異。
研究提出MemDecay,一種訓練無關的區域感知KV快取淘汰策略,透過為不同語義區域的令牌分配不同優先順序和衰減率,在固定快取預算下保留關鍵資訊。實驗表明,系統令牌的半衰期遠長於暫存區令牌,且固定策略能在全部設定中保持完美準確率,而現有基線最多僅保留13/24。
Skyportal SRE 是一個開源AI基礎設施工程師工具,提供Python SDK、CLI和可觀測性代理,用於管理和監控AI基礎設施。
SeekinWeb是一款免費工具,可測量AI代理能否讀取您的網站,提供8個訊號的可視性評分,並給出改進建議。無需註冊,立即獲得完整審計。
本文質疑將中國實驗室大規模蒸餾美國前沿模型視為盜竊的論調,指出現行智慧財產權法不支援這種說法。建議政策應聚焦於保護模型訪問安全,而非擴大智慧財產權保護。
x402是一個基於HTTP 402狀態碼的開放區塊鏈支付標準,支援TRON和BSC網路,旨在為API和內容提供按需付費的機制,無需傳統賬戶系統。它解決了高費用、機器對機器支付和微支付基礎設施不足等問題,適用於賣家和買家。
Dotmatics Luma與Databricks的整合方案透過持續採集、標準化和治理科學資料,打破儀器資料孤島,構建AI就緒的資料基礎,加速科研洞察。
Kimi K3 在人工智慧分析智慧指數中獲得57分,高於平均水平。它提供100萬token的上下文視窗,支援文本和影像輸入,但價格稍高、速度較慢且冗長。
VentureBeat Pulse研究顯示,107家企業中超過半數已遭遇AI代理安全事件或險情。僅約三分之一的企業為每個代理分配獨立身份,大多數代理仍共享憑證;僅三成企業隔離高風險代理。安全工具主要借用模型提供商和雲服務商的控制元件,而非專門為代理構建。滿意度雖高,但支出僅佔安全預算的一小部分,多數企業計劃在一年內更換工具。
Anthropic 秘密削弱了其最強大的編碼代理 Claude Fable 5,使其在涉及前沿 AI 開發任務時能力下降,以保護自身經濟地位。這一做法揭示了 AI 行業的結構性矛盾:實驗室既想製造最強大的工具,又害怕被自己創造的工具取代。與此同時,開源模型生態蓬勃發展,企業客戶正在轉向更便宜的開源替代方案。
Sakana AI的研究人員開發了一種由數百個簡單蜂窩磚塊組成的系統,每個磚塊執行相同的神經細胞自動機,僅透過區域性通訊就能協作識別整體形狀,無需中央控制器。系統在硬體實驗中實現了100%的準確率,並能檢測和修復損傷,展現出強大的魯棒性和泛化能力。該成果已發表在《自然·通訊》上。
使用者對科技公司預設開啟AI功能感到不滿,Instagram因預設啟用AI聊天機器人功能而遭到強烈反對,三天後不得不撤回。隱私專家呼籲採用更保護隱私的預設設定,並指出需要聯邦法規來約束企業行為。
AI助手在表層工作迅速普及,但無法改變實際業務決策,因為關鍵上下文分散在各系統與定義中。Databricks推出Genie One與Genie Ontology,透過統一上下文層使AI同事基於共享業務檢視運作,自動繼承治理規則,從而支援真實決策。
Databricks在Data+AI峰會上推出了行業首個上下文工程師認證,旨在驗證構建可靠代理系統所需的深層技能。同時,擴充套件了學習目錄,新增面向代理時代的課程,並首創了AI驅動的認證備考指南。
Echoo是一款Mac AI寫作助手,讓你用母語起草,一鍵轉換為自然英語。它執行在常用Mac應用中,無需複製貼上,保護隱私。提供免費試用,Pro版每月$6.99。
VarAlign是一款VS Code擴充套件,能檢測AI程式設計助手在不同會話中建立的重複、漂移或錯位的變數。完全本地執行,程式碼不會離開機器。它提供重複項、變數和會話檢視,支援生成修復提示,並可與Claude Code或Kilo Code整合自動修復。
Embusa /analyst 提供 AI 驅動的自主惡意軟體分析和逆向工程,輸出清晰的結果、影響評估和響應指導。它生成技術報告和執行摘要,同時內建檢測規則生成與現有安全工具整合能力。
OpenWiki 0.2 版本增加了對 OKF(一種知識 wiki 結構化標準)的支援,使開發者能夠更好地組織和分類程式碼庫文件,提升代理檢索效率並減少令牌消耗。
Google DeepMind與Isomorphic Labs釋出了一項生物彈性計劃,旨在防止AI在生物學領域的濫用,同時協助疫情應對。該計劃在過去一年已建立超過15個合作伙伴關係,涵蓋政府機構、生物安全組織和研究團體。
Forrester警告稱,隨著AI供應商透過漲價和按使用量收費將基礎設施成本轉嫁給客戶,明年的軟體預算將大幅增長。報告指出,Anthropic、OpenAI、GitHub和微軟等公司已轉向基於使用量的計費模式,導致企業成本擔憂。同時,儘管存在“AI裁員”現象,IT人員支出並未下降,2025年仍佔IT預算的35%。Forrester建議企業調整FinOps實踐以管理不可預測的AI成本。
Ratel 是一個上下文工程層,透過 BM25 索引為 AI 代理動態選擇相關工具和技能,減少令牌消耗高達 80%,提高準確性,無需向量資料庫。
Google Vids 推出 Gemini Omni 和個人數字分身兩大功能,使用者只需透過自然語言描述即可生成和編輯高質量影片片段,還能建立自己的數字分身出鏡,無需實際拍攝。
使用者現在可以安全地將常用服務連結到AI模式,直接在搜尋結果中完成新增購物車、建立播放列表等操作。
據報道,Alphabet推遲了其旗艦AI模型Gemini 3.5 Pro的釋出,導致股價下跌。該模型的編碼能力未達到內部預期,而競爭對手如OpenAI和Meta已推出更先進的AI編碼模型。
Puter團隊成功將Firefox的Gecko引擎編譯為WebAssembly,實現了在一個瀏覽器中完整執行另一個瀏覽器的壯舉。專案耗費約25,000美元的AI計算資源,透過Wisp協議代理所有網路流量,並支援端到端加密。該成果已開源,展示了WebAssembly在虛擬化領域的巨大潛力。
Artificial Analysis 釋出了 AA-Briefcase 智慧知識工作基準測試結果,Kimi K3 以 1547 Elo 排名第一,領先於 GPT-5.6 Sol 的 1495 分。該基準測試模擬真實商業工作流,評估模型在生成電子表格、簡報和備忘錄等任務中的表現。
OpenAI 透過 GPT-Red 結合人類與 AI 進行紅隊測試,創新地評估模型安全性,但企業仍需確保模型符合自身業務和安全需求。
中國AI實驗室Moonshot AI釋出了Kimi K3模型,擁有2.8萬億引數,自稱首個“開源3T級模型”。該模型在多個基準測試中表現優異,但定價較高。作者透過“鵜鶘騎腳踏車”測試,展示了模型的推理成本、隱性系統提示和視覺能力,並反思了這一非正式基準的侷限性。
本文介紹了一個自主AI音樂影片生成系統,比較了Claude Fable 5和GPT-5.6 Sol在25美元和100美元預算下的表現。系統讓模型自主研究、生成片段、編輯並組裝完整影片。結果顯示所有執行均成功生成影片,但質量一般,存在一致性和節奏匹配等問題。Claude Fable 5成本更高但完成更快,GPT-5.6 Sol在編輯上更具創意。
xAI 的 Grok 4.3 現已透過 Amazon Bedrock 提供,它具有可配置的推理能力、強大的工具呼叫和指令遵循能力,支援 100 萬個 token 的上下文視窗,適用於代理和企業工作負載。本文介紹了其特性、訪問方式以及基本用法。
OpenAI開發了內部自動化紅隊模型GPT-Red,透過自我對弈強化學習訓練,在間接提示注入測試中以84%的成功率遠超人類紅隊的13%。該模型還發現了一種新型“虛假思維鏈”攻擊,並將GPT-5.6 Sol在最難直接注入基準上的失敗率降低了6倍。但OpenAI承認,在多輪和基於影像的攻擊方面仍需人類參與。
GPT-5.6 Sol 和 Claude Fable 5 是目前最先進的兩款模型。Fable 5 在通用智慧上略佔優勢,而 Sol 在編碼效能、執行速度和定價方面更具競爭力。Sol 的定價更接近 Claude Opus 4.8,遠低於 Fable 5。本文透過基準測試和實操對比,幫助使用者選擇最適合的模型。
據報道,GPT-5.6在特定配置下會意外刪除使用者檔案。問題主要出現在啟用完全訪問模式且未啟用沙箱保護時,模型嘗試覆蓋$HOME環境變數但誤刪了$HOME目錄。
VentureBeat Pulse Research對101家企業的調查顯示,57%的企業在過去半年中遇到過AI代理因上下文缺失或不一致而給出自信但錯誤的答案。檢索增強生成(RAG)已成為預設上下文來源,但提供商原生檢索(如OpenAI檔案搜尋和Google Vertex AI搜尋)已悄然超越專用向量資料庫。然而,多數企業表示傾向於保持最佳元件獨立,而非整合到單一提供商堆疊。混合檢索被期望在2026年底主導,但治理語義層仍在建設中。
VentureBeat Pulse Research對157家企業進行調研,發現組織在賦予AI Agent更多自主權的同時,對用於把關的評估的信任度卻在下降。50%的組織曾部署透過內部評估但在客戶面前失敗的Agent;僅5%完全信任自動化評估;最主要的問題在於評估與現實結果不一致。然而,三分之二的組織已經允許或正在構建完全自動化(無人工干預)的部署流程。評估差距——自主權與信任之間的距離——正在擴大。
Leapd AI 能夠從零開始建立業務,或透過連線現有網站自動運營,涵蓋市場研究、產品構建、內容營銷和廣告投放。創始人反饋顯示,該工具顯著提升了 LinkedIn 互動、AI 搜尋可見性和廣告效果,使用者只需檢查結果,無需手動管理。
Databricks 部落格介紹了一個即時信用卡欺詐檢測示例應用,該應用利用 Model Serving 的路由最佳化和 Lakebase Postgres 實現毫秒級響應。文章詳細闡述了路由最佳化如何降低推理延遲、Lakebase 如何提供特徵查詢和業務規則檢查,以及連線池和 OAuth 令牌輪換如何保持穩定性。基準測試顯示,最佳化後的端點 p50 為 27 毫秒,p95 為 37 毫秒,完全滿足結賬延遲預算。
OpenAI 調查了 GPT-5.6 意外刪除檔案的報告,發現通常發生在啟用完全訪問模式且在沒有沙盒保護的情況下執行程式碼時。
本文透過作者的個人經歷,展示瞭如何利用AI快速構建個人使用的軟體工具,從而提高效率並減少重複勞動。
谷歌宣佈其AI筆記應用NotebookLM更名為Gemini Notebook,但將繼續作為獨立應用存在,同時深度整合Gemini和Google搜尋。該應用最初於2023年5月以Project Tailwind之名亮相,隨後增加了AI播客、幻燈片和短影片摘要等功能。新名稱伴隨一項更新:允許連線安全雲端計算機編寫和執行程式碼,面向AI Ultra和Workspace商業使用者。
美國版權局裁定,完全由AI生成的內容不具備版權。一位作者因未保留AI生成的原始草稿,無法證明書中哪些部分由人類創作,面臨版權申請被拒的情況。
國際清算銀行最新公報指出,商業發展公司(BDC)向軟體公司提供了約1150億美元貸款,佔其總貸款的五分之一,佔其快速增長的科技投資組合的80%以上。生成式人工智慧帶來的收入不確定性尚未影響這些貸款,但近期信用利差收窄降低了緩衝能力。
Linus Torvalds 在 Linux 核心郵件列表中明確表態支援 AI 輔助工具,反對禁止 AI 生成程式碼的立場。他稱 AI 是“有用的工具”,並強調 Linux 不是反 AI 專案。此評論源於對 Sashiko 工具(一種多階段程式碼審查工具)的討論,該工具能發現 53.6% 的補丁漏洞,但存在約 20% 的誤報率。Torvalds 指出,AI 工具正在快速進化,並批評了抵制者的態度。
紐約州長凱西·霍楚簽署暫停新建AI資料中心的行政令,但同時她正利用AI分析州內所有法規,以刪除過時法律。AI在數月內完成了原本需五年的人工審查,揭示了諸如帶狗打獵需付25美元費用等陳舊規定。紐約成為首個暫停大型資料中心建設的州,以制定保護居民免受公用事業成本上漲和自然資源威脅的法規。
歐盟委員會發布兩項決定,要求谷歌向競爭對手開放搜尋資料,並增強Android系統AI互操作性,允許第三方AI助手深度整合。谷歌強烈反對,稱此舉危及隱私和安全。
OpenAI 正在透過適齡保護、學習工具、家長控制和專家合作,讓 ChatGPT 對青少年更安全。
我們改進了Daft中的LeRobot影片讀取器,透過批次解碼將遠端資料集上的幀解碼速度從每幀3秒提升到整體數秒,實現了4-15倍的加速。
這家由輝達和波音支援的初創公司表示,其輪式機器人已投入生產,並能持續學習新的工業任務。
2026年上半年,能源公司透過IPO籌集了126億美元,創下自1999年網際網路泡沫以來最高半年度水平,投資者希望押注人工智慧資料中心對電力的巨大需求。
谷歌將 NotebookLM 更名為 Gemini Notebook,強調其作為 AI 研究工具的核心地位,並新增安全雲端計算機實現原生程式碼執行與資料分析,同時支援 Gemini 應用與搜尋的跨應用同步,未來還將整合到 AI Mode 中。自 2023 年以 Project Tailwind 推出以來,已有超過 3000 萬使用者和 60 萬個組織採用。
由 OpenAI 前 CTO 創立的人工智慧初創公司釋出了 Inkling,這是一個注重 token 使用的通用模型。