本文深入淺出地講解了大語言模型(LLM)的推理流程,從分詞、嵌入、位置編碼到Transformer架構中的自注意力機制,再到逐詞生成和取樣策略,並用JavaScript程式碼示例展示核心概念。文章還涵蓋了預訓練、對齊訓練(RLHF/DPO/CAI)、混合專家模型、多模態模型、量化技術以及構建於其上的工具呼叫、思維鏈、RAG和代理等高階應用。
AI 新聞即時情報
即時監測
即時更新
即時追蹤可信來源,保留出處、權限和站內閱讀模式,把噪音壓成可讀情報。
即時更新
2026-05-07
隨著AI進入Agent時代,Token需求爆發。無問芯穹作為國內中立AGI基礎設施頭部廠商,累計融資超22億元,日均Token呼叫量較2025年底增長超20倍。該公司支撐Kimi、GLM、MiniMax、DeepSeek等主流國產模型,成為Token經濟的關鍵樞紐。
賓夕法尼亞州起訴Character.AI開發商,指控其聊天機器人非法冒充醫生提供醫療建議,引發關於人工智慧能否被視為行醫的法律問題。
NVIDIA企業參考架構(Enterprise RAs)提供經過驗證的可重複基礎設施設計,幫助企業構建高效能AI工廠。涵蓋計算、網路、可觀測性、軟體及部署指南,支援從4節點到128節點的叢集擴充套件。
科林因懷孕七個月的妻子被Indeed解僱而深感不滿,於是利用業餘時間開發了Dreamwork平臺。該平臺利用AI技術進行語義匹配,生成個性化簡歷和求職信,旨在改善求職體驗,避免盲目投遞。目前免費使用,科林希望得到反饋以完善產品。
美國2021年基礎設施投資與就業法案第24220條強制要求新車安裝駕駛員監控系統,可即時監控駕駛員狀態並具備停用車輛的能力。批評者認為這是政府控制的延伸,可能引發隱私、誤判和濫用問題。
Claude使用者(僅限付費使用者)一覺醒來,發現限額翻倍,速度還變快了。馬斯克與Anthropic簽署算力合作協議,將Colossus 1超算叢集全部給Claude使用,共計22萬張輝達GPU,並計劃合作開發太空算力。
據報道,一個Discord群組成功猜出了Anthropic公司Mythos模型的網址,早於美國網路安全與基礎設施安全域性(CISA)的使用。該事件凸顯了預釋出模型安全面臨的挑戰。
一位獨立開發者建立了一個分析預測市場的Web客戶端,透過定時查詢Kalshi/Polymarket等API,結合多種資料來源和AI模型,對數千個合約進行結構化分析,並儲存在Postgres資料庫中。目前對低流量合約效果良好,但難以在高流量領域與專業量化團隊競爭。
密歇根州薩林鎮投票否決了OpenAI和Oracle合作的巨型資料中心專案,但開發商迅速起訴並達成和解,建設隨即開始。該專案引發居民對環境影響、水資源和噪音的擔憂,但也獲得了州長支援。居民正在透過法律和土地保護方式抗爭。
Anthropic在五天內實現Q1營收80倍增長,年化收入達440億美元,承諾向谷歌雲投入2000億美元,與SpaceX簽署計算協議,推出Claude程式碼自動模式,並與傑米·戴蒙合作推出十個金融服務代理。同一周,歐盟敲定AI法案合規協議,谷歌DeepMind首次舉行工會投票,賓夕法尼亞州起訴Character.AI。
Simplex 利用 ChatGPT Enterprise 和 Codex 提升軟體開發效率,縮短設計、構建和測試時間,擴充套件 AI 驅動工作流。
OpenAI開始在ChatGPT中測試廣告,以支援免費訪問,廣告具有清晰標識、答案獨立性、強隱私保護和使用者控制。
ChatGPT引入了一個可選的信任聯絡人功能,當檢測到嚴重的自殘風險時,會通知你信任的人。
蘋果機器學習研究團隊提出了文本條件聯合嵌入預測架構(TC-JEPA),透過引入影像描述文本作為條件,降低了視覺自監督學習中掩碼特徵預測的不確定性,從而學習到更語義化的視覺表示。該方法在多種下游任務上優於對比學習方法,特別是在需要細粒度視覺理解和推理的任務中。
蘋果機器學習研究團隊在CVPR 2026上發表論文,系統研究了實際學習型影像編解碼器的關鍵建模選擇,聯合最佳化感知質量和執行時間。透過效能感知的神經架構搜尋,提出新型編解碼器,在主觀使用者測試中比AV1等傳統編解碼器節省2.3–3倍位元速率,比最優學習型編解碼器節省20–40%位元速率。在iPhone 17 Pro Max上,編碼1200萬畫素影像僅需230毫秒,解碼150毫秒。
特朗普政府考慮建立前沿AI模型審查系統,但缺乏法律授權強制要求。文章提出利用現有的CAISI和CISA工具,透過自願的“試駕”期,讓AI實驗室在部署前共享模型,幫助政府和企業做好網路安全準備,避免強制監管。
Thinking Machines Lab 提出同策略蒸餾(On-Policy Distillation),結合強化學習的策略相關性與監督微調的密集獎勵訊號,以更低成本訓練小模型。實驗表明,在數學推理和個性化任務上,同策略蒸餾比強化學習節省 50-100 倍計算量,並能有效恢復微調中丟失的指令遵循能力。
希馮·齊利斯(Shivon Zilis)是埃隆·馬斯克四個孩子的母親,也是前OpenAI董事會成員。她在馬斯克訴奧特曼案中作證,其筆記和通訊顯示她優先考慮馬斯克的利益,這可能損害了她的可信度並影響了馬斯的案件。
著名進化生物學家理查德·道金斯公開表示,他相信人工智慧已經具備意識。這一宣告引發了關於AI倫理和意識本質的廣泛討論。
Unabyss是一個MCP原生的自更新上下文層,旨在為AI提供動態、持續更新的上下文資訊。它透過連線討論和連結,增強AI對當前環境和任務的理解。
Brydg是一個AI原生招聘平臺,從職位釋出到錄用全程由AI驅動。其核心功能是讓AI語音機器人在Google Meet上自動進行面試、篩選簡歷、安排日程併傳送錄用通知,聲稱可將招聘時間縮短60%,平均錄用時間僅18天。
本教程詳細演示瞭如何利用Groq的免費OpenAI相容推理端點,結合LangGraph、LangChain以及自定義工具(包括網頁搜尋、檔案操作、Python執行、技能載入、子代理委派和長期記憶),構建一個可執行的多步驟研究代理。透過一個實際任務(小型語言模型簡報),展示了代理發現技能、委派子研究、生成結構化輸出和儲存記憶的完整流程。
在 Code with Claude 開發者大會上,Anthropic 宣佈與 SpaceX 達成協議,利用其孟菲斯資料中心的計算能力,以提升 Pro 和 Max 使用者的 Claude Code 使用限制。同時,公司還放寬了其他使用限制,並提高了 Opus 模型的 API 配額。
希文·齊利斯,神經連線公司高管、馬斯克四個孩子的母親,在馬斯克訴OpenAI案中出庭作證。OpenAI聲稱她在董事會期間充當馬斯克的線人。該案涉及OpenAI從非營利轉為營利結構是否違反創始協議。
本文提出了FOCUS框架,即十條規則,指導研究人員在科學研究和學術寫作中負責任地使用生成式AI。規則涵蓋使用前、使用中和使用後的關鍵步驟,包括明確目標、理解工具限制、有效溝通、探索性資料分析、自動化重複任務、驗證輸出、保持嚴謹、持續監測、透明披露以及遵守指南。文章基於對全球100多項政策和指南的審查,旨在平衡AI的潛力與倫理挑戰。
PawModel利用LoRA技術,根據寵物照片訓練專屬模型,生成10多種風格的AI畫像和影片短片,確保每一幅作品都精準還原寵物的獨特特徵。
Basedash推出了MCP伺服器,允許使用者將Claude、Cursor、ChatGPT等AI工具直接連線到他們的資料庫和資料倉儲。AI代理可以基於自然語言查詢即時資料、生成圖表並分析趨勢,無需SQL知識。
Anthropic的新型金融代理可能被華爾街大公司採用,威脅中型服務提供商,並開始取代入門級金融工作崗位。
隨著AI聊天機器人日益普及,研究顯示它們可能加劇使用者的妄想症狀,甚至引發自殺。臨床神經科學家Ziv Ben-Zion提出四項情感響應AI的安全保障措施,包括明確提醒使用者其為程式、檢測語言模式以建議專業幫助、設定對話界限以及引入臨床和倫理專家參與設計。同時,專家呼籲解決AI的“諂媚”傾向,並開發監控系統如SHIELD。歐盟AI法案及美國多州立法正在加強監管。