Cohere Blog

AI 服務暫時不可用，以下為來源摘要，待恢復後補全翻譯：Today, Cohere and the University of Waterloo announced a new partnership to help students build the practical skills needed to lead AI transformation in the workplace. Through the partnership, Cohere will support the de…

本文透過虛構的高階財富經理Dave一天的工作，對比了使用AI工具（Cohere的North平臺）前後的效率差異。沒有AI時，Dave被手動、碎片化的任務佔據大部分時間；有了AI代理後，他能夠更快地完成客戶情報、研究綜合、合規報告和運營操作，專注於高價值工作。文章還介紹了實施AI的關鍵成功因素。

Cohere 釋出 North Automations，作為其安全代理平臺 North 的新功能，旨在幫助企業透過簡單、可控且治理良好的方式實現端到端工作流程自動化，解決當前代理 AI 實施中的碎片化、成本高和治理缺失問題。

隨著企業AI從實驗轉向必要支出，理解AI總擁有成本（TCO）變得至關重要。本文分析了AI的顯性和隱性成本，包括令牌定價、基礎設施擁有與租賃的權衡，以及如何透過高效部署降低費用。研究表明，大多陣列織面臨意外成本超支，而自主擁有硬體在規模下可顯著節省成本。

Cohere Labs推出的Tiny Aya是一個輕量級多語言模型，支援70多種語言並可在本地執行。其研究計劃“遠征Tiny Aya”彙集了全球開發者，在教育、多語言安全、本地部署和語言理解等領域取得了重要成果。

Cohere提出了動態投機解碼（DSD），根據硬體約束動態調整草稿令牌數量，以提升LLM推理速度。該方法解決了固定K投機解碼在高批次大小時效能下降的問題，並在密集和MoE模型上驗證了有效性，同時相容vLLM的非同步排程和CUDA圖最佳化。

本文介紹了一種利用AI編碼智慧體自動化軟體fork與上游同步的方法，透過將fork維護建模為控制論中的閉環反饋系統，顯著縮短了吸收新上游版本的時間。以Cohere的vLLM fork為例，展示了從衝突解決到測試修復的全自動流程。

Cohere透過將企業AI智慧體平臺North與雲安全平臺Wiz整合，利用自定義MCP伺服器自動化事件響應工作流。該安全智慧體可處理從關鍵發現分類到生成IR報告、建立工單及更新Wiz狀態的完整流程，將單次處理時間從30分鐘至2小時縮短至20秒。文章詳細介紹了架構、三個用例（毒性組合分析、輔助事件響應、自動週報）及實施步驟。

本文探討了AI系統中文化意識的重要性，強調調查發現許多使用者面臨語言障礙、文化誤解和規範侵犯。文章呼籲AI設計應具有文化敏感性，以避免邊緣化。

Cohere推出了一種新的推理請求排程解決方案，透過結合速率限制器、效能層級、赤字輪詢和優先順序選擇器，確保多租戶LLM平臺中不同租戶之間的公平性，防止“吵鬧鄰居”現象，保障每個租戶獲得公平的計算資源份額。

Cohere 將其倫敦辦公室遷至 100 New Oxford Street，面積擴大近三倍，可容納 100 人。此舉彰顯了公司對英國人工智慧生態系統的投資，並加速其在歐洲的主權 AI 佈局。新辦公室將整合團隊，促進協作與創新。

一篇2023年的研究估計，80%的美國工人有部分任務暴露於大語言模型，該數字被國際貨幣基金組織、歐洲議會等廣泛引用。然而，這些評分基於早期模型和美國職業分類，存在諸多限制，但政策制定者卻將其用於決策。更動態、具代表性的證據工具雖已存在，卻未能及時影響政策討論。

Cohere 和 Mila 宣佈了一項新的學術研究合作，旨在改善人工智慧在不同語言和文化中的評估，首先從魁北克法語的文化背景開始。此次合作將幫助前沿 AI 模型更好地反映魁北克法語的語音、社會及制度細微差別，推動更具文化相關性和可信賴的 AI 系統。

隨著企業AI採用從受控試點擴充套件到全公司範圍，治理框架與實際使用之間可能出現脫節。本文探討了常見的AI治理挑戰和失敗模式，並概述了企業可以採取的應對步驟，包括建立AI清單、明確所有權、應用基於風險的控制以及持續監控。

企業AI採用通常經歷五個階段，從實驗到AI原生轉型。大多數企業卡在第二、三階段之間，面臨資料訪問、信任和模型過時恐懼等障礙。本文聚焦從試點到生產的跨越，提出建設內部平臺、統一資料架構、可觀測性和模型可選性等建議。

Cohere 宣佈開源 Command A+，一款 218B 總引數（25B 活躍）的混合專家（MoE）模型，採用 Apache 2.0 許可證。該模型專為企業級智慧體工作流設計，支援 128K 輸入上下文和 64K 生成長度，可處理文本、影像和工具使用。相比前代 Command A 系列，它在推理、多模態理解和多語言能力上有顯著提升，同時透過低位元量化和推測解碼實現高效部署。Command A+ 目前可在 Hugging Face 和 Model Vault 上獲取。

模型上下文協議（MCP）是一個開放標準，幫助AI應用連線企業系統，簡化資料訪問和操作執行。本文詳解MCP的工作原理、與API、RAG、函式呼叫及代理的區別、常見用例和安全考慮。

AI正越來越多地應用於商業智慧，使資料更易訪問和有用。本文解釋了AI在BI中的含義、價值創造點及企業採用前應考慮的因素。

RWS與Cohere合作開發了一款專用翻譯模型，為Language Weaver Pro提供動力。該模型結合了Cohere的大語言模型基礎和RWS的全球語言與文化專業知識，在32種語言中的31種上超越了競爭對手。它提供文化智慧、高安全性和合規性，適合複雜和受監管的環境。

研究過程中，視覺化工具幫助研究人員更清晰地理解資料和工作。Cohere Labs 開發了 co/plot，一個快速迭代且保持資料準確性的視覺化工具，已在多個專案中得到驗證，並開源供社群使用。