科技 · 新聞解讀
Cohere公布North 2,為工作用AI代理程式增添管控功能
10月5日的公告著重介紹任務編排與用量管控。先前已有的工作流程功能,以及規劃中的連接能力,需要分別看待。

Cohere於10月5日公布North 2,表示已重新設計協調多步驟AI工作的系統。這個企業平台的管理控制包括使用者配額、請求與詞元的速率限制,以及整個組織的用量上限。本次公告談的是工作用代理程式如何運作與管理,並非面向一般消費者的新聊天機器人方案。
脈絡與管控各有用途
Cohere介紹了能在不同工作階段之間保留脈絡的記憶功能、用於共享知識與素材的資料庫,以及可重複運用的技能。North Admin則另外提供使用者、代理程式與詞元消耗量的檢視功能,並可設定用量警示門檻。
評估工作流程時,這項區別很重要:代理程式能否記住脈絡,並不決定它能存取什麼,或可以消耗多少資源。設定這些代理程式的人員需要分別考量這些問題。
7月公告就已包含自動化功能
Cohere在7月27日的文章中表示,North客戶已可使用自動化功能。文中介紹了排程工作流程、為個別步驟選擇模型、核准關卡,以及輸入和輸出詞元的監控。因此,不應把10月5日視為所有工作流程功能首次推出的日子。
較早的文章也介紹了在正式投入運作前,先規劃並測試工作流程的做法。討論導入時,可以詢問幾個實用問題:擬議的工作流程將執行什麼、哪些地方必須由人員核准,以及管理員如何檢視其使用情況。這些附有日期的文章並不能確定North 2每一項能力首次推出的日期。
規劃中的連接器需另作區分
10月公告列出了Slack、SharePoint和GitHub等工作應用的連接功能,並將PitchBook和FactSet等金融資料供應商列為規劃中的新增連接對象,未提供推出日期。
對仰賴特定資料來源的團隊而言,某項連接功能被列入產品規劃,是進一步詢問可用情況的理由。這並不足以證明現在就能在部署中使用該連接功能。
用量限制與價格回答的是不同問題
上限或速率限制約束的是消耗量;價格決定這些消耗要花多少錢。本次公告介紹的管控功能,本身不能證明價格上漲、提供折扣,或最終帳單金額已有保證。
我們先前關於OpenAI Dots與NVIDIA代理程式安全平台的報導,探討了核准與規則執行等相關問題。這些報導提供工作用代理程式管控的背景,不能據此認定那些產品具有與North相同的功能。
