Watch at Ease看見世界,讀懂生活。

科技 · 新聞解讀

Cohere公布North 2,為工作用AI代理程式增添管控功能

10月5日的公告著重介紹任務編排與用量管控。先前已有的工作流程功能,以及規劃中的連接能力,需要分別看待。

原創時間軸,區分North在7月27日公布的自動化功能公告與10月5日的North 2公告。
原創新聞示意圖:附有日期的公告呈現了延續與改變,但並未標示每項功能首次推出的時間。 Watch at Ease

Cohere於10月5日公布North 2,表示已重新設計協調多步驟AI工作的系統。這個企業平台的管理控制包括使用者配額、請求與詞元的速率限制,以及整個組織的用量上限。本次公告談的是工作用代理程式如何運作與管理,並非面向一般消費者的新聊天機器人方案。

脈絡與管控各有用途

Cohere介紹了能在不同工作階段之間保留脈絡的記憶功能、用於共享知識與素材的資料庫,以及可重複運用的技能。North Admin則另外提供使用者、代理程式與詞元消耗量的檢視功能,並可設定用量警示門檻。

評估工作流程時,這項區別很重要:代理程式能否記住脈絡,並不決定它能存取什麼,或可以消耗多少資源。設定這些代理程式的人員需要分別考量這些問題。

7月公告就已包含自動化功能

Cohere在7月27日的文章中表示,North客戶已可使用自動化功能。文中介紹了排程工作流程、為個別步驟選擇模型、核准關卡,以及輸入和輸出詞元的監控。因此,不應把10月5日視為所有工作流程功能首次推出的日子。

較早的文章也介紹了在正式投入運作前,先規劃並測試工作流程的做法。討論導入時,可以詢問幾個實用問題:擬議的工作流程將執行什麼、哪些地方必須由人員核准,以及管理員如何檢視其使用情況。這些附有日期的文章並不能確定North 2每一項能力首次推出的日期。

規劃中的連接器需另作區分

10月公告列出了Slack、SharePoint和GitHub等工作應用的連接功能,並將PitchBook和FactSet等金融資料供應商列為規劃中的新增連接對象,未提供推出日期。

對仰賴特定資料來源的團隊而言,某項連接功能被列入產品規劃,是進一步詢問可用情況的理由。這並不足以證明現在就能在部署中使用該連接功能。

用量限制與價格回答的是不同問題

上限或速率限制約束的是消耗量;價格決定這些消耗要花多少錢。本次公告介紹的管控功能,本身不能證明價格上漲、提供折扣,或最終帳單金額已有保證。

我們先前關於OpenAI Dots與NVIDIA代理程式安全平台的報導,探討了核准與規則執行等相關問題。這些報導提供工作用代理程式管控的背景,不能據此認定那些產品具有與North相同的功能。

原創示意圖,分別呈現代理程式的脈絡、管理員對存取權限與用量的控制,以及定價這個獨立問題。
原創新聞示意圖:記憶、權限與用量限制各自回答不同問題。用量上限並不等於價目表。 Watch at Ease