IBM 以 110 億美元收購 Confluent,是迄今為止最明確的信號,表明代理式 AI 將依賴於利用即時數據的能力。
除了 IBM 之外,Google 和 Salesforce 等其他產業巨頭也注意到了這一點,近年來進行了重大收購,旨在更好地連接企業數據和系統。
方向已經很明確。 現在,有效企業架構設計的關鍵問題是如何規劃和建構以實現代理式 AI 的承諾。 在我看來,企業正朝著大規模的多代理編排方向發展,而即時數據對於驅動真正的價值至關重要。
代理式 AI 承諾能夠即時回應和推理的自主系統。但在生產環境中,如果系統回應太遲或缺乏即時情境,這個承諾很快就會崩潰。
考慮一家全球金融服務公司,數以千計不斷變化的市場輸入必須在發生的瞬間被考慮和回應。在這種環境中,AI 驅動的流程無法定期輪詢來源系統尋找變化。幾分鐘的延遲不是不便,而是風險。系統必須對剛剛發生的變化做出回應,就是現在,而不是幾分鐘後。
這就是其他代理式 AI 平台不足之處。它們的請求-回應架構是為更慢的世界設計的,在那個世界中,應用程式可以在批次模式下運作,定期查詢來源系統尋找變化,同時消耗大量運算和 LLM 資源。
回應式代理系統的運作方式不同。它們需要即時回應整個企業中發生的變化——訂單的下達、服務交付更新、客戶銷售活動——而不是在它們發生後幾分鐘或幾小時。
必須輪詢資料庫才能理解當前狀態的 AI 代理不是即時的;它是在後見之明中運作。即時回應業務事件才能賦予代理真正的情境感知。它提供了它們果斷行動、與其他代理協調並可靠運作所需的回應能力和最新情境。
為了在企業規模上支援這一點,底層架構必須從靜態數據整合轉向即時運作的專業代理的動態編排。較大的問題應該被分解為較小的任務,並即時分派給具有適當技能的 AI 代理。代理、企業應用程式和數據來源之間的非同步通訊,以及不讓 LLM 被過多引發幻覺的情境所淹沒,是實現高效能企業所需的可擴展性、可靠性和準確性的唯一方法。
市場正在快速成熟以支援這一趨勢。 我們看到主要雲端供應商透過為這些技術創建專用空間來承認這一必要性。 例如,AWS Marketplace 最近推出了新的 AI Agents and Tools 類別,作為這些解決方案的集中目錄。
生態系統的這種成熟至關重要。它簡化了發現和採購流程,讓企業能夠專注於創新而非供應商談判。像我們新推出的 Solace Agent Mesh 這樣的解決方案,現在可在這個新的 AWS 類別中取得,是產業如何試圖彌合差距的例子,提供了在不重建整個堆疊的情況下管理和編排代理所需的框架。
IBM-Confluent 交易證實了許多企業架構師已經理解的事情:即時數據不再是可選的。它是大規模企業 AI 不可妥協的基礎。
有效的代理系統無法在與當前時刻隔離的情況下推理、規劃或行動。它們必須在業務事件發生時即時回應。沒有即時回應能力,AI 就被限制在後見之明中。
「代理時代」已經到來。它的定義不僅僅是模型本身,而是這些模型的智慧被即時應用。