Az Amazon SageMaker AI integrálása a Bedrock AgentCore-ba többügynökös munkafolyamatokhoz
Az AWS részletezte az ügynöki munkafolyamatok építésének módszerét, amely ötvözi az Amazon Bedrock felügyelt alapmodelljeit az Amazon SageMaker AI-on hosztolt egyedi modellekkel, útmutatást adva a végpontok közötti megfigyelhetőség eléréséhez.
Az eredeti forrás közzétételi dátuma: 2026. augusztus 14.
Az Amazon Web Services útmutatót tett közzé olyan többügynökös rendszerek létrehozásáról, amelyek integrálják az Amazon Bedrock AgentCore-t az Amazon SageMaker AI-jal. Ez az architektúra lehetővé teszi a fejlesztők számára, hogy felügyelt alapmodelleket használjanak az orkesztrációhoz, miközben tartományspecifikus vagy költségoptimalizált modelleket, például a Qwen 3.5 9B-t alkalmazzák, amelyeket SageMaker valós idejű végpontokon hosztolnak OpenAI-kompatibilis API-n keresztül.
A dokumentáció elsődleges fókusza a megfigyelhetőség megvalósítása ezekben a hibrid környezetekben. Bár az Amazon Bedrock AgentCore automatikusan műszerezi a Bedrock modellhívásokat az OpenTelemetry segítségével, natívan nem biztosít generatív AI-tartományokat (spans) a SageMakeren hosztolt modellekhez. Az olyan metrikák figyeléséhez, mint a késleltetés és a tokenhasználat, a fejlesztőknek manuálisan kell egyedi OpenTelemetry-tartományokat kibocsátaniuk, és konfigurálniuk kell a vLLM-et, hogy a használati adatokat belefoglalja a streamelt válaszokba. Ez a megközelítés lehetővé teszi a tokenfogyasztás és a teljesítmény egységes nyomon követését a különböző modellszolgáltatók között egyetlen, éles környezetre kész munkafolyamaton belül.