Code Velocity
Gervigreind fyrir fyrirtæki

Amazon Bedrock: Ríkjandi MCP biðlarahæfileikar á AgentCore keyrslutíma

·7 mín lestur·AWS·Upprunaleg heimild
Deila
Mynd sem sýnir ríkjandi MCP biðlarahæfileika á Amazon Bedrock AgentCore Runtime með gagnvirkum gervigreindarumboðsmannaferlum.

Að efla gervigreindarumboðsmenn: Umskiptin yfir í ríkjandi MCP á Amazon Bedrock

Gervigreindarumboðsmenn eru í örri þróun, en fullur möguleiki þeirra hefur oft verið hamlaður af ástandslausum innleiðingum, sérstaklega í aðstæðum sem krefjast rauntíma notendasamskipta, kraftmikillar efnisgerðar eða framvinduuppfærslna. Hönnuðir sem byggja flókna gervigreindarumboðsmenn standa oft frammi fyrir áskorunum þegar vinnuferli þurfa að gera hlé, leita skýringa eða tilkynna stöðu meðan á langvarandi aðgerðum stendur. Stífur, einátta eðli ástandslausrar keyrslu takmarkar þróun sannarlega gagnvirkra og móttækilegra gervigreindarforrita.

Nú kynnir Amazon Bedrock AgentCore Runtime byltingarkennda ríkjandi Model Context Protocol (MCP) biðlarahæfileika, sem umbreytir því hvernig gervigreindarumboðsmenn eiga samskipti við notendur og stóra málalíkön (LLMs). Þessi mikilvæga uppfærsla frelsar umboðsmenn frá takmörkunum ástandslausra samskipta, sem gerir flókin, margþátta og mjög gagnvirk vinnuferli möguleg. Með því að samþætta mikilvæga MCP biðlaraeiginleika – upplýsingaöflun (Elicitation), sýnatöku (Sampling) og framvindutilkynningar (Progress Notifications) – auðveldar Bedrock AgentCore Runtime tvíátta samræður milli MCP-þjóna og biðlara, og opnar leiðina fyrir greindari, notendamiðaðri gervigreindarlausnir.

Frá ástandslausu yfir í ríkjandi: Að opna gagnvirk vinnuferli umboðsmanna

Áður fyrr starfaði MCP-þjónnstuðningur á AgentCore í ástandslausum ham, þar sem sérhver HTTP-beiðni virkaði sjálfstætt, án sameiginlegs samhengis. Þó að þetta einfaldaði dreifingu fyrir einfalda tólþjóna, takmarkaði það mjög aðstæður sem kröfðust samfellu í samtali, notendaskýringa í miðju vinnuferli eða rauntíma framvinduskýrslna. Þjónninn gat einfaldlega ekki haldið utan um samræðuþráð milli einstakra beiðna, sem hamlaði þróun sannarlega gagnvirkra umboðsmanna.

Innleiðing ríkjandi MCP biðlarahæfileika breytir þessari fyrirmynd grundvallaratriðum. Með því að stilla stateless_http=False við ræsingu þjónsins, sér AgentCore Runtime fyrir sérhverri notendalotu með sérstakri ör-sýndarvél (microVM). Þessi ör-sýndarvél er viðvarandi allan tíma lotunnar – allt að 8 klukkustundir, eða 15 mínútur af óvirkni samkvæmt idleRuntimeSessionTimeout stillingunni – sem tryggir einangrun örgjörva, minnis og skráakerfis milli lota. Samfellu er viðhaldið í gegnum Mcp-Session-Id haus, sem þjónninn veitir við upphafningu og biðlarinn tekur með í öllum síðari beiðnum til að beina þeim aftur á sömu lotu. Þetta sérstaka, viðvarandi umhverfi gerir umboðsmönnum kleift að muna samhengi, óska eftir inntaki frá notendum, búa til kraftmikið LLM efni og veita stöðugar uppfærslur.

Eftirfarandi tafla sýnir helstu mun á ástandslausum og ríkjandi stillingum:

Ástandslaus hamurRíkjandi hamur
stateless_http stillingTRUEFALSE
Einangrun lotaSérstök ör-sýndarvél fyrir hverja lotuSérstök ör-sýndarvél fyrir hverja lotu
Líftími lotuAllt að 8 klukkustundir; 15 mínútna óvirkniAllt að 8 klukkustundir; 15 mínútna óvirkni
BiðlarahæfileikarEkki studdirUpplýsingaöflun, sýnataka, framvindutilkynningar
Mælt með fyrirEinfalda tólþjónustuGagnvirk, margþátta vinnuferli

Þegar lota rennur út eða þjónninn er endurræstur, munu síðari beiðnir með gamla lotuauðkenninu skila 404 villu. Á þeim tímapunkti verða biðlarar að endurræsa tenginguna til að fá nýtt lotuauðkenni og hefja nýja lotu. Stillingabreytingin til að virkja ríkjandi ham er einn fáni í ræsingu þjónsins:

mcp.run( transport="streamable-http", host="0.0.0.0", port=8000, stateless_http=False # Enable stateful mode)

Fyrir utan þennan fána verða þrír biðlarahæfileikar sjálfkrafa aðgengilegir þegar MCP biðlarinn lýsir yfir stuðningi við þá við upphafs-handtakið.

Nánar um nýja biðlarahæfileika: Upplýsingaöflun, sýnataka og framvinda

Með umskiptunum yfir í ríkjandi ham opnar Amazon Bedrock AgentCore Runtime þrjá öfluga biðlarahæfileika úr MCP-forskriftinni, hver og einn hannaður til að takast á við sérstakar samskiptamynstur sem eru mikilvæg fyrir háþróaða gervigreindarumboðsmenn. Þessir hæfileikar umbreyta því sem áður var stíf, einátta skipanakeyrlsa í fljótandi, tvíátta samræðu milli MCP-þjóns og tengdra biðlara hans. Það er mikilvægt að hafa í huga að þessir eiginleikar eru valkvæðir, sem þýðir að biðlarar lýsa yfir stuðningi við þá við upphafningu, og þjónar mega aðeins nota hæfileika sem tengdur biðlari hefur auglýst.

Upplýsingaöflun: Virkja kraftmikið inntak notanda í gervigreindarumboðsmönnum

Upplýsingaöflun (Elicitation) stendur sem hornsteinn gagnvirkrar gervigreindar, sem gerir MCP-þjóni kleift að gera af skynsemi hlé á keyrslu sinni og óska eftir sérstöku, skipulögðu inntaki frá notandanum í gegnum biðlarann. Þessi hæfileiki gerir tækinu kleift að spyrja nákvæmra spurninga á hagstæðum augnablikum innan vinnuferils síns, hvort sem það er til að staðfesta ákvörðun, safna óskum notanda eða safna gildi sem er fengið úr fyrri aðgerðum. Þjónninn hefur þetta frumkvæði með því að senda elicitation/create JSON-RPC beiðni, sem inniheldur læsilegan skilaboð og valfrjálsa requestedSchema sem afmarkar væntanlega svarbyggingu.

MCP-forskriftin býður upp á tvo öfluga stillingar fyrir upplýsingaöflun:

  • Formhamur: Þetta er tilvalið til að safna skipulögðum gögnum beint í gegnum MCP biðlarann, svo sem stillingarbreytur, óskir notanda eða einfaldar staðfestingar þar sem viðkvæm gögn koma ekki við sögu.
  • Slóðahamur: Fyrir samskipti sem krefjast öruggs, óháðs ferils, eins og OAuth-ferla, greiðsluvinnslu eða færslu á viðkvæmum persónuskilríkjum, vísar slóðahamur notandanum á ytri vefslóð. Þetta tryggir að viðkvæmar upplýsingar fari framhjá MCP biðlaranum að öllu leyti, sem eykur öryggi og samræmi.

Við móttöku beiðni um upplýsingaöflun birtir biðlarinn viðeigandi inntaksviðmót. Aðgerð notandans eftir það kveikir þriggja aðgerða svarlíkan til baka til þjónsins: accept (notandi veitti umbeðin gögn), decline (notandi hafnaði beiðninni beinlínis), eða cancel (notandi hætti við hvetjuna án þess að velja). Greindir þjónar eru hannaðir til að takast á við hvert þessara atburðarása af næmni, sem tryggir öfluga og notendavæna upplifun. Til dæmis getur add_expense_interactive tól, eins og sýnt er í frumheimildinni, leiðbeint notanda í gegnum röð spurninga – upphæð, lýsingu, flokk og lokastaðfestingu – áður en gögn eru færð inn í bakenda eins og Amazon DynamoDB. Hvert skref nýtir Pydantic líkön til að skilgreina væntanlegt inntak, sem FastMCP umbreytir óaðfinnanlega í JSON Schema sem krafist er fyrir elicitation/create beiðnina.

Sýnataka og framvindutilkynningar: Efla LLM samskipti og gagnsæi

Fyrir utan bein samskipti við notendur, veitir Sýnataka (Sampling) MCP-þjóninum getu til að óska eftir efni frá LLM beint frá biðlaranum í gegnum sampling/createMessage. Þetta er mikilvægt ferli þar sem það gerir tólum á þjóninum kleift að nýta öfluga málalíkana án þess að þurfa að stjórna eigin LLM persónuskilríkjum eða beinum API samþættingum. Þjónninn veitir einfaldlega hvatningu og valfrjálsar líkanastillingar, og biðlarinn, sem virkar sem milligöngumaður, sendir beiðnina á tengda LLM líkanið sitt og skilar svarinu sem búið hefur verið til. Þetta opnar margvíslegar hagnýtar notkunarleiðir, þar á meðal að búa til persónulegar samantektir, búa til skýringar á náttúrulegu máli úr skipulögðum gögnum eða framleiða samhengisbundnar ráðleggingar byggðar á samtalinu sem er í gangi.

Fyrir aðgerðir sem teygja sig yfir tíma verða Framvindutilkynningar (Progress Notifications) ómetanlegar. Þessi hæfileiki gerir MCP-þjóni kleift að tilkynna stigvaxandi uppfærslur meðan á langvarandi verkefnum stendur. Með því að nota ctx.report_progress(progress, total) getur þjónninn sent frá sér stöðugar uppfærslur sem biðlarar geta þýtt í sjónræna endurgjöf, svo sem framvindustiku eða stöðuvísi. Hvort sem um er að ræða leit yfir mikla gagnamagn eða framkvæmd flókinna reikniverkefna, tryggja gagnsæjar framvinda uppfærslur að notendur séu upplýstir, sem kemur í veg fyrir gremju og bætir heildar notendaupplifun, í stað þess að skilja þá eftir að stara á auðan skjá og velta fyrir sér hvort kerfið sé enn virkt.

Framtíðarvörn fyrir þróun gervigreindarumboðsmanna með Bedrock AgentCore Runtime

Innleiðing ríkjandi MCP biðlarahæfileika á Amazon Bedrock AgentCore Runtime markar verulegt stökk fram á við í þróun gervigreindarumboðsmanna. Með því að umbreyta áður ástandslausum samskiptum í kraftmikil, tvíátta samtöl, styrkir AWS hönnuði til að byggja upp greindari, móttækilegri og notendavænni gervigreindarforrit. Þessir hæfileikar – upplýsingaöflun fyrir leiðbeint inntak notanda, sýnataka fyrir LLM-gerð eftir beiðni og framvindutilkynningar fyrir rauntíma gagnsæi – opna saman nýja öld gagnvirkra vinnuferla umboðsmanna. Eftir því sem gervigreind heldur áfram að þróast, munu þessir grundvallarhæfileikar vera lykilatriði við að búa til háþróaða rekstrarhæfa gervigreindarumboðsmenn sem geta óaðfinnanlega samþættst í flókin viðskiptaferli, aðlagast þörfum notenda og skila framúrskarandi virði.

Algengar spurningar

What problem do stateful MCP client capabilities solve on Amazon Bedrock AgentCore Runtime?
Stateful Model Context Protocol (MCP) client capabilities on Amazon Bedrock AgentCore Runtime address the critical limitations of previous stateless AI agent implementations. Stateless agents struggled with interactive, multi-turn workflows, as they couldn't pause mid-execution to solicit user input for clarification, request dynamic large language model (LLM)-generated content, or provide real-time progress updates during lengthy operations. Each request was independent, lacking shared context. This new feature fundamentally transforms agent interactions by enabling bidirectional conversations, allowing agents to maintain conversational threads, gather necessary input precisely when needed, generate dynamic content on the fly, and transparently inform users about ongoing processes. This leads to the development of significantly more responsive, intelligent, and user-centric AI applications capable of complex, adaptive workflows.
How does the transition from stateless to stateful mode work on AgentCore Runtime?
The transition to stateful mode within Amazon Bedrock AgentCore Runtime is initiated by a simple configuration adjustment: setting `stateless_http=False` when starting your MCP server. Once enabled, AgentCore Runtime provisions a dedicated microVM for each individual user session. This microVM is designed for persistence throughout the session's duration, which can last up to 8 hours or expire after 15 minutes of inactivity, ensuring isolated CPU, memory, and filesystem resources for each session. Continuity across interactions is maintained through a unique `Mcp-Session-Id` header. This ID is established during the initial handshake and subsequently included by the client in all follow-up requests, ensuring they are accurately routed back to the correct, persistent session, thereby preserving context and enabling complex, interactive dialogues.
What is Elicitation, and how does it enhance AI agent interactions?
Elicitation is a powerful stateful MCP capability that allows an AI agent (acting as the MCP server) to intelligently pause its ongoing execution and request specific, structured input directly from the user via the client. This significantly enhances interactive agent workflows by enabling agents to ask targeted questions at precise, opportune moments within their operational flow. For example, an agent might use elicitation to confirm a decision, gather user preferences, or collect particular data values that are contingent on preceding steps. The feature supports two robust modes: 'Form mode' for direct structured data collection through the MCP client, and 'URL mode' for secure, out-of-band interactions that require directing the user to an external URL (e.g., for OAuth or sensitive credential entry). The user's response – whether accepting, declining, or canceling the request – is then returned to the server, allowing the agent to dynamically adapt its workflow based on real-time human feedback.
How does Sampling capability benefit AI agents without managing LLM credentials?
Sampling equips the MCP server with the ability to request sophisticated large language model (LLM)-generated content directly from the client using the `sampling/createMessage` mechanism. A key benefit is that the MCP server itself does not need to manage its own LLM credentials, API keys, or direct integrations with various LLM providers. Instead, the server simply provides a well-formed prompt and any optional model preferences to the client. The client then acts as an intelligent intermediary, forwarding this request to its connected LLM and returning the generated response back to the server. This abstraction allows AI agents to seamlessly leverage powerful language model capabilities for tasks such as crafting personalized summaries, generating natural-language explanations from complex structured data, or producing context-aware recommendations, all while simplifying the operational overhead and security concerns associated with LLM management on the server side.

Fylgstu með

Fáðu nýjustu gervigreindarfréttirnar í pósthólfið.

Deila