Amazon Bedrock 模型生命周期：理解模型转换

管理 AI 生命周期：驾驭 Amazon Bedrock 模型转换

人工智能的快速发展意味着基础模型 (FM) 不断更新，以提供增强的功能、更高的准确性和更强的安全特性。对于在 Amazon Bedrock 上构建 AI 驱动型应用程序的开发人员和企业来说，理解和管理模型生命周期对于确保持续运行和利用最新进展至关重要。主动规划不仅有益，而且对于防止中断并将您的 AI 解决方案保持在最前沿至关重要。

Amazon Bedrock 定期发布新的 FM 版本，每个版本都带来了显著改进。本文专为 Code Velocity 读者量身定制，深入探讨了 Amazon Bedrock 模型生命周期，概述了不同的状态、新的扩展访问功能以及无缝应用程序迁移的实用策略。通过理解这些动态，您可以自信地驾驭模型转换，并维护强大、高性能的 AI 应用程序。

驾驭 Amazon Bedrock 的模型生命周期状态

Amazon Bedrock 上提供的每个基础模型都存在于三种不同的生命周期状态之一：Active、Legacy 或 End-of-Life (EOL)。这些状态在 Amazon Bedrock 控制台和通过 API 响应（例如，通过 GetFoundationModel 或 ListFoundationModels 调用）中都可见，它们决定了模型的支持级别、可用性和预期寿命。理解每种状态是有效进行 AI 应用程序管理的基础。

以下是每种状态的详细说明：

状态	描述	主要影响
ACTIVE	模型从其提供商处获得持续的维护、更新和错误修复。它们代表了当前受支持的 FM 世代。	通过 API (InvokeModel, Converse) 进行推理的全面支持、自定义（如果支持）以及通过 AWS Service Quotas 增加配额的资格。
LEGACY	模型提供商已转换模型，预示其最终将弃用。客户在 EOL 前至少 6 个月收到提前通知。	现有用户可以继续使用，但新客户或非活跃账户的访问可能会受限。新的预置吞吐量创建将不可用，并且自定义可能会面临限制。对于 EOL 日期在 2026 年 2 月 1 日之后的模型，包含一个 'Public Extended Access' 阶段。
END-OF-LIFE (EOL)	模型已达到最终阶段，完全不可访问。所有支持停止，不能再用于推理。	对 EOL 模型的 API 请求将失败。要求客户在 EOL 日期前主动迁移到替代模型。AWS 不会进行自动迁移。

Active 模型是持续开发和生产工作负载的基石。它们受到全面支持，获得所有最新增强功能，是新部署的推荐选择。

Legacy 状态是规划的关键时期。它发出了一个明确信号，表明应开始评估和准备迁移。AWS 确保客户有至少六个月的时间来规划从 Legacy 模型到 EOL 之前的过渡，提供了充足的时间来测试和实施新解决方案。对于 EOL 日期在 2026 年 2 月 1 日之后的模型，Legacy 期间引入了一个名为 Public Extended Access 的附加阶段。在 Legacy 状态至少三个月后，模型进入此扩展访问阶段，允许活跃用户继续使用它至少再三个月直到 EOL。然而，在此期间，通常不会批准针对旧版模型的配额增加请求，这强调了提前进行容量规划的重要性。

最后，End-of-Life (EOL) 状态是最终的。一旦模型达到 EOL，它将完全无法使用。仍然依赖 EOL 模型的应用程序将立即失效，这突出了在此日期之前完成迁移的绝对必要性。AWS 不提供自动迁移，将更新应用程序代码的责任完全放在客户身上。

借助扩展访问进行战略性迁移规划

有效管理 Amazon Bedrock 模型生命周期取决于战略性迁移规划，尤其是在 Legacy 状态及其扩展访问功能方面。结构化的过渡时间表——发布后至少 12 个月的可用性以及在 EOL 前至少 6 个月的 Legacy 状态——旨在为利用基础模型的企业提供可预测性并最大程度地减少中断。

在 Legacy 阶段，新的 Public Extended Access 期间为活跃用户提供了关键窗口。它允许持续运行，同时促进更平稳地过渡到更新的模型。然而，至关重要的是，虽然访问得以维持，但 Legacy 模型将无法创建新的按模型单位预置吞吐量，并且在扩展访问期间通常不批准这些模型的配额增加请求。因此，在模型进入此阶段之前，准确预测您的容量需求对于避免服务降级至关重要。

定价考虑也在扩展访问期间发挥作用。模型提供商可能会调整此阶段模型的定价。AWS 致力于透明度，确保在最初的旧版模型发布公告中以及在任何价格变更生效之前沟通所有计划的定价变更，从而防止意外成本。与模型提供商直接签订了现有私有定价协议的客户或使用预置吞吐量的客户，将继续按照其当前条款运行，从而保障现有投资和合同协议。这种对 Legacy 状态的分层方法提供了灵活性，同时强烈鼓励及时迁移，以确保应用程序受益于最新、完全受支持的模型。对于希望优化其 Bedrock 上的运营成本和性能的企业来说，理解这些细微差别是关键。有关 AI 成本管理的更多见解，请探索使用 Amazon Bedrock 项目管理 AI 成本。

确保平稳过渡：沟通与最佳实践

从旧版 Amazon Bedrock 模型成功迁移到新版本，在很大程度上依赖于及时的沟通以及严谨的规划和执行方法。AWS 采用强大的沟通流程，确保客户充分了解即将发生的模型状态变更。

客户将在模型 EOL 日期前至少六个月收到全面的通知，通常是在模型过渡到 Legacy 状态时。这些通信会详细说明将被弃用的模型、重要日期、扩展访问的可用性以及精确的 EOL 日期。为确保这些关键警报送达正确的利益相关者，AWS 利用了多种渠道：

电子邮件通知： 发送到您账户的根用户电子邮件和指定的备用联系人（运营、安全、计费）。
AWS Health Dashboard： 提供所有计划变更和潜在影响的集中视图。
Amazon Bedrock 控制台警报： 服务界面内的直接通知。
编程 API 访问： 允许对模型生命周期状态进行自动化监控。

通过 AWS 账户页面定期验证和配置您的 AWS 账户联系电子邮件地址至关重要。此外，AWS 用户通知控制台允许您添加更多接收者或配置替代交付渠道，例如 Slack 或内部分发列表，确保不会遗漏任何重要信息。检查来自 health@aws.com 的电子邮件未被过滤也是关键一步。

谈到 迁移策略和最佳实践，早期规划是不可协商的。一旦模型进入 'Legacy' 状态，立即启动您的迁移流程：

评估阶段： 彻底评估您目前对旧版模型的依赖。识别所有依赖它的应用程序、工作流和集成。分析典型的请求模式、性能指标，以及您的应用程序所依赖的特定行为或输出。这种深入的理解构成了您迁移的基线。
研究阶段： 调查 Amazon Bedrock 上推荐的替代模型或可用的替代 FM。了解它们的功能、与旧版模型的区别，以及任何可以增强您的应用程序的新功能。密切关注区域可用性以及 API 端点或输入/输出格式的任何变化。
测试与验证： 在完全部署之前，使用您现有数据和用例严格测试新模型。根据您评估期间建立的基准，评估其性能、准确性和安全性。如果可能，进行 A/B 测试以比较新模型与旧模型的效力。
代码更新与集成： 修改您的应用程序代码以集成新模型。这可能涉及更新 API 调用、提示工程策略或后处理逻辑。确保您的基础设施能够处理新模型的要求，并且您的服务配额已相应调整。
逐步推出与监控： 为新模型实施分阶段推出策略。从小部分流量或非关键应用程序开始，逐渐增加暴露范围，同时持续监控性能、错误率和用户反馈。

通过遵循这些最佳实践，您可以促进平稳受控的过渡，最大程度地减少潜在中断，并确保您的 AI 应用程序持续创造价值。利用战略性合作，例如 AWS 和 NVIDIA 之间的合作，也可以加速 AI 在整个生命周期中的采用。

持续 AI 运营的主动管理

AI 模型的动态特性意味着基础模型生命周期在开发人员领域是永恒不变的。对于在 Amazon Bedrock 上构建的企业来说，理解和主动管理这些转换不仅是一项技术任务，更是一项战略要务。通过掌握 Active、Legacy 和 End-of-Life 状态的细微差别，并利用 AWS 提供的结构化沟通和扩展访问期，组织可以确保其 AI 应用程序保持弹性、高性能和持续更新。

主动评估、细致规划和严格测试是成功迁移策略的支柱。通过将这些最佳实践整合到您的运营框架中，您可以降低风险、拥抱创新，并确保您在 Amazon Bedrock 上的 AI 投资持续不间断地创造商业价值。在模型生命周期管理中保持领先地位对于在快速发展的 AI 领域保持竞争优势至关重要。

原始来源

https://aws.amazon.com/blogs/machine-learning/understanding-amazon-bedrock-model-lifecycle/

常见问题

What are the three main states of an Amazon Bedrock model and what do they signify?

Amazon Bedrock models transition through three crucial lifecycle states: Active, Legacy, and End-of-Life (EOL). An 'Active' model receives continuous maintenance, updates, and bug fixes, and is fully supported for inference, customization (if applicable), and quota increases. When a model moves to 'Legacy,' it signifies that a newer version or alternative is available, and customers are advised to plan migration. During this period, existing users can continue, but new access might be restricted, and customization capabilities can be limited. The 'EOL' state means the model is completely inaccessible across all AWS Regions, requiring prior migration to avoid application disruption. Understanding these states is vital for managing AI applications effectively on Amazon Bedrock.

How does the 'Legacy' state impact Amazon Bedrock users, especially regarding the 'Public Extended Access' period?

When an Amazon Bedrock model enters the 'Legacy' state, users are given at least six months' notice before its End-of-Life (EOL) date, providing critical time for migration planning. During this period, existing customers can typically continue using the model, though new customers or inactive accounts might face access restrictions. For models with EOL dates after February 1, 2026, the 'Legacy' state includes a 'Public Extended Access' phase, lasting at least three months after an initial minimum of three months in Legacy. During this extended period, active users retain access, but quota increase requests may not be approved, and pricing might be adjusted. Customers are always notified of these changes to facilitate a smooth transition away from the legacy model.

What happens when an Amazon Bedrock foundation model reaches its End-of-Life (EOL) date?

Upon reaching its End-of-Life (EOL) date, an Amazon Bedrock foundation model becomes entirely inaccessible across all AWS Regions for most customers. Any API requests targeting an EOL model will fail, rendering applications that still rely on it non-functional. AWS does not automatically migrate applications; customers are solely responsible for updating their application code to use alternative, supported models *before* the EOL date. While special arrangements for continued access might exist between specific customers and providers, this is generally not the case for the broader user base. Proactive migration is therefore a critical step to ensure the uninterrupted operation of AI applications built on Amazon Bedrock.

How does AWS communicate changes in the Amazon Bedrock model lifecycle to its users?

AWS employs a multi-channel communication strategy to inform customers about Amazon Bedrock model state changes, particularly when a model transitions to 'Legacy' status (six months before EOL). Notifications are sent via email, displayed on the AWS Health Dashboard, and presented as alerts within the Amazon Bedrock console. Programmatic access to model lifecycle information is also available through the API. To ensure receipt of these critical updates, customers must verify and configure their account contact email addresses, including root user and alternate contacts (operations, security, billing). Additionally, the AWS User Notifications console allows for adding more recipients or delivery channels like Slack or email distribution lists, ensuring timely and comprehensive awareness of upcoming changes.

What are the recommended strategies and best practices for migrating applications to newer Amazon Bedrock models?

Migrating applications to newer Amazon Bedrock models requires proactive planning and a structured approach. Best practices include starting planning as soon as a model enters the 'Legacy' state. Begin with an 'Assessment Phase' to identify all applications dependent on the legacy model, analyze request patterns, and understand critical output behaviors. Follow this with a 'Research Phase' to thoroughly investigate the recommended replacement model, assessing its capabilities, differences, new features, and regional availability. It's crucial to update application code, validate performance, and confirm that service quotas can handle the expected volume with the new model. This systematic approach ensures a smooth transition with minimal disruption, leveraging the enhanced capabilities of newer foundation models.

Are there any pricing considerations during the extended access period for Amazon Bedrock models?

Yes, pricing may be adjusted by the model provider during the extended access period for Amazon Bedrock models. However, AWS ensures transparency by notifying customers in the initial legacy announcement and before any subsequent price changes take effect, preventing surprise retroactive increases. Customers with existing private pricing agreements directly with model providers or those utilizing provisioned throughput will continue operating under their established pricing terms throughout the extended access period. This policy is designed to protect those who have made specific financial arrangements or investments in dedicated capacity, ensuring predictability and stability despite the model's transition toward End-of-Life.

保持更新

将最新AI新闻发送到您的收件箱。