Em seguida, use o script Python fornecido para criar um projeto, garantindo que sua região AWS esteja configurada corretamente e que sua chave de API do Amazon Bedrock esteja definida como a variável de ambiente OPENAI_API_KEY.
import os
import requests
# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY = os.environ.get("OPENAI_API_KEY") # Your Amazon Bedrock API key
def create_project(name: str, tags: dict) -> dict:
"""Create a Bedrock project with cost allocation tags."""
response = requests.post(
f"{BASE_URL}/organization/projects",
headers={
"Authorization": f"Bearer {API_KEY}",
"Content-Type": "application/json"
},
json={"name": name, "tags": tags}
)
if response.status_code != 200:
raise Exception(
f"Failed to create project: {response.status_code} - {response.text}"
)
return response.json()
# Example: Create a production project with full tag taxonomy
project = create_project(
name="CustomerChatbot-Prod",
tags={
"Application": "CustomerChatbot",
"Environment": "Production",
"Team": "CustomerExperience",
"CostCenter": "CC-1001",
"Owner": "alice"
}
)
print(f"Created project: {project['id']}")
Este script retornará os detalhes do projeto, incluindo seu id único (por exemplo, proj_123) e ARN. Salve este id pois será crucial para associar suas solicitações de inferência. Você pode criar até 1.000 projetos por conta AWS, oferecendo ampla flexibilidade mesmo para as maiores organizações.
Associando Solicitações de Inferência
Uma vez que seu projeto for criado, integre seu ID nas suas chamadas de API do Bedrock. Por exemplo, usando a API Responses:
from openai import OpenAI
client = OpenAI(
base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
model="openai.gpt-oss-120b",
input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)
Ao incluir consistentemente o parâmetro project, você garante uma atribuição precisa de custos para cada inferência. Para aplicações Bedrock mais avançadas, considere como isso se integra a estratégias mais amplas, como a construção de um motor de teste A/B alimentado por IA usando Amazon Bedrock.
Ativando e Analisando Seus Custos de IA na AWS
O passo final para habilitar uma visibilidade abrangente de custos é ativar suas tags de projeto personalizadas como tags de alocação de custos no console de Faturamento da AWS. Esta é uma configuração única que informa à AWS para incorporar essas tags em seus relatórios de faturamento detalhados.
Ativando Tags de Alocação de Custos
Navegue até o console de Faturamento e Gerenciamento de Custos da AWS e siga as instruções para ativar suas tags personalizadas. Recomenda-se fazer isso assim que seu primeiro projeto for criado para evitar lacunas em seus dados de custos. Esteja ciente de que pode levar até 24 horas para que essas tags se propaguem totalmente e apareçam no AWS Cost Explorer e AWS Data Exports.
Visualizando Custos de Projeto no AWS Cost Explorer
Uma vez ativado, você pode usar o AWS Cost Explorer para visualizar e analisar seus gastos com Amazon Bedrock com detalhes sem precedentes. Você pode filtrar seus custos por Service (Amazon Bedrock) e então agrupá-los por suas tags de alocação de custos personalizadas, como Application, Environment ou CostCenter. Isso permite que você:
- Identificar Impulsionadores de Custos: Identificar rapidamente quais aplicações ou ambientes estão consumindo mais recursos de IA generativa.
- Realizar Estornos: Gerar relatórios precisos para modelos de estorno internos, garantindo que os departamentos sejam faturados de forma justa pelo uso de IA.
- Otimizar Gastos: Detectar áreas de ineficiência, como modelos caros sendo usados em ambientes de desenvolvimento não críticos, e tomar decisões informadas para otimizar a alocação de recursos.
- Previsão e Orçamento: Melhorar a precisão das previsões de gastos futuros com IA, analisando dados históricos discriminados por cargas de trabalho específicas.
Ao adotar os Projetos Amazon Bedrock e uma estratégia de etiquetagem disciplinada, as organizações podem transformar despesas nebulosas de IA em insights transparentes e acionáveis. Isso não só apoia uma melhor governança financeira, mas também promove uma cultura de conscientização sobre custos, permitindo que as equipes escalem suas iniciativas de IA generativa de forma responsável e eficaz. Esse controle detalhado sobre os recursos também é fundamental para integrar novas capacidades como Amazon Bedrock AgentCore de forma eficiente.
Fonte original
https://aws.amazon.com/blogs/machine-learning/manage-ai-costs-with-amazon-bedrock-projects/Perguntas Frequentes
What are Amazon Bedrock Projects and how do they enhance AI cost management?
Why is a robust tagging strategy crucial for effective cost attribution with Bedrock Projects?
How do I activate cost allocation tags for Amazon Bedrock Projects in AWS Billing?
Which Amazon Bedrock APIs support cost attribution through Project IDs?
What are the benefits of using Amazon Bedrock Projects for large enterprises?
Fique Atualizado
Receba as últimas novidades de IA no seu e-mail.
