Gestió de costos d'IA: Projectes d'Amazon Bedrock per a l'atribució

A continuació, utilitzeu l'script de Python proporcionat per crear un projecte, assegurant-vos que la vostra regió d'AWS estigui configurada correctament i que la vostra clau API d'Amazon Bedrock estigui configurada com a variable d'entorn OPENAI_API_KEY.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY  = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Aquest script retornarà els detalls del projecte, incloent el seu id únic (per exemple, proj_123) i l'ARN. Guardeu aquest id ja que serà crucial per associar les vostres sol·licituds d'inferència. Podeu crear fins a 1.000 projectes per compte d'AWS, oferint una gran flexibilitat fins i tot per a les organitzacions més grans.

Associació de Sol·licituds d'Inferència

Un cop creat el vostre projecte, integreu el seu ID a les vostres trucades a l'API de Bedrock. Per exemple, utilitzant la Responses API:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

En incloure constantment el paràmetre project, assegureu una atribució precisa de costos per a cada inferència. Per a aplicacions de Bedrock més avançades, considereu com això s'integra amb estratègies més àmplies, com la construcció d'un motor de proves A/B basat en IA utilitzant Amazon Bedrock.

Activació i Anàlisi dels Vostres Costos d'IA a AWS

El pas final per habilitar una visibilitat completa dels costos és activar les vostres etiquetes de projecte personalitzades com a etiquetes d'assignació de costos a la consola de facturació d'AWS. Aquesta és una configuració única que indica a AWS que incorpori aquestes etiquetes als vostres informes de facturació detallats.

Activació d'Etiquetes d'Assignació de Costos

Navegueu a la consola d'AWS Billing and Cost Management i seguiu les instruccions per activar les vostres etiquetes personalitzades. Es recomana fer-ho tan aviat com es creï el vostre primer projecte per evitar llacunes en les vostres dades de costos. Tingueu en compte que pot trigar fins a 24 hores perquè aquestes etiquetes es propaguin completament i apareguin a AWS Cost Explorer i AWS Data Exports.

Visualització dels Costos del Projecte a AWS Cost Explorer

Un cop activat, podeu aprofitar AWS Cost Explorer per visualitzar i analitzar la vostra despesa en Amazon Bedrock amb un nivell de detall sense precedents. Podeu filtrar els vostres costos per Service (Amazon Bedrock) i després agrupar-los per les vostres etiquetes d'assignació de costos personalitzades, com ara 'Aplicació', 'Entorn' o 'Centre de costos'. Això us permet:

• Identificar els Factors de Cost: Identificar ràpidament quines aplicacions o entorns estan consumint la majoria de recursos d'IA generativa.
• Realitzar Càrrecs Interns: Generar informes precisos per a models de càrrec intern, assegurant que els departaments facturin de manera justa el seu ús d'IA.
• Optimitzar la Despesa: Detectar àrees d'ineficiència, com ara models cars que s'utilitzen en entorns de desenvolupament no crítics, i prendre decisions informades per optimitzar l'assignació de recursos.
• Preveure i Pressupostar: Millorar la precisió de les previsions de despesa futura en IA analitzant dades històriques desglossades per càrregues de treball específiques.

En adoptar els Projectes d'Amazon Bedrock i una estratègia d'etiquetatge disciplinada, les organitzacions poden transformar les despeses d'IA nebuloses en coneixements transparents i accionables. Això no només dona suport a una millor governança financera, sinó que també fomenta una cultura de consciència dels costos, permetent als equips escalar les seves iniciatives d'IA generativa de manera responsable i efectiva. Aquest control detallat sobre els recursos també és clau per integrar noves capacitats com Amazon Bedrock AgentCore de manera eficient.