AI išlaidų valdymas: „Amazon Bedrock“ projektai priskyrimui

Toliau naudokite pateiktą Python scenarijų projektui sukurti, užtikrindami, kad jūsų AWS regionas būtų tinkamai sukonfigūruotas ir jūsų „Amazon Bedrock“ API raktas būtų nustatytas kaip OPENAI_API_KEY aplinkos kintamasis.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY   = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Šis scenarijus grąžins projekto detales, įskaitant jo unikalų id (pvz., proj_123) ir ARN. Išsaugokite šį id, nes jis bus labai svarbus susiejant jūsų išvadų užklausas. Vienoje AWS paskyroje galite sukurti iki 1000 projektų, suteikiant daug lankstumo net didžiausioms organizacijoms.

Išvadų užklausų susiejimas

Sukūrus projektą, integruokite jo ID į savo „Bedrock“ API iškvietimus. Pavyzdžiui, naudojant „Responses API“:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

Nuolat įtraukdami project parametrą, užtikrinate tikslų išlaidų priskyrimą kiekvienai išvadai. Sudėtingesnėms „Bedrock“ programoms apsvarstykite, kaip tai integruojama su platesnėmis strategijomis, tokiomis kaip dirbtinio intelekto pagrindu veikiančios A/B testavimo sistemos kūrimas naudojant „Amazon Bedrock“.

Jūsų AI išlaidų aktyvavimas ir analizavimas AWS sistemoje

Paskutinis žingsnis, siekiant užtikrinti išsamų išlaidų matomumą, yra jūsų pasirinktinių projekto žymių aktyvavimas kaip išlaidų paskirstymo žymių AWS atsiskaitymo konsolėje. Tai yra vienkartinis konfigūravimas, nurodantis AWS įtraukti šias žymes į jūsų detalias atsiskaitymo ataskaitas.

Išlaidų paskirstymo žymių aktyvavimas

Eikite į AWS atsiskaitymo ir išlaidų valdymo konsolę ir vykdykite nurodymus, kad aktyvuotumėte savo pasirinktines žymes. Rekomenduojama tai padaryti iškart sukūrus pirmąjį projektą, kad būtų išvengta spragų jūsų išlaidų duomenyse. Atminkite, kad gali prireikti iki 24 valandų, kol šios žymės visiškai pasklis ir atsiras „AWS Cost Explorer“ ir „AWS Data Exports“.

Projekto išlaidų peržiūra „AWS Cost Explorer“

Aktyvavus, galite naudoti „AWS Cost Explorer“, kad vizualizuotumėte ir analizuotumėte savo „Amazon Bedrock“ išlaidas su precedento neturinčiu detalumu. Galite filtruoti išlaidas pagal Service (Amazon Bedrock) ir tada grupuoti jas pagal savo pasirinktines išlaidų paskirstymo žymes, tokias kaip Application, Environment arba CostCenter. Tai leidžia jums:

• Nustatyti išlaidų veiksnius: Greitai nustatyti, kurios programos ar aplinkos sunaudoja daugiausiai generatyvinio AI išteklių.
• Atlikti mokesčių paskirstymą: Generuoti tikslias ataskaitas vidaus mokesčių paskirstymo modeliams, užtikrinant, kad skyriams būtų sąžiningai apmokestinama už jų AI naudojimą.
• Optimizuoti išlaidas: Nustatyti neefektyvumo sritis, pvz., brangių modelių naudojimą ne kritinėse kūrimo aplinkose, ir priimti pagrįstus sprendimus optimizuoti išteklių paskirstymą.
• Prognozuoti ir sudaryti biudžetą: Pagerinti ateities AI išlaidų prognozių tikslumą, analizuojant istorinius duomenis, suskirstytus pagal konkrečias darbo apkrovas.

Priimdamos „Amazon Bedrock“ projektus ir disciplinuotą žymėjimo strategiją, organizacijos gali paversti neaiškias AI išlaidas skaidriomis, veiksmingomis įžvalgomis. Tai ne tik palaiko geresnį finansinį valdymą, bet ir skatina išlaidų sąmoningumo kultūrą, leidžiančią komandoms atsakingai ir efektyviai plėtoti savo generatyvinio AI iniciatyvas. Šis detalus išteklių valdymas taip pat yra svarbus efektyviam naujų galimybių, tokių kaip Amazon Bedrock AgentCore, integravimui.