Tekoälyn kustannusten hallinta: Amazon Bedrock -projektit kustannusten kohdentamiseen

Käytä seuraavaksi annettua Python-skriptiä projektin luomiseen varmistaen, että AWS-alueesi on määritetty oikein ja Amazon Bedrock API-avaimesi on asetettu OPENAI_API_KEY-ympäristömuuttujaksi.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY  = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Tämä skripti palauttaa projektin tiedot, mukaan lukien sen yksilöllisen id:n (esim. proj_123) ja ARN:n. Tallenna tämä id, sillä se on ratkaisevan tärkeä päättelypyyntöjesi liittämisessä. Voit luoda jopa 1000 projektia AWS-tiliä kohden, mikä tarjoaa runsaasti joustavuutta jopa suurimmille organisaatioille.

Päättelypyyntöjen liittäminen

Kun projektisi on luotu, integroi sen ID Bedrock API-kutsuihisi. Esimerkiksi Responses API:a käyttäen:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

Sisällyttämällä project-parametrin johdonmukaisesti varmistat tarkan kustannusten kohdentamisen jokaiselle päättelylle. Kehittyneempiä Bedrock-sovelluksia varten harkitse, miten tämä integroituu laajempiin strategioihin, kuten tekoälyllä toimivan A/B-testausmoottorin rakentamiseen Amazon Bedrockin avulla.

Tekoälykustannusten aktivointi ja analysointi AWS:ssä

Viimeinen vaihe kattavan kustannusnäkyvyyden mahdollistamisessa on mukautettujen projektitunnisteidesi aktivointi kustannusten kohdentamistunnisteina AWS Billing -konsolissa. Tämä on kertaluonteinen konfiguraatio, joka kertoo AWS:lle sisällyttämään nämä tunnisteet yksityiskohtaisiin laskutusraportteihisi.

Kustannusten kohdentamistunnisteiden aktivointi

Navigoi AWS Billing and Cost Management -konsoliin ja noudata ohjeita mukautettujen tunnisteidesi aktivoimiseksi. On suositeltavaa tehdä tämä heti, kun ensimmäinen projektisi on luotu, jotta vältetään aukot kustannustiedoissasi. Huomaa, että voi kestää jopa 24 tuntia, ennen kuin nämä tunnisteet leviävät täysin ja ilmestyvät AWS Cost Explorerissa ja AWS Data Exportsissa.

Projektikustannusten tarkastelu AWS Cost Explorerissa

Kun ne on aktivoitu, voit hyödyntää AWS Cost Explorer -työkalua visualisoidaksesi ja analysoidaksesi Amazon Bedrock -kulutustasi ennennäkemättömän yksityiskohtaisesti. Voit suodattaa kustannuksiasi Service-kohtaisesti (Amazon Bedrock) ja sitten ryhmitellä ne mukautettujen kustannusten kohdentamistunnisteidesi, kuten Application, Environment tai CostCenter, mukaan. Tämä mahdollistaa seuraavat asiat:

• Tunnista kustannusten aiheuttajat: Selvitä nopeasti, mitkä sovellukset tai ympäristöt kuluttavat eniten generatiivisen tekoälyn resursseja.
• Suorita sisäisiä veloituksia: Luo tarkkoja raportteja sisäisiin veloitusmalleihin varmistaen, että osastoja laskutetaan oikeudenmukaisesti niiden tekoälyn käytöstä.
• Optimoi kulutusta: Tunnista tehottomuusalueita, kuten kalliiden mallien käyttöä ei-kriittisissä kehitysympäristöissä, ja tee tietoon perustuvia päätöksiä resurssien allokoinnin optimoimiseksi.
• Ennusta ja budjetoi: Paranna tulevien tekoälykulutusennusteiden tarkkuutta analysoimalla historiallisia tietoja jaoteltuna tiettyjen työkuormien mukaan.

Ottamalla käyttöön Amazon Bedrock -projektit ja noudattamalla kurinalaista tunnisteiden hallintastrategiaa organisaatiot voivat muuttaa epämääräiset tekoälykustannukset läpinäkyviksi, toimiviksi oivalluksiksi. Tämä ei ainoastaan tue parempaa taloushallintoa, vaan myös edistää kustannustietoisuuden kulttuuria, mahdollistaen tiimien skaalata generatiivisen tekoälyn aloitteitaan vastuullisesti ja tehokkaasti. Tämä yksityiskohtainen resurssien hallinta on myös avain uusien ominaisuuksien, kuten Amazon Bedrock AgentCore, tehokkaaseen integrointiin.