Kostnaðarstjórnun gervigreindar: Amazon Bedrock verkefni fyrir úthlutun

Næst skaltu nota Python skriftuna sem fylgir til að búa til verkefni, og tryggja að AWS svæðið þitt sé rétt stillt og að Amazon Bedrock API lykillinn þinn sé stilltur sem OPENAI_API_KEY umhverfisbreytan.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY  = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Þessi skrifta mun skila upplýsingum um verkefnið, þar á meðal einstakt id þess (t.d. proj_123) og ARN. Vistaðu þetta id þar sem það verður mikilvægt til að tengja ályktunarbeiðnir þínar. Þú getur búið til allt að 1.000 verkefni á hvern AWS reikning, sem býður upp á nægilegan sveigjanleika jafnvel fyrir stærstu stofnanir.

Tengja ályktunarbeiðnir

Þegar verkefnið þitt er búið til skaltu samþætta auðkenni þess í Bedrock API köllin þín. Til dæmis, með því að nota Responses API:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<VERKEFNAKENNI-ÞITT>", # Auðkenni sem skilaðist þegar þú bjóst til verkefnið
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

Með því að láta project færibreyturna stöðugt fylgja með tryggir þú nákvæma kostnaðarúthlutun fyrir hverja ályktun. Fyrir lengra komin Bedrock forrit, íhugaðu hvernig þetta samþættist víðtækari aðferðum eins og að byggja upp gervigreindardrifna A/B prófunarvél með Amazon Bedrock.

Virkja og greina gervigreindarkostnað þinn í AWS

Síðasta skrefið í að virkja alhliða kostnaðarsýnileika er að virkja sérsniðnar verkefnamerkingar þínar sem kostnaðarúthlutunarmerkingar innan AWS Billing stjórnborðsins. Þetta er einu sinni stilling sem segir AWS að innlima þessar merkingar í ítarlegar innheimtuskýrslur þínar.

Virkja kostnaðarúthlutunarmerkingar

Fara á AWS Billing and Cost Management stjórnborðið og fylgja leiðbeiningunum til að virkja sérsniðnar merkingar þínar. Mælt er með því að gera þetta strax þegar fyrsta verkefnið er búið til til að forðast eyður í kostnaðargögnum þínum. Vertu meðvituð um að það getur tekið allt að 24 klukkustundir fyrir þessar merkingar að dreifa sér að fullu og birtast í AWS Cost Explorer og AWS Data Exports.

Skoða verkefniskostnað í AWS Cost Explorer

Þegar það er virkjað geturðu nýtt AWS Cost Explorer til að sjá og greina útgjöld þín vegna Amazon Bedrock með áður óþekktum smáatriðum. Þú getur síað kostnað þinn eftir þjónustu (Amazon Bedrock) og síðan flokkað hann eftir sérsniðnum kostnaðarúthlutunarmerkingum þínum, svo sem forriti, umhverfi eða kostnaðarmiðstöð. Þetta gerir þér kleift að:

• Bera kennsl á kostnaðarvalda: Greina fljótt hvaða forrit eða umhverfi eru að nota mest af skapandi gervigreindarauðlindum.
• Framkvæma endurgreiðslur: Búa til nákvæmar skýrslur fyrir innri endurgreiðslulíkön, sem tryggir að deildir séu rukkaðar með sanngjörnum hætti fyrir gervigreindarnotkun sína.
• Hagræða útgjöld: Greina óhagkvæmnissvæði, svo sem dýr líkön sem eru notuð í ómikilvægum þróunarumhverfum, og taka upplýstar ákvarðanir til að hagræða auðlindaskiptingu.
• Spá og fjárhagsáætlun: Bæta nákvæmni framtíðarspáa um gervigreindarútgjöld með því að greina söguleg gögn sundurliðuð eftir tilteknu vinnuálagi.

Með því að taka upp Amazon Bedrock verkefni og agaða merkingarstefnu geta stofnanir umbreytt óljósum gervigreindarkostnaði í gagnsæja, framkvæmanlega innsýn. Þetta styður ekki aðeins betri fjármálastjórnun heldur ýtir einnig undir kostnaðarvitund, sem gerir teymum kleift að stækka frumkvæði sín í skapandi gervigreind á ábyrgan og árangursríkan hátt. Þessi ítarlega stjórn á auðlindum er einnig lykillinn að því að samþætta nýja eiginleika eins og Amazon Bedrock AgentCore á skilvirkan hátt.