Pengurusan Kos AI: Projek Amazon Bedrock untuk Atribusi

Seterusnya, gunakan skrip Python yang disediakan untuk mencipta projek, memastikan rantau AWS anda dikonfigurasi dengan betul dan kunci API Amazon Bedrock anda ditetapkan sebagai pemboleh ubah persekitaran OPENAI_API_KEY.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY  = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Skrip ini akan mengembalikan butiran projek, termasuk id uniknya (cth., proj_123) dan ARN. Simpan id ini kerana ia akan menjadi penting untuk mengaitkan permintaan inferens anda. Anda boleh mencipta sehingga 1,000 projek setiap akaun AWS, menawarkan fleksibiliti yang mencukupi walaupun untuk organisasi terbesar.

Mengaitkan Permintaan Inferens

Setelah projek anda dicipta, integrasikan IDnya ke dalam panggilan API Bedrock anda. Contohnya, menggunakan Responses API:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

Dengan secara konsisten menyertakan parameter project, anda memastikan atribusi kos yang tepat untuk setiap inferens. Untuk aplikasi Bedrock yang lebih maju, pertimbangkan bagaimana ini berintegrasi dengan strategi yang lebih luas seperti membina enjin ujian A/B berkuasa AI menggunakan Amazon Bedrock.

Mengaktifkan dan Menganalisis Kos AI Anda di AWS

Langkah terakhir dalam membolehkan keterlihatan kos yang komprehensif adalah untuk mengaktifkan tag projek tersuai anda sebagai tag peruntukan kos dalam konsol Pengebilan AWS. Ini adalah konfigurasi sekali sahaja yang memberitahu AWS untuk memasukkan tag ini ke dalam laporan pengebilan terperinci anda.

Mengaktifkan Tag Peruntukan Kos

Navigasi ke konsol AWS Billing and Cost Management dan ikuti arahan untuk mengaktifkan tag tersuai anda. Adalah disyorkan untuk melakukan ini sebaik sahaja projek pertama anda dicipta untuk mengelakkan sebarang jurang dalam data kos anda. Berhati-hati bahawa ia mungkin mengambil masa sehingga 24 jam untuk tag ini disebarkan sepenuhnya dan muncul di AWS Cost Explorer dan AWS Data Exports.

Melihat Kos Projek di AWS Cost Explorer

Setelah diaktifkan, anda boleh memanfaatkan AWS Cost Explorer untuk memvisualisasikan dan menganalisis perbelanjaan Amazon Bedrock anda dengan perincian yang belum pernah terjadi sebelumnya. Anda boleh menapis kos anda mengikut Service (Amazon Bedrock) dan kemudian mengelompokkannya mengikut tag peruntukan kos tersuai anda, seperti Application, Environment, atau CostCenter. Ini membolehkan anda untuk:

• Mengenal pasti Pemacu Kos: Cepat mengenal pasti aplikasi atau persekitaran mana yang menggunakan sumber AI generatif paling banyak.
• Melakukan Caj Balik: Menjana laporan yang tepat untuk model caj balik dalaman, memastikan jabatan dibilkan secara adil untuk penggunaan AI mereka.
• Mengoptimumkan Perbelanjaan: Mengesan kawasan ketidakcekapan, seperti model mahal yang digunakan dalam persekitaran pembangunan tidak kritikal, dan membuat keputusan termaklum untuk mengoptimumkan peruntukan sumber.
• Meramal dan Belanjawan: Meningkatkan ketepatan ramalan perbelanjaan AI masa depan dengan menganalisis data sejarah yang dipecahkan mengikut beban kerja tertentu.

Dengan menggunakan Projek Amazon Bedrock dan strategi penandaan yang berdisiplin, organisasi boleh mengubah perbelanjaan AI yang tidak jelas menjadi wawasan yang telus dan boleh diambil tindakan. Ini bukan sahaja menyokong tadbir urus kewangan yang lebih baik tetapi juga memupuk budaya kesedaran kos, membolehkan pasukan mengembangkan inisiatif AI generatif mereka secara bertanggungjawab dan berkesan. Kawalan terperinci terhadap sumber ini juga merupakan kunci untuk mengintegrasikan keupayaan baharu seperti Amazon Bedrock AgentCore dengan cekap.