Yapay Zeka Maliyet Yönetimi: İlişkilendirme için Amazon Bedrock Projeleri

Ardından, AWS bölgenizin doğru şekilde yapılandırıldığından ve Amazon Bedrock API anahtarınızın OPENAI_API_KEY ortam değişkeni olarak ayarlandığından emin olarak, bir proje oluşturmak için sağlanan Python betiğini kullanın.

import os
import requests

# Configuration
BASE_URL = "https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1"
API_KEY  = os.environ.get("OPENAI_API_KEY")  # Your Amazon Bedrock API key

def create_project(name: str, tags: dict) -> dict:
    """Create a Bedrock project with cost allocation tags."""
    response = requests.post(
        f"{BASE_URL}/organization/projects",
        headers={
            "Authorization": f"Bearer {API_KEY}",
            "Content-Type": "application/json"
        },
        json={"name": name, "tags": tags}
    )

    if response.status_code != 200:
        raise Exception(
            f"Failed to create project: {response.status_code} - {response.text}"
        )

    return response.json()

# Example: Create a production project with full tag taxonomy
project = create_project(
    name="CustomerChatbot-Prod",
    tags={
        "Application": "CustomerChatbot",
        "Environment": "Production",
        "Team":        "CustomerExperience",
        "CostCenter":  "CC-1001",
        "Owner":       "alice"
    }
)
print(f"Created project: {project['id']}")

Bu betik, benzersiz id'si (örn. proj_123) ve ARN'si dahil olmak üzere proje ayrıntılarını döndürecektir. Çıkarım isteklerinizi ilişkilendirmek için çok önemli olacağından bu id'yi kaydedin. AWS hesabı başına 1.000'e kadar proje oluşturabilirsiniz, bu da en büyük kuruluşlar için bile bol esneklik sunar.

Çıkarım İsteklerini İlişkilendirme

Projeniz oluşturulduktan sonra, Kimliğini Bedrock API çağrılarınıza entegre edin. Örneğin, Yanıtlar API'sini kullanarak:

from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-mantle.<YOUR-REGION-HERE>.api.aws/v1",
    project="<YOUR-PROJECT-ID>", # ID returned when you created the project
)
response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="Summarize the key findings from our Q4 earnings report."
)
print(response.output_text)

project parametresini sürekli olarak dahil ederek, her çıkarım için doğru maliyet ilişkilendirmesi sağlarsınız. Daha gelişmiş Bedrock uygulamaları için, bunun Amazon Bedrock kullanarak yapay zeka destekli A/B testi motoru oluşturma gibi daha geniş stratejilerle nasıl entegre olduğunu düşünebilirsiniz.

AWS'de Yapay Zeka Maliyetlerinizi Etkinleştirme ve Analiz Etme

Kapsamlı maliyet görünürlüğünü sağlamanın son adımı, özel proje etiketlerinizi AWS Fatura konsolunda maliyet tahsis etiketleri olarak etkinleştirmektir. Bu, AWS'ye bu etiketleri ayrıntılı faturalandırma raporlarınıza dahil etmesini söyleyen tek seferlik bir yapılandırmadır.

Maliyet Tahsis Etiketlerini Etkinleştirme

AWS Faturalandırma ve Maliyet Yönetimi konsoluna gidin ve özel etiketlerinizi etkinleştirmek için talimatları izleyin. Maliyet verilerinizde herhangi bir boşluk oluşmasını önlemek için ilk projeniz oluşturulur oluşturulmaz bunu yapmanız önerilir. Bu etiketlerin tam olarak yayılması ve AWS Cost Explorer ile AWS Data Exports'ta görünmesi 24 saate kadar sürebilir.

AWS Cost Explorer'da Proje Maliyetlerini Görüntüleme

Etkinleştirildikten sonra, Amazon Bedrock harcamalarınızı benzeri görülmemiş ayrıntılarla görselleştirmek ve analiz etmek için AWS Cost Explorer'dan yararlanabilirsiniz. Maliyetlerinizi Hizmet (Amazon Bedrock) göre filtreleyebilir ve ardından Uygulama, Ortam veya Maliyet Merkezi gibi özel maliyet tahsis etiketlerinize göre gruplandırabilirsiniz. Bu size şunları sağlar:

• Maliyet Etkenlerini Belirleme: Hangi uygulamaların veya ortamların en çok üretken yapay zeka kaynaklarını tükettiğini hızlıca tespit edin.
• Geri Ödeme Yapma: Dahili geri ödeme modelleri için doğru raporlar oluşturarak, departmanların yapay zeka kullanımları için adil bir şekilde faturalandırılmasını sağlayın.
• Harcamayı Optimize Etme: Kritik olmayan geliştirme ortamlarında pahalı modellerin kullanılması gibi verimsizlik alanlarını tespit edin ve kaynak tahsisini optimize etmek için bilinçli kararlar alın.
• Tahmin ve Bütçeleme: Belirli iş yüklerine göre ayrıştırılmış geçmiş verileri analiz ederek gelecekteki yapay zeka harcaması tahminlerinin doğruluğunu artırın.

Amazon Bedrock Projelerini ve disiplinli bir etiketleme stratejisini benimseyerek, kuruluşlar belirsiz yapay zeka harcamalarını şeffaf, eyleme geçirilebilir içgörülere dönüştürebilir. Bu sadece daha iyi finansal yönetişimi desteklemekle kalmaz, aynı zamanda maliyet bilinci kültürünü de teşvik ederek ekiplerin üretken yapay zeka girişimlerini sorumlu ve etkili bir şekilde ölçeklendirmesine olanak tanır. Kaynaklar üzerindeki bu ayrıntılı kontrol, Amazon Bedrock AgentCore gibi yeni yetenekleri verimli bir şekilde entegre etmenin anahtarıdır.