Code Velocity
Yapay Zeka Güvenliği

Yapay Zeka Ajan Güvenliği: GitHub'ın Güvenli Kod Oyunu Ajan Tabanlı Yapay Zeka Becerilerini Geliştiriyor

·7 dk okuma·GitHub·Orijinal kaynak
Paylaş
GitHub Güvenli Kod Oyunu içinde ajan tabanlı yapay zeka güvenliği eğitimini temsil eden, bir bilgisayar korsanının yapay zeka ajanının koduna bakışını gösteren stilize bir görüntü.

title: "Yapay Zeka Ajan Güvenliği: GitHub'ın Güvenli Kod Oyunu Ajan Tabanlı Yapay Zeka Becerilerini Geliştiriyor" slug: "hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game" date: "2026-04-17" lang: "tr" source: "https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/" category: "Yapay Zeka Güvenliği" keywords:

  • Ajan Tabanlı Yapay Zeka Güvenliği
  • Yapay Zeka Güvenliği
  • GitHub Güvenli Kod Oyunu
  • Siber Güvenlik Eğitimi
  • Güvenli Kodlama
  • Ajan Tabanlı Uygulamalar için OWASP Top 10
  • Yapay Zeka Ajanları
  • Güvenlik Açığı Değerlendirmesi
  • GitHub Codespaces
  • Güvenlik Eğitimi
  • İstek Mühendisliği Güvenliği
  • Geliştirici Güvenlik Becerileri meta_description: "GitHub'ın Güvenli Kod Oyunu 4. Sezonunu keşfederek temel ajan tabanlı yapay zeka güvenliği becerileri edinin. Bu etkileşimli, ücretsiz eğitimde ProdBot gibi otonom yapay zeka ajanlarındaki güvenlik açıklarını tanımlamayı ve gidermeyi öğrenin." image: "/images/articles/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game.png" image_alt: "GitHub Güvenli Kod Oyunu içinde ajan tabanlı yapay zeka güvenliği eğitimini temsil eden, bir bilgisayar korsanının yapay zeka ajanının koduna bakışını gösteren stilize bir görüntü." quality_score: 94 content_score: 93 seo_score: 95 companies:
  • GitHub schema_type: "NewsArticle" reading_time: 7 faq:
  • question: "Güvenli Kod Oyunu'nun 4. Sezonunu oynamak için yapay zeka veya kodlama deneyimine ihtiyacım var mı?" answer: "Hayır, GitHub Güvenli Kod Oyunu'nun 4. Sezonuna katılmak için önceden yapay zeka veya kodlama deneyimi gerekmez. Tüm deneyim, komut satırı arayüzü (CLI) içinde doğal dil etkileşimleri aracılığıyla erişilebilir olacak şekilde tasarlanmıştır. Oyuncular ProdBot'u tetiklemek için basit İngilizce veya tercih ettikleri herhangi bir dili kullanırlar ve bot buna göre yanıt verir. Birincil gereksinim merak ve denemeye istekliliktir. Bu yaklaşım, geliştiricilerin, güvenlik profesyonellerinin ve hatta yapay zeka veya programlamaya yeni başlayanların, karmaşık sözdizimi veya gelişmiş yapay zeka kavramlarına takılmak yerine, önemli güvenlik içgüdüleri geliştirmeye ve saldırı modellerini anlamaya odaklanmalarını sağlar. Oyun, sezgisel komutlar aracılığıyla güvenlik açıklarını keşfederek bir saldırgan gibi düşünmeyi öğretir ve geniş bir kitle için ilgi çekici ve etkili bir öğrenme aracı haline gelir."
  • question: "4. Sezona dalmadan önce önceki sezonları tamamlamak zorunlu mu?" answer: "Hayır, Güvenli Kod Oyunu'nun önceki sezonlarını tamamlamak, 4. Sezonu oynamak için bir ön koşul değildir. Her sezon bağımsız olacak şekilde tasarlanmıştır ve oyuncuların önceki içeriği bilmelerine gerek kalmadan doğrudan en son zorluklara atlamalarına olanak tanır. Ancak, 3. Sezonun özellikle Büyük Dil Modeli (BİT) güvenliğine odaklandığını, kötü niyetli istekler oluşturma ve bunlara karşı savunma gibi konuları ele aldığını belirtmekte fayda var. Ajan tabanlı sistemler genellikle BİT'leri içerdiğinden, yapay zeka güvenliğindeki bu temel, ajan tabanlı yapay zeka güvenlik açıklarının daha geniş bağlamını anlamak için oldukça faydalı olabilir. Zorunlu olmasa da, yapay zeka güvenliği hakkında kapsamlı bir anlayış geliştirmek isteyen oyuncular, 3. Sezonu yardımcı, isteğe bağlı bir hazırlık deneyimi olarak bulabilirler; bu genellikle yaklaşık 1.5 saat sürer."
  • question: "4. Sezonu tamamlamak için tahmini süre ne kadar?" answer: "Güvenli Kod Oyunu'nun 4. Sezonunu tamamlamak için tahmini süre yaklaşık iki saattir. Ancak, bu süre bireysel oyun tarzına ve keşif derinliğine göre önemli ölçüde değişebilir. Bazı oyuncular seviyeleri daha hızlı ilerleyebilirken, diğerleri her zorluğa daha derinlemesine inerek güvenlik açıklarını istismar etmek ve temel mekanizmaları anlamak için birden fazla yaklaşımı deneyebilir. Oyun, farklı komutları denemenin ve ProdBot'un yeteneklerinin sınırlarını zorlamanın öğrenme sürecinin bir parçası olduğu kapsamlı keşif ve 'hacker zihniyetini' teşvik eder. Bu nedenle, daha kapsamlı deneyler yapan oyuncular daha fazla zaman harcayabilir ve sonuçta ajan tabanlı yapay zeka güvenliği hakkında daha zengin bir anlayış kazanabilirler."
  • question: "GitHub Güvenli Kod Oyunu 4. Sezonuna katılım ücretsiz mi?" answer: "Evet, Güvenli Kod Oyunu'nun 4. Sezonu tamamen ücretsizdir. GitHub tarafından, erişilebilir ve ilgi çekici siber güvenlik eğitimi sağlamak amacıyla tasarlanmış açık kaynaklı bir girişimdir. Oyun tamamen, ayda 60 saate kadar ücretsiz kullanım sunan bulut tabanlı bir geliştirme ortamı olan GitHub Codespaces içinde çalışır. Bu, oyuncuların yerel olarak herhangi bir yazılım yüklemesine, karmaşık geliştirme ortamları yapılandırmasına veya platformun kendisiyle ilgili herhangi bir maliyete katlanmasına gerek olmadığı anlamına gelir, yeter ki ücretsiz Codespaces katmanında kalsınlar. Bu kurulum, bir GitHub hesabı olan herkesin finansal engeller olmadan hemen ajan tabanlı yapay zeka güvenliği becerilerini geliştirmeye başlamasını son derece kolay ve uygun maliyetli hale getirir."
  • question: "4. Sezonu oynarken herhangi bir oran sınırı var mı ve bunlar oynanışı nasıl etkiliyor?" answer: "Evet, Güvenli Kod Oyunu'nun 4. Sezonu, yapay zeka yetenekleri için belirli oran sınırlarına tabi olan GitHub Modellerini kullanır. Bu sınırlar, temel yapay zeka altyapısının sorumlu kullanımını sağlamak ve kötüye kullanımı önlemek için mevcuttur. Bir oyuncu oyun sırasında bir oran sınırı ile karşılaşırsa, ProdBot onlara izin verilen istek sayısını geçici olarak aştıklarını bildirecektir. Bu gibi durumlarda, önerilen eylem, oran sınırının sıfırlanmasını beklemektir, ardından oyun kaldığı yerden sorunsuz bir şekilde devam edebilir. GitHub, oyuncuların bu operasyonel parametreleri anlamalarına ve oyunlarını buna göre planlamalarına yardımcı olmak için oran sınırları da dahil olmak üzere GitHub Modellerinin sorumlu kullanımına ilişkin belgeler sağlar. Bu, tüm katılımcılar için adil ve sürdürülebilir bir ortam sağlar."

Ajan Tabanlı Yapay Zeka Güvenliği: GitHub'ın Güvenli Kod Oyunu ile Savunmanızı Yükseltin

Yapay zekanın hızlı evrimi, dijital ortamımızı yeniden şekillendirmeye devam ediyor. Son zamanlarda, gelen kutularını temizlemeyi, takvimleri yönetmeyi, web'de gezinmeyi ve hatta kendi eklentilerini yazmayı vaat eden açık kaynaklı kişisel bir yapay zeka asistanı olan OpenClaw gibi araçlar hayal gücünü büyüledi. Bu tür otonom yapay zeka ajanlarının potansiyeli inkar edilemez derecede dönüştürücü olsa da, kritik bir soruyu da gündeme getiriyor: Bu güç kötü niyetli ellere geçtiğinde ne olur? Bir ajan yetkisiz dosyalara erişmeye, zehirli web içeriğini işlemeye veya çoklu ajan iş akışında bozuk verilere körü körüne güvenmeye kandırılırsa ne olur?

Bu acil güvenlik endişeleri, GitHub'ın beğenilen Güvenli Kod Oyunu'nun 4. Sezonu ile ele almayı hedeflediği konulardır. Güvenlik eğitimini ilgi çekici ve erişilebilir kılma misyonu üzerine inşa edilen bu son yineleme, geliştiricilere ve güvenlik meraklılarına "yapay zeka ajanını hacklemeleri" ve böylece hayati ajan tabanlı yapay zeka güvenliği becerileri oluşturmaları için meydan okuyor.

Güvenli Kod Oyunu: Siber Güvenlik Becerileri İçin Gelişen Bir Platform

Mart 2023'teki başlangıcından bu yana, Güvenli Kod Oyunu benzersiz, editör içi bir öğrenme deneyimi sunarak oyuncuların kasıtlı olarak savunmasız kodları istismar etmelerini ve ardından düzeltmelerini sağladı. Temel felsefe – güvenlik eğitimini eğlenceli hale getirmek – tehdit ortamıyla birlikte gelişerek sabit kaldı.

  1. Sezon, geliştiricileri temel güvenli kodlama uygulamalarıyla tanıştırdı ve güvenlik açıklarını belirleme ve yamalama konusunda uygulamalı bir yaklaşım sundu. 2. Sezon, bu zorlukları çoklu yığın ortamlarını kapsayacak şekilde genişletti ve JavaScript, Python, Go ve GitHub Actions gibi popüler dillerde topluluk katkılarını teşvik etti. Yapay zekanın artan önemini fark eden 3. Sezon, Büyük Dil Modeli (BİT) güvenliğine odaklandı ve oyunculara kötü niyetli istekler oluşturmayı ve bunlara karşı savunma yapmayı öğretti. 10.000'den fazla geliştirici, teknoloji geliştikçe yeni zorluklara uyum sağlayarak güvenlik becerilerini keskinleştirmek için bu platformu kullandı.

Şimdi, yapay zeka kodlama asistanlarının ana akım haline gelmesi ve otonom yapay zeka ajanlarının araştırma prototiplerinden üretime geçmesiyle, 4. Sezon bir sonraki sınırı ele alıyor: ajan tabanlı yapay zeka sistemlerinin güvenliği. Otonom web taraması, API çağrıları ve çoklu ajan koordinasyonu yapabilen bu sistemler, özel anlayış ve savunma stratejileri gerektiren yeni bir saldırı vektörleri sınıfı sunuyor. Yapay zeka güvenliği temellerini daha derinlemesine anlamak isteyenler için, Ajan Tabanlı Yapay Zekayı Operasyonelleştirme: Bölüm 1 - Paydaş Kılavuzu gibi kaynakları keşfetmek değerli bir bağlam sağlayabilir.

Ajan Tabanlı Yapay Zeka Güvenliği Neden Kritik Bir Zorunluluktur?

Ajan tabanlı yapay zeka güvenliği eğitimine adanmış bir dönemin zamanlaması bir tesadüf değil. Otonom yapay zeka ajanlarının benimsenmesi hızlanıyor, ancak güvenlik hazırlığı kritik derecede geride kalıyor. Son endüstri raporları bu genişleyen boşluğu vurguluyor:

  • 100'den fazla güvenlik araştırmacısından gelen bilgilerle geliştirilen Ajan Tabanlı Uygulamalar için OWASP Top 10 2026, artık ajan hedefi ele geçirme, araç kötüye kullanımı, kimlik suiistimali ve bellek zehirlenmesi gibi tehditleri en önemli endişeler olarak listeliyor.
  • Dark Reading tarafından yapılan bir anket, siber güvenlik profesyonellerinin %48'inin ajan tabanlı yapay zekanın 2026'nın sonuna kadar birincil saldırı vektörü haline geleceğini tahmin ettiğini ortaya koydu.
  • Cisco'nun 2026 Yapay Zeka Güvenliği Durumu raporu, kuruluşların %83'ünün ajan tabanlı yapay zeka yeteneklerini dağıtmayı planladığını, ancak yalnızca %29'unun bunu güvenli bir şekilde yapmaya hazır hissettiğini alarm verici bir şekilde buldu.

Bu keskin eşitsizlik, güvenlik açıkları için verimli bir zemin oluşturuyor. Bu boşluğu kapatmanın ve sistemleri güçlendirmenin en etkili yolu, bir saldırgan gibi düşünmeyi öğrenmektir – Güvenli Kod Oyunu deneyiminin tamamını destekleyen bir prensip. Bu sistemleri nasıl istismar edeceğinizi anlamak, sağlam savunmalar inşa etmenin ilk adımıdır. Yapay zeka sistemlerini güvence altına almaya ilişkin daha fazla bilgiye İstek Enjeksiyonuna Direnen Ajanlar Tasarlamak hakkındaki tartışmalarda bulunabilir.

ProdBot ile Tanışın: Kasıtlı Olarak Güvenlik Açığı Olan Yapay Zeka Asistanınız

Güvenli Kod Oyunu'nun 4. Sezonu, oyuncuları terminaliniz için kasıtlı olarak güvenlik açığı olan, üretkenliğe odaklı bir yapay zeka asistanı olan ProdBot'u hedef alan bir saldırganın yerine koyuyor. OpenClaw ve GitHub Copilot CLI gibi gerçek dünya araçlarından ilham alan ProdBot, doğal dili bash komutlarına çevirir, simüle edilmiş bir web'de gezinir, MCP (Model Bağlam Protokolü) sunucularıyla etkileşime girer, onaylanmış becerileri yürütür, kalıcı belleği korur ve karmaşık çoklu ajan iş akışlarını düzenler.

Beş aşamalı seviyedeki oyuncunun görevi aldatıcı derecede basittir: ProdBot'u asla açığa çıkarmaması gereken bir sırrı – özellikle de password.txt dosyasının içeriğini – ifşa etmeye zorlamak için doğal dil komutlarını kullanmak. Bu dosyayı başarıyla almak, bir güvenlik açığının keşfedilmesi ve istismar edilmesi anlamına gelir. Önceden yapay zeka veya kodlama deneyimi gerekmez; tüm etkileşimler CLI içinde doğal dil aracılığıyla gerçekleştiğinden yalnızca merak ve denemeye isteklilik yeterlidir.

Aşamalı Güvenlik Açıkları: Ajan Tabanlı Saldırı Yüzeyinde Uzmanlaşma

Güvenli Kod Oyunu 4. Sezonu, yapay zeka destekli araçların gerçek dünyadaki evrimini yansıtacak şekilde yapılandırılmıştır. Beş seviyenin her biri ProdBot'a yeni yetenekler kazandırır ve aynı zamanda oyuncuların keşfetmesi ve istismar etmesi için yeni saldırı yüzeyleri ortaya çıkarır. Bu artan karmaşıklık, yapay zeka ajanları daha fazla özerklik ve erişim kazandıkça güvenlik açıklarının nasıl biriktiğini ve değiştiğini anlamalarına yardımcı olur.

İşte ProdBot'un evrimi ve ilgili güvenlik zorluklarının bir dökümü:

SeviyeProdBot'un Yeni YeteneğiSaldırı Yüzeyi ve Zorluk
1Sanallaştırılmış bir çalışma alanında Bash komut yürütme.Sanal alan ortamından dışarı çıkmak.
2Simüle edilmiş bir internete web erişimi.Güvenilmeyen web içeriğinin neden olduğu güvenlik açıklarını istismar etmek.
3Harici MCP sunucularına bağlantı (hisse senedi fiyatları, web taraması, bulut yedekleme).Araç entegrasyonunda ve harici hizmet etkileşiminde zayıflıkları belirlemek.
4Kuruluş onaylı beceriler ve kalıcı bellek.Güven katmanlarını atlamak, önceden oluşturulmuş eklentileri istismar etmek veya belleği manipüle etmek.
5Altı uzmanlaşmış ajan, üç MCP sunucusu, üç beceri ve simüle edilmiş bir açık kaynak projesi web sitesi düzenlemesi.Karmaşık bir çoklu ajan ortamında ajan sanallaştırması ve veri ön doğrulama iddialarını test etmek.

Bu ilerleme, ajan tabanlı yapay zeka güvenlik risklerinin sezgisel bir şekilde anlaşılmasını sağlamak için tasarlanmıştır. 4. Sezon'da ortaya çıkan saldırı modelleri teorik değildir; otonom yapay zeka sistemleri üretim ortamlarında dağıtılırken güvenlik ekiplerinin karşılaştığı gerçek dünya tehditlerini temsil ederler. Buna mükemmel bir örnek, CVE-2026-25253 (CVSS 8.8 – Yüksek), "ClawBleed" olarak adlandırılan, kötü niyetli bir bağlantı aracılığıyla saldırganların kimlik doğrulama belirteçlerini çalmasına ve bir OpenClaw örneğinin tam kontrolünü ele geçirmesine olanak tanıyan tek tıklamalı bir Uzaktan Kod Yürütme (RCE) güvenlik açığıdır.

Nihai hedef, yalnızca belirli bir istismarı keşfetmenin ötesine geçer. Bu, ajan mimarisini incelerken, araç entegrasyonlarını denetlerken veya ekibinizdeki bir yapay zeka asistanı için uygun özerklik seviyesini belirlerken bu tehlikeli modelleri tanıma yeteneği – doğal bir güvenlik içgüdüsü – geliştirmekle ilgilidir. Bu, Copilot Uygulamalı Bilimlerinde Ajan Odaklı Geliştirme hakkındaki tartışmalarda daha ayrıntılı olarak açıklanan daha güvenli ajan tabanlı iş akışları oluşturmayı anlamakla ilgilidir.

Başlayın ve Yapay Zeka Güvenliği İçgüdülerinizi Bugün Keskinleştirin

Güvenli Kod Oyunu'nun en çekici yönlerinden biri erişilebilirliğidir. Tüm deneyim GitHub Codespaces içinde çalışır ve herhangi bir yerel kurulum veya karmaşık yapılandırma ihtiyacını ortadan kaldırır. Codespaces tarafından ayda 60 saate kadar ücretsiz kullanım sağlanmasıyla, oyuncular iki dakikadan kısa sürede, tamamen ücretsiz olarak ProdBot'un terminaline dalabilirler. Her sezon bağımsızdır, bu da oyuncuların önceki sezonları tamamlamış olmalarına gerek kalmadan doğrudan 4. Sezona geçmelerini sağlar, ancak 3. Sezon genel yapay zeka güvenliği konusunda faydalı bir temel sunar.

Tek ihtiyacınız olan bir hacker zihniyeti ve denemeye isteklilik. Yapay zekanın geleceği giderek daha ajan tabanlı hale geliyor ve güvenlik etkilerini anlamak artık isteğe bağlı değil.

Yapay zeka ajanını hacklemeye ve ajan tabanlı yapay zeka güvenlik becerilerinizi geliştirmeye hazır mısınız? 4. Sezona şimdi başlayın >

GitHub Ürün Güvenliği Mühendisi Rahul Zhade'ye ve 3. Sezonun yaratıcısı Bartosz Gałek'e 4. Sezonu test etme ve iyileştirmeye yaptıkları değerli katkılarından dolayı özel teşekkürler.

Sık Sorulan Sorular

Do I need AI or coding experience to play Season 4 of the Secure Code Game?
No, prior AI or coding experience is not necessary to participate in Season 4 of the GitHub Secure Code Game. The entire experience is designed to be accessible through natural language interactions within a command-line interface (CLI). Players simply use plain English, or any preferred language, to prompt ProdBot, and the bot responds accordingly. The primary requirement is curiosity and a willingness to experiment. This approach allows developers, security professionals, and even those new to AI or programming to focus on developing crucial security instincts and understanding attack patterns, rather than getting bogged down in complex syntax or advanced AI concepts. The game teaches you to think like an attacker by exploring vulnerabilities through intuitive commands, making it an an engaging and effective learning tool for a broad audience.
Is it mandatory to complete previous seasons before diving into Season 4?
No, completing the previous seasons of the Secure Code Game is not a prerequisite for playing Season 4. Each season is designed to be self-contained, allowing players to jump directly into the latest challenges without prior knowledge of earlier content. However, it's worth noting that Season 3 specifically focused on Large Language Model (LLM) security, covering topics like crafting malicious prompts and defending against them. This foundation in general AI security can be quite beneficial for understanding the broader context of agentic AI vulnerabilities, as agentic systems often incorporate LLMs. While not required, players interested in building a comprehensive understanding of AI security might find Season 3 to be a helpful, though optional, preparatory experience, typically taking around 1.5 hours to complete.
What is the approximate duration required to complete Season 4?
The estimated time to complete Season 4 of the Secure Code Game is approximately two hours. However, this duration can vary significantly based on individual playstyle and depth of exploration. Some players might progress through the levels more quickly, while others may choose to delve deeper into each challenge, experimenting with multiple approaches to exploit vulnerabilities and understand the underlying mechanisms. The game encourages thorough exploration and a 'hacker mindset,' where trying different commands and pushing the boundaries of ProdBot's capabilities is part of the learning process. Therefore, players who engage in more extensive experimentation might spend more time, ultimately gaining a richer understanding of agentic AI security.
Is participation in the GitHub Secure Code Game Season 4 free of charge?
Yes, Season 4 of the Secure Code Game is completely free to play. It is an open-source initiative by GitHub, designed to provide accessible and engaging cybersecurity training. The game runs entirely within GitHub Codespaces, a cloud-based development environment that offers up to 60 hours of free usage per month. This means there's no need for players to install any software locally, configure complex development environments, or incur any costs related to the platform itself, as long as they stay within the free Codespaces tier. This setup makes it incredibly easy and cost-effective for anyone with a GitHub account to jump in and start honing their agentic AI security skills immediately, without financial barriers.
Are there any rate limits when playing Season 4, and how do they impact gameplay?
Yes, Season 4 of the Secure Code Game utilizes GitHub Models for its AI capabilities, which are subject to specific rate limits. These limits are in place to ensure responsible use of the underlying AI infrastructure and to prevent abuse. If a player encounters a rate limit during gameplay, ProdBot will inform them that they have temporarily exceeded the allowed number of requests. In such cases, the recommended action is to simply wait for the rate limit to reset, after which gameplay can be seamlessly resumed from where it left off. GitHub provides documentation on the responsible use of GitHub Models, including details on rate limits, to help players understand these operational parameters and plan their gameplay accordingly. This ensures a fair and sustainable environment for all participants.

Güncel Kalın

En son yapay zeka haberlerini e-postanıza alın.

Paylaş