Code Velocity
Bezpečnost AI

Bezpečnost AI agentů: Hra GitHub Secure Code Game zdokonaluje agentní dovednosti

·7 min čtení·GitHub·Původní zdroj
Sdílet
Stylizovaný obrázek ukazující pohled hackera na kód AI agenta, představující školení v oblasti bezpečnosti agentní AI v rámci hry GitHub Secure Code Game.

title: "Bezpečnost AI agentů: Hra GitHub Secure Code Game zdokonaluje agentní dovednosti" slug: "hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game" date: "2026-04-17" lang: "cs" source: "https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/" category: "Bezpečnost AI" keywords:

  • Bezpečnost agentní AI
  • Bezpečnost AI
  • GitHub Secure Code Game
  • Školení kybernetické bezpečnosti
  • Bezpečné kódování
  • OWASP Top 10 pro agentní aplikace
  • AI agenti
  • Posouzení zranitelnosti
  • GitHub Codespaces
  • Vzdělávání v oblasti bezpečnosti
  • Bezpečnost prompt engineeringu
  • Bezpečnostní dovednosti vývojářů meta_description: "Prozkoumejte 4. sezónu hry GitHub Secure Code Game a rozvíjejte klíčové bezpečnostní dovednosti pro agentní AI. Naučte se identifikovat a opravovat zranitelnosti v autonomních AI agentech, jako je ProdBot, v tomto interaktivním a bezplatném školení." image: "/images/articles/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game.png" image_alt: "Stylizovaný obrázek ukazující pohled hackera na kód AI agenta, představující školení v oblasti bezpečnosti agentní AI v rámci hry GitHub Secure Code Game." quality_score: 94 content_score: 93 seo_score: 95 companies:
  • GitHub schema_type: "NewsArticle" reading_time: 7 faq:
  • question: "Potřebuji zkušenosti s AI nebo kódováním, abych mohl(a) hrát 4. sezónu Secure Code Game?" answer: "Ne, předchozí zkušenosti s AI nebo kódováním nejsou nutné k účasti ve 4. sezóně GitHub Secure Code Game. Celý zážitek je navržen tak, aby byl přístupný prostřednictvím interakcí v přirozeném jazyce v rámci rozhraní příkazového řádku (CLI). Hráči jednoduše používají běžnou angličtinu nebo jakýkoli preferovaný jazyk k zadávání pokynů ProdBotovi a bot odpovídá. Primárním požadavkem je zvídavost a ochota experimentovat. Tento přístup umožňuje vývojářům, bezpečnostním profesionálům a dokonce i těm, kteří jsou v AI nebo programování noví, soustředit se na rozvoj klíčových bezpečnostních instinktů a pochopení útočných vzorců, namísto aby se zasekli v komplexní syntaxi nebo pokročilých konceptech AI. Hra vás učí myslet jako útočník prozkoumáváním zranitelností prostřednictvím intuitivních příkazů, což z ní činí poutavý a efektivní výukový nástroj pro široké publikum."
  • question: "Je povinné dokončit předchozí sezóny předtím, než se ponoříte do 4. sezóny?" answer: "Ne, dokončení předchozích sezón Secure Code Game není předpokladem pro hraní 4. sezóny. Každá sezóna je navržena tak, aby byla samostatná, což hráčům umožňuje skočit přímo do nejnovějších výzev bez předchozí znalosti staršího obsahu. Stojí však za zmínku, že 3. sezóna se konkrétně zaměřila na bezpečnost velkých jazykových modelů (LLM), pokrývající témata jako vytváření škodlivých promptů a obranu proti nim. Tento základ v obecné bezpečnosti AI může být docela přínosný pro pochopení širšího kontextu zranitelností agentní AI, protože agentní systémy často zahrnují LLM. I když to není povinné, hráči, kteří mají zájem o komplexní pochopení bezpečnosti AI, mohou shledat 3. sezónu užitečnou, byť volitelnou, přípravnou zkušeností, která obvykle trvá asi 1,5 hodiny."
  • question: "Jaká je přibližná doba potřebná k dokončení 4. sezóny?" answer: "Odhadovaná doba k dokončení 4. sezóny Secure Code Game je přibližně dvě hodiny. Tato doba se však může značně lišit v závislosti na individuálním herním stylu a hloubce průzkumu. Někteří hráči mohou projít úrovněmi rychleji, zatímco jiní se mohou rozhodnout ponořit hlouběji do každé výzvy, experimentovat s více přístupy k zneužití zranitelností a pochopení základních mechanismů. Hra podporuje důkladný průzkum a 'hackerské myšlení', kde zkoušení různých příkazů a posouvání hranic schopností ProdBota je součástí procesu učení. Proto hráči, kteří se zapojí do rozsáhlejšího experimentování, mohou strávit více času a nakonec získat bohatší pochopení bezpečnosti agentní AI."
  • question: "Je účast v GitHub Secure Code Game 4. sezóně zdarma?" answer: "Ano, 4. sezóna Secure Code Game je zcela zdarma. Jedná se o open-source iniciativu GitHubu, navrženou tak, aby poskytovala přístupné a poutavé školení v oblasti kybernetické bezpečnosti. Hra běží zcela v rámci GitHub Codespaces, cloudového vývojového prostředí, které nabízí až 60 hodin bezplatného používání měsíčně. To znamená, že hráči nemusí lokálně instalovat žádný software, konfigurovat složitá vývojová prostředí ani nést žádné náklady související se samotnou platformou, pokud zůstanou v bezplatné úrovni Codespaces. Toto nastavení umožňuje komukoli s účtem GitHub neuvěřitelně snadno a nákladově efektivně se zapojit a okamžitě začít zdokonalovat své bezpečnostní dovednosti pro agentní AI, bez finančních překážek."
  • question: "Existují nějaké omezení četnosti požadavků (rate limits) při hraní 4. sezóny a jak ovlivňují hru?" answer: "Ano, 4. sezóna Secure Code Game využívá GitHub Models pro své AI schopnosti, které podléhají specifickým omezením četnosti požadavků (rate limits). Tato omezení jsou zavedena k zajištění zodpovědného používání základní AI infrastruktury a k prevenci zneužití. Pokud se hráč během hry setká s omezením četnosti požadavků, ProdBot ho informuje, že dočasně překročil povolený počet požadavků. V takových případech je doporučeným krokem jednoduše počkat, až se omezení četnosti požadavků resetuje, po čemž lze hru plynule obnovit tam, kde skončila. GitHub poskytuje dokumentaci k zodpovědnému používání GitHub Models, včetně podrobností o omezeních četnosti požadavků, aby pomohl hráčům pochopit tyto provozní parametry a podle toho si naplánovat hru. To zajišťuje spravedlivé a udržitelné prostředí pro všechny účastníky."

Bezpečnost agentní AI: Zlepšete svou obranu s hrou GitHub Secure Code Game

Rychlý vývoj umělé inteligence neustále přetváří naši digitální krajinu. Nedávno nástroje jako OpenClaw, open-source osobní AI asistent, uchvátily představivost slibem vyčištění schránek, správy kalendářů, procházení webu a dokonce i psaní vlastních pluginů. Zatímco potenciál takových autonomních AI agentů je nesporně transformační, vyvolává také zásadní otázku: co se stane, když se tato moc dostane do zlých rukou? Co když je agent podveden k přístupu k neautorizovaným souborům, zpracovává otrávený webový obsah nebo slepě důvěřuje zkorumpovaným datům v rámci pracovního postupu s více agenty?

Tyto naléhavé bezpečnostní obavy jsou přesně tím, co se GitHub snaží řešit 4. sezónou své uznávané hry Secure Code Game. Navazujíc na své poslání učinit bezpečnostní školení poutavým a přístupným, tato nejnovější iterace vyzývá vývojáře a bezpečnostní nadšence, aby 'hacknuli AI agenta', a tím si vybudovali zásadní bezpečnostní dovednosti pro agentní AI.

Secure Code Game: Vyvíjející se platforma pro kyberbezpečnostní dovednosti

Od svého vzniku v březnu 2023 nabízí Secure Code Game unikátní výukový zážitek přímo v editoru, kde hráči zneužívají a následně opravují záměrně zranitelný kód. Základní filozofie – učinit bezpečnostní školení zábavným – zůstává konstantní a vyvíjí se spolu s krajinou hrozeb.

  1. sezóna seznámila vývojáře se základními praktikami bezpečného kódování a nabídla praktický přístup k identifikaci a opravě zranitelností. 2. sezóna rozšířila tyto výzvy o prostředí s více zásobníky, čímž podpořila komunitní příspěvky napříč populárními jazyky jako JavaScript, Python, Go a GitHub Actions. S ohledem na rostoucí význam AI se 3. sezóna zaměřila na bezpečnost velkých jazykových modelů (LLM), učí hráče, jak vytvářet škodlivé prompty a bránit se proti nim. Více než 10 000 vývojářů využilo tuto platformu k zostření svého bezpečnostního rozhledu, přizpůsobujíc se novým výzvám s pokrokem technologie.

Nyní, když se AI kódovací asistenti stávají běžnou záležitostí a autonomní AI agenti se přesouvají z výzkumných prototypů do produkce, 4. sezóna se zabývá další hranicí: bezpečností agentních AI systémů. Tyto systémy, schopné autonomního procházení webu, volání API a koordinace s více agenty, představují novou třídu vektorů útoku, které vyžadují specializované pochopení a obranné strategie. Pro ty, kteří chtějí prohloubit své porozumění základům bezpečnosti AI, mohou cenný kontext poskytnout zdroje jako Zprovoznění agentní AI: Část 1 - Průvodce pro zúčastněné strany.

Proč je bezpečnost agentní AI kritickým imperativem

Načasování specializovaného školení bezpečnosti agentní AI není náhodné. Přijetí autonomních AI agentů se zrychluje, ale bezpečnostní připravenost kriticky zaostává. Nedávné zprávy z oboru zdůrazňují tuto rostoucí mezeru:

  • Žebříček OWASP Top 10 pro agentní aplikace 2026, vyvinutý s poznatky od více než 100 bezpečnostních výzkumníků, nyní uvádí hrozby jako únos cíle agenta, zneužití nástrojů, zneužití identity a otravu paměti jako hlavní obavy.
  • Průzkum Dark Reading odhalil, že 48 % profesionálů v oblasti kybernetické bezpečnosti očekává, že agentní AI se stane hlavním útočným vektorem do konce roku 2026.
  • Zpráva Cisco 'State of AI Security 2026' alarmujícím způsobem zjistila, že zatímco 83 % organizací plánuje nasadit schopnosti agentní AI, pouhých 29 % se cítí připraveno učinit tak bezpečně.

Tato výrazná disproporce vytváří úrodnou půdu pro zranitelnosti. Nejúčinnějším způsobem, jak tuto mezeru překlenout a posílit systémy, je naučit se myslet jako útočník – princip, který je základem celého zážitku Secure Code Game. Pochopení, jak tyto systémy zneužívat, je prvním krokem k budování robustní obrany. Další poznatky o zabezpečení systémů AI lze nalézt v diskusích o Navrhování agentů odolných vůči injekci promptů.

Představujeme ProdBota: Vašeho záměrně zranitelného AI asistenta

  1. sezóna Secure Code Game staví hráče do role útočníka, který se zaměřuje na ProdBota, záměrně zranitelného AI asistenta zaměřeného na produktivitu pro váš terminál. Inspirován skutečnými nástroji jako OpenClaw a GitHub Copilot CLI, ProdBot překládá přirozený jazyk do bash příkazů, prochází simulovaným webem, interaguje se servery MCP (Model Context Protocol), provádí schválené dovednosti, udržuje trvalou paměť a orchestrálně řídí složité pracovní postupy s více agenty.

Mise hráče napříč pěti progresivními úrovněmi je klamně jednoduchá: použít prompty v přirozeném jazyce k přinucení ProdBota, aby odhalil tajemství, které by nikdy neměl zveřejnit – konkrétně obsah souboru password.txt. Úspěšné získání tohoto souboru signalizuje objevení a zneužití bezpečnostní zranitelnosti. Nejsou vyžadovány žádné předchozí zkušenosti s AI nebo kódováním; je potřeba pouze zvídavost a ochota experimentovat, neboť všechny interakce probíhají v přirozeném jazyce v rámci CLI.

Progresivní zranitelnosti: Ovládnutí útočné plochy agentní AI

Secure Code Game 4. sezóna je strukturována tak, aby odrážela reálný vývoj nástrojů poháněných AI. Každá z pěti úrovní představuje nové schopnosti pro ProdBota, současně odhalující nové útočné plochy, které mohou hráči objevit a zneužít. Tato inkrementální složitost pomáhá hráčům pochopit, jak se zranitelnosti hromadí a mění, když AI agenti získávají větší autonomii a přístup.

Zde je přehled vývoje ProdBota a souvisejících bezpečnostních výzev:

ÚroveňNová schopnost ProdBotaÚtočná plocha a výzva
1Spouštění bash příkazů v izolovaném pracovním prostoru.Uniknout z izolovaného prostředí.
2Přístup k simulovanému internetu přes web.Zneužít zranitelnosti zavedené nedůvěryhodným webovým obsahem.
3Připojení k externím serverům MCP (burzovní kurzy, procházení webu, cloudové zálohování).Identifikovat slabiny v integraci nástrojů a interakci s externími službami.
4Organizací schválené dovednosti a trvalá paměť.Obejít vrstvy důvěry, zneužít předpřipravené pluginy nebo manipulovat s pamětí.
5Orchestrace šesti specializovaných agentů, tří serverů MCP, tří dovedností a simulovaného webu open-source projektu.Otestovat tvrzení o sandboxing agentů a předběžném ověřování dat ve složitém prostředí s více agenty.

Tento postup je navržen tak, aby vybudoval intuitivní pochopení rizik bezpečnosti agentní AI. Útočné vzorce odhalené ve 4. sezóně nejsou teoretické; představují reálné hrozby, kterým bezpečnostní týmy v současnosti čelí, když jsou autonomní systémy AI nasazovány do produkčních prostředí. Hlavním příkladem je CVE-2026-25253 (CVSS 8.8 – High), nazvaná 'ClawBleed', zranitelnost typu Remote Code Execution (RCE) na jedno kliknutí, která útočníkům umožnila krást ověřovací tokeny prostřednictvím škodlivého odkazu a získat plnou kontrolu nad instancí OpenClaw.

Konečným cílem je víc než pouhé odhalení konkrétního exploitu. Jde o kultivaci vrozeného bezpečnostního instinktu – schopnosti rozpoznat tyto nebezpečné vzorce, ať už při revizi architektury agenta, auditu integrací nástrojů nebo při určování vhodné úrovně autonomie pro AI asistenta ve vašem týmu. Jde o pochopení toho, jak budovat bezpečnější agentní pracovní postupy, téma dále rozvedené v diskusích o Vývoji řízeném agenty v aplikované vědě Copilot.

Začněte a zdokonalte své bezpečnostní instinkty pro AI ještě dnes

Jedním z nejatraktivnějších aspektů Secure Code Game je její dostupnost. Celý zážitek běží v rámci GitHub Codespaces, čímž eliminuje potřebu lokálních instalací nebo složitých konfigurací. S až 60 hodinami bezplatného používání měsíčně poskytovanými Codespaces se hráči mohou ponořit do terminálu ProdBota za méně než dvě minuty, zcela zdarma. Každá sezóna je samostatná, což hráčům umožňuje skočit přímo do 4. sezóny, aniž by museli dokončit ty předchozí, ačkoli 3. sezóna nabízí užitečný základ v obecné bezpečnosti AI.

Vše, co potřebujete, je 'hackerské myšlení' a ochota experimentovat. Budoucnost AI je stále více agentní a pochopení jejích bezpečnostních dopadů již není volitelné.

Jste připraveni 'hacknout AI agenta' a vybudovat si své bezpečnostní dovednosti pro agentní AI? Začněte 4. sezónu nyní >

Zvláštní poděkování Rahulovi Zhadeovi, Staff Product Security Engineer v GitHubu, a Bartoszovi Gałekovi, tvůrci 3. sezóny, za jejich neocenitelné příspěvky k testování a vylepšování 4. sezóny.

Často kladené dotazy

Do I need AI or coding experience to play Season 4 of the Secure Code Game?
No, prior AI or coding experience is not necessary to participate in Season 4 of the GitHub Secure Code Game. The entire experience is designed to be accessible through natural language interactions within a command-line interface (CLI). Players simply use plain English, or any preferred language, to prompt ProdBot, and the bot responds accordingly. The primary requirement is curiosity and a willingness to experiment. This approach allows developers, security professionals, and even those new to AI or programming to focus on developing crucial security instincts and understanding attack patterns, rather than getting bogged down in complex syntax or advanced AI concepts. The game teaches you to think like an attacker by exploring vulnerabilities through intuitive commands, making it an an engaging and effective learning tool for a broad audience.
Is it mandatory to complete previous seasons before diving into Season 4?
No, completing the previous seasons of the Secure Code Game is not a prerequisite for playing Season 4. Each season is designed to be self-contained, allowing players to jump directly into the latest challenges without prior knowledge of earlier content. However, it's worth noting that Season 3 specifically focused on Large Language Model (LLM) security, covering topics like crafting malicious prompts and defending against them. This foundation in general AI security can be quite beneficial for understanding the broader context of agentic AI vulnerabilities, as agentic systems often incorporate LLMs. While not required, players interested in building a comprehensive understanding of AI security might find Season 3 to be a helpful, though optional, preparatory experience, typically taking around 1.5 hours to complete.
What is the approximate duration required to complete Season 4?
The estimated time to complete Season 4 of the Secure Code Game is approximately two hours. However, this duration can vary significantly based on individual playstyle and depth of exploration. Some players might progress through the levels more quickly, while others may choose to delve deeper into each challenge, experimenting with multiple approaches to exploit vulnerabilities and understand the underlying mechanisms. The game encourages thorough exploration and a 'hacker mindset,' where trying different commands and pushing the boundaries of ProdBot's capabilities is part of the learning process. Therefore, players who engage in more extensive experimentation might spend more time, ultimately gaining a richer understanding of agentic AI security.
Is participation in the GitHub Secure Code Game Season 4 free of charge?
Yes, Season 4 of the Secure Code Game is completely free to play. It is an open-source initiative by GitHub, designed to provide accessible and engaging cybersecurity training. The game runs entirely within GitHub Codespaces, a cloud-based development environment that offers up to 60 hours of free usage per month. This means there's no need for players to install any software locally, configure complex development environments, or incur any costs related to the platform itself, as long as they stay within the free Codespaces tier. This setup makes it incredibly easy and cost-effective for anyone with a GitHub account to jump in and start honing their agentic AI security skills immediately, without financial barriers.
Are there any rate limits when playing Season 4, and how do they impact gameplay?
Yes, Season 4 of the Secure Code Game utilizes GitHub Models for its AI capabilities, which are subject to specific rate limits. These limits are in place to ensure responsible use of the underlying AI infrastructure and to prevent abuse. If a player encounters a rate limit during gameplay, ProdBot will inform them that they have temporarily exceeded the allowed number of requests. In such cases, the recommended action is to simply wait for the rate limit to reset, after which gameplay can be seamlessly resumed from where it left off. GitHub provides documentation on the responsible use of GitHub Models, including details on rate limits, to help players understand these operational parameters and plan their gameplay accordingly. This ensures a fair and sustainable environment for all participants.

Buďte v obraze

Dostávejte nejnovější AI zprávy do schránky.

Sdílet