Code Velocity
AI Bezbednost

Bezbednost agentnog AI: GitHub-ova igra bezbednog koda izoštrava agentne veštine

·7 min čitanja·GitHub·Originalni izvor
Podeli
AfrikaansالعربيةAzərbaycanБългарскиবাংলাCatalàČeštinaDanskDeutschΕλληνικάEnglishEspañolEestiفارسیSuomiFilipinoFrançaisעבריתहिन्दीHrvatskiMagyarBahasa IndonesiaÍslenskaItaliano日本語ქართული한국어LietuviųLatviešuМакедонскиBahasa MelayuNederlandsNorskPolskiPortuguêsRomânăРусскийSlovenčinaSlovenščinaShqipСрпскиSvenskaKiswahiliதமிழ்ไทยTürkçeУкраїнськаاردوTiếng Việt中文
Stilizovana slika koja prikazuje pogled hakera na kod AI agenta, predstavljajući obuku iz bezbednosti agentnog AI unutar GitHub-ove igre bezbednog koda.

title: "Bezbednost agentnog AI: GitHub-ova igra bezbednog koda izoštrava agentne veštine" slug: "hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game" date: "2026-04-17" lang: "sr" source: "https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/" category: "AI Bezbednost" keywords:

  • Bezbednost agentnog AI
  • AI bezbednost
  • GitHub Secure Code Game
  • Obuka iz sajber bezbednosti
  • Sigurno kodiranje
  • OWASP Top 10 za agentne aplikacije
  • AI agenti
  • Procena ranjivosti
  • GitHub Codespaces
  • Bezbednosno obrazovanje
  • Bezbednost inženjeringa promptova
  • Bezbednosne veštine programera meta_description: "Istražite četvrtu sezonu GitHub-ove igre bezbednog koda da biste izgradili suštinske bezbednosne veštine agentnog AI. Naučite da identifikujete i ispravite ranjivosti u autonomnim AI agentima poput ProdBot-a u ovoj interaktivnoj, besplatnoj obuci." image: "/images/articles/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game.png" image_alt: "Stilizovana slika koja prikazuje pogled hakera na kod AI agenta, predstavljajući obuku iz bezbednosti agentnog AI unutar GitHub-ove igre bezbednog koda." quality_score: 94 content_score: 93 seo_score: 95 companies:
  • GitHub schema_type: "NewsArticle" reading_time: 7 faq:
  • question: "Da li mi je potrebno iskustvo sa AI-jem ili kodiranjem da bih igrao/la Sezonu 4 igre bezbednog koda?" answer: "Ne, prethodno iskustvo sa AI-jem ili kodiranjem nije neophodno za učešće u Sezoni 4 GitHub-ove igre bezbednog koda. Celokupno iskustvo je dizajnirano da bude dostupno putem interakcija prirodnim jezikom unutar interfejsa komandne linije (CLI). Igrači jednostavno koriste običan engleski, ili bilo koji preferirani jezik, da upute prompt ProdBot-u, a bot odgovara u skladu sa tim. Primarni zahtev je radoznalost i spremnost za eksperimentisanje. Ovaj pristup omogućava programerima, profesionalcima za bezbednost, pa čak i onima koji su novi u AI-ju ili programiranju, da se fokusiraju na razvoj ključnih bezbednosnih instinkata i razumevanje obrazaca napada, umesto da se opterećuju složenom sintaksom ili naprednim AI konceptima. Igra vas uči da razmišljate kao napadač istražujući ranjivosti putem intuitivnih komandi, čineći je zanimljivim i efikasnim alatom za učenje za široku publiku."
  • question: "Da li je obavezno završiti prethodne sezone pre nego što se pređe na Sezonu 4?" answer: "Ne, završetak prethodnih sezona Igre bezbednog koda nije preduslov za igranje Sezone 4. Svaka sezona je dizajnirana da bude samostalna, omogućavajući igračima da direktno uskoče u najnovije izazove bez prethodnog znanja o ranijim sadržajima. Međutim, vredi napomenuti da se Sezona 3 posebno fokusirala na bezbednost velikih jezičkih modela (LLM), pokrivajući teme poput kreiranja zlonamernih promptova i odbrane od njih. Ovaj temelj u opštoj bezbednosti AI može biti veoma koristan za razumevanje šireg konteksta ranjivosti agentnih AI, jer agentni sistemi često uključuju LLM-ove. Iako nije obavezno, igrači zainteresovani za izgradnju sveobuhvatnog razumevanja AI bezbednosti mogu smatrati da je Sezona 3 korisno, iako opciono, pripremno iskustvo, koje obično traje oko 1,5 sat da se završi."
  • question: "Koje je približno vreme potrebno za završetak Sezone 4?" answer: "Procena vremena za završetak Sezone 4 Igre bezbednog koda je približno dva sata. Međutim, ovo trajanje može značajno varirati u zavisnosti od individualnog stila igre i dubine istraživanja. Neki igrači mogu brže napredovati kroz nivoe, dok drugi mogu odlučiti da dublje zaronu u svaki izazov, eksperimentišući sa više pristupa za iskorišćavanje ranjivosti i razumevanje osnovnih mehanizama. Igra podstiče temeljno istraživanje i 'hakerski način razmišljanja', gde je isprobavanje različitih komandi i pomeranje granica ProdBot-ovih mogućnosti deo procesa učenja. Stoga, igrači koji se upuste u opsežnije eksperimentisanje mogu potrošiti više vremena, na kraju stičući bogatije razumevanje bezbednosti agentnog AI."
  • question: "Da li je učešće u GitHub-ovoj igri bezbednog koda Sezona 4 besplatno?" answer: "Da, Sezona 4 Igre bezbednog koda je potpuno besplatna za igranje. To je inicijativa otvorenog koda od strane GitHub-a, dizajnirana da pruži pristupačnu i angažujuću obuku iz sajber bezbednosti. Igra se u potpunosti odvija unutar GitHub Codespaces-a, razvojnog okruženja baziranog na oblaku koje nudi do 60 sati besplatnog korišćenja mesečno. To znači da igrači ne moraju da instaliraju nikakav softver lokalno, konfigurišu složena razvojna okruženja, niti da snose bilo kakve troškove u vezi sa samom platformom, sve dok se nalaze unutar besplatnog nivoa Codespaces-a. Ovo podešavanje čini neverovatno lakim i isplativim za svakoga ko ima GitHub nalog da odmah uskoči i počne da usavršava svoje bezbednosne veštine agentnog AI, bez finansijskih prepreka."
  • question: "Postoje li neka ograničenja stope zahteva prilikom igranja Sezone 4 i kako ona utiču na igru?" answer: "Da, Sezona 4 Igre bezbednog koda koristi GitHub modele za svoje AI mogućnosti, koji su podložni specifičnim ograničenjima stope zahteva. Ova ograničenja su postavljena kako bi se osigurala odgovorna upotreba osnovne AI infrastrukture i sprečila zloupotreba. Ako igrač naiđe na ograničenje stope tokom igre, ProdBot će ih obavestiti da su privremeno prekoračili dozvoljeni broj zahteva. U takvim slučajevima, preporučena radnja je jednostavno sačekati da se ograničenje stope resetuje, nakon čega se igra može neometano nastaviti od mesta gde je stala. GitHub pruža dokumentaciju o odgovornoj upotrebi GitHub modela, uključujući detalje o ograničenjima stope zahteva, kako bi pomogao igračima da razumeju ove operativne parametre i planiraju svoju igru u skladu sa tim. Ovo osigurava pravedno i održivo okruženje za sve učesnike."

## Bezbednost agentnog AI: Unapredite svoju odbranu uz GitHub-ovu igru bezbednog koda

Brza evolucija veštačke inteligencije nastavlja da preoblikuje naš digitalni pejzaž. Nedavno su alati poput OpenClaw-a, ličnog AI asistenta otvorenog koda, zaokupili maštu, obećavajući da će prazniti sandučiće e-pošte, upravljati kalendarima, pretraživati veb, pa čak i pisati sopstvene dodatke. Iako je potencijal takvih autonomnih AI agenata nesumnjivo transformativan, on takođe pokreće ključno pitanje: šta se dešava kada ova moć padne u zlonamerne ruke? Šta ako je agent prevaren da pristupi neovlašćenim datotekama, obrađuje zatrovani veb sadržaj ili slepo veruje korumpiranim podacima unutar radnog toka više agenata?

Ovi gorući bezbednosni problemi su upravo ono što GitHub želi da reši četvrtom sezonom svoje priznate Igre bezbednog koda. Nadovezujući se na svoju misiju da obuku iz bezbednosti učini zanimljivom i pristupačnom, ovo najnovije izdanje izaziva programere i bezbednosne entuzijaste da "hakuju AI agenta", čime se grade vitalne bezbednosne veštine agentnog AI.

## Igra bezbednog koda: Platforma koja se razvija za veštine sajber bezbednosti

Od svog osnivanja u martu 2023. godine, [Igra bezbednog koda](https://securitylab.github.com/secure-code-game/) nudi jedinstveno iskustvo učenja unutar editora gde igrači iskorišćavaju, a zatim popravljaju namerno ranjiv kod. Osnovna filozofija – učiniti obuku iz bezbednosti prijatnom – ostala je konstantna, razvijajući se paralelno sa pretnjama.

Sezona 1 je upoznala programere sa osnovnim praksama sigurnog kodiranja, nudeći praktičan pristup identifikaciji i krpljenju ranjivosti. Sezona 2 je proširila ove izazove na višestruka okruženja, podstičući doprinose zajednice kroz popularne jezike kao što su JavaScript, Python, Go i GitHub Actions. Prepoznajući sve veću važnost AI-ja, Sezona 3 se fokusirala na bezbednost velikih jezičkih modela (LLM), učeći igrače kako da kreiraju zlonamerne promptove i brane se od njih. Preko **10.000 programera** je iskoristilo ovu platformu da izoštri svoju bezbednosnu oštroumnost, prilagođavajući se novim izazovima kako tehnologija napreduje.

Sada, sa AI asistentima za kodiranje koji postaju uobičajeni i autonomnim AI agentima koji se premeštaju iz istraživačkih prototipova u proizvodnju, Sezona 4 se bavi sledećom granicom: bezbednošću agentnih AI sistema. Ovi sistemi, sposobni za autonomno pretraživanje veba, API pozive i koordinaciju više agenata, predstavljaju novu klasu vektora napada koji zahtevaju specijalizovano razumevanje i strategije odbrane. Za one koji žele da prodube svoje razumevanje osnova AI bezbednosti, istraživanje resursa kao što je [Operacionalizacija agentnog AI: Deo 1 - Vodič za zainteresovane strane](/sr/operationalizing-agentic-ai-part-1-a-stakeholders-guide) može pružiti dragocen kontekst.

## Zašto je bezbednost agentnog AI kritičan imperativ

Vreme za posvećenu obuku iz bezbednosti agentnog AI nije slučajno. Usvajanje autonomnih AI agenata se ubrzava, ali bezbednosna spremnost kritično zaostaje. Nedavni izveštaji industrije ističu ovaj sve veći jaz:

*   [OWASP Top 10 za agentne aplikacije 2026](https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/), razvijen uz uvid od preko 100 istraživača bezbednosti, sada navodi pretnje kao što su otmica cilja agenta, zloupotreba alata, zloupotreba identiteta i trovanje memorije kao glavne brige.
*   Anketa kompanije Dark Reading otkrila je da **48% profesionalaca za sajber bezbednost** očekuje da će agentni AI postati primarni vektor napada do kraja 2026. godine.
*   Cisco-ov izveštaj „State of AI Security 2026“ alarmantno je otkrio da dok 83% organizacija planira da primeni mogućnosti agentnog AI, samo 29% se oseća spremnim da to učini bezbedno.

Ova velika razlika stvara plodno tlo za ranjivosti. Najefikasniji način da se premosti ovaj jaz i ojačaju sistemi je učenje da se razmišlja kao napadač – princip koji podržava celo iskustvo Igre bezbednog koda. Razumevanje kako iskoristiti ove sisteme je prvi korak ka izgradnji robusne odbrane. Dodatni uvidi u obezbeđivanje AI sistema mogu se naći u diskusijama o [Projektovanju agenata da se odupru prompt injekciji](/sr/designing-agents-to-resist-prompt-injection).

## Predstavljamo ProdBot: Vaš namerno ranjiv AI asistent

Sezona 4 Igre bezbednog koda stavlja igrače u ulogu napadača koji cilja **ProdBot**, namerno ranjivog, produktivno orijentisanog AI asistenta za vaš terminal. Inspirisan stvarnim alatima kao što su OpenClaw i [GitHub Copilot CLI](https://github.com/features/copilot/cli), ProdBot prevodi prirodni jezik u bash komande, navigira simuliranim vebom, interaguje sa MCP (Model Context Protocol) serverima, izvršava odobrene veštine, održava trajnu memoriju i orkestrira složene radne tokove više agenata.

Misija igrača kroz pet progresivnih nivoa je varljivo jednostavna: koristite promptove prirodnog jezika da biste naterali ProdBota da otkrije tajnu koju nikada ne bi trebalo da izloži – konkretno, sadržaj `password.txt`. Uspešno preuzimanje ove datoteke signalizira otkrivanje i eksploataciju bezbednosne ranjivosti. Nije potrebno prethodno iskustvo sa AI-jem ili kodiranjem; potrebna je samo radoznalost i spremnost za eksperimentisanje, jer se sve interakcije odvijaju putem prirodnog jezika unutar CLI-ja.

## Progresivne ranjivosti: Ovladavanje površinom napada agentnog AI

Igra bezbednog koda Sezona 4 je strukturirana da odražava evoluciju alata zasnovanih na AI-ju u stvarnom svetu. Svaki od pet nivoa uvodi nove mogućnosti ProdBot-u, istovremeno izlažući nove površine napada koje igrači mogu otkriti i iskoristiti. Ova inkrementalna složenost pomaže igračima da razumeju kako se ranjivosti akumuliraju i menjaju kako AI agenti dobijaju veću autonomiju i pristup.

Evo pregleda evolucije ProdBot-a i odgovarajućih bezbednosnih izazova:

| Nivo | Nova mogućnost ProdBot-a | Površina napada i izazov |
| :---- | :----------------------- | :--------------------------- |
| **1** | Izvršavanje Bash komandi u izolovanom radnom okruženju (sandbox). | Izlazak iz izolovanog okruženja (sandbox). |
| **2** | Pristup vebu simuliranom internetu. | Eksploatacija ranjivosti uvedenih nepouzdanim veb sadržajem. |
| **3** | Povezivanje sa eksternim MCP serverima (berzanske kotacije, pretraživanje veba, rezervna kopija u oblaku). | Identifikacija slabosti u integraciji alata i interakciji sa eksternim servisima. |
| **4** | Veštine odobrene od strane organizacije i trajna memorija. | Zaobilaženje slojeva poverenja, eksploatacija ugrađenih dodataka ili manipulisanje memorijom. |
| **5** | Orkestracija šest specijalizovanih agenata, tri MCP servera, tri veštine i simuliranog veba projekta otvorenog koda. | Testiranje tvrdnji o izolaciji agenata (sandboxing) i prethodnoj verifikaciji podataka u složenom multi-agentnom okruženju. |

Ova progresija je dizajnirana da izgradi intuitivno razumevanje bezbednosnih rizika agentnog AI. Obrasci napada otkriveni u Sezoni 4 nisu teorijski; oni predstavljaju stvarne pretnje sa kojima se bezbednosni timovi trenutno suočavaju dok se autonomni AI sistemi primenjuju u proizvodnim okruženjima. Odličan primer je CVE-2026-25253 (CVSS 8.8 – Visoko), nazvan "ClawBleed", ranjivost izvršavanja daljinskog koda (RCE) jednim klikom koja je omogućila napadačima da ukradu tokene za autentifikaciju putem zlonamerne veze, stičući potpunu kontrolu nad instancom OpenClaw-a.

Krajnji cilj prevazilazi puko otkrivanje određenog eksploata. Radi se o kultivisanju inherentnog bezbednosnog instinkta – sposobnosti da se prepoznaju ovi opasni obrasci, bilo da se pregleda arhitektura agenta, vrši revizija integracije alata ili određuje odgovarajući nivo autonomije za AI asistenta u vašem timu. Radi se o razumevanju kako izgraditi sigurnije radne tokove agentnog AI, temu koja je detaljnije obrađena u diskusijama o [Razvoju vođenom agentima u Copilot Applied Science](/sr/agent-driven-development-in-copilot-applied-science).

## Počnite i izoštrite svoje AI bezbednosne instinkte već danas

Jedan od najprivlačnijih aspekata Igre bezbednog koda je njena pristupačnost. Celokupno iskustvo se odvija unutar [GitHub Codespaces](https://github.com/features/codespaces), eliminišući potrebu za bilo kakvim lokalnim instalacijama ili složenim konfiguracijama. Sa do 60 sati besplatnog korišćenja mesečno koje pruža Codespaces, igrači mogu zaroniti u ProdBot-ov terminal za manje od dva minuta, potpuno besplatno. Svaka sezona je samostalna, omogućavajući igračima da direktno uskoče u Sezonu 4 bez da su prethodno završili ranije, iako Sezona 3 nudi korisnu osnovu u opštoj bezbednosti AI.

Sve što vam treba je hakerski način razmišljanja i spremnost za eksperimentisanje. Budućnost AI-ja je sve više agentna, a razumevanje njenih bezbednosnih implikacija više nije opcija.

**Spremni da hakujete AI agenta i izgradite svoje bezbednosne veštine agentnog AI? [Započnite Sezonu 4 sada >](https://securitylab.github.com/secure-code-game/)**

*Posebna zahvalnost Rahulu Zhadeu, Staff Product Security Engineer u GitHub-u, i Bartoszu Gałeku, kreatoru Sezone 3, na njihovim neprocenjivim doprinosima testiranju i unapređenju Sezone 4.*

Originalni izvor

https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/

Često postavljana pitanja

Do I need AI or coding experience to play Season 4 of the Secure Code Game?
No, prior AI or coding experience is not necessary to participate in Season 4 of the GitHub Secure Code Game. The entire experience is designed to be accessible through natural language interactions within a command-line interface (CLI). Players simply use plain English, or any preferred language, to prompt ProdBot, and the bot responds accordingly. The primary requirement is curiosity and a willingness to experiment. This approach allows developers, security professionals, and even those new to AI or programming to focus on developing crucial security instincts and understanding attack patterns, rather than getting bogged down in complex syntax or advanced AI concepts. The game teaches you to think like an attacker by exploring vulnerabilities through intuitive commands, making it an an engaging and effective learning tool for a broad audience.
Is it mandatory to complete previous seasons before diving into Season 4?
No, completing the previous seasons of the Secure Code Game is not a prerequisite for playing Season 4. Each season is designed to be self-contained, allowing players to jump directly into the latest challenges without prior knowledge of earlier content. However, it's worth noting that Season 3 specifically focused on Large Language Model (LLM) security, covering topics like crafting malicious prompts and defending against them. This foundation in general AI security can be quite beneficial for understanding the broader context of agentic AI vulnerabilities, as agentic systems often incorporate LLMs. While not required, players interested in building a comprehensive understanding of AI security might find Season 3 to be a helpful, though optional, preparatory experience, typically taking around 1.5 hours to complete.
What is the approximate duration required to complete Season 4?
The estimated time to complete Season 4 of the Secure Code Game is approximately two hours. However, this duration can vary significantly based on individual playstyle and depth of exploration. Some players might progress through the levels more quickly, while others may choose to delve deeper into each challenge, experimenting with multiple approaches to exploit vulnerabilities and understand the underlying mechanisms. The game encourages thorough exploration and a 'hacker mindset,' where trying different commands and pushing the boundaries of ProdBot's capabilities is part of the learning process. Therefore, players who engage in more extensive experimentation might spend more time, ultimately gaining a richer understanding of agentic AI security.
Is participation in the GitHub Secure Code Game Season 4 free of charge?
Yes, Season 4 of the Secure Code Game is completely free to play. It is an open-source initiative by GitHub, designed to provide accessible and engaging cybersecurity training. The game runs entirely within GitHub Codespaces, a cloud-based development environment that offers up to 60 hours of free usage per month. This means there's no need for players to install any software locally, configure complex development environments, or incur any costs related to the platform itself, as long as they stay within the free Codespaces tier. This setup makes it incredibly easy and cost-effective for anyone with a GitHub account to jump in and start honing their agentic AI security skills immediately, without financial barriers.
Are there any rate limits when playing Season 4, and how do they impact gameplay?
Yes, Season 4 of the Secure Code Game utilizes GitHub Models for its AI capabilities, which are subject to specific rate limits. These limits are in place to ensure responsible use of the underlying AI infrastructure and to prevent abuse. If a player encounters a rate limit during gameplay, ProdBot will inform them that they have temporarily exceeded the allowed number of requests. In such cases, the recommended action is to simply wait for the rate limit to reset, after which gameplay can be seamlessly resumed from where it left off. GitHub provides documentation on the responsible use of GitHub Models, including details on rate limits, to help players understand these operational parameters and plan their gameplay accordingly. This ensures a fair and sustainable environment for all participants.

Будите у току

Примајте најновије AI вести на имејл.

Podeli