title: "Seguretat dels agents d'IA: El Secure Code Game de GitHub perfecciona les habilitats agentives" slug: "hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game" date: "2026-04-17" lang: "ca" source: "https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/" category: "Seguretat de la IA" keywords:
- Seguretat d'IA agentiva
- Seguretat d'IA
- GitHub Secure Code Game
- Formació en ciberseguretat
- Codificació segura
- OWASP Top 10 per a Aplicacions Agentives
- Agents d'IA
- Avaluació de vulnerabilitats
- GitHub Codespaces
- Educació en seguretat
- Seguretat de l'enginyeria de prompts
- Habilitats de seguretat per a desenvolupadors meta_description: "Explora la Temporada 4 del Secure Code Game de GitHub per desenvolupar habilitats essencials en seguretat d'IA agentiva. Aprèn a identificar i corregir vulnerabilitats en agents d'IA autònoms com ProdBot en aquesta formació interactiva i gratuïta." image: "/images/articles/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game.png" image_alt: "Una imatge estilitzada que mostra la vista d'un hacker del codi d'un agent d'IA, representant la formació en seguretat d'IA agentiva dins del GitHub Secure Code Game." quality_score: 94 content_score: 93 seo_score: 95 companies:
- GitHub schema_type: "NewsArticle" reading_time: 7 faq:
- question: "Cal tenir experiència en IA o codificació per jugar a la Temporada 4 del Secure Code Game?" answer: "No, no cal tenir experiència prèvia en IA o codificació per participar a la Temporada 4 del GitHub Secure Code Game. Tota l'experiència està dissenyada per ser accessible mitjançant interaccions en llenguatge natural dins d'una interfície de línia de comandes (CLI). Els jugadors simplement utilitzen l'anglès senzill, o qualsevol idioma preferit, per interactuar amb ProdBot, i el bot respon en conseqüència. El requisit principal és la curiositat i la voluntat d'experimentar. Aquest enfocament permet als desenvolupadors, professionals de la seguretat i fins i tot aquells nous en IA o programació centrar-se en el desenvolupament d'instints de seguretat crucials i la comprensió dels patrons d'atac, en lloc d'embolicar-se en sintaxis complexes o conceptes avançats d'IA. El joc t'ensenya a pensar com un atacant explorant vulnerabilitats mitjançant ordres intuïtives, convertint-lo en una eina d'aprenentatge atractiva i efectiva per a una àmplia audiència."
- question: "És obligatori completar les temporades anteriors abans de començar la Temporada 4?" answer: "No, completar les temporades anteriors del Secure Code Game no és un requisit previ per jugar a la Temporada 4. Cada temporada està dissenyada per ser autònoma, permetent als jugadors endinsar-se directament en els darrers reptes sense coneixements previs del contingut anterior. No obstant això, val la pena assenyalar que la Temporada 3 es va centrar específicament en la seguretat dels Models de Llenguatge Grans (LLM), cobrint temes com la creació de prompts maliciosos i la defensa contra ells. Aquesta base en seguretat d'IA general pot ser força beneficiosa per comprendre el context més ampli de les vulnerabilitats d'IA agentiva, ja que els sistemes agentius sovint incorporen LLM. Encara que no és obligatori, els jugadors interessats en construir una comprensió completa de la seguretat d'IA podrien trobar que la Temporada 3 és una experiència preparatòria útil, encara que opcional, que sol durar aproximadament 1.5 hores."
- question: "Quina és la durada aproximada per completar la Temporada 4?" answer: "El temps estimat per completar la Temporada 4 del Secure Code Game és d'aproximadament dues hores. No obstant això, aquesta durada pot variar significativament segons l'estil de joc individual i la profunditat de l'exploració. Alguns jugadors podrien avançar pels nivells més ràpidament, mentre que altres podrien optar per aprofundir en cada repte, experimentant amb múltiples enfocaments per explotar vulnerabilitats i comprendre els mecanismes subjacents. El joc fomenta una exploració exhaustiva i una 'mentalitat de hacker,' on provar diferents ordres i superar els límits de les capacitats de ProdBot forma part del procés d'aprenentatge. Per tant, els jugadors que participen en una experimentació més àmplia podrien dedicar més temps, obtenint finalment una comprensió més rica de la seguretat d'IA agentiva."
- question: "La participació a la Temporada 4 del GitHub Secure Code Game és gratuïta?" answer: "Sí, la Temporada 4 del Secure Code Game és totalment gratuïta. És una iniciativa de codi obert de GitHub, dissenyada per proporcionar una formació en ciberseguretat accessible i atractiva. El joc s'executa íntegrament dins de GitHub Codespaces, un entorn de desenvolupament basat en el núvol que ofereix fins a 60 hores d'ús gratuït al mes. Això significa que els jugadors no necessiten instal·lar cap programari localment, configurar entorns de desenvolupament complexos o incórrer en cap cost relacionat amb la plataforma en si, sempre que es mantinguin dins del nivell gratuït de Codespaces. Aquesta configuració fa que sigui increïblement fàcil i rendible per a qualsevol persona amb un compte de GitHub entrar i començar a perfeccionar les seves habilitats de seguretat d'IA agentiva immediatament, sense barreres financeres."
- question: "Hi ha límits de taxa quan es juga a la Temporada 4, i com afecten la jugabilitat?" answer: "Sí, la Temporada 4 del Secure Code Game utilitza Models de GitHub per a les seves capacitats d'IA, els quals estan subjectes a límits de taxa específics. Aquests límits estan en vigor per garantir un ús responsable de la infraestructura d'IA subjacent i per prevenir l'abús. Si un jugador es troba amb un límit de taxa durant el joc, ProdBot els informarà que han superat temporalment el nombre permès de sol·licituds. En aquests casos, l'acció recomanada és simplement esperar que el límit de taxa es reiniciï, després de la qual cosa el joc es podrà reprendre sense problemes des d'on s'havia deixat. GitHub proporciona documentació sobre l'ús responsable dels Models de GitHub, incloent detalls sobre els límits de taxa, per ajudar els jugadors a comprendre aquests paràmetres operatius i planificar el seu joc en conseqüència. Això garanteix un entorn just i sostenible per a tots els participants."
Seguretat d'IA Agentiva: Potencia la teva Defensa amb el Secure Code Game de GitHub
La ràpida evolució de la intel·ligència artificial continua remodelant el nostre panorama digital. Recentment, eines com OpenClaw, un assistent personal d'IA de codi obert, han captivat la imaginació, prometent buidar safates d'entrada, gestionar calendaris, navegar per la web i fins i tot escriure els seus propis connectors. Tot i que el potencial d'aquests agents d'IA autònoms és innegablement transformador, també encén una pregunta crítica: què passa quan aquest poder cau en mans malicioses? Què passa si un agent és enganyat per accedir a fitxers no autoritzats, processa contingut web enverinat o confia cegament en dades corruptes dins d'un flux de treball multiagent?
Aquestes preocupacions de seguretat urgents són precisament el que GitHub pretén abordar amb la Temporada 4 del seu aclamat Secure Code Game. Basant-se en la seva missió de fer que la formació en seguretat sigui atractiva i accessible, aquesta darrera iteració desafia els desenvolupadors i entusiastes de la seguretat a "hackejar l'agent d'IA", construint així habilitats vitals de seguretat d'IA agentiva.
El Secure Code Game: Una Plataforma en Evolució per a Habilitats de Ciberseguretat
Des de la seva creació el març de 2023, el Secure Code Game ha ofert una experiència d'aprenentatge única, directament a l'editor, on els jugadors exploten i després corregeixen codi intencionadament vulnerable. La filosofia central —fer que la formació en seguretat sigui amena— s'ha mantingut constant, evolucionant al costat del panorama d'amenaces.
La Temporada 1 va introduir els desenvolupadors a les pràctiques fonamentals de codificació segura, oferint un enfocament pràctic per identificar i corregir vulnerabilitats. La Temporada 2 va ampliar aquests reptes per incloure entorns multi-stack, fomentant contribucions de la comunitat en llenguatges populars com JavaScript, Python, Go i GitHub Actions. Reconeixent la creixent importància de la IA, la Temporada 3 es va centrar en la seguretat dels Models de Llenguatge Grans (LLM), ensenyant als jugadors a crear i defensar-se contra prompts maliciosos. Més de 10.000 desenvolupadors han aprofitat aquesta plataforma per millorar la seva agudesa en seguretat, adaptant-se als nous reptes a mesura que la tecnologia avança.
Ara, amb els assistents de codificació d'IA cada vegada més comuns i els agents d'IA autònoms passant dels prototips de recerca a la producció, la Temporada 4 aborda la següent frontera: la seguretat dels sistemes d'IA agentiva. Aquests sistemes, capaços de navegació web autònoma, crides a l'API i coordinació multiagent, presenten una nova classe de vectors d'atac que exigeixen una comprensió i estratègies de defensa especialitzades. Per a aquells que volen aprofundir en la seva comprensió dels fonaments de la seguretat d'IA, explorar recursos com Operativitzant la IA Agentiva: Part 1 - Una Guia per a Parts Interessades pot proporcionar un context valuós.
Per què la Seguretat d'IA Agentiva és un Imperatiu Crític
El moment per a una formació dedicada a la seguretat d'IA agentiva no és una coincidència. L'adopció d'agents d'IA autònoms s'està accelerant, però la preparació en seguretat queda críticament endarrerida. Informes recents de la indústria destaquen aquesta bretxa creixent:
- El OWASP Top 10 per a Aplicacions Agentives 2026, desenvolupat amb aportacions de més de 100 investigadors de seguretat, ara enumera amenaces com el segrest d'objectius d'agents, l'ús indegut d'eines, l'abús d'identitat i l'enverinament de la memòria com a principals preocupacions.
- Una enquesta de Dark Reading va revelar que el 48% dels professionals de la ciberseguretat preveuen que la IA agentiva es convertirà en el vector d'atac principal a finals de 2026.
- L'informe "State of AI Security 2026" de Cisco va trobar de manera alarmant que, tot i que el 83% de les organitzacions planegen desplegar capacitats d'IA agentiva, només el 29% se senten preparades per fer-ho de manera segura.
Aquesta crua disparitat crea un terreny fèrtil per a les vulnerabilitats. La manera més efectiva d'escurçar aquesta bretxa i endurir els sistemes és aprendre a pensar com un atacant – un principi que sustenta tota l'experiència del Secure Code Game. Entendre com explotar aquests sistemes és el primer pas cap a la construcció de defenses robustes. Es poden trobar més idees sobre la seguretat dels sistemes d'IA en discussions al voltant de Dissenyar Agents per Resistir la Injecció de Prompts.
Presentem ProdBot: el teu Assistent d'IA Deliberadament Vulnerable
La Temporada 4 del Secure Code Game posa els jugadors en la pell d'un atacant que té com a objectiu ProdBot, un assistent d'IA deliberadament vulnerable i enfocat a la productivitat per al teu terminal. Inspirat en eines del món real com OpenClaw i GitHub Copilot CLI, ProdBot tradueix el llenguatge natural en ordres bash, navega per una web simulada, interactua amb servidors MCP (Model Context Protocol), executa habilitats aprovades, manté una memòria persistent i orquestra fluxos de treball multiagent complexos.
La missió del jugador a través de cinc nivells progressius és enganyosament senzilla: utilitzar prompts en llenguatge natural per obligar ProdBot a revelar un secret que mai hauria d'exposar – concretament, el contingut de password.txt. La recuperació reeixida d'aquest fitxer significa el descobriment i l'explotació d'una vulnerabilitat de seguretat. No es requereix experiència prèvia en IA o codificació; només cal curiositat i ganes d'experimentar, ja que totes les interaccions es produeixen a través del llenguatge natural dins de la CLI.
Vulnerabilitats Progressives: Dominant la Superfície d'Atac Agentiva
El Secure Code Game Temporada 4 està estructurat per reflectir l'evolució en el món real de les eines impulsades per IA. Cadascun dels cinc nivells introdueix noves capacitats a ProdBot, exposant simultàniament noves superfícies d'atac perquè els jugadors les descobreixin i explotin. Aquesta complexitat incremental ajuda els jugadors a comprendre com s'acumulen i es desplacen les vulnerabilitats a mesura que els agents d'IA guanyen més autonomia i accés.
Aquí teniu un desglossament de l'evolució de ProdBot i els reptes de seguretat corresponents:
| Nivell | Nova Capacitat de ProdBot | Superfície d'Atac i Repte |
|---|---|---|
| 1 | Execució d'ordres Bash en un espai de treball aïllat. | Sortir de l'entorn aïllat (sandbox). |
| 2 | Accés web a una internet simulada. | Explotar vulnerabilitats introduïdes per contingut web no fiable. |
| 3 | Connexió a servidors MCP externs (cotitzacions borsàries, navegació web, còpia de seguretat al núvol). | Identificar debilitats en la integració d'eines i la interacció amb serveis externs. |
| 4 | Habilitats aprovades per l'organització i memòria persistent. | Saltar capes de confiança, explotar plugins preconstruïts o manipular la memòria. |
| 5 | Orquestració de sis agents especialitzats, tres servidors MCP, tres habilitats i una web de projecte de codi obert simulada. | Provar les afirmacions de sandboxing d'agents i la pre-verificació de dades en un entorn multiagent complex. |
Aquesta progressió està dissenyada per construir una comprensió intuïtiva dels riscos de seguretat de la IA agentiva. Els patrons d'atac descoberts a la Temporada 4 no són teòrics; representen les amenaces del món real a les quals s'enfronten actualment els equips de seguretat a mesura que els sistemes d'IA autònoms es despleguen en entorns de producció. Un exemple clau és CVE-2026-25253 (CVSS 8.8 – Alta), anomenada "ClawBleed", una vulnerabilitat d'execució remota de codi (RCE) d'un sol clic que permetia als atacants robar tokens d'autenticació mitjançant un enllaç maliciós, obtenint el control total d'una instància d'OpenClaw.
L'objectiu final va més enllà de simplement descobrir un exploit específic. Es tracta de cultivar un instint de seguretat inherent – la capacitat de reconèixer aquests patrons perillosos ja sigui revisant l'arquitectura d'un agent, auditant integracions d'eines o determinant el nivell adequat d'autonomia per a un assistent d'IA al teu equip. Es tracta d'entendre com construir fluxos de treball agentius més segurs, un tema que s'elabora amb més detall en les discussions sobre Desenvolupament Orientat a Agents en Copilot Applied Science.
Comença i Perfecciona els Teus Instints de Seguretat d'IA Avui Mateix
Un dels aspectes més atractius del Secure Code Game és la seva accessibilitat. Tota l'experiència s'executa dins de GitHub Codespaces, eliminant la necessitat de qualsevol instal·lació local o configuració complexa. Amb fins a 60 hores d'ús gratuït al mes proporcionades per Codespaces, els jugadors poden endinsar-se en el terminal de ProdBot en menys de dos minuts, de forma totalment gratuïta. Cada temporada és autònoma, permetent als jugadors saltar directament a la Temporada 4 sense haver completat les anteriors, tot i que la Temporada 3 ofereix una base útil en seguretat general d'IA.
Tot el que necessites és una mentalitat de hacker i la voluntat d'experimentar. El futur de la IA és cada cop més agentiu, i entendre les seves implicacions de seguretat ja no és opcional.
Estàs preparat per hackejar l'agent d'IA i construir les teves habilitats de seguretat d'IA agentiva? Comença la Temporada 4 ara >
Agraïments especials a Rahul Zhade, Enginyer de Seguretat de Productes a GitHub, i Bartosz Gałek, creador de la Temporada 3, per les seves inestimables contribucions en la prova i millora de la Temporada 4.
Font original
https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/Preguntes freqüents
Do I need AI or coding experience to play Season 4 of the Secure Code Game?
Is it mandatory to complete previous seasons before diving into Season 4?
What is the approximate duration required to complete Season 4?
Is participation in the GitHub Secure Code Game Season 4 free of charge?
Are there any rate limits when playing Season 4, and how do they impact gameplay?
Manteniu-vos al dia
Rebeu les últimes notícies d'IA al correu.
