Code Velocity
Segurança de IA

Segurança de IA Agente: O Jogo de Código Seguro do GitHub Aprimora Habilidades Agentes

·7 min de leitura·GitHub·Fonte original
Compartilhar
Uma imagem estilizada mostrando a visão de um hacker do código de um agente de IA, representando o treinamento de segurança de IA agente dentro do Jogo de Código Seguro do GitHub.

title: "Segurança de IA Agente: O Jogo de Código Seguro do GitHub Aprimora Habilidades Agentes" slug: "hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game" date: "2026-04-17" lang: "pt" source: "https://github.blog/security/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game/" category: "Segurança de IA" keywords:

  • Segurança de IA Agente
  • Segurança de IA
  • Jogo de Código Seguro do GitHub
  • Treinamento em cibersegurança
  • Codificação segura
  • OWASP Top 10 para Aplicações Agentes
  • Agentes de IA
  • Avaliação de vulnerabilidades
  • GitHub Codespaces
  • Educação em segurança
  • Segurança em engenharia de prompt
  • Habilidades de segurança para desenvolvedores meta_description: "Explore a Temporada 4 do Jogo de Código Seguro do GitHub para construir habilidades essenciais de segurança de IA agente. Aprenda a identificar e corrigir vulnerabilidades em agentes de IA autônomos como o ProdBot neste treinamento interativo e gratuito." image: "/images/articles/hack-the-ai-agent-build-agentic-ai-security-skills-with-the-github-secure-code-game.png" image_alt: "Uma imagem estilizada mostrando a visão de um hacker do código de um agente de IA, representando o treinamento de segurança de IA agente dentro do Jogo de Código Seguro do GitHub." quality_score: 94 content_score: 93 seo_score: 95 companies:
  • GitHub schema_type: "NewsArticle" reading_time: 7 faq:
  • question: "Preciso de experiência em IA ou codificação para jogar a Temporada 4 do Jogo de Código Seguro?" answer: "Não, experiência prévia em IA ou codificação não é necessária para participar da Temporada 4 do Jogo de Código Seguro do GitHub. Toda a experiência é projetada para ser acessível através de interações em linguagem natural dentro de uma interface de linha de comando (CLI). Os jogadores simplesmente usam inglês simples, ou qualquer idioma preferido, para interagir com o ProdBot, e o bot responde de acordo. O principal requisito é a curiosidade e a disposição para experimentar. Essa abordagem permite que desenvolvedores, profissionais de segurança e até mesmo aqueles novos em IA ou programação se concentrem no desenvolvimento de instintos de segurança cruciais e na compreensão de padrões de ataque, em vez de se perderem em sintaxe complexa ou conceitos avançados de IA. O jogo ensina a pensar como um atacante, explorando vulnerabilidades através de comandos intuitivos, tornando-o uma ferramenta de aprendizado envolvente e eficaz para um público amplo."
  • question: "É obrigatório completar as temporadas anteriores antes de mergulhar na Temporada 4?" answer: "Não, completar as temporadas anteriores do Jogo de Código Seguro não é um pré-requisito para jogar a Temporada 4. Cada temporada é projetada para ser autônoma, permitindo que os jogadores mergulhem diretamente nos desafios mais recentes sem conhecimento prévio do conteúdo anterior. No entanto, vale a pena notar que a Temporada 3 focou especificamente na segurança de Large Language Model (LLM), cobrindo tópicos como a criação de prompts maliciosos e a defesa contra eles. Essa base em segurança geral de IA pode ser bastante benéfica para entender o contexto mais amplo das vulnerabilidades de IA agente, já que os sistemas agentes frequentemente incorporam LLMs. Embora não seja obrigatório, os jogadores interessados em construir uma compreensão abrangente da segurança de IA podem achar a Temporada 3 uma experiência preparatória útil, embora opcional, que geralmente leva cerca de 1,5 horas para ser concluída."
  • question: "Qual é a duração aproximada necessária para completar a Temporada 4?" answer: "O tempo estimado para completar a Temporada 4 do Jogo de Código Seguro é de aproximadamente duas horas. No entanto, essa duração pode variar significativamente com base no estilo de jogo individual e na profundidade da exploração. Alguns jogadores podem progredir pelos níveis mais rapidamente, enquanto outros podem optar por aprofundar-se em cada desafio, experimentando várias abordagens para explorar vulnerabilidades e entender os mecanismos subjacentes. O jogo incentiva a exploração minuciosa e uma 'mentalidade de hacker', onde tentar diferentes comandos e ultrapassar os limites das capacidades do ProdBot faz parte do processo de aprendizado. Portanto, os jogadores que se envolvem em experimentação mais extensa podem gastar mais tempo, obtendo, em última análise, uma compreensão mais rica da segurança de IA agente."
  • question: "A participação no Jogo de Código Seguro do GitHub Temporada 4 é gratuita?" answer: "Sim, a Temporada 4 do Jogo de Código Seguro é totalmente gratuita para jogar. É uma iniciativa de código aberto do GitHub, projetada para fornecer treinamento acessível e envolvente em cibersegurança. O jogo funciona inteiramente dentro do GitHub Codespaces, um ambiente de desenvolvimento baseado em nuvem que oferece até 60 horas de uso gratuito por mês. Isso significa que não há necessidade de os jogadores instalarem qualquer software localmente, configurarem ambientes de desenvolvimento complexos ou incorrerem em quaisquer custos relacionados à própria plataforma, desde que permaneçam dentro do nível gratuito do Codespaces. Essa configuração torna incrivelmente fácil e econômica para qualquer pessoa com uma conta GitHub entrar e começar a aprimorar suas habilidades de segurança de IA agente imediatamente, sem barreiras financeiras."
  • question: "Existem limites de taxa ao jogar a Temporada 4, e como eles impactam a jogabilidade?" answer: "Sim, a Temporada 4 do Jogo de Código Seguro utiliza os GitHub Models para suas capacidades de IA, que estão sujeitos a limites de taxa específicos. Esses limites estão em vigor para garantir o uso responsável da infraestrutura de IA subjacente e para evitar abusos. Se um jogador encontrar um limite de taxa durante o jogo, o ProdBot os informará de que excederam temporariamente o número permitido de solicitações. Nesses casos, a ação recomendada é simplesmente esperar que o limite de taxa seja redefinido, após o qual a jogabilidade pode ser retomada sem problemas de onde parou. O GitHub fornece documentação sobre o uso responsável dos GitHub Models, incluindo detalhes sobre limites de taxa, para ajudar os jogadores a entender esses parâmetros operacionais e planejar sua jogabilidade de acordo. Isso garante um ambiente justo e sustentável para todos os participantes."

Segurança de IA Agente: Aprimore Sua Defesa com o Jogo de Código Seguro do GitHub

A rápida evolução da inteligência artificial continua a remodelar nosso cenário digital. Recentemente, ferramentas como OpenClaw, um assistente pessoal de IA de código aberto, capturaram a imaginação, prometendo limpar caixas de entrada, gerenciar calendários, navegar na web e até mesmo escrever seus próprios plugins. Embora o potencial de tais agentes de IA autônomos seja inegavelmente transformador, ele também acende uma questão crítica: o que acontece quando esse poder cai em mãos maliciosas? E se um agente for enganado para acessar arquivos não autorizados, processar conteúdo web envenenado ou confiar cegamente em dados corrompidos dentro de um fluxo de trabalho multiagente?

Essas preocupações prementes de segurança são precisamente o que o GitHub visa abordar com a Temporada 4 de seu aclamado Jogo de Código Seguro. Baseado em sua missão de tornar o treinamento de segurança envolvente e acessível, esta última iteração desafia desenvolvedores e entusiastas de segurança a "hackear o agente de IA", construindo assim habilidades vitais de segurança de IA agente.

O Jogo de Código Seguro: Uma Plataforma em Evolução para Habilidades de Cibersegurança

Desde sua concepção em março de 2023, o Jogo de Código Seguro oferece uma experiência de aprendizado única no editor, onde os jogadores exploram e depois corrigem código intencionalmente vulnerável. A filosofia central — tornar o treinamento de segurança agradável — permaneceu constante, evoluindo junto com o cenário de ameaças.

A Temporada 1 introduziu os desenvolvedores às práticas fundamentais de codificação segura, oferecendo uma abordagem prática para identificar e corrigir vulnerabilidades. A Temporada 2 expandiu esses desafios para abranger ambientes multi-stack, promovendo contribuições da comunidade em linguagens populares como JavaScript, Python, Go e GitHub Actions. Reconhecendo a crescente proeminência da IA, a Temporada 3 se voltou para a segurança de Large Language Model (LLM), ensinando os jogadores a criar e defender-se contra prompts maliciosos. Mais de 10.000 desenvolvedores utilizaram esta plataforma para aprimorar sua perspicácia em segurança, adaptando-se a novos desafios à medida que a tecnologia avança.

Agora, com assistentes de codificação de IA se tornando mainstream e agentes de IA autônomos passando de protótipos de pesquisa para produção, a Temporada 4 aborda a próxima fronteira: a segurança de sistemas de IA agentes. Esses sistemas, capazes de navegação web autônoma, chamadas de API e coordenação multiagente, apresentam uma nova classe de vetores de ataque que exigem compreensão especializada e estratégias de defesa. Para aqueles que buscam aprofundar sua compreensão dos fundamentos da segurança de IA, explorar recursos como Operationalizing Agentic AI: Part 1 - A Stakeholder's Guide pode fornecer um contexto valioso.

Por Que a Segurança de IA Agente é um Imperativo Crítico

O momento para um treinamento dedicado em segurança de IA agente não é coincidência. A adoção de agentes de IA autônomos está acelerando, mas a prontidão de segurança está criticamente atrasada. Relatórios recentes da indústria destacam essa lacuna crescente:

  • O OWASP Top 10 para Aplicações Agentes 2026, desenvolvido com insights de mais de 100 pesquisadores de segurança, agora lista ameaças como sequestro de objetivos de agentes, uso indevido de ferramentas, abuso de identidade e envenenamento de memória como as principais preocupações.
  • Uma pesquisa da Dark Reading revelou que 48% dos profissionais de cibersegurança preveem que a IA agente se tornará o principal vetor de ataque até o final de 2026.
  • O relatório State of AI Security 2026 da Cisco alarmantemente descobriu que, embora 83% das organizações planejem implantar capacidades de IA agente, apenas 29% se sentem preparadas para fazê-lo com segurança.

Essa disparidade acentuada cria terreno fértil para vulnerabilidades. A maneira mais eficaz de preencher essa lacuna e fortalecer os sistemas é aprender a pensar como um atacante – um princípio que fundamenta toda a experiência do Jogo de Código Seguro. Entender como explorar esses sistemas é o primeiro passo para construir defesas robustas. Mais informações sobre a segurança de sistemas de IA podem ser encontradas em discussões sobre Designing Agents to Resist Prompt Injection.

Apresentando ProdBot: Seu Assistente de IA Deliberadamente Vulnerável

A Temporada 4 do Jogo de Código Seguro coloca os jogadores no lugar de um atacante que visa o ProdBot, um assistente de IA deliberadamente vulnerável e focado na produtividade para o seu terminal. Inspirado em ferramentas do mundo real como OpenClaw e GitHub Copilot CLI, o ProdBot traduz linguagem natural em comandos bash, navega em uma web simulada, interage com servidores MCP (Model Context Protocol), executa habilidades aprovadas, mantém memória persistente e orquestra fluxos de trabalho complexos multiagentes.

A missão do jogador em cinco níveis progressivos é enganosamente simples: usar prompts de linguagem natural para coagir o ProdBot a revelar um segredo que ele nunca deveria expor – especificamente, o conteúdo de password.txt. Recuperar este arquivo com sucesso significa a descoberta e exploração de uma vulnerabilidade de segurança. Nenhuma experiência prévia em IA ou codificação é necessária; apenas curiosidade e disposição para experimentar são necessárias, pois todas as interações ocorrem através de linguagem natural dentro da CLI.

Vulnerabilidades Progressivas: Dominando a Superfície de Ataque Agente

A Temporada 4 do Jogo de Código Seguro é estruturada para espelhar a evolução real de ferramentas impulsionadas por IA. Cada um dos cinco níveis introduz novas capacidades ao ProdBot, expondo simultaneamente novas superfícies de ataque para os jogadores descobrirem e explorarem. Essa complexidade incremental ajuda os jogadores a entender como as vulnerabilidades se acumulam e mudam à medida que os agentes de IA ganham mais autonomia e acesso.

Aqui está um detalhamento da evolução do ProdBot e dos desafios de segurança correspondentes:

NívelNova Capacidade do ProdBotSuperfície de Ataque e Desafio
1Execução de comandos Bash em um espaço de trabalho isolado (sandbox).Sair do ambiente sandbox.
2Acesso à web para uma internet simulada.Explorar vulnerabilidades introduzidas por conteúdo web não confiável.
3Conexão a servidores MCP externos (cotações de ações, navegação web, backup em nuvem).Identificar pontos fracos na integração de ferramentas e na interação de serviços externos.
4Habilidades aprovadas pela organização e memória persistente.Ignorar camadas de confiança, explorar plugins pré-construídos ou manipular a memória.
5Orquestração de seis agentes especializados, três servidores MCP, três habilidades e uma web de projeto de código aberto simulada.Testar alegações de isolamento de agentes (sandboxing) e pré-verificação de dados em um ambiente multiagente complexo.

Essa progressão é projetada para construir uma compreensão intuitiva dos riscos de segurança de IA agente. Os padrões de ataque descobertos na Temporada 4 não são teóricos; eles representam as ameaças do mundo real que as equipes de segurança enfrentam atualmente à medida que os sistemas de IA autônomos são implantados em ambientes de produção. Um excelente exemplo é o CVE-2026-25253 (CVSS 8.8 – Alto), apelidado de "ClawBleed", uma vulnerabilidade de Execução Remota de Código (RCE) de um clique que permitia que atacantes roubassem tokens de autenticação através de um link malicioso, obtendo controle total de uma instância do OpenClaw.

O objetivo final se estende além de meramente descobrir um exploit específico. Trata-se de cultivar um instinto de segurança inerente – a capacidade de reconhecer esses padrões perigosos, seja revisando a arquitetura de um agente, auditando integrações de ferramentas ou determinando o nível apropriado de autonomia para um assistente de IA em sua equipe. Trata-se de entender como construir fluxos de trabalho agentes mais seguros, um tópico mais elaborado em discussões sobre Agent-Driven Development in Copilot Applied Science.

Comece e Aprimore Seus Instintos de Segurança de IA Hoje

Um dos aspectos mais atraentes do Jogo de Código Seguro é sua acessibilidade. Toda a experiência funciona dentro do GitHub Codespaces, eliminando a necessidade de qualquer instalação local ou configurações complexas. Com até 60 horas de uso gratuito por mês fornecidas pelo Codespaces, os jogadores podem mergulhar no terminal do ProdBot em menos de dois minutos, completamente grátis. Cada temporada é autônoma, permitindo que os jogadores saltem diretamente para a Temporada 4 sem ter completado as anteriores, embora a Temporada 3 ofereça uma base útil em segurança geral de IA.

Tudo o que você precisa é uma mentalidade de hacker e disposição para experimentar. O futuro da IA é cada vez mais agente, e entender suas implicações de segurança não é mais opcional.

Pronto para hackear o agente de IA e construir suas habilidades de segurança de IA agente? Comece a Temporada 4 agora >

Agradecimentos especiais a Rahul Zhade, Engenheiro de Segurança de Produto Sênior no GitHub, e Bartosz Gałek, criador da Temporada 3, por suas inestimáveis contribuições para o teste e aprimoramento da Temporada 4.

Perguntas Frequentes

Do I need AI or coding experience to play Season 4 of the Secure Code Game?
No, prior AI or coding experience is not necessary to participate in Season 4 of the GitHub Secure Code Game. The entire experience is designed to be accessible through natural language interactions within a command-line interface (CLI). Players simply use plain English, or any preferred language, to prompt ProdBot, and the bot responds accordingly. The primary requirement is curiosity and a willingness to experiment. This approach allows developers, security professionals, and even those new to AI or programming to focus on developing crucial security instincts and understanding attack patterns, rather than getting bogged down in complex syntax or advanced AI concepts. The game teaches you to think like an attacker by exploring vulnerabilities through intuitive commands, making it an an engaging and effective learning tool for a broad audience.
Is it mandatory to complete previous seasons before diving into Season 4?
No, completing the previous seasons of the Secure Code Game is not a prerequisite for playing Season 4. Each season is designed to be self-contained, allowing players to jump directly into the latest challenges without prior knowledge of earlier content. However, it's worth noting that Season 3 specifically focused on Large Language Model (LLM) security, covering topics like crafting malicious prompts and defending against them. This foundation in general AI security can be quite beneficial for understanding the broader context of agentic AI vulnerabilities, as agentic systems often incorporate LLMs. While not required, players interested in building a comprehensive understanding of AI security might find Season 3 to be a helpful, though optional, preparatory experience, typically taking around 1.5 hours to complete.
What is the approximate duration required to complete Season 4?
The estimated time to complete Season 4 of the Secure Code Game is approximately two hours. However, this duration can vary significantly based on individual playstyle and depth of exploration. Some players might progress through the levels more quickly, while others may choose to delve deeper into each challenge, experimenting with multiple approaches to exploit vulnerabilities and understand the underlying mechanisms. The game encourages thorough exploration and a 'hacker mindset,' where trying different commands and pushing the boundaries of ProdBot's capabilities is part of the learning process. Therefore, players who engage in more extensive experimentation might spend more time, ultimately gaining a richer understanding of agentic AI security.
Is participation in the GitHub Secure Code Game Season 4 free of charge?
Yes, Season 4 of the Secure Code Game is completely free to play. It is an open-source initiative by GitHub, designed to provide accessible and engaging cybersecurity training. The game runs entirely within GitHub Codespaces, a cloud-based development environment that offers up to 60 hours of free usage per month. This means there's no need for players to install any software locally, configure complex development environments, or incur any costs related to the platform itself, as long as they stay within the free Codespaces tier. This setup makes it incredibly easy and cost-effective for anyone with a GitHub account to jump in and start honing their agentic AI security skills immediately, without financial barriers.
Are there any rate limits when playing Season 4, and how do they impact gameplay?
Yes, Season 4 of the Secure Code Game utilizes GitHub Models for its AI capabilities, which are subject to specific rate limits. These limits are in place to ensure responsible use of the underlying AI infrastructure and to prevent abuse. If a player encounters a rate limit during gameplay, ProdBot will inform them that they have temporarily exceeded the allowed number of requests. In such cases, the recommended action is to simply wait for the rate limit to reset, after which gameplay can be seamlessly resumed from where it left off. GitHub provides documentation on the responsible use of GitHub Models, including details on rate limits, to help players understand these operational parameters and plan their gameplay accordingly. This ensures a fair and sustainable environment for all participants.

Fique Atualizado

Receba as últimas novidades de IA no seu e-mail.

Compartilhar