Varnost AI
Varnost AI agentov: GitHubova igra Secure Code Game izostruje agentske spretnosti
Raziščite 4. sezono igre GitHub Secure Code Game, da si pridobite bistvene varnostne spretnosti agentske AI. Naučite se prepoznati in odpraviti ranljivosti v avtonomnih AI agentih, kot je ProdBot, v tem interaktivnem, brezplačnem usposabljanju.
Kompromitacija orodja za razvijalce Axios: OpenAI se odziva na napad na dobavno verigo
OpenAI obravnava varnostni incident, povezan s kompromitiranim orodjem za razvijalce Axios, in začenja rotacijo certifikatov aplikacij macOS. Uporabniški podatki ostajajo varni, podjetje pa poziva k posodobitvam za izboljšano varnost.
Claude Code avtomatski način: Varnejša dovoljenja, zmanjšana utrujenost
Avtomatski način Claude Code podjetja Anthropic revolucionira interakcije z AI agenti z izboljšanjem varnosti AI in odpravo 'utrujenosti od potrjevanja' preko inteligentnega upravljanja dovoljenj na podlagi modelov za razvijalce.
Nadzor domene za AI agente: Zavarovanje spletnega dostopa z AWS Network Firewall
Zavarujte spletni dostop AI agentov z AWS Network Firewall in Amazon Bedrock AgentCore. Implementirajte filtriranje na podlagi domen s seznami dovoljenih za izboljšano varnost in skladnost AI v podjetjih, s čimer zmanjšate tveganja, kot je injiciranje pozivov.
Agenti umetne inteligence: Upranje vbrizgavanju pozivov z socialnim inženiringom
Preberite, kako OpenAI razvija agente AI, da se upirajo naprednim napadom z vbrizgavanjem pozivov, z uporabo obrambnih strategij socialnega inženiringa, s čimer zagotavlja robustno varnost AI in zasebnost podatkov.
OpenAI prevzema Promptfoo za krepitev varnosti in testiranja AI
OpenAI krepi svoje zmožnosti varnosti AI s prevzemom Promptfoo, integrirajoč napredna orodja za testiranje in vrednotenje v OpenAI Frontier za zaščito uvedb AI v podjetjih.
Portal za zasebnost OpenAI: Poenostavljen nadzor nad uporabniškimi podatki
Novi portal za zasebnost OpenAI uporabnikom omogoča robusten nadzor nad podatki, kar jim dovoljuje upravljanje osebnih podatkov, nastavitev računa, preferenc za učenje modela in odstranjevanje informacij iz odzivov ChatGPT.
Varnost AI: Preprečevanje zlonamernih uporab AI
OpenAI podrobno opisuje strategije za preprečevanje zlonamernih uporab AI, pri čemer ponuja vpoglede iz nedavnih poročil o grožnjah. Spoznajte, kako akterji groženj kombinirajo AI s tradicionalnimi orodji za sofisticirane napade.