Securitate AI
Agenți AI: Rezistând Injecției de Prompt Prin Inginerie Socială
Află cum OpenAI proiectează agenți AI pentru a rezista atacurilor avansate de injecție de prompt, utilizând strategii de apărare bazate pe ingineria socială, asigurând o securitate AI robustă și confidențialitatea datelor.
OpenAI achiziționează Promptfoo pentru a consolida securitatea și testarea AI
OpenAI își consolidează capacitățile de securitate AI prin achiziționarea Promptfoo, integrând instrumentele sale avansate de testare și evaluare în OpenAI Frontier pentru a securiza implementările AI în întreprinderi.
Securitate bazată pe AI: Cadrul Open-Source al GitHub pentru Scanarea Vulnerabilităților
Explorează Taskflow Agent de la GitHub Security Lab, un cadru open-source, bazat pe AI, revoluționar pentru scanarea îmbunătățită a vulnerabilităților. Află cum să implementezi acest instrument pentru a descoperi eficient vulnerabilități de securitate cu impact ridicat în proiectele tale.
Portalul de Confidențialitate OpenAI: Control Simplificat al Datelor Utilizatorilor
Noul Portal de Confidențialitate OpenAI oferă utilizatorilor un control solid asupra datelor, permițând gestionarea datelor personale, a setărilor contului, a preferințelor de antrenare a modelului și eliminarea informațiilor din răspunsurile ChatGPT.
Acordul OpenAI cu Departamentul de Război: Asigurarea Balizelor de Siguranță AI
OpenAI detaliază acordul său de referință cu Departamentul de Război, stabilind balize robuste de siguranță AI împotriva supravegherii interne și a armelor autonome, stabilind un nou standard pentru tehnologia de apărare.
Anthropic sfidează Secretarul Războiului privind AI, invocând drepturi și siguranță
Anthropic sfidează desemnarea Departamentului Războiului ca risc pentru lanțul de aprovizionare, menținându-și poziția fermă asupra utilizării etice a AI, interzicând supravegherea internă în masă și armele autonome nesigure.
Anthropic Expune Atacurile de Distilare ale DeepSeek și MiniMax
Anthropic dezvăluie că DeepSeek, Moonshot și MiniMax au derulat 16 milioane de schimburi ilicite pentru a distila capacitățile Claude. Cum au funcționat atacurile și de ce sunt importante.