OpenAI prevzema Promptfoo za krepitev varnosti AI v podjetjih

San Francisco, Kalifornija – 10. marec 2026 – V pomembni potezi za krepitev varnosti in zanesljivosti umetne inteligence na ravni podjetij, je OpenAI danes objavil prevzem Promptfoo, vodilne varnostne platforme za AI. Ta strateški prevzem bo integriral napredne zmožnosti testiranja in vrednotenja Promptfoo neposredno v OpenAI Frontier, namensko platformo podjetja za gradnjo in upravljanje sodelavcev AI. Prevzem, ki čaka na običajne pogoje za zaključek, pomeni ključen korak pri obravnavi naraščajoče potrebe po robustni varnosti AI, saj organizacije vse pogosteje uvajajo sofisticirane agente AI v realne poslovne delovne tokove.

Ker sistemi AI, zlasti agentska AI, postajajo bolj avtonomni in globoko vgrajeni v kritične operacije, so se izzivi vrednotenja, varnosti in skladnosti povečali. Podjetja potrebujejo sistematične metodologije za temeljito testiranje vedenja agentov, prepoznavanje potencialnih tveganj pred uvedbo in vzdrževanje celovitih evidenc za stalni nadzor, upravljanje in odgovornost. Promptfoo, priznan po svojem močnem naboru orodij, ki mu zaupa več kot 25 odstotkov podjetij s seznama Fortune 500, ponuja prav te zmožnosti, skupaj s široko sprejetim odprtokodnim vmesnikom ukazne vrstice (CLI) in knjižnico za vrednotenje in 'red-teaming' aplikacij velikih jezikovnih modelov (LLM).

Integracija naprednega testiranja varnosti AI v OpenAI Frontier

Glavni cilj tega prevzema je brezhibno vključiti sofisticirane varnostne funkcije Promptfoo v OpenAI Frontier. OpenAI Frontier je zasnovan tako, da podjetjem omogoča učinkovit razvoj in upravljanje sodelavcev AI, ta integracija pa bo bistveno izboljšala njegovo temeljno varnostno držo. Srinivas Narayanan, tehnični direktor za B2B aplikacije pri OpenAI, je poudaril strateški pomen: »Promptfoo prinaša globoko inženirsko znanje in izkušnje pri vrednotenju, varovanju in testiranju sistemov AI na podjetniški ravni. Njihovo delo pomaga podjetjem uvajati varne in zanesljive aplikacije AI, in veseli smo, da bomo te zmožnosti vključili neposredno v Frontier.«

Integracija se bo osredotočila na več kritičnih področij in preoblikovala način, kako podjetja pristopajo k razvoju in uvajanju AI:

Ključne izboljšave iz integracije Promptfoo

Področje funkcij	Opis	Koristi za podjetja
Izvorno testiranje varnosti in zaščite	Avtomatizirano testiranje varnosti in zmožnosti 'red-teaminga', vgrajene neposredno v platformo Frontier.	Proaktivno prepoznavanje in odpravljanje tveganj, kot so vbrizgavanje pozivov, prebijanje varnostnih mehanizmov, uhajanje podatkov in zloraba orodij pred uvedbo.
Integrirani razvojni delovni tokovi	Globoka integracija varnostnih in evalvacijskih orodij znotraj življenjskega cikla razvoja AI.	Omogoča zgodnejše odkrivanje, preiskovanje in odpravljanje tveganj agentov, s čimer varnost postane osrednji del razvoja.
Izboljšan nadzor in odgovornost	Integrirane funkcije poročanja in sledljivosti za celovito dokumentacijo in spremljanje sistemov AI.	Podpira robustne zahteve upravljanja, obvladovanja tveganj in skladnosti (GRC), zagotavlja jasne revizijske sledi in preglednost.
Odprtokodna kontinuiteta	Nadaljevanje razvoja in vzdrževanja odprtokodnega CLI in knjižnice Promptfoo.	Spodbuja inovacije v skupnosti in zagotavlja dostopna orodja za vrednotenje LLM in 'red-teaming', kar koristi širši bazi razvijalcev.

Ta celovit pristop zagotavlja, da varnost ni naknadna misel, temveč neločljiv del procesa razvoja in delovanja AI znotraj ekosistema Frontier.

Dokazano strokovno znanje Promptfoo: temelj za varno AI

Ekipa za Promptfoo, ki jo vodita soustanovitelja Ian Webster in Michael D’Angelo, si je ustvarila sloves z zagotavljanjem praktičnih in učinkovitih rešitev za varnost AI. Njihovi odprtokodni prispevki so bili ključni pri spodbujanju pristopa, ki ga poganja skupnost, k vrednotenju vedenja LLM, medtem ko so njihove ponudbe za podjetja pridobile zaupanje med četrtino podjetij s seznama Fortune 500.

Ian Webster je pojasnil gonilno silo za Promptfoo in navdušenje nad tem novim poglavjem: »Promptfoo smo ustanovili, ker so razvijalci potrebovali praktičen način za zaščito sistemov AI. Ko postajajo agenti AI bolj povezani z resničnimi podatki in sistemi, je njihovo varovanje in preverjanje bolj zahtevno in pomembno kot kdaj koli prej. Pridružitev OpenAI nam omogoča, da pospešimo to delo in prinesemo močnejše zmožnosti varnosti, zaščite in upravljanja ekipam, ki gradijo sisteme AI v realnem svetu.« To stališče poudarja skupno vizijo obeh podjetij za napredek varne in zanesljive AI.

Obravnavanje kritičnih tveganj AI: od vbrizgavanja pozivov do uhajanja podatkov

Integracija bo neposredno obravnavala nekatere najnujnejše varnostne pomisleke v AI danes. Avtomatizirano testiranje varnosti in zmožnosti 'red-teaminga' bodo postale izvorni del OpenAI Frontier, kar bo podjetjem omogočilo proaktivno prepoznavanje in blaženje vrste ranljivosti, vključno z:

Vbrizgavanje pozivov: Zlonamerni vnosi, zasnovani za manipulacijo z vedenjem ali izpisom AI. Razumevanje najboljših praks za inženiring pozivov z API-jem OpenAI je tu ključnega pomena, orodja Promptfoo pa bodo avtomatizirala odkrivanje takšnih ranljivosti.
Prebijanje varnostnih mehanizmov (Jailbreaks): Tehnike, ki se uporabljajo za obide vgrajenih varnostnih mehanizmov in etičnih smernic AI.
Uhajanje podatkov: Nepooblaščeno razkritje ali dostop do občutljivih informacij, ki jih obdelujejo agenti AI. Vzdrževanje robustne zasebnosti podjetja postane še bolj kritično z agentsko AI.
Zloraba orodij: Zagotavljanje, da agenti AI interagirajo z zunanjimi orodji in sistemi le na predviden in varen način.
Neželena vedenja agentov: Odkrivanje, kdaj se agent AI odkloni od uveljavljenih operativnih smernic ali etičnih meja.

Z vgradnjo teh zmožnosti neposredno v razvojne delovne tokove lahko podjetja veliko prej prepoznajo, raziščejo in odpravijo tveganja agentov, s čimer spodbujajo paradigmo "varnost po zasnovi" za sisteme AI.

Krepitev upravljanja AI in odgovornosti za podjetja

Razširjenost agentov AI v poslovnih okoljih zahteva stroge okvire upravljanja, obvladovanja tveganj in skladnosti (GRC). Izboljšana platforma OpenAI Frontier bo bistveno okrepila sposobnost organizacije, da izpolni te zahteve. Integrirane funkcije poročanja in sledljivosti bodo ključnega pomena in bodo organizacijam pomagale pri:

Dokumentiranju testiranja: Vzdrževanje jasnih in revizibilnih zapisov vseh dejavnosti testiranja in vrednotenja varnosti.
Spremljanju sprememb: Sledenje, kako se vedenje sistema AI razvija skozi čas, in ocenjevanje vpliva posodobitev ali sprememb na varnostno držo.
Izpolnjevanju pričakovanj glede skladnosti: Izpolnjevanje naraščajočih regulativnih zahtev za preglednost, varnost in etično uvedbo AI v različnih panogah.

Ta osredotočenost na celovit nadzor in odgovornost bo podjetjem omogočila, da z večjo gotovostjo uvedejo sodelavce AI, saj vedo, da lahko dokažejo skladnost z notranjimi politikami in zunanjimi predpisi.

Prihodnost varnega razvoja agentske AI

Prevzem Promptfoo s strani OpenAI predstavlja močno zavezo k napredku na področju varne in zanesljive AI. Z združitvijo vodilnih modelov AI in zmojnosti platforme OpenAI s specializiranim strokovnim znanjem Promptfoo na področju testiranja varnosti AI je industrija pripravljena na novo obdobje uvajanja AI v podjetjih, kjer sta varnost in zaupanje vgrajena že od samega začetka.

Ko se bo prevzem zaključeval, skupna prizadevanja obeh ekip obljubljajo platformo, ki ne bo omogočala le prelomnih aplikacij AI, ampak bo tudi zagotavljala, da bodo delovale po najvišjih standardih varnosti, etike in odgovornosti. Ta strateška združitev bo pospešila pot do prihodnosti, kjer se bodo sodelavci AI lahko brezhibno in varno integrirali v vse vidike poslovnih operacij.

Izvirni vir

https://openai.com/index/openai-to-acquire-promptfoo/

Pogosta vprašanja

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Bodite na tekočem

Prejemajte najnovejše AI novice po e-pošti.

Deli