OpenAI omandab Promptfoo ettevõtte tehisintellekti turvalisuse tugevdamiseks

San Francisco, CA – 10. märts 2026 – Olulise sammuna ettevõtte tasemel tehisintellekti turvalisuse ja usaldusväärsuse tugevdamisel teatas OpenAI täna Promptfoo, juhtiva tehisintellekti turvaplatvormi, omandamisest. See strateegiline omandamine peaks integreerima Promptfoo täiustatud testimis- ja hindamisvõimalused otse OpenAI Frontier'i, mis on ettevõtte spetsiaalne platvorm tehisintellekti kaastöötajate loomiseks ja haldamiseks. Omandamine, mis ootab tavapäraste lõpetamistingimuste täitmist, tähistab pöördelist sammu, et lahendada üha suurenevat vajadust tugeva tehisintellekti turvalisuse järele, kuna organisatsioonid juurutavad üha enam keerukaid tehisintellekti agente reaalmaailma äritöövoogudesse.

Kuna tehisintellekti süsteemid, eriti agentne tehisintellekt, muutuvad autonoomsemaks ja sügavalt integreerituks kriitilistesse operatsioonidesse, on hindamise, turvalisuse ja vastavuse väljakutsed võimendunud. Ettevõtted vajavad süstemaatilisi metoodikaid, et põhjalikult testida agentide käitumist, tuvastada potentsiaalseid riske enne juurutamist ja säilitada põhjalikke andmeid pideva järelevalve, juhtimise ja vastutuse tagamiseks. Promptfoo, mis on tuntud oma võimsa tööriistakomplekti poolest, mida usaldab üle 25 protsendi Fortune 500 ettevõtetest, pakub just neid võimekusi, koos laialdaselt kasutatava avatud lähtekoodiga käsurealiidese (CLI) ja teegiga suurte keelemudeli (LLM) rakenduste hindamiseks ja 'punase meeskonna' testimiseks.

Täiustatud tehisintellekti turvatestimise integreerimine OpenAI Frontier'i

Selle omandamise peamine eesmärk on Promptfoo keerukate turvafunktsioonide sujuv integreerimine OpenAI Frontier'i. OpenAI Frontier on loodud selleks, et anda ettevõtetele võimalus arendada ja hallata tehisintellekti kaastöötajaid tõhusalt, ning see integratsioon parandab oluliselt selle põhilist turvapositsiooni. OpenAI B2B rakenduste tehniline juht Srinivas Narayanan rõhutas strateegilist tähtsust: „Promptfoo toob sügava inseneriteadmise tehisintellekti süsteemide hindamisel, turvamisel ja testimisel ettevõtte mastaabis. Nende töö aitab ettevõtetel juurutada turvalisi ja usaldusväärseid tehisintellekti rakendusi ja meil on hea meel tuua need võimekused otse Frontier'i.”

Integratsioon keskendub mitmele kriitilisele valdkonnale, muutes ettevõtete lähenemist tehisintellekti arendusele ja juurutamisele:

Peamised täiustused Promptfoo integratsioonist

Funktsiooni valdkond	Kirjeldus	Kasu ettevõtetele
Omane turvalisuse ja ohutuse testimine	Automatiseeritud turvatestimise ja 'punase meeskonna' testimise võimekused, mis on ehitatud otse Frontier platvormi.	Tuvastab ja kõrvaldab ennetavalt riskid, nagu käsu süstimised, piirangute murdmised, andmelekked ja tööriistade väärkasutus enne juurutamist.
Integreeritud arendustöövoogud	Turvalisuse ja hindamisvahendite sügav integreerimine tehisintellekti arenduse elutsüklisse.	Võimaldab agentide riskide varasemat tuvastamist, uurimist ja kõrvaldamist, muutes turvalisuse arenduse põhiosaks.
Täiustatud järelevalve ja vastutus	Integreeritud aruandluse ja jälgitavuse funktsioonid tehisintellekti süsteemide põhjalikuks dokumenteerimiseks ja jälgimiseks.	Toetab tugevaid juhtimis-, riski- ja vastavuse (GRC) nõudeid, pakkudes selgeid auditilogisid ja läbipaistvust.
Avatud lähtekoodi järjepidevus	Promptfoo avatud lähtekoodiga käsurealiidese (CLI) ja teegi pidev arendamine ja hooldus.	Soodustab kogukonna innovatsiooni ja pakub juurdepääsetavaid tööriistu LLM hindamiseks ja 'punase meeskonna' testimiseks, mis on kasulik laiemale arendajate baasile.

See terviklik lähenemine tagab, et turvalisus ei ole järelemõtlemine, vaid tehisintellekti arenduse ja toimimise protsessi olemuslik osa Frontier'i ökosüsteemis.

Promptfoo tõestatud asjatundlikkus: turvalise tehisintellekti alus

Promptfoo meeskond, mida juhivad kaasasutajad Ian Webster ja Michael D’Angelo, on loonud maine praktiliste ja tõhusate tehisintellekti turvalisuse lahenduste pakkumisel. Nende avatud lähtekoodiga panus on olnud oluline kogukonnapõhise lähenemise edendamisel LLM-i käitumise hindamisel, samas kui nende ettevõttepakkumised on kogunud usaldust veerandi Fortune 500 ettevõtete seas.

Ian Webster sõnastas Promptfoo taga oleva tõukejõu ja põnevuse selle uue peatüki osas: „Alustasime Promptfoo'ga, sest arendajad vajasid praktilist viisi tehisintellekti süsteemide turvamiseks. Kuna tehisintellekti agendid on üha enam seotud reaalsete andmete ja süsteemidega, on nende turvamine ja valideerimine keerulisem ja olulisem kui kunagi varem. OpenAI-ga liitumine võimaldab meil seda tööd kiirendada, tuues tugevamad turvalisuse, ohutuse ja juhtimise võimekused meeskondadele, kes loovad reaalmaailma tehisintellekti süsteeme.” See tunne rõhutab mõlema ettevõtte ühist visiooni edendada turvalist ja usaldusväärset tehisintellekti.

Kriitiliste tehisintellekti riskide käsitlemine: käsu süstimistest andmeleketeni

Integratsioon käsitleb otseselt mõningaid tänapäeva tehisintellekti kõige pakilisemaid turvaprobleeme. Automatiseeritud turvatestimise ja 'punase meeskonna' testimise võimekused muutuvad OpenAI Frontier'i loomulikuks osaks, võimaldades ettevõtetel ennetavalt tuvastada ja leevendada mitmesuguseid haavatavusi, sealhulgas:

Käsu süstimised: Pahatahtlikud sisendid, mis on loodud tehisintellekti käitumise või väljundi manipuleerimiseks. Oluline on mõista parimaid tavasid käsu inseneriteaduses OpenAI API-ga ja Promptfoo tööriistad automatiseerivad selliste haavatavuste tuvastamise.
Piirangute murdmised: Tehnikaid, mida kasutatakse tehisintellekti omaste ohutusmehhanismide ja eetiliste juhiste möödaminekuks.
Andmelekked: Tundliku teabe loata avaldamine või ligipääs tehisintellekti agentide poolt töödeldud teabele. Tugeva ettevõtte privaatsuse säilitamine muutub agentse tehisintellekti puhul veelgi kriitilisemaks.
Tööriistade väärkasutus: Tagades, et tehisintellekti agendid suhtlevad väliste tööriistade ja süsteemidega ainult ettenähtud ja turvalisel viisil.
Väljapoole poliitikat jäävad agentide käitumised: Tuvastades, kui tehisintellekti agent kaldub kõrvale kehtestatud operatiivjuhistest või eetilistest piiridest.

Nende võimekuste integreerimisega otse arendustöövoogudesse saavad ettevõtted tuvastada, uurida ja kõrvaldada agentide riske palju varem, edendades tehisintellekti süsteemide puhul 'turvalisus disaini järgi' paradigmat.

Tehisintellekti juhtimise ja vastutuse parandamine ettevõtete jaoks

Tehisintellekti agentide levik ärikeskkondades nõuab ranget juhtimis-, riski- ja vastavuse (GRC) raamistikku. Täiustatud OpenAI Frontier platvorm tugevdab oluliselt organisatsiooni võimet neid nõudmisi täita. Integreeritud aruandluse ja jälgitavuse funktsioonid on esmatähtsad, aidates organisatsioonidel:

Testimise dokumenteerimine: Säilitada kõikide turvatestimise ja hindamistegevuste selged ja auditeeritavad dokumendid.
Muudatuste jälgimine: Jälgida, kuidas tehisintellekti süsteemide käitumine aja jooksul areneb ja hinnata uuenduste või muudatuste mõju turvapositsioonile.
Vastavuse nõuete täitmine: Täita kasvavaid regulatiivseid nõudeid tehisintellekti läbipaistvuse, ohutuse ja eetilise juurutamise osas erinevates tööstusharudes.

See keskendumine põhjalikule järelevalvele ja vastutusele annab ettevõtetele võimaluse juurutada tehisintellekti kaastöötajaid suurema kindlusega, teades, et nad suudavad näidata vastavust sise-eeskirjadele ja välisregulatsioonidele.

Turvalise agentse tehisintellekti arenduse tulevik

OpenAI poolt Promptfoo omandamine tähistab võimsat pühendumust turvalise ja usaldusväärse tehisintellekti piiride edendamisele. Kombineerides OpenAI tipptasemel tehisintellekti mudeleid ja platvormivõimekusi Promptfoo spetsialiseeritud teadmistega tehisintellekti turvatestimisel, on tööstus valmis ettevõtte tehisintellekti kasutuselevõtu uueks ajastuks, kus ohutus ja usaldus on algusest peale sisse ehitatud.

Omandamise lõpuleviimisel tõotab mõlema meeskonna ühine pingutus pakkuda platvormi, mis mitte ainult ei võimalda murrangulisi tehisintellekti rakendusi, vaid tagab ka nende toimimise kõrgeimate turvalisuse, eetika ja vastutuse standarditega. See strateegiline liit kiirendab teekonda tuleviku poole, kus tehisintellekti kaastöötajad saab sujuvalt ja ohutult integreerida ettevõtte tegevuse igasse aspekti.

Algallikas

https://openai.com/index/openai-to-acquire-promptfoo/

Korduma kippuvad küsimused

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Püsige kursis

Saage värskeimad AI uudised oma postkasti.

Jaga