OpenAI iegādājas Promptfoo, lai stiprinātu uzņēmumu AI drošību

Sanfrancisko, Kalifornija – 2026. gada 10. marts – Veicot būtisku soli, lai stiprinātu uzņēmuma līmeņa mākslīgā intelekta drošību un uzticamību, OpenAI šodien paziņoja par Promptfoo, vadošās AI drošības platformas, iegādi. Šī stratēģiskā iegāde integrēs Promptfoo modernizētās testēšanas un novērtēšanas iespējas tieši OpenAI Frontier, uzņēmuma īpašajā platformā AI kolēģu veidošanai un darbināšanai. Iegāde, gaidot parastos noslēguma nosacījumus, iezīmē būtisku soli, lai risinātu pieaugošo vajadzību pēc spēcīgas AI drošības, jo organizācijas arvien vairāk izvieto sarežģītus AI aģentus reālos biznesa darba procesos.

Tā kā AI sistēmas, īpaši aģentiskais AI, kļūst autonomākas un dziļāk integrētas kritiskās operācijās, ir pastiprinājušies novērtēšanas, drošības un atbilstības izaicinājumi. Uzņēmumiem ir nepieciešamas sistemātiskas metodoloģijas, lai rūpīgi testētu aģentu uzvedību, identificētu potenciālos riskus pirms izvietošanas un uzturētu visaptverošus ierakstus nepārtrauktai uzraudzībai, pārvaldībai un atbildībai. Promptfoo, kas pazīstams ar savu jaudīgo rīku komplektu, kuram uzticas vairāk nekā 25 procenti Fortune 500 uzņēmumu, piedāvā tieši šīs iespējas, kā arī plaši izmantotu atvērtā koda komandrindas interfeisu (CLI) un bibliotēku lielo valodu modeļu (LLM) lietojumprogrammu novērtēšanai un sarkano komandu testēšanai.

Modernizētas AI drošības testēšanas integrēšana OpenAI Frontier

Šīs iegādes galvenais mērķis ir nemanāmi integrēt Promptfoo sarežģītās drošības funkcijas OpenAI Frontier. OpenAI Frontier ir izstrādāta, lai dotu uzņēmumiem iespēju efektīvi izstrādāt un pārvaldīt AI kolēģus, un šī integrācija ievērojami uzlabos tās pamata drošības stāvokli. Srinivas Narayanan, OpenAI B2B lietojumprogrammu CTO, uzsvēra stratēģisko nozīmi: "Promptfoo sniedz dziļas inženierzinātņu zināšanas AI sistēmu novērtēšanā, nodrošināšanā un testēšanā uzņēmuma mērogā. Viņu darbs palīdz uzņēmumiem izvietot drošas un uzticamas AI lietojumprogrammas, un mēs esam priecīgi integrēt šīs iespējas tieši Frontier."

Integrācija koncentrēsies uz vairākām kritiskām jomām, pārveidojot uzņēmumu pieeju AI izstrādei un izvietošanai:

Galvenie uzlabojumi no Promptfoo integrācijas

Funkciju joma	Apraksts	Ieguvumi uzņēmumiem
Iebūvēta drošības un drošuma testēšana	Automatizētas drošības testēšanas un sarkano komandu testēšanas iespējas, kas iebūvētas tieši Frontier platformā.	Proaktīvi identificē un novērš tādus riskus kā ievades injekcijas, drošības apišanu, datu noplūdes un rīku ļaunprātīgu izmantošanu pirms izvietošanas.
Integrētas izstrādes darba plūsmas	Drošības un novērtēšanas rīku dziļa integrācija AI izstrādes dzīves cikla laikā.	Ļauj agrāk atklāt, izmeklēt un novērst aģentu riskus, padarot drošību par neatņemamu izstrādes sastāvdaļu.
Uzlabota uzraudzība un atbildība	Integrētas atskaišu un izsekojamības funkcijas visaptverošai AI sistēmu dokumentēšanai un uzraudzībai.	Atbalsta spēcīgas pārvaldības, risku un atbilstības (GRC) prasības, nodrošinot skaidras audita pēdas un pārredzamību.
Atvērtā koda nepārtrauktība	Promptfoo atvērtā koda CLI un bibliotēkas nepārtraukta izstrāde un uzturēšana.	Veicina kopienas inovācijas un nodrošina pieejamus rīkus LLM novērtēšanai un sarkano komandu testēšanai, sniedzot labumu plašākai izstrādātāju bāzei.

Šī visaptverošā pieeja nodrošina, ka drošība nav pēcāk domāta, bet gan neatņemama AI izstrādes un darbības procesa sastāvdaļa Frontier ekosistēmā.

Promptfoo pārbaudītās zināšanas: pamats drošam AI

Promptfoo komanda, ko vada līdzdibinātāji Ians Vebsters un Maikls D’Andželo, ir ieguvusi reputāciju, nodrošinot praktiskus un efektīvus risinājumus AI drošībai. Viņu atvērtā koda ieguldījums ir bijis izšķirošs, veicinot kopienas virzītu pieeju LLM uzvedības novērtēšanai, savukārt viņu uzņēmumu piedāvājumi ir iemantojuši uzticību starp ceturtdaļu Fortune 500 uzņēmumu.

Ians Vebsters izklāstīja Promptfoo dzinējspēku un sajūsmu par šo jauno nodaļu: "Mēs sākām Promptfoo, jo izstrādātājiem bija nepieciešams praktisks veids, kā nodrošināt AI sistēmas. Tā kā AI aģenti kļūst arvien vairāk savienoti ar reāliem datiem un sistēmām, to nodrošināšana un validēšana ir grūtāka un svarīgāka nekā jebkad agrāk. Pievienošanās OpenAI ļauj mums paātrināt šo darbu, nodrošinot spēcīgākas drošības, drošuma un pārvaldības iespējas komandām, kas veido reālas AI sistēmas." Šis noskaņojums uzsver abu uzņēmumu kopīgo vīziju par droša un uzticama AI attīstību.

Kritisku AI risku risināšana: no ievades injekcijām līdz datu noplūdēm

Integrācija tieši risinās dažas no šobrīd aktuālākajām AI drošības problēmām. Automatizēta drošības testēšana un sarkano komandu testēšanas iespējas kļūs par dabisku OpenAI Frontier sastāvdaļu, ļaujot uzņēmumiem proaktīvi identificēt un mazināt virkni ievainojamību, tostarp:

Ievades injekcijas: Ļaunprātīgas ievades, kas paredzētas AI uzvedības vai izvades manipulēšanai. Izpratne par labāko praksi ievades inženierijā ar OpenAI API ir šeit būtiska, un Promptfoo rīki automatizēs šādu ievainojamību atklāšanu.
Drošības apišana: Paņēmieni, ko izmanto, lai apietu AI raksturīgos drošības mehānismus un ētikas vadlīnijas.
Datu noplūdes: Nesankcionēta jutīgas informācijas izpaušana vai piekļuve, ko apstrādā AI aģenti. Spēcīgas uzņēmuma privātuma aizsardzības uzturēšana kļūst vēl kritiskāka ar aģentisko AI.
Rīku ļaunprātīga izmantošana: Nodrošinot, ka AI aģenti mijiedarbojas ar ārējiem rīkiem un sistēmām tikai paredzētajos un drošos veidos.
Aģentu uzvedība, kas neatbilst politikai: Atklājot, kad AI aģents novirzās no noteiktām darbības vadlīnijām vai ētikas robežām.

Ieguldot šīs iespējas tieši izstrādes darba plūsmās, uzņēmumi var daudz agrāk identificēt, izmeklēt un novērst aģentu riskus, veicinot "drošības pēc noklusējuma" paradigmu AI sistēmām.

AI pārvaldības un atbildības uzlabošana uzņēmumiem

AI aģentu izplatība biznesa vidēs prasa stingrus pārvaldības, risku un atbilstības (GRC) ietvarus. Uzlabotā OpenAI Frontier platforma ievērojami stiprinās organizācijas spēju izpildīt šīs prasības. Integrētās atskaišu un izsekojamības funkcijas būs ārkārtīgi svarīgas, palīdzot organizācijām:

Dokumentēt testēšanu: Uzturēt skaidrus un auditējamus visu drošības testēšanas un novērtēšanas darbību ierakstus.
Uzraudzīt izmaiņas: Sekot līdzi tam, kā AI sistēmu uzvedība attīstās laika gaitā, un novērtēt atjauninājumu vai modifikāciju ietekmi uz drošības stāvokli.
Izpildīt atbilstības prasības: Apmierināt pieaugošās regulatīvās prasības attiecībā uz AI pārredzamību, drošību un ētisku izvietošanu dažādās nozarēs.

Šī koncentrēšanās uz visaptverošu uzraudzību un atbildību dos uzņēmumiem iespēju ar lielāku pārliecību izvietot AI kolēģus, zinot, ka tie var demonstrēt atbilstību iekšējām politikām un ārējiem noteikumiem.

Droša aģentiskā AI izstrādes nākotne

Promptfoo iegāde no OpenAI puses apliecina spēcīgu apņemšanos attīstīt droša un uzticama AI robežas. Apvienojot OpenAI vadošos AI modeļus un platformas iespējas ar Promptfoo specializēto AI drošības testēšanas pieredzi, nozare ir gatava jaunai uzņēmumu AI ieviešanas ērai, kurā drošība un uzticība tiek iebūvēta no paša sākuma.

Kamēr turpinās iegādes noslēgums, abu komandu kopīgās pūles sola nodrošināt platformu, kas ne tikai ļauj radīt revolucionāras AI lietojumprogrammas, bet arī nodrošina to darbību atbilstoši visaugstākajiem drošības, ētikas un atbildības standartiem. Šī stratēģiskā savienība paātrinās ceļu uz nākotni, kurā AI kolēģus varēs nemanāmi un droši integrēt visos uzņēmuma darbības aspektos.

Sākotnējais avots

https://openai.com/index/openai-to-acquire-promptfoo/

Bieži uzdotie jautājumi

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Esiet informēti

Saņemiet jaunākās AI ziņas savā e-pastā.

Dalīties