OpenAI preuzima Promptfoo za jačanje sigurnosti umjetne inteligencije u poduzećima

San Francisco, CA – 10. ožujka 2026. – U značajnom potezu za jačanje sigurnosti i pouzdanosti umjetne inteligencije poslovne razine, OpenAI je danas objavio preuzimanje Promptfooa, vodeće platforme za sigurnost umjetne inteligencije. Ovo strateško preuzimanje namjerava integrirati Promptfooove napredne mogućnosti testiranja i evaluacije izravno u OpenAI Frontier, namjensku platformu tvrtke za izgradnju i rad 'suradnika' umjetne inteligencije. Preuzimanje, koje čeka uobičajene uvjete zatvaranja, označava ključni korak u rješavanju rastuće potrebe za robusnom sigurnošću umjetne inteligencije dok organizacije sve više implementiraju sofisticirane AI agente u stvarne poslovne radne procese.

Kako AI sustavi, posebno agentna umjetna inteligencija, postaju autonomniji i dublje ugrađeni u kritične operacije, izazovi evaluacije, sigurnosti i usklađenosti su se povećali. Poduzeća zahtijevaju sustavne metodologije za temeljito testiranje ponašanja agenata, identifikaciju potencijalnih rizika prije implementacije i održavanje sveobuhvatnih zapisa za stalni nadzor, upravljanje i odgovornost. Promptfoo, prepoznat po svom moćnom paketu alata kojem vjeruje preko 25 posto tvrtki s liste Fortune 500, nudi upravo te mogućnosti, zajedno sa široko usvojenim sučeljem naredbenog retka (CLI) otvorenog koda i bibliotekom za evaluaciju i testiranje ranjivosti (red-teaming) aplikacija velikih jezičnih modela (LLM).

Integracija naprednog testiranja sigurnosti umjetne inteligencije u OpenAI Frontier

Glavni cilj ovog preuzimanja je besprijekorno ugraditi Promptfooove sofisticirane sigurnosne značajke u OpenAI Frontier. OpenAI Frontier je dizajniran da omogući poduzećima učinkovit razvoj i upravljanje 'suradnicima' umjetne inteligencije, a ova će integracija značajno poboljšati njegovu temeljnu sigurnosnu poziciju. Srinivas Narayanan, tehnički direktor B2B aplikacija u OpenAI-ju, naglasio je stratešku važnost: 'Promptfoo donosi duboku inženjersku stručnost u evaluaciji, osiguravanju i testiranju AI sustava na razini poduzeća. Njihov rad pomaže poduzećima implementirati sigurne i pouzdane AI aplikacije, a mi smo uzbuđeni što ćemo te mogućnosti unijeti izravno u Frontier.'

Integracija će se usredotočiti na nekoliko kritičnih područja, transformirajući način na koji poduzeća pristupaju razvoju i implementaciji umjetne inteligencije:

Ključna poboljšanja iz Promptfoo integracije

Područje značajke	Opis	Korist za poduzeća
Izvorno testiranje sigurnosti i zaštite	Mogućnosti automatiziranog testiranja sigurnosti i testiranja ranjivosti (red-teaming) ugrađene izravno u platformu Frontier.	Proaktivno identificira i otklanja rizike poput ubrizgavanja upita, 'jailbreaka', curenja podataka i zlouporabe alata prije implementacije.
Integrirani razvojni radni procesi	Duboka integracija sigurnosnih i evaluacijskih alata unutar razvojnog životnog ciklusa umjetne inteligencije.	Omogućuje ranije otkrivanje, istraživanje i otklanjanje rizika agenata, čineći sigurnost temeljnim dijelom razvoja.
Poboljšani nadzor i odgovornost	Integrirane značajke izvještavanja i sljedivosti za sveobuhvatnu dokumentaciju i praćenje AI sustava.	Podržava robusne zahtjeve upravljanja, rizika i usklađenosti (GRC), pružajući jasne revizijske tragove i transparentnost.
Kontinuitet otvorenog koda	Kontinuirani razvoj i održavanje Promptfooovog CLI-ja i biblioteke otvorenog koda.	Potiče inovacije vođene zajednicom i pruža pristupačne alate za evaluaciju LLM-a i testiranje ranjivosti (red-teaming), donoseći korist široj bazi programera.

Ovaj sveobuhvatan pristup osigurava da sigurnost nije naknadna misao, već inherentan dio procesa razvoja i rada umjetne inteligencije unutar Frontier ekosustava.

Promptfooova dokazana stručnost: Temelj za sigurnu umjetnu inteligenciju

Tim iza Promptfooa, predvođen suosnivačima Ianom Websterom i Michaelom D’Angelom, stekao je reputaciju u isporuci praktičnih i učinkovitih rješenja za sigurnost umjetne inteligencije. Njihovi doprinosi otvorenom kodu bili su ključni u poticanju pristupa evaluaciji ponašanja LLM-a vođenog zajednicom, dok su njihove poslovne ponude stekle povjerenje među četvrtinom tvrtki s liste Fortune 500.

Ian Webster je artikulirao pokretačku snagu iza Promptfooa i uzbuđenje zbog ovog novog poglavlja: 'Započeli smo Promptfoo jer su programerima bili potrebni praktični načini za osiguravanje AI sustava. Kako AI agenti postaju sve više povezani sa stvarnim podacima i sustavima, njihovo osiguravanje i validacija je izazovnije i važnije nego ikad. Pridruživanje OpenAI-ju omogućuje nam da ubrzamo ovaj rad, donoseći jače mogućnosti sigurnosti, zaštite i upravljanja timovima koji grade AI sustave u stvarnom svijetu.' Ovaj osjećaj naglašava zajedničku viziju obiju tvrtki za unapređenje sigurne i pouzdane umjetne inteligencije.

Rješavanje kritičnih rizika umjetne inteligencije: Od ubrizgavanja upita do curenja podataka

Integracija će se izravno uhvatiti u koštac s nekim od najhitnijih sigurnosnih problema u umjetnoj inteligenciji danas. Mogućnosti automatiziranog testiranja sigurnosti i testiranja ranjivosti (red-teaming) postat će izvorni dio platforme OpenAI Frontier, omogućujući poduzećima da proaktivno identificiraju i ublaže spektar ranjivosti, uključujući:

Ubrizgavanje upita: Zlonamjerni unosi dizajnirani za manipulaciju ponašanjem ili izlazom umjetne inteligencije. Razumijevanje najboljih praksi za prompt inženjering s OpenAI API-jem ključno je ovdje, a Promptfooovi alati automatizirat će otkrivanje takvih ranjivosti.
Jailbreakovi: Tehnike korištene za zaobilaženje inherentnih sigurnosnih mehanizama i etičkih smjernica umjetne inteligencije.
Curenje podataka: Neovlašteno otkrivanje ili pristup osjetljivim informacijama koje obrađuju AI agenti. Održavanje robusne poslovne privatnosti postaje još kritičnije s agentnom umjetnom inteligencijom.
Zlouporaba alata: Osiguravanje da AI agenti komuniciraju s vanjskim alatima i sustavima samo na namjeravane i sigurne načine.
Ponašanja agenata koja odstupaju od politike: Otkrivanje kada AI agent odstupa od utvrđenih operativnih smjernica ili etičkih granica.

Ugradnjom ovih mogućnosti izravno u razvojne radne procese, poduzeća mogu mnogo ranije identificirati, istražiti i otkloniti rizike agenata, potičući paradigmu 'sigurnosti po dizajnu' za AI sustave.

Poboljšanje upravljanja i odgovornosti umjetne inteligencije za poduzeća

Širenje AI agenata u poslovnim okruženjima zahtijeva stroge okvire upravljanja, rizika i usklađenosti (GRC). Poboljšana platforma OpenAI Frontier značajno će ojačati sposobnost organizacije da ispuni te zahtjeve. Integrirane značajke izvještavanja i sljedivosti bit će najvažnije, pomažući organizacijama da:

Dokumentiraju testiranje: Održavaju jasne i revizibilne zapise svih aktivnosti testiranja sigurnosti i evaluacije.
Prate promjene: Prate kako se ponašanje AI sustava razvija tijekom vremena i procjenjuju utjecaj ažuriranja ili modifikacija na sigurnosnu poziciju.
Ispune očekivanja usklađenosti: Zadovolje rastuće regulatorne zahtjeve za transparentnost, sigurnost i etičku implementaciju umjetne inteligencije u različitim industrijama.

Ovaj fokus na sveobuhvatan nadzor i odgovornost omogućit će poduzećima da implementiraju 'suradnike' umjetne inteligencije s većim povjerenjem, znajući da mogu demonstrirati usklađenost s internim politikama i vanjskim propisima.

Budućnost sigurnog razvoja agentne umjetne inteligencije

Preuzimanje Promptfooa od strane OpenAI-ja predstavlja snažnu predanost unapređenju granice sigurne i pouzdane umjetne inteligencije. Kombiniranjem OpenAI-jevih vodećih AI modela i platformskih mogućnosti s Promptfooovom specijaliziranom stručnošću u testiranju sigurnosti umjetne inteligencije, industrija je spremna za novo doba usvajanja umjetne inteligencije u poduzećima gdje su sigurnost i povjerenje ugrađeni od samog početka.

Kako se zatvaranje preuzimanja odvija, zajednički napor obaju timova obećava isporuku platforme koja ne samo da omogućuje revolucionarne AI aplikacije, već i osigurava da one rade s najvišim standardima sigurnosti, etike i odgovornosti. Ova strateška unija ubrzat će put prema budućnosti u kojoj se AI 'suradnici' mogu besprijekorno i sigurno integrirati u svaki aspekt poslovnih operacija.

Izvorni izvor

https://openai.com/index/openai-to-acquire-promptfoo/

Često postavljana pitanja

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Budite u toku

Primajte najnovije AI vijesti na e-mail.

Podijeli