OpenAI förvärvar Promptfoo för att stärka företags-AI-säkerheten

San Francisco, CA – 10 mars 2026 – I ett betydande steg för att stärka säkerheten och tillförlitligheten hos AI i företagsklass, meddelade OpenAI idag sitt förvärv av Promptfoo, en ledande AI-säkerhetsplattform. Detta strategiska förvärv är avsett att integrera Promptfoos avancerade test- och utvärderingsförmågor direkt i OpenAI Frontier, företagets dedikerade plattform för att bygga och driva AI-medarbetare. Förvärvet, i avvaktan på sedvanliga villkor för slutförande, markerar ett avgörande steg för att möta det ökande behovet av robust AI-säkerhet när organisationer i allt högre grad distribuerar sofistikerade AI-agenter i verkliga affärsarbetsflöden.

I takt med att AI-system, särskilt agentisk AI, blir mer autonoma och djupt inbäddade i kritiska operationer, har utmaningarna med utvärdering, säkerhet och efterlevnad förstärkts. Företag kräver systematiska metoder för att noggrant testa agentbeteende, identifiera potentiella risker före distribution och upprätthålla omfattande register för löpande tillsyn, styrning och ansvarsskyldighet. Promptfoo, erkänt för sin kraftfulla uppsättning verktyg som används av över 25 procent av Fortune 500-företagen, erbjuder exakt dessa förmågor, tillsammans med ett allmänt antaget öppen källkods-kommandoradsgränssnitt (CLI) och bibliotek för att utvärdera och 'red-teama' applikationer baserade på stora språkmodeller (LLM).

Integrering av avancerad AI-säkerhetstestning i OpenAI Frontier

Huvudmålet med detta förvärv är att sömlöst bädda in Promptfoos sofistikerade säkerhetsfunktioner i OpenAI Frontier. OpenAI Frontier är utformad för att ge företag möjlighet att utveckla och hantera AI-medarbetare effektivt, och denna integration kommer att avsevärt förbättra dess grundläggande säkerhetsställning. Srinivas Narayanan, CTO för B2B Applications på OpenAI, betonade den strategiska vikten: "Promptfoo tillför djup ingenjörsexpertis inom utvärdering, säkring och testning av AI-system i företagsskala. Deras arbete hjälper företag att distribuera säkra och tillförlitliga AI-applikationer, och vi är glada över att kunna införa dessa förmågor direkt i Frontier."

Integrationen kommer att fokusera på flera kritiska områden, vilket förändrar hur företag närmar sig AI-utveckling och distribution:

Viktiga förbättringar från Promptfoo-integrationen

Funktionsområde	Beskrivning	Fördel för företag
Inbyggd säkerhets- och trygghetstestning	Automatiserade säkerhetstestnings- och 'red-teaming'-förmågor inbyggda direkt i Frontier-plattformen.	Proaktivt identifierar och åtgärdar risker som promptinjektioner, jailbreaks, dataläckor och missbruk av verktyg före distribution.
Integrerade utvecklingsarbetsflöden	Djup integration av säkerhets- och utvärderingsverktyg inom AI-utvecklingslivscykeln.	Möjliggör tidigare upptäckt, utredning och åtgärdande av agentrisker, vilket gör säkerhet till en kärndel av utvecklingen.
Förbättrad tillsyn och ansvarsskyldighet	Integrerade rapporterings- och spårbarhetsfunktioner för omfattande dokumentation och övervakning av AI-system.	Stöder robusta krav för styrning, riskhantering och regelefterlevnad (GRC), vilket ger tydliga revisionsspår och transparens.
Öppen källkods-kontinuitet	Fortsatt utveckling och underhåll av Promptfoos öppen källkods-CLI och bibliotek.	Främjar samhällsinnovation och tillhandahåller tillgängliga verktyg för LLM-utvärdering och 'red-teaming', vilket gynnar en bredare utvecklarbas.

Detta omfattande tillvägagångssätt säkerställer att säkerhet inte är en eftertanke utan en inneboende del av AI-utvecklings- och driftsprocessen inom Frontier-ekosystemet.

Promptfoos beprövade expertis: En grund för säker AI

Teamet bakom Promptfoo, lett av medgrundarna Ian Webster och Michael D’Angelo, har etablerat ett rykte för att leverera praktiska och effektiva lösningar för AI-säkerhet. Deras öppen källkods-bidrag har varit avgörande för att främja ett samhällsdrivet tillvägagångssätt för att utvärdera LLM-beteende, medan deras företagserbjudanden har vunnit förtroende bland en fjärdedel av Fortune 500-företagen.

Ian Webster artikulerade drivkraften bakom Promptfoo och spänningen inför detta nya kapitel: "Vi startade Promptfoo eftersom utvecklare behövde ett praktiskt sätt att säkra AI-system. I takt med att AI-agenter blir mer kopplade till verklig data och system, blir det mer utmanande och viktigare än någonsin att säkra och validera dem. Att ansluta sig till OpenAI låter oss accelerera detta arbete och tillföra starkare säkerhets-, trygghets- och styrningsförmågor till de team som bygger verkliga AI-system." Detta uttryck understryker den delade visionen hos båda företagen att främja säker och tillförlitlig AI.

Att hantera kritiska AI-risker: Från promptinjektioner till dataläckor

Integrationen kommer direkt att hantera några av de mest pressande säkerhetsproblemen inom AI idag. Automatiserade säkerhetstestnings- och 'red-teaming'-förmågor kommer att bli en inbyggd del av OpenAI Frontier, vilket gör det möjligt för företag att proaktivt identifiera och mildra ett spektrum av sårbarheter, inklusive:

Promptinjektioner: Skadliga input utformade för att manipulera en AIs beteende eller output. Att förstå bästa praxis för prompt-engineering med OpenAI API är avgörande här, och Promptfoos verktyg kommer att automatisera upptäckten av sådana sårbarheter.
Jailbreaks: Tekniker som används för att kringgå en AIs inneboende säkerhetsmekanismer och etiska riktlinjer.
Dataläckor: Obehörigt röjande eller åtkomst till känslig information som bearbetas av AI-agenter. Att upprätthålla robust företagsintegritet blir ännu mer kritiskt med agentisk AI.
Missbruk av verktyg: Säkerställa att AI-agenter endast interagerar med externa verktyg och system på avsett och säkert sätt.
Agentbeteenden utanför policyn: Upptäcka när en AI-agent avviker från etablerade operativa riktlinjer eller etiska gränser.

Genom att bädda in dessa förmågor direkt i utvecklingsarbetsflöden kan företag identifiera, undersöka och åtgärda agentrisker mycket tidigare, vilket främjar ett "säkerhet genom design"-paradigm för AI-system.

Förbättring av AI-styrning och ansvarsskyldighet för företag

Spridningen av AI-agenter i affärsmiljöer kräver rigorösa ramverk för styrning, riskhantering och regelefterlevnad (GRC). Den förbättrade OpenAI Frontier-plattformen kommer att avsevärt stärka en organisations förmåga att uppfylla dessa krav. Integrerade rapporterings- och spårbarhetsfunktioner kommer att vara av yttersta vikt, vilket hjälper organisationer att:

Dokumentera testning: Upprätthålla tydliga och revisionsbara register över alla säkerhetstestnings- och utvärderingsaktiviteter.
Övervaka förändringar: Spåra hur AI-systembeteenden utvecklas över tid och bedöma påverkan av uppdateringar eller modifieringar på säkerhetsställningen.
Uppfylla efterlevnadskrav: Tillfredsställa växande regulatoriska krav för AI-transparens, säkerhet och etisk distribution inom olika branscher.

Detta fokus på omfattande tillsyn och ansvarsskyldighet kommer att ge företag möjlighet att distribuera AI-medarbetare med större förtroende, med vetskapen om att de kan visa efterlevnad av interna policyer och externa regleringar.

Framtiden för säker agentisk AI-utveckling

OpenAIs förvärv av Promptfoo representerar ett starkt åtagande att föra fram frontlinjen för säker och tillförlitlig AI. Genom att kombinera OpenAIs banbrytande AI-modeller och plattformsförmågor med Promptfoos specialiserade expertis inom AI-säkerhetstestning, är branschen redo för en ny era av företags-AI-användning där säkerhet och förtroende är inbyggda från grunden.

När förvärvet fortskrider, lovar det gemensamma arbetet från båda teamen att leverera en plattform som inte bara möjliggör banbrytande AI-applikationer utan också säkerställer att de fungerar med de högsta standarderna för säkerhet, etik och ansvarsskyldighet. Denna strategiska förening kommer att accelerera resan mot en framtid där AI-medarbetare sömlöst och säkert kan integreras i varje aspekt av företagsverksamheten.

Originalkälla

https://openai.com/index/openai-to-acquire-promptfoo/

Vanliga frågor

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Håll dig uppdaterad

Få de senaste AI-nyheterna i din inkorg.

Dela