OpenAI adquireix Promptfoo per reforçar la seguretat de l'IA empresarial

San Francisco, CA – 10 de març de 2026 – En un moviment significatiu per reforçar la seguretat i la fiabilitat de la intel·ligència artificial de grau empresarial, OpenAI ha anunciat avui l'adquisició de Promptfoo, una plataforma líder en seguretat d'IA. Aquesta adquisició estratègica integrarà les capacitats avançades de proves i avaluació de Promptfoo directament a OpenAI Frontier, la plataforma dedicada de la companyia per construir i operar assistents virtuals d'IA. L'adquisició, pendent de les condicions de tancament habituals, marca un pas fonamental per abordar la creixent necessitat d'una seguretat d'IA robusta a mesura que les organitzacions despleguen cada vegada més agents d'IA sofisticats en els fluxos de treball empresarials del món real.

A mesura que els sistemes d'IA, particularment la IA agentiva, es tornen més autònoms i profundament incrustats en operacions crítiques, els desafiaments d'avaluació, seguretat i compliment s'han amplificat. Les empreses requereixen metodologies sistemàtiques per provar a fons el comportament dels agents, identificar riscos potencials abans del desplegament i mantenir registres exhaustius per a la supervisió contínua, la governança i la responsabilitat. Promptfoo, reconegut pel seu potent conjunt d'eines de confiança per més del 25 per cent de les empreses Fortune 500, ofereix exactament aquestes capacitats, juntament amb una interfície de línia d'ordres (CLI) i una biblioteca de codi obert àmpliament adoptades per avaluar i realitzar proves de 'red-teaming' en aplicacions de models de llenguatge grans (LLM).

Integració de proves avançades de seguretat d'IA a OpenAI Frontier

L'objectiu principal d'aquesta adquisició és incorporar de manera fluida les sofisticades funcions de seguretat de Promptfoo a OpenAI Frontier. OpenAI Frontier està dissenyada per capacitar les empreses a desenvolupar i gestionar assistents virtuals d'IA de manera eficient, i aquesta integració millorarà significativament la seva postura de seguretat fonamental. Srinivas Narayanan, CTO d'Aplicacions B2B a OpenAI, va emfatitzar la importància estratègica: "Promptfoo aporta una profunda experiència en enginyeria per avaluar, protegir i provar sistemes d'IA a escala empresarial. El seu treball ajuda les empreses a desplegar aplicacions d'IA segures i fiables, i estem emocionats d'incorporar aquestes capacitats directament a Frontier."

La integració se centrarà en diverses àrees crítiques, transformant la manera com les empreses aborden el desenvolupament i el desplegament d'IA:

Millores clau de la integració de Promptfoo

Àrea de la Característica	Descripció	Benefici per a les Empreses
Proves de Seguretat i Fiabilitat Natives	Capacitats de proves de seguretat automatitzades i de 'red-teaming' integrades directament a la plataforma Frontier.	Identifica i corregeix proactivament riscos com injeccions de 'prompts', 'jailbreaks', fuites de dades i ús indegut d'eines abans del desplegament.
Fluxos de Treball de Desenvolupament Integrats	Integració profunda d'eines de seguretat i avaluació dins del cicle de vida del desenvolupament d'IA.	Permet una detecció, investigació i correcció més primerenca dels riscos dels agents, fent de la seguretat una part fonamental del desenvolupament.
Supervisió i Responsabilitat Millorades	Funcions d'informes integrats i de traçabilitat per a la documentació i el monitoratge complets dels sistemes d'IA.	Dona suport a requisits robustos de governança, risc i compliment (GRC), proporcionant pistes d'auditoria clares i transparència.
Continuïtat del Codi Obert	Desenvolupament i manteniment continuats de la CLI i la biblioteca de codi obert de Promptfoo.	Fomenta la innovació comunitària i proporciona eines accessibles per a l'avaluació de LLM i el 'red-teaming', beneficiant una base de desenvolupadors més àmplia.

Aquest enfocament integral garanteix que la seguretat no sigui una idea posterior, sinó una part intrínseca del procés de desenvolupament i operació d'IA dins de l'ecosistema Frontier.

Experiència provada de Promptfoo: una base per a l'IA segura

L'equip darrere de Promptfoo, liderat pels cofundadors Ian Webster i Michael D'Angelo, ha establert una reputació per oferir solucions pràctiques i efectives per a la seguretat d'IA. Les seves contribucions de codi obert han estat fonamentals per fomentar un enfocament impulsat per la comunitat per avaluar el comportament dels LLM, mentre que les seves ofertes empresarials han guanyat la confiança d'una quarta part de les Fortune 500.

Ian Webster va articular la força motriu darrere de Promptfoo i l'entusiasme per a aquest nou capítol: "Vam iniciar Promptfoo perquè els desenvolupadors necessitaven una manera pràctica de protegir els sistemes d'IA. A mesura que els agents d'IA es connecten més a dades i sistemes reals, protegir-los i validar-los és més desafiant i important que mai. Unir-nos a OpenAI ens permet accelerar aquest treball, aportant capacitats de seguretat, fiabilitat i governança més fortes als equips que construeixen sistemes d'IA del món real." Aquest sentiment subratlla la visió compartida d'ambdues empreses per avançar en una IA segura i fiable.

Abordant els riscos crítics de l'IA: des d'injeccions de 'prompts' fins a fuites de dades

La integració abordarà directament algunes de les preocupacions de seguretat més urgents en IA actualment. Les capacitats de proves de seguretat automatitzades i de 'red-teaming' es convertiran en una part nativa d'OpenAI Frontier, permetent a les empreses identificar i mitigar proactivament un espectre de vulnerabilitats, incloent:

Injeccions de 'Prompts': Entrades malicioses dissenyades per manipular el comportament o la sortida d'una IA. Comprendre les millors pràctiques per a l'enginyeria de 'prompts' amb l'API d'OpenAI és crucial aquí, i les eines de Promptfoo automatitzaran la detecció d'aquestes vulnerabilitats.
Jailbreaks: Tècniques utilitzades per eludir els mecanismes de seguretat inherents i les directrius ètiques d'una IA.
Fuites de Dades: Divulgació o accés no autoritzat a informació sensible processada per agents d'IA. Mantenir una privacitat empresarial robusta esdevé encara més crític amb la IA agentiva.
Ús Indegut d'Eines: Assegurar que els agents d'IA interactuen amb eines i sistemes externs només de la manera prevista i segura.
Comportaments d'Agents Fora de Política: Detecció de quan un agent d'IA es desvia de les directrius operatives establertes o dels límits ètics.

En incrustar aquestes capacitats directament en els fluxos de treball de desenvolupament, les empreses poden identificar, investigar i corregir els riscos dels agents molt abans, fomentant un paradigma de "seguretat per disseny" per als sistemes d'IA.

Millorant la governança i la responsabilitat d'IA per a les empreses

La proliferació d'agents d'IA en entorns empresarials requereix marcs rigorosos de governança, risc i compliment (GRC). La plataforma millorada OpenAI Frontier reforçarà significativament la capacitat d'una organització per satisfer aquestes demandes. Les funcions d'informes integrats i de traçabilitat seran primordials, ajudant les organitzacions a:

Documentar les Proves: Mantenir registres clars i auditables de totes les activitats de proves de seguretat i avaluació.
Monitoritzar els Canvis: Fer un seguiment de com evolucionen els comportaments dels sistemes d'IA al llarg del temps i avaluar l'impacte de les actualitzacions o modificacions en la postura de seguretat.
Complir les Expectatives de Conformitat: Satisfacer els creixents requisits reguladors de transparència, seguretat i desplegament ètic de la IA en diverses indústries.

Aquest enfocament en la supervisió i la responsabilitat integrals permetrà a les empreses desplegar assistents virtuals d'IA amb major confiança, sabent que poden demostrar el compliment de les polítiques internes i les regulacions externes.

El futur del desenvolupament segur d'IA agentiva

L'adquisició de Promptfoo per part d'OpenAI representa un compromís potent per avançar en la frontera de l'IA segura i fiable. En combinar els models d'IA i les capacitats de plataforma d'avantguarda d'OpenAI amb l'experiència especialitzada de Promptfoo en proves de seguretat d'IA, la indústria està preparada per a una nova era d'adopció d'IA empresarial on la seguretat i la confiança es construeixen des de la base.

A mesura que avança el tancament de l'adquisició, l'esforç col·lectiu d'ambdós equips promet oferir una plataforma que no només permet aplicacions d'IA innovadores, sinó que també garanteix que operin amb els més alts estàndards de seguretat, ètica i responsabilitat. Aquesta unió estratègica accelerarà el camí cap a un futur on els assistents virtuals d'IA es puguin integrar de manera fluida i segura en tots els aspectes de les operacions empresarials.

Font original

https://openai.com/index/openai-to-acquire-promptfoo/

Preguntes freqüents

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Manteniu-vos al dia

Rebeu les últimes notícies d'IA al correu.