title: "OpenAI 收购 Promptfoo，以提升人工智能安全和测试能力" slug: "openai-to-acquire-promptfoo" date: "2026-03-10" lang: "zh" source: "https://openai.com/index/openai-to-acquire-promptfoo/" category: "AI 安全" keywords:
- OpenAI
- Promptfoo
- AI 安全
- 智能体 AI
- 企业级 AI
- AI 评估
- 红队测试
- 提示注入
- 越狱
- 数据泄露
- Frontier 平台
- AI 治理 meta_description: "OpenAI 通过收购 Promptfoo 强化其 AI 安全能力，将其先进的测试和评估工具整合到 OpenAI Frontier 中，以确保企业级 AI 部署的安全性。" image: "/images/articles/openai-to-acquire-promptfoo.png" image_alt: "OpenAI 和 Promptfoo 标志，象征着它们为增强 AI 安全和测试而进行的收购" quality_score: 94 content_score: 93 seo_score: 95 companies:
- OpenAI
- Promptfoo schema_type: "NewsArticle" reading_time: 5 faq:
- question: "Promptfoo 是什么？它为 AI 开发解决了什么问题？" answer: 'Promptfoo 是一个先进的 AI 安全平台，专门在 AI 系统开发生命周期中识别并修复其中的漏洞。它提供了一套全面的工具，包括一个广泛使用的开源命令行界面 (CLI) 和库，用于评估大型语言模型 (LLM) 应用并对其进行红队测试。随着企业越来越多地将复杂的 AI 智能体和“AI 同事”部署到实际工作流程中，该平台直接解决了确保 AI 安全性、安全保障和合规性的关键挑战。通过对智能体行为进行系统测试、在部署前检测风险以及维护清晰的审计追踪，Promptfoo 帮助企业构建和运营安全、可靠且负责任的 AI 解决方案，从而在潜在问题（如提示注入、越狱和数据泄露）影响运营之前将其消除。'
- question: "OpenAI 为何收购 Promptfoo，其战略意义何在？" answer: 'OpenAI 收购 Promptfoo 是一项战略举措，旨在显著加速其智能体安全测试和评估能力，尤其是在其 OpenAI Frontier 平台内。此次收购强调了 OpenAI 致力于实现企业级 AI 安全可靠部署的承诺。随着“AI 同事”越来越深入地整合到关键业务流程中，对强大安全、评估和合规框架的需求变得至关重要。通过将 Promptfoo 经验证的专业知识和工具引入内部，OpenAI 旨在为企业提供原生的、全面的解决方案，以识别和修复 AI 风险，例如提示注入、越狱和数据泄露。这种整合对于建立信任、确保治理以及满足大规模 AI 部署的监管要求至关重要。'
- question: "OpenAI Frontier 是什么？Promptfoo 如何增强其能力？" answer: 'OpenAI Frontier 是 OpenAI 专为企业设计的平台，旨在帮助企业在其现有生态系统中高效、安全地构建、部署和运营“AI 同事”。它是将先进 AI 整合到实际业务工作流程中的运营支柱。通过收购 Promptfoo，Frontier 将在 AI 安全测试、评估和治理方面获得显著增强的原生能力。Promptfoo 的技术将把自动化安全测试和红队测试直接整合到 Frontier 平台中，使企业能够主动识别和修复提示注入、越狱和不符合策略的智能体行为等关键风险。这一战略性补充将 Frontier 转化为一个更加强大和值得信赖的平台，用于大规模开发和管理安全、合规且负责任的 AI 解决方案。'
- question: "Promptfoo 的技术将如何整合到 OpenAI Frontier 中以服务企业？" answer: 'Promptfoo 的技术将深度整合到 OpenAI Frontier 中，成为企业 AI 开发和运营的原生基础组件。这种整合将体现在几个关键方面：自动化安全测试和红队测试能力将直接内置到平台中，从而能够持续识别和修复提示注入、越狱和数据泄露等风险。此外，这些安全和评估工具将无缝融入企业开发工作流程，从而在生命周期早期识别和修复智能体风险。最后，集成的报告和可追溯性功能将得到增强，提供全面的测试文档、变更监控，并支持强大的 AI 治理、风险和合规性要求。'
- question: "整合后的 OpenAI Frontier 平台将解决哪些具体的 AI 安全风险？" answer: '整合后的 OpenAI Frontier 平台，由 Promptfoo 的技术提供支持，将直接解决企业部署日益相关的一系列关键 AI 安全风险。其中包括提示注入（恶意输入操纵 AI 行为）；越狱（绕过安全机制）；数据泄露（防止未经授权访问或暴露敏感信息）；工具滥用（确保 AI 智能体仅按预期与经批准的工具交互）；以及不符合策略的智能体行为（确保 AI 行动符合组织准则和道德标准）。通过自动化检测和修复这些漏洞，该平台旨在显著增强在企业环境中运行的“AI 同事”的安全性、可靠性和可信度。'
- question: "Promptfoo 的开源项目在收购后还会继续吗？" answer: '是的，Promptfoo 的开源项目，包括其广泛用于评估 LLM 应用程序和进行红队测试的 CLI 和库，即使在被 OpenAI 收购后，也将继续得到支持和开发。OpenAI 和由联合创始人 Ian Webster 领导的 Promptfoo 团队都承诺继续推进该开源项目。这一承诺确保了更广泛的开发者社区将继续受益于 Promptfoo 的创新工具，同时其集成的企业级能力将在 OpenAI 的 Frontier 平台内得到进一步提升。这种双重方法兼顾了社区驱动的创新和以企业为中心的安全解决方案。'
- question: "使用增强型 OpenAI Frontier 平台对企业有哪些主要益处？" answer: '利用增强型 OpenAI Frontier 平台的企业将在部署和管理“AI 同事”方面获得显著优势。主要益处包括通过自动化测试和红队测试，显著改善安全状况，在部署前主动识别提示注入和数据泄露等漏洞。将安全深度整合到开发工作流程中，将实现更早的风险检测和修复，使安全成为 AI 系统开发固有的组成部分。此外，全面的监督和问责功能，包括集成报告和可追溯性，将帮助组织满足严格的治理、风险和合规 (GRC) 要求。这确保了 AI 部署的安全、可靠和合规，在复杂的组织结构中培养了信任并实现了 AI 的负责任扩展。'
OpenAI 收购 Promptfoo，强化企业级 AI 安全
加利福尼亚州旧金山 – 2026 年 3 月 10 日 – 为加强企业级人工智能的安全性和可靠性，OpenAI 今日宣布收购领先的 AI 安全平台 Promptfoo。此次战略性收购旨在将 Promptfoo 的先进测试和评估能力直接整合到 OpenAI Frontier 中，后者是 OpenAI 专门用于构建和运营“AI 同事”的平台。此次收购尚待满足惯例成交条件，标志着在组织日益将复杂的 AI 智能体部署到实际业务工作流程中时，解决对强大 AI 安全性日益增长的需求的关键一步。
随着 AI 系统，特别是智能体 AI，变得更加自主并深度融入关键运营，评估、安全保障和合规性方面的挑战日益加剧。企业需要系统的方法来彻底测试智能体行为，在部署前识别潜在风险，并维护全面的记录以进行持续监督、治理和问责。Promptfoo 因其强大的工具套件而备受认可，财富 500 强企业中超过 25% 的公司信赖它。它提供了正是这些能力，以及一个广泛采用的开源命令行界面 (CLI) 和库，用于评估大型语言模型 (LLM) 应用程序并对其进行红队测试。
将先进的 AI 安全测试整合到 OpenAI Frontier 中
此次收购的核心目标是将 Promptfoo 复杂的安全功能无缝嵌入到 OpenAI Frontier 中。OpenAI Frontier 旨在帮助企业高效开发和管理“AI 同事”，此次整合将显著增强其基础安全态势。OpenAI B2B 应用程序首席技术官 Srinivas Narayanan 强调了其战略重要性：“Promptfoo 在企业规模的 AI 系统评估、安全保障和测试方面带来了深厚的工程专业知识。他们的工作帮助企业部署安全可靠的 AI 应用程序，我们很高兴能将这些能力直接引入 Frontier。”
此次整合将侧重于几个关键领域，从而改变企业开发和部署 AI 的方式：
Promptfoo 整合带来的关键增强
| 功能领域 | 描述 | 对企业的益处 |
|---|---|---|
| 原生安全与保障测试 | 自动化安全测试和红队测试能力直接内置于 Frontier 平台。 | 在部署前主动识别并修复提示注入、越狱、数据泄露和工具滥用等风险。 |
| 集成开发工作流程 | 将安全和评估工具深度整合到 AI 开发生命周期中。 | 实现更早地检测、调查和修复智能体风险，使安全成为开发的核心部分。 |
| 增强的监督与问责 | 集成的报告和可追溯性功能，用于 AI 系统的全面文档记录和监控。 | 支持强大的治理、风险和合规 (GRC) 要求，提供清晰的审计追踪和透明度。 |
| 开源项目延续性 | 持续开发和维护 Promptfoo 的开源 CLI 和库。 | 促进社区创新，为 LLM 评估和红队测试提供可访问的工具，惠及更广泛的开发者群体。 |
这种全面的方法确保了安全不是事后考虑，而是 Frontier 生态系统中 AI 开发和运营过程中固有的组成部分。
Promptfoo 经验证的专业知识：安全 AI 的基石
Promptfoo 背后的团队，由联合创始人 Ian Webster 和 Michael D’Angelo 领导，在为 AI 安全提供实用有效的解决方案方面建立了声誉。他们的开源贡献在推动社区驱动的 LLM 行为评估方法方面发挥了重要作用，而他们的企业产品则赢得了财富 500 强中四分之一企业的信任。
Ian Webster 阐述了 Promptfoo 背后的推动力以及对这一新篇章的兴奋之情：“我们创建 Promptfoo 是因为开发者需要一种实用的方法来保护 AI 系统。随着 AI 智能体与真实数据和系统联系日益紧密，对其进行安全保障和验证变得比以往任何时候都更具挑战性和重要性。加入 OpenAI 使我们能够加速这项工作，为构建实际 AI 系统的团队带来更强的安全性、保障性和治理能力。” 这一观点突显了两家公司共同致力于推进安全可靠 AI 的愿景。
解决关键 AI 风险：从提示注入到数据泄露
此次整合将直接解决当今 AI 领域一些最紧迫的安全问题。自动化安全测试和红队测试能力将成为 OpenAI Frontier 的原生组成部分，使企业能够主动识别和缓解一系列漏洞，包括：
- 提示注入： 旨在操纵 AI 行为或输出的恶意输入。理解 使用 OpenAI API 进行提示工程的最佳实践 在此至关重要，而 Promptfoo 的工具将自动化此类漏洞的检测。
- 越狱： 用于绕过 AI 固有安全机制和道德准则的技术。
- 数据泄露： 未经授权披露或访问由 AI 智能体处理的敏感信息。随着智能体 AI 的发展，维护强大的 企业隐私 变得更加关键。
- 工具滥用： 确保 AI 智能体仅以预期和安全的方式与外部工具和系统交互。
- 不符合策略的智能体行为： 检测 AI 智能体何时偏离既定的操作指南或道德界限。
通过将这些能力直接嵌入到开发工作流程中，企业可以更早地识别、调查和修复智能体风险，从而为 AI 系统培养“安全设计”范式。
增强企业 AI 治理和问责制
AI 智能体在商业环境中的普及需要严格的治理、风险和合规 (GRC) 框架。增强型 OpenAI Frontier 平台将显著提升组织满足这些需求的能力。集成的报告和可追溯性功能将至关重要，帮助组织实现以下目标：
- 文档化测试： 维护所有安全测试和评估活动的清晰可审计记录。
- 监控变更： 跟踪 AI 系统行为如何随时间演变，并评估更新或修改对安全态势的影响。
- 满足合规预期： 满足各行业对 AI 透明度、安全性和道德部署日益增长的监管要求。
这种对全面监督和问责的关注将使企业能够以更大的信心部署“AI 同事”，因为他们知道自己能够证明遵守内部政策和外部法规。
安全智能体 AI 开发的未来
OpenAI 收购 Promptfoo 代表着对推进安全可靠 AI 前沿的有力承诺。通过将 OpenAI 领先的 AI 模型和平台能力与 Promptfoo 在 AI 安全测试方面的专业知识相结合，业界将迎来企业级 AI 采用的新时代，其中安全性和信任将从一开始就内置其中。
随着收购的完成，两个团队的共同努力有望交付一个平台，该平台不仅能够实现突破性的 AI 应用，还能确保它们以最高的安全性、道德标准和问责制运行。这一战略联盟将加速迈向未来的旅程，使“AI 同事”能够无缝安全地融入企业运营的各个方面。
常见问题
What is Promptfoo, and what problem does it solve for AI development?
Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.
Why is OpenAI acquiring Promptfoo, and what is the strategic significance?
OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.
What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?
OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.
How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?
Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.
What specific AI security risks will the integrated OpenAI Frontier platform address?
The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.
Will the open-source Promptfoo project continue after the acquisition?
Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.
What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?
Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.
保持更新
将最新AI新闻发送到您的收件箱。