OpenAI го презема Promptfoo за да ја зајакне безбедноста на вештачката интелигенција во претпријатијата

Сан Франциско, Калифорнија – 10 март 2026 година – Во значаен потег за зајакнување на безбедноста и доверливоста на вештачката интелигенција од претпријатија, OpenAI денес ја објави аквизицијата на Promptfoo, водечка платформа за безбедност на вештачка интелигенција. Оваа стратешка аквизиција треба да ги интегрира напредните способности за тестирање и евалуација на Promptfoo директно во OpenAI Frontier, посветената платформа на компанијата за градење и управување со соработници на вештачка интелигенција. Аквизицијата, која е предмет на вообичаени услови за затворање, означува клучен чекор во справувањето со растечката потреба за робусна безбедност на вештачката интелигенција, бидејќи организациите сè повеќе распоредуваат софистицирани AI агенти во реални деловни работни текови.

Како што системите за вештачка интелигенција, особено агентската вештачка интелигенција, стануваат поавтономни и подлабоко вградени во критичните операции, предизвиците за евалуација, безбедност и усогласеност се зголемија. Претпријатијата бараат систематски методологии за темелно тестирање на однесувањето на агентите, идентификување на потенцијалните ризици пред распоредувањето и одржување на сеопфатни записи за тековен надзор, управување и одговорност. Promptfoo, препознатлив по својот моќен пакет алатки на кои им веруваат над 25 проценти од компаниите на Fortune 500, ги нуди токму овие способности, заедно со широко усвоен интерфејс на командна линија (CLI) со отворен код и библиотека за евалуација и 'red-teaming' на апликациите на големи јазични модели (LLM).

Интегрирање на напредно тестирање на безбедноста на вештачката интелигенција во OpenAI Frontier

Основната цел на оваа аквизиција е беспрекорно вградување на софистицираните безбедносни функции на Promptfoo во OpenAI Frontier. OpenAI Frontier е дизајнирана да им овозможи на бизнисите ефикасно да развиваат и управуваат со соработници на вештачка интелигенција, а оваа интеграција значително ќе ја подобри нејзината основна безбедносна состојба. Сринивас Нарајанан, CTO за B2B апликации во OpenAI, ја нагласи стратешката важност: 'Promptfoo носи длабока инженерска експертиза во евалуацијата, обезбедувањето и тестирањето на системите за вештачка интелигенција на ниво на претпријатие. Нивната работа им помага на бизнисите да распоредат безбедни и сигурни AI апликации, и ние сме возбудени што ќе ги донесеме овие способности директно во Frontier.'

Интеграцијата ќе се фокусира на неколку критични области, трансформирајќи го начинот на кој претпријатијата пристапуваат кон развојот и распоредувањето на вештачката интелигенција:

Клучни подобрувања од интеграцијата на Promptfoo

Област на функција	Опис	Придобивка за претпријатијата
Домашно тестирање на безбедност и сигурност	Автоматизирани способности за безбедносно тестирање и red-teaming вградени директно во платформата Frontier.	Проактивно идентификува и отстранува ризици како инјектирање промпт, jailbreaks, протекување податоци и злоупотреба на алатки пред распоредувањето.
Интегрирани развојни работни текови	Длабока интеграција на алатки за безбедност и евалуација во животниот циклус на развој на вештачка интелигенција.	Овозможува порано откривање, истражување и отстранување на ризиците од агенти, правејќи ја безбедноста клучен дел од развојот.
Подобрен надзор и одговорност	Интегрирани функции за известување и следливост за сеопфатна документација и следење на системите за вештачка интелигенција.	Поддржува робусно управување, барања за ризик и усогласеност (GRC), обезбедувајќи јасни ревизорски траги и транспарентност.
Континуитет на отворен код	Континуиран развој и одржување на CLI и библиотеката на Promptfoo со отворен код.	Поттикнува иновации водени од заедницата и обезбедува достапни алатки за евалуација на LLM и red-teaming, придобивајќи поширока развојна база.

Овој сеопфатен пристап гарантира дека безбедноста не е дополнителна мисла, туку суштински дел од процесот на развој и работа на вештачка интелигенција во рамките на екосистемот Frontier.

Докажана експертиза на Promptfoo: Основа за безбедна вештачка интелигенција

Тимот зад Promptfoo, предводен од ко-основачите Иан Вебстер и Мајкл Д’Анџело, изгради репутација за испорачување практични и ефективни решенија за безбедност на вештачката интелигенција. Нивните придонеси со отворен код беа клучни во поттикнувањето пристап за евалуација на однесувањето на LLM управуван од заедницата, додека нивните корпоративни понуди стекнаа доверба меѓу една четвртина од компаниите на Fortune 500.

Иан Вебстер ја артикулираше движечката сила зад Promptfoo и возбудата за ова ново поглавје: 'Го започнавме Promptfoo затоа што на програмерите им требаше практичен начин да ги обезбедат системите за вештачка интелигенција. Како што AI агентите стануваат повеќе поврзани со реални податоци и системи, обезбедувањето и валидирањето на истите е попредизвикувачко и поважно од кога било. Приклучувањето кон OpenAI ни овозможува да ја забрзаме оваа работа, носејќи посилни безбедносни, сигурносни и управувачки способности на тимовите кои градат реални системи за вештачка интелигенција.' Ова чувство ја нагласува заедничката визија на двете компании за унапредување на безбедна и сигурна вештачка интелигенција.

Справување со критични ризици за вештачка интелигенција: Од инјектирање промпт до протекување податоци

Интеграцијата директно ќе се справи со некои од најитните безбедносни проблеми во вештачката интелигенција денес. Автоматизираните способности за безбедносно тестирање и 'red-teaming' ќе станат домашен дел од OpenAI Frontier, овозможувајќи им на претпријатијата проактивно да идентификуваат и ублажат спектар на ранливости, вклучувајќи:

Инјектирање промпт: Злонамерни влезови дизајнирани да го манипулираат однесувањето или излезот на вештачката интелигенција. Разбирањето на најдобрите практики за промпт инженерство со OpenAI API е клучно овде, а алатките на Promptfoo ќе го автоматизираат откривањето на таквите ранливости.
Jailbreaks: Техники кои се користат за заобиколување на вродените безбедносни механизми и етичките упатства на вештачката интелигенција.
Протекување податоци: Неовластено обелоденување или пристап до чувствителни информации обработени од агенти на вештачка интелигенција. Одржувањето робусна приватност на претпријатијата станува уште покритично со агентската вештачка интелигенција.
Злоупотреба на алатки: Обезбедување агентите на вештачката интелигенција да комуницираат со надворешни алатки и системи само на наменет и безбеден начин.
Однесувања на агенти кои се надвор од политиката: Откривање кога AI агент отстапува од утврдените оперативни упатства или етички граници.

Со вградување на овие способности директно во развојните работни текови, претпријатијата можат да ги идентификуваат, истражат и отстранат ризиците од агенти многу порано, поттикнувајќи парадигма 'безбедност по дизајн' за системите за вештачка интелигенција.

Подобрување на управувањето и одговорноста на вештачката интелигенција за претпријатијата

Пролиферацијата на AI агенти во деловните средини налага ригорозни рамки за управување, ризик и усогласеност (GRC). Подобрената платформа OpenAI Frontier значително ќе ја зајакне способноста на организацијата да ги исполни овие барања. Интегрираните функции за известување и следливост ќе бидат најважни, помагајќи им на организациите да:

Документирање тестирање: Одржување јасни и ревизорски записи за сите активности за тестирање и евалуација на безбедноста.
Следење промени: Следење како се развива однесувањето на системот за вештачка интелигенција со текот на времето и проценка на влијанието на ажурирањата или модификациите врз безбедносната состојба.
Исполнување на очекувањата за усогласеност: Задоволување на растечките регулаторни барања за транспарентност, безбедност и етичко распоредување на вештачка интелигенција низ различни индустрии.

Овој фокус на сеопфатен надзор и одговорност ќе им овозможи на претпријатијата да распоредат соработници на вештачка интелигенција со поголема доверба, знаејќи дека можат да покажат придржување кон внатрешните политики и надворешните регулативи.

Иднината на безбеден развој на агентска вештачка интелигенција

Аквизицијата на Promptfoo од OpenAI претставува силна посветеност на унапредување на границата на безбедна и сигурна вештачка интелигенција. Со комбинирање на врвните AI модели и способности на платформата на OpenAI со специјализираната експертиза на Promptfoo за тестирање на безбедноста на вештачката интелигенција, индустријата е подготвена за нова ера на усвојување на вештачка интелигенција во претпријатијата, каде безбедноста и довербата се вградени од самиот почеток.

Како што напредува затворањето на аквизицијата, заедничкиот напор на двата тима ветува дека ќе испорача платформа која не само што овозможува револуционерни AI апликации, туку и гарантира дека тие работат со највисоки стандарди за безбедност, етика и одговорност. Оваа стратешка унија ќе го забрза патувањето кон иднина каде соработниците на вештачката интелигенција можат беспрекорно и безбедно да бидат интегрирани во секој аспект од работењето на претпријатијата.

Оригинален извор

https://openai.com/index/openai-to-acquire-promptfoo/

Често поставувани прашања

What is Promptfoo, and what problem does it solve for AI development?

Promptfoo is an advanced AI security platform specializing in identifying and remediating vulnerabilities within AI systems during their development lifecycle. It provides a comprehensive suite of tools, including a widely used open-source CLI and library, for evaluating and red-teaming Large Language Model (LLM) applications. The platform directly addresses the critical challenge of ensuring AI safety, security, and compliance as enterprises increasingly deploy sophisticated AI agents and coworkers into real-world workflows. By enabling systematic testing of agent behavior, detection of risks pre-deployment, and maintenance of clear audit trails, Promptfoo helps businesses build and operate secure, reliable, and accountable AI solutions, mitigating potential issues like prompt injections, jailbreaks, and data leaks before they impact operations.

Why is OpenAI acquiring Promptfoo, and what is the strategic significance?

OpenAI's acquisition of Promptfoo is a strategic move to significantly accelerate its agentic security testing and evaluation capabilities, particularly within its OpenAI Frontier platform. The acquisition underscores OpenAI's commitment to enabling safe and secure deployment of enterprise-grade AI. As AI coworkers become more integrated into critical business processes, the need for robust security, evaluation, and compliance frameworks becomes paramount. By bringing Promptfoo's proven expertise and tools in-house, OpenAI aims to provide enterprises with native, comprehensive solutions for identifying and remediating AI risks such as prompt injections, jailbreaks, and data leaks. This integration is crucial for fostering trust, ensuring governance, and meeting regulatory demands for AI deployments at scale.

What is OpenAI Frontier, and how does Promptfoo enhance its capabilities?

OpenAI Frontier is OpenAI's dedicated platform designed for enterprises to build, deploy, and operate AI coworkers effectively and securely within their existing ecosystems. It serves as the operational backbone for integrating advanced AI into real-world business workflows. With the acquisition of Promptfoo, Frontier will gain significantly enhanced, native capabilities in AI security testing, evaluation, and governance. Promptfoo's technology will integrate automated security testing and red-teaming directly into the Frontier platform, empowering enterprises to proactively identify and remediate critical risks like prompt injections, jailbreaks, and out-of-policy agent behaviors. This strategic addition transforms Frontier into an even more robust and trustworthy platform for developing and managing secure, compliant, and accountable AI solutions at scale.

How will Promptfoo's technology be integrated into OpenAI Frontier for enterprises?

Promptfoo's technology will be deeply integrated into OpenAI Frontier, becoming a native and foundational component for enterprise AI development and operations. This integration will manifest in several key ways: automated security testing and red-teaming capabilities will be built directly into the platform, allowing for continuous identification and remediation of risks such as prompt injections, jailbreaks, and data leaks. Furthermore, these security and evaluation tools will be seamlessly woven into enterprise development workflows, enabling the identification and remediation of agent risks earlier in the lifecycle. Finally, integrated reporting and traceability features will be enhanced, providing comprehensive documentation of testing, monitoring of changes, and support for robust AI governance, risk, and compliance requirements.

What specific AI security risks will the integrated OpenAI Frontier platform address?

The integrated OpenAI Frontier platform, powered by Promptfoo's technology, will directly address a range of critical AI security risks that are increasingly relevant for enterprise deployments. These include prompt injections, where malicious inputs manipulate an AI's behavior; jailbreaks, which bypass safety mechanisms; data leaks, preventing unauthorized access or exposure of sensitive information; tool misuse, ensuring AI agents only interact with approved tools as intended; and out-of-policy agent behaviors, guaranteeing that AI actions align with organizational guidelines and ethical standards. By automating the detection and remediation of these vulnerabilities, the platform aims to significantly enhance the safety, reliability, and trustworthiness of AI coworkers operating within enterprise environments.

Will the open-source Promptfoo project continue after the acquisition?

Yes, the open-source Promptfoo project, which includes its widely used CLI and library for evaluating and red-teaming LLM applications, will indeed continue to be supported and developed even after the acquisition by OpenAI. Both OpenAI and the Promptfoo team, led by co-founder Ian Webster, have committed to continuing to build on the open-source project. This commitment ensures that the broader developer community will still benefit from Promptfoo's innovative tools, while its integrated enterprise capabilities will be further advanced within OpenAI's Frontier platform. This dual approach allows for both community-driven innovation and enterprise-focused security solutions.

What are the primary benefits for enterprises using the enhanced OpenAI Frontier platform?

Enterprises utilizing the enhanced OpenAI Frontier platform will gain significant advantages in deploying and managing AI coworkers. Key benefits include dramatically improved security posture through automated testing and red-teaming, proactively identifying vulnerabilities like prompt injections and data leaks before deployment. The deep integration of security into development workflows will enable earlier risk detection and remediation, making security an inherent part of AI system development. Furthermore, comprehensive oversight and accountability features, including integrated reporting and traceability, will help organizations meet stringent governance, risk and compliance (GRC) requirements. This ensures secure, reliable, and compliant AI deployments, fostering trust and enabling responsible scaling of AI within complex organizational structures.

Бидете информирани

Добивајте ги најновите AI вести на е-пошта.

Сподели

OpenAI го презема Promptfoo за да ја зајакне безбедноста и тестирањето на вештачката интелигенција