title: "OpenAI übernimmt Promptfoo zur Stärkung der KI-Sicherheit und -Tests" slug: "openai-to-acquire-promptfoo" date: "2026-03-10" lang: "de" source: "https://openai.com/index/openai-to-acquire-promptfoo/" category: "KI-Sicherheit" keywords:

• OpenAI
• Promptfoo
• KI-Sicherheit
• agentische KI
• Enterprise-KI
• KI-Evaluierung
• Red-Teaming
• Prompt-Injection
• Jailbreaks
• Datenlecks
• Frontier-Plattform
• KI-Governance meta_description: "OpenAI stärkt seine KI-Sicherheitsfunktionen durch die Übernahme von Promptfoo und integriert dessen fortschrittliche Test- und Evaluierungstools in OpenAI Frontier, um Enterprise-KI-Implementierungen zu sichern." image: "/images/articles/openai-to-acquire-promptfoo.png" image_alt: "Logos von OpenAI und Promptfoo symbolisieren ihre Übernahme zur Verbesserung der KI-Sicherheit und -Tests" quality_score: 94 content_score: 93 seo_score: 95 companies:
• OpenAI
• Promptfoo schema_type: "NewsArticle" reading_time: 5 faq:
• question: "Was ist Promptfoo und welches Problem löst es für die KI-Entwicklung?" answer: "Promptfoo ist eine fortschrittliche KI-Sicherheitsplattform, die sich auf die Identifizierung und Behebung von Schwachstellen in KI-Systemen während ihres Entwicklungszyklus spezialisiert hat. Sie bietet eine umfassende Suite von Tools, einschließlich einer weit verbreiteten Open-Source-CLI und -Bibliothek, zur Evaluierung und zum Red-Teaming von Anwendungen großer Sprachmodelle (LLM). Die Plattform befasst sich direkt mit der kritischen Herausforderung, die Sicherheit und Compliance von KI zu gewährleisten, da Unternehmen zunehmend hochentwickelte KI-Agenten und -Mitarbeiter in reale Arbeitsabläufe integrieren. Durch die Ermöglichung systematischer Tests des Agentenverhaltens, der Erkennung von Risiken vor der Bereitstellung und der Aufrechterhaltung klarer Audit-Trails hilft Promptfoo Unternehmen, sichere, zuverlässige und rechenschaftspflichtige KI-Lösungen zu entwickeln und zu betreiben, wodurch potenzielle Probleme wie Prompt-Injections, Jailbreaks und Datenlecks vermieden werden, bevor sie den Betrieb beeinträchtigen."
• question: "Warum erwirbt OpenAI Promptfoo und welche strategische Bedeutung hat dies?" answer: "Die Übernahme von Promptfoo durch OpenAI ist ein strategischer Schritt, um seine Fähigkeiten im Bereich der agentischen Sicherheitstests und -evaluierung, insbesondere innerhalb der OpenAI Frontier-Plattform, erheblich zu beschleunigen. Die Übernahme unterstreicht das Engagement von OpenAI, die sichere Bereitstellung von Enterprise-KI zu ermöglichen. Da KI-Mitarbeiter zunehmend in kritische Geschäftsprozesse integriert werden, wird der Bedarf an robusten Sicherheits-, Evaluierungs- und Compliance-Frameworks von größter Bedeutung. Durch die Integration der bewährten Expertise und Tools von Promptfoo will OpenAI Unternehmen native, umfassende Lösungen zur Identifizierung und Behebung von KI-Risiken wie Prompt-Injections, Jailbreaks und Datenlecks bieten. Diese Integration ist entscheidend für die Förderung von Vertrauen, die Gewährleistung der Governance und die Erfüllung regulatorischer Anforderungen für KI-Implementierungen im großen Maßstab."
• question: "Was ist OpenAI Frontier und wie verbessert Promptfoo dessen Fähigkeiten?" answer: "OpenAI Frontier ist die dedizierte Plattform von OpenAI, die Unternehmen dabei unterstützt, KI-Mitarbeiter effektiv und sicher innerhalb ihrer bestehenden Ökosysteme zu entwickeln, bereitzustellen und zu betreiben. Sie dient als operatives Rückgrat für die Integration fortschrittlicher KI in reale Geschäftsprozesse. Mit der Übernahme von Promptfoo wird Frontier erheblich verbesserte, native Fähigkeiten in den Bereichen KI-Sicherheitstests, -Evaluierung und -Governance erhalten. Die Technologie von Promptfoo wird automatisierte Sicherheitstests und Red-Teaming direkt in die Frontier-Plattform integrieren, wodurch Unternehmen in die Lage versetzt werden, kritische Risiken wie Prompt-Injections, Jailbreaks und vom Richtlinien abweichendes Agentenverhalten proaktiv zu identifizieren und zu beheben. Diese strategische Ergänzung verwandelt Frontier in eine noch robustere und vertrauenswürdigere Plattform für die Entwicklung und Verwaltung sicherer, konformer und rechenschaftspflichtiger KI-Lösungen im großen Maßstab."
• question: "Wie wird die Technologie von Promptfoo in OpenAI Frontier für Unternehmen integriert?" answer: "Die Technologie von Promptfoo wird tief in OpenAI Frontier integriert und zu einer nativen und grundlegenden Komponente für die Enterprise-KI-Entwicklung und -Operationen. Diese Integration wird sich in mehreren Schlüsselbereichen manifestieren: Automatisierte Sicherheitstests und Red-Teaming-Funktionen werden direkt in die Plattform integriert, was eine kontinuierliche Identifizierung und Behebung von Risiken wie Prompt-Injections, Jailbreaks und Datenlecks ermöglicht. Darüber hinaus werden diese Sicherheits- und Evaluierungstools nahtlos in die Unternehmensentwicklungsworkflows integriert, wodurch die Identifizierung und Behebung von Agentenrisiken früher im Lebenszyklus ermöglicht wird. Schließlich werden integrierte Berichts- und Nachverfolgbarkeitsfunktionen verbessert, die eine umfassende Dokumentation von Tests, die Überwachung von Änderungen und die Unterstützung robuster Anforderungen an KI-Governance, -Risiko und -Compliance bieten."
• question: "Welche spezifischen KI-Sicherheitsrisiken wird die integrierte OpenAI Frontier-Plattform angehen?" answer: "Die integrierte OpenAI Frontier-Plattform, die auf der Technologie von Promptfoo basiert, wird eine Reihe kritischer KI-Sicherheitsrisiken direkt angehen, die für Unternehmensimplementierungen zunehmend relevant sind. Dazu gehören Prompt-Injections, bei denen bösartige Eingaben das Verhalten einer KI manipulieren; Jailbreaks, die Sicherheitsmechanismen umgehen; Datenlecks, die unbefugten Zugriff oder die Offenlegung sensibler Informationen verhindern; Tool-Missbrauch, der sicherstellt, dass KI-Agenten nur wie beabsichtigt mit zugelassenen Tools interagieren; und vom Richtlinien abweichendes Agentenverhalten, das gewährleistet, dass KI-Aktionen mit den organisatorischen Richtlinien und ethischen Standards übereinstimmen. Durch die Automatisierung der Erkennung und Behebung dieser Schwachstellen zielt die Plattform darauf ab, die Sicherheit, Zuverlässigkeit und Vertrauenswürdigkeit von KI-Mitarbeitern in Unternehmensumgebungen erheblich zu verbessern."
• question: "Wird das Open-Source-Projekt Promptfoo nach der Übernahme fortgesetzt?" answer: "Ja, das Open-Source-Projekt Promptfoo, das seine weit verbreitete CLI und Bibliothek zur Evaluierung und zum Red-Teaming von LLM-Anwendungen umfasst, wird auch nach der Übernahme durch OpenAI weiterhin unterstützt und entwickelt. Sowohl OpenAI als auch das Promptfoo-Team, angeführt vom Mitbegründer Ian Webster, haben sich verpflichtet, das Open-Source-Projekt weiterzuentwickeln. Dieses Engagement stellt sicher, dass die breitere Entwicklergemeinschaft weiterhin von den innovativen Tools von Promptfoo profitieren wird, während die integrierten Unternehmensfunktionen innerhalb der OpenAI Frontier-Plattform weiter vorangetrieben werden. Dieser duale Ansatz ermöglicht sowohl gemeindegesteuerte Innovation als auch unternehmensfokussierte Sicherheitslösungen."
• question: "Welche Hauptvorteile ergeben sich für Unternehmen, die die verbesserte OpenAI Frontier-Plattform nutzen?" answer: "Unternehmen, die die verbesserte OpenAI Frontier-Plattform nutzen, werden erhebliche Vorteile bei der Bereitstellung und Verwaltung von KI-Mitarbeitern erzielen. Zu den Hauptvorteilen gehören eine dramatisch verbesserte Sicherheitsposition durch automatisierte Tests und Red-Teaming, die proaktive Identifizierung von Schwachstellen wie Prompt-Injections und Datenlecks vor der Bereitstellung. Die tiefe Integration von Sicherheit in die Entwicklungs-Workflows ermöglicht eine frühere Erkennung und Behebung von Risiken, wodurch Sicherheit zu einem inhärenten Bestandteil der KI-Systementwicklung wird. Darüber hinaus werden umfassende Überwachungs- und Rechenschaftsfunktionen, einschließlich integrierter Berichterstattung und Nachverfolgbarkeit, Unternehmen dabei helfen, strenge Anforderungen an Governance, Risiko und Compliance (GRC) zu erfüllen. Dies gewährleistet sichere, zuverlässige und konforme KI-Implementierungen, fördert Vertrauen und ermöglicht die verantwortungsvolle Skalierung von KI innerhalb komplexer Organisationsstrukturen."

OpenAI übernimmt Promptfoo zur Stärkung der Enterprise-KI-Sicherheit

San Francisco, CA – 10. März 2026 – In einem bedeutenden Schritt zur Stärkung der Sicherheit und Zuverlässigkeit von Künstlicher Intelligenz auf Unternehmensebene gab OpenAI heute die Übernahme von Promptfoo, einer führenden KI-Sicherheitsplattform, bekannt. Diese strategische Akquisition soll die fortschrittlichen Test- und Evaluierungsfähigkeiten von Promptfoo direkt in OpenAI Frontier integrieren, der dedizierten Plattform des Unternehmens für den Aufbau und Betrieb von KI-Mitarbeitern. Die Übernahme, vorbehaltlich der üblichen Abschlussbedingungen, markiert einen entscheidenden Schritt zur Bewältigung des wachsenden Bedarfs an robuster KI-Sicherheit, da Unternehmen zunehmend hochentwickelte KI-Agenten in reale Geschäftsprozesse integrieren.

Da KI-Systeme, insbesondere agentische KI, autonomer und tiefer in kritische Operationen eingebettet werden, haben sich die Herausforderungen in Bezug auf Evaluierung, Sicherheit und Compliance verstärkt. Unternehmen benötigen systematische Methoden, um das Agentenverhalten gründlich zu testen, potenzielle Risiken vor der Bereitstellung zu identifizieren und umfassende Aufzeichnungen für die fortlaufende Überwachung, Governance und Rechenschaftspflicht zu führen. Promptfoo, anerkannt für seine leistungsstarke Suite von Tools, denen über 25 Prozent der Fortune-500-Unternehmen vertrauen, bietet genau diese Fähigkeiten, zusammen mit einer weit verbreiteten Open-Source-Befehlszeilenschnittstelle (CLI) und Bibliothek zur Evaluierung und zum Red-Teaming von Anwendungen großer Sprachmodelle (LLM).

Integration fortschrittlicher KI-Sicherheitstests in OpenAI Frontier

Das Kernziel dieser Übernahme ist die nahtlose Einbettung der ausgeklügelten Sicherheitsfunktionen von Promptfoo in OpenAI Frontier. OpenAI Frontier wurde entwickelt, um Unternehmen zu befähigen, KI-Mitarbeiter effizient zu entwickeln und zu verwalten, und diese Integration wird seine grundlegende Sicherheitslage erheblich verbessern. Srinivas Narayanan, CTO für B2B-Anwendungen bei OpenAI, betonte die strategische Bedeutung: „Promptfoo bringt tiefgreifende technische Expertise in der Evaluierung, Sicherung und Prüfung von KI-Systemen im Unternehmensmaßstab mit. Ihre Arbeit hilft Unternehmen, sichere und zuverlässige KI-Anwendungen bereitzustellen, und wir freuen uns, diese Fähigkeiten direkt in Frontier zu integrieren.“

Die Integration wird sich auf mehrere kritische Bereiche konzentrieren und die Art und Weise verändern, wie Unternehmen die KI-Entwicklung und -Bereitstellung angehen:

Wichtige Verbesserungen durch die Promptfoo-Integration

Dieser umfassende Ansatz stellt sicher, dass Sicherheit kein nachträglicher Gedanke, sondern ein wesentlicher Bestandteil des KI-Entwicklungs- und Betriebsprozesses innerhalb des Frontier-Ökosystems ist.

Promptfoos bewährte Expertise: Eine Grundlage für sichere KI

Das Team hinter Promptfoo, angeführt von den Mitbegründern Ian Webster und Michael D’Angelo, hat sich einen Ruf für die Bereitstellung praktischer und effektiver Lösungen für die KI-Sicherheit erworben. Ihre Open-Source-Beiträge waren maßgeblich an der Förderung eines Community-getriebenen Ansatzes zur Evaluierung des LLM-Verhaltens beteiligt, während ihre Unternehmensangebote das Vertrauen eines Viertels der Fortune 500 gewonnen haben.

Ian Webster formulierte die treibende Kraft hinter Promptfoo und die Begeisterung für dieses neue Kapitel: „Wir haben Promptfoo gegründet, weil Entwickler einen praktischen Weg brauchten, um KI-Systeme zu sichern. Da KI-Agenten zunehmend mit realen Daten und Systemen verbunden sind, ist deren Sicherung und Validierung schwieriger und wichtiger denn je. Der Beitritt zu OpenAI ermöglicht es uns, diese Arbeit zu beschleunigen und den Teams, die reale KI-Systeme entwickeln, stärkere Sicherheits-, Schutz- und Governance-Funktionen zur Verfügung zu stellen.“ Dieses Gefühl unterstreicht die gemeinsame Vision beider Unternehmen, sichere und zuverlässige KI voranzutreiben.

Bewältigung kritischer KI-Risiken: Von Prompt-Injections bis zu Datenlecks

Die Integration wird einige der drängendsten Sicherheitsbedenken in der heutigen KI direkt angehen. Automatisierte Sicherheitstests und Red-Teaming-Funktionen werden zu einem nativen Bestandteil von OpenAI Frontier und ermöglichen es Unternehmen, proaktiv eine Reihe von Schwachstellen zu identifizieren und zu mindern, darunter:

• Prompt-Injections: Bösartige Eingaben, die darauf abzielen, das Verhalten oder die Ausgabe einer KI zu manipulieren. Das Verständnis der Best Practices für Prompt Engineering mit der OpenAI API ist hier entscheidend, und die Tools von Promptfoo werden die Erkennung solcher Schwachstellen automatisieren.
• Jailbreaks: Techniken, die verwendet werden, um die inhärenten Sicherheitsmechanismen und ethischen Richtlinien einer KI zu umgehen.
• Datenlecks: Unbefugte Offenlegung oder Zugriff auf sensible Informationen, die von KI-Agenten verarbeitet werden. Die Aufrechterhaltung eines robusten Unternehmensdatenschutzes wird mit agentischer KI noch kritischer.
• Tool-Missbrauch: Sicherstellen, dass KI-Agenten nur in beabsichtigter und sicherer Weise mit externen Tools und Systemen interagieren.
• Abweichendes Agentenverhalten: Erkennung, wenn ein KI-Agent von etablierten operationellen Richtlinien oder ethischen Grenzen abweicht.

Durch die Einbettung dieser Funktionen direkt in die Entwicklungsworkflows können Unternehmen Agentenrisiken viel früher identifizieren, untersuchen und beheben, wodurch ein „Security by Design“-Paradigma für KI-Systeme gefördert wird.

Verbesserung der KI-Governance und Rechenschaftspflicht für Unternehmen

Die Verbreitung von KI-Agenten in Unternehmensumgebungen erfordert rigorose Governance-, Risiko- und Compliance (GRC)-Frameworks. Die verbesserte OpenAI Frontier-Plattform wird die Fähigkeit einer Organisation, diese Anforderungen zu erfüllen, erheblich stärken. Integrierte Berichts- und Nachverfolgbarkeitsfunktionen werden von größter Bedeutung sein und Unternehmen dabei helfen, Folgendes zu gewährleisten:

• Testdokumentation: Klare und überprüfbare Aufzeichnungen aller Sicherheitstests und Evaluierungsaktivitäten führen.
• Änderungen überwachen: Verfolgen, wie sich das Verhalten von KI-Systemen im Laufe der Zeit entwickelt, und die Auswirkungen von Updates oder Modifikationen auf die Sicherheitslage bewerten.
• Compliance-Erwartungen erfüllen: Den wachsenden regulatorischen Anforderungen an KI-Transparenz, Sicherheit und ethische Bereitstellung in verschiedenen Branchen gerecht werden.

Dieser Fokus auf umfassende Überwachung und Rechenschaftspflicht wird Unternehmen befähigen, KI-Mitarbeiter mit größerem Vertrauen einzusetzen, da sie wissen, dass sie die Einhaltung interner Richtlinien und externer Vorschriften nachweisen können.

Die Zukunft der sicheren agentischen KI-Entwicklung

Die Übernahme von Promptfoo durch OpenAI stellt ein starkes Engagement dar, die Grenzen sicherer und zuverlässiger KI voranzutreiben. Durch die Kombination von OpenAIs führenden KI-Modellen und Plattformfähigkeiten mit Promptfoos spezialisierter Expertise in KI-Sicherheitstests ist die Branche bereit für eine neue Ära der Enterprise-KI-Einführung, in der Sicherheit und Vertrauen von Grund auf eingebaut sind.

Während der Abschluss der Übernahme voranschreitet, verspricht die gemeinsame Anstrengung beider Teams, eine Plattform zu liefern, die nicht nur bahnbrechende KI-Anwendungen ermöglicht, sondern auch sicherstellt, dass diese mit den höchsten Standards an Sicherheit, Ethik und Rechenschaftspflicht betrieben werden. Diese strategische Vereinigung wird die Reise in eine Zukunft beschleunigen, in der KI-Mitarbeiter nahtlos und sicher in jeden Aspekt der Unternehmensabläufe integriert werden können.