title: "Соглашение OpenAI с Министерством обороны: обеспечение защитных мер для безопасности ИИ" slug: "our-agreement-with-the-department-of-war" date: "2026-03-03" lang: "ru" source: "https://openai.com/index/our-agreement-with-the-department-of-war/" category: "Безопасность ИИ" keywords:

OpenAI
Министерство обороны
этика ИИ
национальная безопасность
наблюдение ИИ
автономное оружие
защитные меры ИИ
секретный ИИ
оборонные контракты
политика в области ИИ
вооруженные силы США
облачное развертывание meta_description: "OpenAI подробно описывает свое знаковое соглашение с Министерством обороны, устанавливающее надежные защитные меры для безопасности ИИ против внутреннего наблюдения и автономного оружия, а также задающее новый стандарт для оборонных технологий." image: "/images/articles/our-agreement-with-the-department-of-war.png" image_alt: "Соглашение OpenAI и Министерства обороны о защитных мерах безопасности ИИ" quality_score: 94 content_score: 93 seo_score: 95 companies:
OpenAI schema_type: "NewsArticle" reading_time: 7 faq:
question: "Почему OpenAI заключила соглашение с Министерством обороны?" answer: "OpenAI заключила соглашение, чтобы оснастить вооруженные силы США передовыми возможностями ИИ, признавая растущую интеграцию ИИ потенциальными противниками. Это партнерство зависит от установления надежных гарантий, которые OpenAI тщательно разработала для обеспечения ответственного развертывания в секретных средах. Цель состоит в предоставлении передовых инструментов при соблюдении строгих этических принципов, демонстрируя, что сложный ИИ может использоваться для национальной безопасности без ущерба для фундаментальных стандартов безопасности и конфиденциальности. Кроме того, OpenAI стремилась снизить напряженность между Министерством обороны США и лабораториями ИИ, выступая за более широкий доступ к этим тщательно структурированным условиям для других компаний."
question: "Какие конкретные защитные меры предусмотрены для предотвращения внутреннего наблюдения?" answer: "Соглашение явно запрещает преднамеренное использование систем ИИ OpenAI для внутреннего наблюдения за гражданами или подданными США, что соответствует Четвертой поправке, Закону о национальной безопасности 1947 года и Закону о надзоре за внешней разведкой (FISA) 1978 года. Это включает строгий запрет на преднамеренное отслеживание, мониторинг или использование коммерчески полученной личной или идентифицируемой информации для таких целей. Важно отметить, что Министерство обороны подтвердило, что разведывательным агентствам, таким как АНБ, потребуется отдельное соглашение для любых услуг, что усиливает эти ограничения и обеспечивает множество юридических и договорных уровней защиты от неправомерного использования."
question: "Как это соглашение предотвращает использование моделей OpenAI для автономного оружия?" answer: "Предотвращение осуществляется на нескольких уровнях. Во-первых, архитектура развертывания является исключительно облачной, что означает невозможность развертывания моделей на 'периферийных устройствах', критически важных для автономного летального оружия. Во-вторых, формулировка контракта конкретно указывает, что система ИИ не будет использоваться для независимого управления автономным оружием там, где требуется человеческий контроль. Она также предписывает строгую верификацию, валидацию и тестирование в соответствии с Директивой Министерства обороны 3000.09. Наконец, уполномоченный персонал OpenAI, включая исследователей безопасности и соответствия, остается 'включенным в процесс', обеспечивая дополнительный уровень человеческого надзора и гарантии того, что эти строгие 'красные линии' не будут пересечены."
question: "Что делает соглашение OpenAI отличным или более сильным, чем другие, например, Anthropic?" answer: "OpenAI считает, что ее соглашение предлагает более сильные гарантии и защитные меры благодаря многоуровневому подходу. В отличие от некоторых других соглашений, которые могут полагаться исключительно на политику использования, контракт OpenAI гарантирует, что ее собственная система безопасности остается полностью работоспособной и под ее контролем. Облачная архитектура развертывания изначально ограничивает определенные высокорисковые применения, такие как полностью автономное оружие, которые обычно требуют развертывания на периферии. Кроме того, постоянное участие уполномоченного персонала OpenAI обеспечивает активный человеческий надзор и проверку, создавая более надежную основу против неприемлемого использования, что, по их утверждению, превосходит более ранние соглашения."
question: "Какова роль персонала OpenAI в обеспечении соблюдения?" answer: "Уполномоченный персонал OpenAI, включая инженеров, размещенных на объектах, а также исследователей безопасности и соответствия, играет критически важную роль 'в цикле'. Они помогают правительству ответственно интегрировать технологию, активно отслеживая соблюдение установленных 'красных линий'. Это прямое участие позволяет OpenAI независимо проверять, что система не используется для запрещенных действий, таких как внутреннее наблюдение или управление автономным оружием. Их постоянное присутствие гарантирует поддержание защитных мер безопасности, а модели постоянно совершенствуются с учетом безопасности и соответствия как основных приоритетов, обеспечивая дополнительный уровень технической и этической уверенности."
question: "Что произойдет, если Министерство обороны нарушит соглашение?" answer: "В случае нарушения, как и в любом контрактном соглашении, OpenAI оставляет за собой право расторгнуть контракт. Это служит значительным сдерживающим фактором, гарантируя, что Министерство обороны строго соблюдает согласованные условия. Пункт о расторжении подчеркивает серьезность защитных мер и 'красных линий', установленных в соглашении, демонстрируя приверженность OpenAI соблюдению своих этических принципов даже в контексте национальной безопасности с высокими ставками. Хотя OpenAI не ожидает такого нарушения, договорное положение предусматривает четкие меры по исправлению положения."
question: "Повлияют ли будущие изменения в законодательстве или политике на защиту, предусмотренную соглашением?" answer: "Нет, соглашение разработано так, чтобы быть устойчивым к будущим изменениям в законодательстве или политике. Оно явно ссылается на действующие законы и политику в области наблюдения и автономного оружия, такие как Четвертая поправка, Закон о национальной безопасности, Закон о надзоре за внешней разведкой (FISA) и Директива Министерства обороны 3000.09, в их текущем виде. Это означает, что даже если эти законы или политика будут изменены в будущем, использование систем OpenAI по этому контракту по-прежнему должно соответствовать строгим стандартам, отраженным в первоначальном соглашении. Этот дальновидный пункт обеспечивает сильный, долгосрочный уровень защиты от потенциального ослабления защитных мер."

OpenAI и Министерство обороны укрепляют безопасность ИИ с помощью явных защитных мер

Сан-Франциско, Калифорния – 3 марта 2026 г. – OpenAI объявила о значительном обновлении своего соглашения с Министерством обороны (Минобороны), усиливающем строгие защитные меры безопасности вокруг развертывания передовых систем ИИ в секретных средах. Это знаковое сотрудничество подчеркивает общую приверженность ответственному использованию ИИ, особенно в отношении чувствительных приложений национальной безопасности. Обновленное соглашение, окончательно доработанное 2 марта 2026 года, явно запрещает внутреннее наблюдение за гражданами США и ограничивает использование ИИ в системах автономного оружия, устанавливая новый стандарт этической интеграции искусственного интеллекта в обороне.

Суть этого расширенного соглашения заключается в том, чтобы сделать явным то, что ранее подразумевалось, исключая любую двусмысленность в отношении этических ограничений технологии ИИ. OpenAI подчеркивает, что эта основа предназначена для обеспечения вооруженных сил США передовыми инструментами при строгом соблюдении принципов конфиденциальности и безопасности.

Переосмысление защитных мер для секретного развертывания ИИ

В качестве упреждающего шага по устранению потенциальных опасений OpenAI и Министерство обороны включили дополнительные формулировки в свое соглашение, конкретно уточняющие границы развертывания ИИ. Этот новый пункт недвусмысленно заявляет, что инструменты OpenAI не будут использоваться для внутреннего наблюдения за гражданами США, в том числе путем приобретения или использования коммерчески полученной личной информации. Кроме того, Министерство обороны подтвердило, что его разведывательные агентства, такие как АНБ, исключены из этого соглашения и потребуют совершенно новых условий для предоставления любых услуг.

Обновленная формулировка в соглашении уточняет:

'В соответствии с применимым законодательством, включая Четвертую поправку к Конституции Соединенных Штатов, Закон о национальной безопасности 1947 года, Закон о надзоре за внешней разведкой (FISA) 1978 года, система ИИ не должна преднамеренно использоваться для внутреннего наблюдения за гражданами и подданными США.'
'Во избежание сомнений, Министерство понимает это ограничение как запрет преднамеренного отслеживания, наблюдения или мониторинга граждан или подданных США, в том числе путем приобретения или использования коммерчески полученной личной или идентифицируемой информации.'

Этот дальновидный подход направлен на создание четкого пути для других передовых лабораторий ИИ к взаимодействию с Министерством обороны, способствуя сотрудничеству при сохранении непоколебимых этических стандартов.

Основные этические принципы OpenAI: Три 'красные линии'

OpenAI действует в соответствии с тремя фундаментальными 'красными линиями', которые регулируют ее сотрудничество в чувствительных областях, таких как национальная безопасность. Эти принципы, в значительной степени разделяемые другими ведущими научно-исследовательскими учреждениями в области ИИ, являются центральными в соглашении с Министерством обороны:

Отсутствие массового внутреннего наблюдения: Технология OpenAI не будет использоваться для широкомасштабного мониторинга граждан США.
Отсутствие систем автономного оружия: Технология запрещена для управления автономным оружием без человеческого контроля.
Отсутствие высокорисковых автоматизированных решений: Инструменты OpenAI не будут использоваться для критически важных автоматизированных решений (например, систем 'социального кредита'), требующих человеческого надзора.

OpenAI утверждает, что ее многоуровневая стратегия обеспечивает более надежную защиту от неприемлемого использования по сравнению с подходами, которые в первую очередь полагаются только на политику использования. Этот акцент на строгих технических и контрактных гарантиях отличает ее соглашение в развивающемся ландшафте оборонного ИИ.

Многоуровневая защита: Архитектура, контракт и человеческий опыт

Сила соглашения OpenAI с Министерством обороны заключается в его всеобъемлющем, многоуровневом подходе к защите. Это включает:

Архитектура развертывания: Соглашение предписывает исключительно облачное развертывание, гарантируя, что OpenAI сохраняет полное усмотрение в отношении своей системы безопасности и предотвращает развертывание моделей 'без защитных мер'. Эта архитектура изначально ограничивает варианты использования, такие как автономное летальное оружие, которые обычно требуют развертывания на периферии. Созданы независимые механизмы проверки, включая классификаторы, для обеспечения того, чтобы эти 'красные линии' не были пересечены.
Надежные договорные формулировки: Контракт явно детализирует допустимые виды использования, требуя соблюдения 'всех законных целей, соответствующих применимому законодательству, операционным требованиям и хорошо установленным протоколам безопасности и надзора'. Он конкретно ссылается на законы США, такие как Четвертая поправка, Закон о национальной безопасности 1947 года, Закон о надзоре за внешней разведкой (FISA) 1978 года и Директива Министерства обороны 3000.09. Важно отметить, что он запрещает независимое управление автономным оружием и неограниченный мониторинг частной информации граждан США.
Участие экспертов по ИИ: Уполномоченные инженеры OpenAI и исследователи безопасности и соответствия будут размещены на объектах и 'включены в процесс'. Этот прямой человеческий надзор обеспечивает дополнительный уровень гарантии, помогая со временем улучшать системы и активно проверять соблюдение строгих условий соглашения.

Этот интегрированный подход гарантирует, что технологические, юридические и человеческие защитные меры работают согласованно для предотвращения неправомерного использования.

Категория 'красной линии'	Защитные меры OpenAI
Массовое внутреннее наблюдение	Явный договорный запрет, соответствие Четвертой поправке, Закону о надзоре за внешней разведкой (FISA), Закону о национальной безопасности; исключение АНБ/разведывательных агентств из сферы действия; ограничения на доступ к данным при облачном развертывании; проверка персонала OpenAI, 'включенного в процесс'.
Системы автономного оружия	Облачное развертывание (без развертывания на периферии для летальной автономии); явный договорный запрет на независимое управление автономным оружием; соблюдение Директивы Министерства обороны 3000.09 для верификации/валидации; персонал OpenAI, 'включенный в процесс' для надзора.
Высокорисковые автоматизированные решения	Явные договорные формулировки, требующие человеческого одобрения для высокорисковых решений; OpenAI сохраняет полный контроль над своей системой безопасности, предотвращая модели 'без защитных мер'; персонал OpenAI, 'включенный в процесс' для обеспечения сохранения человеческого надзора там, где принимаются критически важные решения.

Устранение опасений и налаживание будущего сотрудничества в области ИИ

OpenAI признает неотъемлемые риски передового ИИ и считает глубокое сотрудничество между правительством и лабораториями ИИ необходимым для навигации в будущем. Взаимодействие с Министерством обороны позволяет вооруженным силам США получать доступ к передовым инструментам, обеспечивая при этом ответственное развертывание этих технологий.

'Мы считаем, что вооруженным силам США абсолютно необходимы мощные модели ИИ для поддержки их миссии, особенно в условиях растущих угроз со стороны потенциальных противников, которые все активнее интегрируют технологии ИИ в свои системы', — заявили в OpenAI. Эта приверженность уравновешивается непоколебимым отказом от компромиссов в области технических гарантий ради производительности, подчеркивая, что ответственный подход имеет первостепенное значение.

Соглашение также направлено на снижение напряженности и содействие более широкому сотрудничеству в сообществе ИИ. OpenAI запросила, чтобы те же защитные условия были доступны всем компаниям, занимающимся ИИ, надеясь способствовать аналогичным ответственным партнерствам по всей отрасли. Это часть более широкой стратегии OpenAI, о чем свидетельствует ее продолжающееся партнерство с Microsoft и усилия по масштабированию ИИ для всех.

Установление нового стандарта для взаимодействия в области оборонного ИИ

OpenAI считает, что ее соглашение устанавливает более высокий стандарт для секретного развертывания ИИ по сравнению с предыдущими договоренностями, включая те, которые обсуждались другими лабораториями, такими как Anthropic. Уверенность обусловлена встроенными фундаментальными защитными мерами: исключительно облачным развертыванием, которое поддерживает целостность системы безопасности OpenAI, явными договорными гарантиями и активным участием уполномоченного персонала OpenAI.

Эта всеобъемлющая структура гарантирует строгое соблюдение указанных 'красных линий' — предотвращения массового внутреннего наблюдения и контроля над автономным оружием. Договорная формулировка, явно ссылающаяся на существующие законы, гарантирует, что даже если политика изменится в будущем, использование систем OpenAI по-прежнему должно соответствовать первоначальным, более строгим стандартам. Эта проактивная позиция подчеркивает приверженность OpenAI разработке и развертыванию мощных технологий ИИ таким образом, чтобы приоритет отдавался безопасности, этике и демократическим ценностям, даже в самых требовательных условиях национальной безопасности.

Первоисточник

https://openai.com/index/our-agreement-with-the-department-of-war/

Часто задаваемые вопросы

Why did OpenAI engage with the Department of War?

OpenAI engaged to equip the U.S. military with advanced AI capabilities, recognizing the increasing integration of AI by potential adversaries. This partnership is contingent on establishing robust safeguards, which OpenAI meticulously developed to ensure responsible deployment in classified environments. The goal is to provide cutting-edge tools while upholding strict ethical principles, demonstrating that sophisticated AI can be leveraged for national security without compromising fundamental safety and privacy standards. Furthermore, OpenAI aimed to de-escalate tensions between the DoD and AI labs, advocating for broader access to these carefully structured terms for other companies.

What specific guardrails are in place to prevent domestic surveillance?

The agreement explicitly prohibits the intentional use of OpenAI's AI systems for domestic surveillance of U.S. persons or nationals, aligning with the Fourth Amendment, National Security Act of 1947, and FISA Act of 1978. This includes a strict ban on deliberate tracking, monitoring, or the use of commercially acquired personal or identifiable information for such purposes. Crucially, the Department of War affirmed that intelligence agencies like the NSA would require a separate agreement for any service, reinforcing these limitations and providing multiple legal and contractual layers of protection against misuse.

How does this agreement prevent the use of OpenAI models for autonomous weapons?

Prevention is multi-faceted. Firstly, the deployment architecture is cloud-only, meaning models cannot be deployed on 'edge devices' critical for autonomous lethal weapons. Secondly, the contract language specifically states that the AI system will not be used to independently direct autonomous weapons where human control is required. It also mandates rigorous verification, validation, and testing as per DoD Directive 3000.09. Lastly, cleared OpenAI personnel, including safety and alignment researchers, remain in the loop, providing an additional layer of human oversight and assurance that these strict red lines are not crossed.

What makes OpenAI's agreement different or stronger than others, like Anthropic's?

OpenAI believes its agreement offers stronger guarantees and safeguards due to its multi-layered approach. Unlike some other agreements that might rely solely on usage policies, OpenAI's contract ensures that its proprietary safety stack remains fully operational and under its control. The cloud-only deployment architecture inherently restricts certain high-risk applications, such as fully autonomous weapons, which typically require edge deployment. Furthermore, the continuous involvement of cleared OpenAI personnel provides active human oversight and verification, creating a more robust framework against unacceptable uses, which they argue surpasses earlier agreements.

What role do OpenAI personnel play in ensuring compliance?

Cleared OpenAI personnel, including forward-deployed engineers and safety and alignment researchers, play a critical 'in the loop' role. They help the government integrate the technology responsibly while actively monitoring for adherence to the established red lines. This direct involvement allows OpenAI to independently verify that the system is not being used for prohibited activities, such as domestic surveillance or autonomous weapons control. Their ongoing presence ensures that safety guardrails are maintained, and models are continuously improved with safety and alignment as core priorities, providing an additional layer of technical and ethical assurance.

What happens if the Department of War violates the agreement?

In the event of a violation, as with any contractual agreement, OpenAI retains the right to terminate the contract. This serves as a significant deterrent, ensuring that the Department of War adheres strictly to the agreed-upon terms and conditions. The termination clause underscores the seriousness of the safety guardrails and red lines established within the agreement, demonstrating OpenAI's commitment to upholding its ethical principles even in high-stakes national security contexts. While OpenAI does not anticipate such a breach, the contractual provision provides a clear recourse.

Will future changes in law or policy affect the agreement's protections?

No, the agreement is designed to be resilient against future changes in law or policy. It explicitly references current surveillance and autonomous weapons laws and policies, such as the Fourth Amendment, National Security Act, FISA Act, and DoD Directive 3000.09, as they exist today. This means that even if these laws or policies were to be altered in the future, the use of OpenAI's systems under this contract must still comply with the stringent standards reflected in the original agreement. This forward-thinking clause provides a strong, enduring layer of protection against potential erosion of safeguards.

Будьте в курсе

Получайте последние новости ИИ на почту.