OpenAI a Ministerstvo vojny posilňujú bezpečnosť AI explicitnými zábranami

San Francisco, Kalifornia – 3. marca 2026 – OpenAI oznámila významnú aktualizáciu svojej dohody s Ministerstvom vojny (DoW), ktorá posilňuje prísne bezpečnostné zábrany okolo nasadenia pokročilých systémov AI v utajovaných prostrediach. Táto prelomová spolupráca podčiarkuje spoločný záväzok k zodpovednému používaniu AI, najmä pokiaľ ide o citlivé aplikácie národnej bezpečnosti. Aktualizovaná dohoda, finalizovaná 2. marca 2026, výslovne zakazuje domáce sledovanie osôb USA a obmedzuje používanie AI v systémoch autonómnych zbraní, čím nastavuje nový štandard pre etickú integráciu umelej inteligencie v obrane.

Jadrom tejto vylepšenej dohody je výslovné uvedenie toho, čo bolo predtým chápané, čím sa zabezpečí žiadna nejednoznačnosť ohľadom etických obmedzení technológie AI. OpenAI zdôrazňuje, že tento rámec je navrhnutý tak, aby poskytol americkej armáde špičkové nástroje pri prísnom dodržiavaní princípov súkromia a bezpečnosti.

Predefinovanie bezpečnostných opatrení pre utajované nasadenia AI

V proaktívnom kroku na riešenie potenciálnych obáv, OpenAI a Ministerstvo vojny začlenili dodatočný jazyk do svojej dohody, ktorý špecificky objasňuje hranice nasadenia AI. Táto nová doložka jednoznačne uvádza, že nástroje OpenAI sa nebudú používať na domáce sledovanie osôb USA, a to ani prostredníctvom získavania alebo používania komerčne získaných osobných informácií. Okrem toho, DoW potvrdilo, že jeho spravodajské agentúry, ako napríklad NSA, sú z tejto dohody vylúčené a pre akékoľvek poskytovanie služieb by vyžadovali úplne nové podmienky.

Aktualizovaný jazyk v dohode podrobne uvádza:

"V súlade s platnými zákonmi, vrátane Štvrtého dodatku k Ústave Spojených štátov, Zákona o národnej bezpečnosti z roku 1947, Zákona FISA z roku 1978, sa systém AI úmyselne nepoužije na domáce sledovanie osôb a občanov USA."
"Aby sa predišlo pochybnostiam, Ministerstvo chápe toto obmedzenie tak, že zakazuje úmyselné sledovanie, dohľad alebo monitorovanie osôb alebo občanov USA, a to aj prostredníctvom obstarávania alebo používania komerčne získaných osobných alebo identifikovateľných informácií."

Tento predvídavý prístup má za cieľ vytvoriť jasnú cestu pre ďalšie špičkové AI laboratóriá na spoluprácu s Ministerstvom vojny, podporujúc spoluprácu pri zachovaní neochvejných etických štandardov.

Kľúčové etické piliere OpenAI: Tri červené línie

OpenAI funguje na základe troch základných "červených línií", ktoré riadia jej spoluprácu v citlivých oblastiach, ako je národná bezpečnosť. Tieto princípy, ktoré vo veľkej miere zdieľajú aj iné popredné výskumné inštitúcie v oblasti AI, sú ústredné pre dohodu s Ministerstvom vojny:

Žiadne masové domáce sledovanie: Technológia OpenAI sa nebude používať na rozsiahle monitorovanie občanov USA.
Žiadne autonómne zbraňové systémy: Technológia je zakázaná pri riadení autonómnych zbraní bez ľudskej kontroly.
Žiadne vysoko rizikové automatizované rozhodnutia: Nástroje OpenAI sa nebudú používať na kritické automatizované rozhodnutia (napr. systémy 'sociálneho kreditu'), ktoré si vyžadujú ľudský dohľad.

OpenAI tvrdí, že jej viacvrstvová stratégia poskytuje robustnejšiu ochranu proti neprijateľným použitiam v porovnaní s prístupmi, ktoré sa spoliehajú primárne len na zásady používania. Tento dôraz na prísne technické a zmluvné bezpečnostné opatrenia odlišuje jej dohodu v rozvíjajúcom sa prostredí obrannej AI.

Viacvrstvová ochrana: Architektúra, zmluva a ľudská expertíza

Sila dohody OpenAI s Ministerstvom vojny spočíva v jej komplexnom, viacvrstvovom prístupe k ochrane. To zahŕňa:

Architektúra nasadenia: Dohoda vyžaduje nasadenie len v cloude, čím sa zabezpečuje, že OpenAI si zachováva plnú diskrétnosť nad svojím bezpečnostným stackom a zabraňuje nasadeniu modelov bez "zábran". Táto architektúra prirodzene obmedzuje prípady použitia, ako sú autonómne smrtiace zbrane, ktoré typicky vyžadujú nasadenie na okraji. Nezávislé overovacie mechanizmy, vrátane klasifikátorov, sú zavedené na zabezpečenie, že tieto červené línie nebudú prekročené.
Robustný zmluvný jazyk: Zmluva výslovne podrobne opisuje prípustné použitia, vyžadujúc dodržiavanie "všetkých zákonných účelov, v súlade s platnými zákonmi, prevádzkovými požiadavkami a dobre zavedenými bezpečnostnými a dozornými protokolmi." Konkrétne odkazuje na zákony USA, ako sú Štvrtý dodatok, Zákon o národnej bezpečnosti z roku 1947, Zákon FISA z roku 1978 a Smernica DoD 3000.09. Kľúčové je, že zakazuje nezávislé riadenie autonómnych zbraní a neobmedzené monitorovanie súkromných informácií osôb USA.
Zapojenie expertov na AI: Preverení inžinieri OpenAI a výskumníci bezpečnosti a zosúladenia budú nasadení v teréne a "v procese". Tento priamy ľudský dohľad poskytuje dodatočnú vrstvu istoty, pomáha zlepšovať systémy v priebehu času a aktívne overuje súlad s prísnymi podmienkami dohody.

Tento integrovaný prístup zabezpečuje, že technologické, právne a ľudské bezpečnostné opatrenia fungujú spoločne, aby zabránili zneužitiu.

Kategória červenej línie	Ochranné opatrenia OpenAI
Masové domáce sledovanie	Výslovný zmluvný zákaz, súlad so Štvrtým dodatkom, FISA, Zákonom o národnej bezpečnosti; vylúčenie NSA/spravodajských agentúr z rozsahu; cloudové nasadenie obmedzujúce prístup k údajom; overovanie pracovníkmi OpenAI v procese.
Autonómne zbraňové systémy	Cloudové nasadenie (žiadne nasadenie na okraji pre smrteľnú autonómiu); výslovný zmluvný zákaz nezávislého riadenia autonómnych zbraní; dodržiavanie smernice DoD 3000.09 pre overenie/validáciu; pracovníci OpenAI v procese pre dohľad.
Vysoko rizikové automatizované rozhodnutia	Výslovný zmluvný jazyk vyžadujúci ľudské schválenie pre vysoko rizikové rozhodnutia; OpenAI si zachováva plnú kontrolu nad svojím bezpečnostným stackom, čím zabraňuje modelom bez "zábran"; pracovníci OpenAI v procese na zabezpečenie ľudského dohľadu tam, kde sú zapojené kritické rozhodnutia.

Riešenie obáv a budovanie budúcej spolupráce v oblasti AI

OpenAI uznáva neodmysliteľné riziká pokročilej AI a považuje hlbokú spoluprácu medzi vládou a AI laboratóriami za nevyhnutnú pre orientáciu v budúcnosti. Spolupráca s Ministerstvom vojny umožňuje americkej armáde prístup k špičkovým nástrojom, pričom zabezpečuje zodpovedné nasadenie týchto technológií.

"Myslíme si, že americká armáda absolútne potrebuje silné modely AI na podporu svojej misie, najmä vzhľadom na rastúce hrozby od potenciálnych protivníkov, ktorí čoraz viac integrujú technológie AI do svojich systémov," uviedla OpenAI. Tento záväzok je vyvážený neochvejným odmietaním kompromitovať technické bezpečnostné opatrenia pre výkon, zdôrazňujúc, že zodpovedný prístup je prvoradý.

Dohoda má tiež za cieľ deeskalovať napätie a podporiť širšiu spoluprácu v rámci komunity AI. OpenAI požiadala, aby boli rovnaké ochranné podmienky sprístupnené všetkým spoločnostiam v oblasti AI, dúfajúc, že to uľahčí podobné zodpovedné partnerstvá v celom odvetví. Toto je súčasťou širšej stratégie OpenAI, ako to demonštruje jej pokračujúce partnerstvo s Microsoftom a úsilie o škálovanie AI pre všetkých.

Nastavenie nového štandardu pre zapojenie AI v obrane

OpenAI verí, že jej dohoda nastavuje vyšší štandard pre utajované nasadenia AI v porovnaní s predchádzajúcimi dohodami, vrátane tých, o ktorých diskutovali iné laboratóriá ako Anthropic. Dôvera pramení zo základných zabudovaných ochrán: nasadenie len v cloude, ktoré udržiava integritu bezpečnostného stacku OpenAI, explicitné zmluvné záruky a aktívne zapojenie preverených pracovníkov OpenAI.

Tento komplexný rámec zaručuje, že špecifikované červené línie – zabraňujúce masovému domácemu sledovaniu a riadeniu autonómnych zbraní – sú robustne presadzované. Zmluvný jazyk výslovne odkazujúci na existujúce zákony zabezpečuje, že aj keby sa politiky v budúcnosti zmenili, používanie systémov OpenAI musí stále zodpovedať pôvodným, prísnejším štandardom. Tento proaktívny postoj podčiarkuje záväzok OpenAI vyvíjať a nasadzovať výkonné technológie AI spôsobom, ktorý uprednostňuje bezpečnosť, etiku a demokratické hodnoty, a to aj v najnáročnejších kontextoch národnej bezpečnosti.

Pôvodný zdroj

https://openai.com/index/our-agreement-with-the-department-of-war/

Často kladené otázky

Why did OpenAI engage with the Department of War?

OpenAI engaged to equip the U.S. military with advanced AI capabilities, recognizing the increasing integration of AI by potential adversaries. This partnership is contingent on establishing robust safeguards, which OpenAI meticulously developed to ensure responsible deployment in classified environments. The goal is to provide cutting-edge tools while upholding strict ethical principles, demonstrating that sophisticated AI can be leveraged for national security without compromising fundamental safety and privacy standards. Furthermore, OpenAI aimed to de-escalate tensions between the DoD and AI labs, advocating for broader access to these carefully structured terms for other companies.

What specific guardrails are in place to prevent domestic surveillance?

The agreement explicitly prohibits the intentional use of OpenAI's AI systems for domestic surveillance of U.S. persons or nationals, aligning with the Fourth Amendment, National Security Act of 1947, and FISA Act of 1978. This includes a strict ban on deliberate tracking, monitoring, or the use of commercially acquired personal or identifiable information for such purposes. Crucially, the Department of War affirmed that intelligence agencies like the NSA would require a separate agreement for any service, reinforcing these limitations and providing multiple legal and contractual layers of protection against misuse.

How does this agreement prevent the use of OpenAI models for autonomous weapons?

Prevention is multi-faceted. Firstly, the deployment architecture is cloud-only, meaning models cannot be deployed on 'edge devices' critical for autonomous lethal weapons. Secondly, the contract language specifically states that the AI system will not be used to independently direct autonomous weapons where human control is required. It also mandates rigorous verification, validation, and testing as per DoD Directive 3000.09. Lastly, cleared OpenAI personnel, including safety and alignment researchers, remain in the loop, providing an additional layer of human oversight and assurance that these strict red lines are not crossed.

What makes OpenAI's agreement different or stronger than others, like Anthropic's?

OpenAI believes its agreement offers stronger guarantees and safeguards due to its multi-layered approach. Unlike some other agreements that might rely solely on usage policies, OpenAI's contract ensures that its proprietary safety stack remains fully operational and under its control. The cloud-only deployment architecture inherently restricts certain high-risk applications, such as fully autonomous weapons, which typically require edge deployment. Furthermore, the continuous involvement of cleared OpenAI personnel provides active human oversight and verification, creating a more robust framework against unacceptable uses, which they argue surpasses earlier agreements.

What role do OpenAI personnel play in ensuring compliance?

Cleared OpenAI personnel, including forward-deployed engineers and safety and alignment researchers, play a critical 'in the loop' role. They help the government integrate the technology responsibly while actively monitoring for adherence to the established red lines. This direct involvement allows OpenAI to independently verify that the system is not being used for prohibited activities, such as domestic surveillance or autonomous weapons control. Their ongoing presence ensures that safety guardrails are maintained, and models are continuously improved with safety and alignment as core priorities, providing an additional layer of technical and ethical assurance.

What happens if the Department of War violates the agreement?

In the event of a violation, as with any contractual agreement, OpenAI retains the right to terminate the contract. This serves as a significant deterrent, ensuring that the Department of War adheres strictly to the agreed-upon terms and conditions. The termination clause underscores the seriousness of the safety guardrails and red lines established within the agreement, demonstrating OpenAI's commitment to upholding its ethical principles even in high-stakes national security contexts. While OpenAI does not anticipate such a breach, the contractual provision provides a clear recourse.

Will future changes in law or policy affect the agreement's protections?

No, the agreement is designed to be resilient against future changes in law or policy. It explicitly references current surveillance and autonomous weapons laws and policies, such as the Fourth Amendment, National Security Act, FISA Act, and DoD Directive 3000.09, as they exist today. This means that even if these laws or policies were to be altered in the future, the use of OpenAI's systems under this contract must still comply with the stringent standards reflected in the original agreement. This forward-thinking clause provides a strong, enduring layer of protection against potential erosion of safeguards.

Buďte informovaní

Dostávajte najnovšie AI správy do schránky.

Zdieľať