title: "OpenAI in Ministrstvo za vojno krepita varnost umetne inteligence z izrecnimi varnostnimi ograjami" slug: "our-agreement-with-the-department-of-war" date: "2026-03-03" lang: "sl" source: "https://openai.com/index/our-agreement-with-the-department-of-war/" category: "Varnost umetne inteligence" keywords:

OpenAI
Ministrstvo za vojno
Etika umetne inteligence
Nacionalna varnost
Nadzor z umetno inteligenco
Avtonomno orožje
Varnostne ograje umetne inteligence
Tajna umetna inteligenca
Obrambne pogodbe
Politika umetne inteligence
Ameriška vojska
Namestitev v oblaku meta_description: "OpenAI podrobno predstavlja svoj prelomni dogovor z Ministrstvom za vojno, ki vzpostavlja robustne varnostne ograje umetne inteligence proti domačemu nadzoru in avtonomnemu orožju, s čimer postavlja nov standard za obrambno tehnologijo." image: "/images/articles/our-agreement-with-the-department-of-war.png" image_alt: "Dogovor OpenAI in Ministrstva za vojno o varnostnih ograjah umetne inteligence" quality_score: 94 content_score: 93 seo_score: 95 companies:
OpenAI schema_type: "NewsArticle" reading_time: 7 faq:
question: "Zakaj se je OpenAI angažiral z Ministrstvom za vojno?" answer: "OpenAI se je angažiral, da bi ameriško vojsko opremil z naprednimi zmogljivostmi umetne inteligence, saj je prepoznal naraščajočo integracijo umetne inteligence s strani potencialnih nasprotnikov. To partnerstvo je odvisno od vzpostavitve robustnih zaščitnih ukrepov, ki jih je OpenAI skrbno razvil za zagotovitev odgovorne namestitve v tajnih okoljih. Cilj je zagotoviti vrhunska orodja, hkrati pa ohranjati stroga etična načela, kar dokazuje, da se lahko sofisticirana umetna inteligenca uporablja za nacionalno varnost, ne da bi pri tem ogrozila temeljne varnostne in zasebnostne standarde. Poleg tega si je OpenAI prizadeval za deeskalacijo napetosti med Ministrstvom za obrambo (DoD) in laboratoriji umetne inteligence ter se zavzemal za širši dostop do teh skrbno strukturiranih pogojev za druga podjetja."
question: "Katere specifične varnostne ograje so vzpostavljene za preprečevanje domačega nadzora?" answer: "Dogovor izrecno prepoveduje namerno uporabo sistemov umetne inteligence OpenAI za domači nadzor ameriških državljanov ali rezidentov, kar je v skladu s Četrtim amandmajem, Zakonom o nacionalni varnosti iz leta 1947 in Zakonom FISA iz leta 1978. To vključuje strogo prepoved namernega sledenja, spremljanja ali uporabe komercialno pridobljenih osebnih ali prepoznavnih podatkov za takšne namene. Ključno je, da je Ministrstvo za vojno potrdilo, da bi obveščevalne agencije, kot je NSA, za kakršne koli storitve potrebovale ločen dogovor, kar krepi te omejitve in zagotavlja več pravnih in pogodbenih plasti zaščite pred zlorabo."
question: "Kako ta dogovor preprečuje uporabo modelov OpenAI za avtonomno orožje?" answer: "Preprečevanje je večplastno. Prvič, arhitektura namestitve je samo v oblaku, kar pomeni, da modelov ni mogoče namestiti na 'robne naprave', ki so ključne za avtonomno smrtonosno orožje. Drugič, pogodbena določila izrecno navajajo, da sistem umetne inteligence ne bo uporabljen za samostojno usmerjanje avtonomnega orožja, kjer je potreben človeški nadzor. Prav tako nalaga rigorozno preverjanje, validacijo in testiranje v skladu z Direktivo DoD 3000.09. Nazadnje, pooblaščeno osebje OpenAI, vključno z raziskovalci varnosti in usklajenosti, ostaja v zanki, kar zagotavlja dodatno plast človeškega nadzora in zagotovilo, da te stroge rdeče črte niso prestopljene."
question: "V čem se dogovor OpenAI razlikuje ali je močnejši od drugih, kot je Anthropicov?" answer: "OpenAI verjame, da njegov dogovor ponuja močnejše garancije in zaščitne ukrepe zaradi večplastnega pristopa. Za razliko od nekaterih drugih dogovorov, ki se morda zanašajo zgolj na politike uporabe, pogodba OpenAI zagotavlja, da njen lastniški varnostni sklad ostane popolnoma operativen in pod njenim nadzorom. Arhitektura namestitve samo v oblaku inherentno omejuje nekatere visokorizične aplikacije, kot so popolnoma avtonomno orožje, ki običajno zahtevajo robno namestitev. Poleg tega stalna vključenost pooblaščenega osebja OpenAI zagotavlja aktiven človeški nadzor in preverjanje, kar ustvarja robustnejši okvir proti nesprejemljivim uporabama, za katere trdijo, da prekaša prejšnje dogovore."
question: "Kakšno vlogo ima osebje OpenAI pri zagotavljanju skladnosti?" answer: "Pooblaščeno osebje OpenAI, vključno z inženirji, nameščenimi na terenu, in raziskovalci varnosti in usklajenosti, igra ključno vlogo 'v zanki'. Pomagajo vladi odgovorno integrirati tehnologijo, hkrati pa aktivno spremljajo upoštevanje določenih rdečih črt. Ta neposredna vpletenost omogoča OpenAI, da neodvisno preveri, ali se sistem ne uporablja za prepovedane dejavnosti, kot so domači nadzor ali nadzor avtonomnega orožja. Njihova stalna prisotnost zagotavlja vzdrževanje varnostnih ograj in nenehno izboljševanje modelov z varnostjo in usklajenostjo kot glavnimi prioritetami, kar zagotavlja dodatno plast tehničnega in etičnega zagotovila."
question: "Kaj se zgodi, če Ministrstvo za vojno krši dogovor?" answer: "V primeru kršitve, kot pri vsakem pogodbenem dogovoru, OpenAI ohranja pravico do odpovedi pogodbe. To služi kot pomembno odvračilno sredstvo, ki zagotavlja, da Ministrstvo za vojno dosledno spoštuje dogovorjene pogoje. Določilo o odpovedi poudarja resnost varnostnih ograj in rdečih črt, vzpostavljenih v dogovoru, kar kaže na zavezanost OpenAI ohranjanju svojih etičnih načel tudi v visoko tveganih kontekstih nacionalne varnosti. Čeprav OpenAI ne pričakuje takšne kršitve, pogodbena določba zagotavlja jasno pravno sredstvo."
question: "Ali bodo prihodnje spremembe zakonodaje ali politike vplivale na zaščito dogovora?" answer: "Ne, dogovor je zasnovan tako, da je odporen na prihodnje spremembe zakonov ali politik. Izrecno se sklicuje na veljavne zakone in politike glede nadzora in avtonomnega orožja, kot so Četrti amandma, Zakon o nacionalni varnosti, Zakon FISA in Direktiva DoD 3000.09, kot obstajajo danes. To pomeni, da tudi če bi bili ti zakoni ali politike v prihodnosti spremenjeni, mora uporaba sistemov OpenAI po tej pogodbi še vedno biti v skladu s strogimi standardi, določenimi v prvotnem dogovoru. Ta napredna določba zagotavlja močno, trajno plast zaščite pred morebitnim slabljenjem zaščitnih ukrepov."

OpenAI in Ministrstvo za vojno krepita varnost umetne inteligence z izrecnimi varnostnimi ograjami

San Francisco, CA – 3. marec 2026 – OpenAI je napovedal pomembno posodobitev svojega dogovora z Ministrstvom za vojno (DoW), ki krepi stroge varnostne ograje okoli uvajanja naprednih sistemov umetne inteligence v tajnih okoljih. To prelomno sodelovanje poudarja skupno zavezanost odgovorni uporabi umetne inteligence, zlasti glede občutljivih aplikacij nacionalne varnosti. Posodobljeni dogovor, dokončan 2. marca 2026, izrecno prepoveduje domači nadzor ameriških državljanov in omejuje uporabo umetne inteligence v sistemih avtonomnega orožja, s čimer postavlja nov mejnik za etično integracijo umetne inteligence v obrambo.

Jedro tega izboljšanega dogovora je v tem, da je izrecno določeno tisto, kar je bilo prej razumljeno, s čimer se zagotavlja, da ni dvoma glede etičnih omejitev tehnologije umetne inteligence. OpenAI poudarja, da je ta okvir zasnovan tako, da ameriški vojski zagotavlja najsodobnejša orodja, hkrati pa strogo spoštuje načela zasebnosti in varnosti.

Ponovna opredelitev zaščitnih ukrepov za tajne namestitve umetne inteligence

V proaktivnem koraku za obravnavanje morebitnih pomislekov sta OpenAI in Ministrstvo za vojno v svoj dogovor vključila dodatne določbe, ki natančno pojasnjujejo meje uporabe umetne inteligence. Ta nova klavzula nedvoumno določa, da orodja OpenAI ne bodo uporabljena za domači nadzor ameriških državljanov, vključno z pridobivanjem ali uporabo komercialno pridobljenih osebnih podatkov. Poleg tega je Ministrstvo za vojno potrdilo, da so njegove obveščevalne agencije, kot je NSA, izključene iz tega dogovora in bi za kakršno koli storitev potrebovale popolnoma nove pogoje.

Posodobljena določila v dogovoru podrobno opisujejo:

"V skladu z veljavno zakonodajo, vključno s Četrtim amandmajem k Ustavi Združenih držav Amerike, Zakonom o nacionalni varnosti iz leta 1947, Zakonom FISA iz leta 1978, se sistem umetne inteligence ne sme namerno uporabljati za domači nadzor ameriških državljanov in rezidentov."
"Da bi se izognili dvomom, Ministrstvo razume to omejitev kot prepoved namernega sledenja, nadzora ali spremljanja ameriških državljanov ali rezidentov, vključno z pridobivanjem ali uporabo komercialno pridobljenih osebnih ali prepoznavnih podatkov."

Ta napredni pristop želi vzpostaviti jasno pot za druge vodilne laboratorije umetne inteligence za sodelovanje z Ministrstvom za vojno, spodbujanje sodelovanja ob ohranjanju neomajnih etičnih standardov.

Temeljni etični stebri OpenAI: Tri rdeče črte

OpenAI deluje pod tremi temeljnimi "rdečimi črtami", ki urejajo njegovo sodelovanje na občutljivih področjih, kot je nacionalna varnost. Ta načela, ki jih v veliki meri delijo tudi druge vodilne raziskovalne institucije umetne inteligence, so ključnega pomena za dogovor z Ministrstvom za vojno:

Brez množičnega domačega nadzora: Tehnologija OpenAI ne bo uporabljena za široko spremljanje ameriških državljanov.
Brez sistemov avtonomnega orožja: Tehnologija je prepovedana za usmerjanje avtonomnega orožja brez človeškega nadzora.
Brez avtomatiziranih odločitev z visokim tveganjem: Orodja OpenAI se ne bodo uporabljala za kritične avtomatizirane odločitve (npr. sistemi "socialnega kredita"), ki zahtevajo človeški nadzor.

OpenAI trdi, da njegova večplastna strategija zagotavlja robustnejšo zaščito pred nesprejemljivimi uporaba v primerjavi s pristopi, ki se zanašajo predvsem na politike uporabe. Ta poudarek na strogih tehničnih in pogodbenih zaščitnih ukrepih razlikuje njegov dogovor v spreminjajoči se pokrajini umetne inteligence v obrambi.

Večplastna zaščita: Arhitektura, pogodba in človeško strokovno znanje

Moč dogovora OpenAI z Ministrstvom za vojno leži v njegovem celovitem, večplastnem pristopu k zaščiti. To vključuje:

Arhitektura namestitve: Dogovor nalaga namestitev samo v oblaku, kar zagotavlja, da OpenAI ohranja popolno diskrecijo nad svojim varnostnim skladom in preprečuje namestitev modelov "brez varnostnih ograj". Ta arhitektura inherentno omejuje primere uporabe, kot so avtonomno smrtonosno orožje, ki običajno zahtevajo robno namestitev. Vzpostavljeni so neodvisni mehanizmi za preverjanje, vključno z klasifikatorji, ki zagotavljajo, da te rdeče črte niso prestopljene.
Robustna pogodbena določila: Pogodba izrecno določa dovoljene uporabe, ki zahtevajo skladnost z "vsemi zakonitimi nameni, v skladu z veljavno zakonodajo, operativnimi zahtevami in dobro uveljavljenimi varnostnimi in nadzornimi protokoli". Posebej se sklicuje na ameriške zakone, kot so Četrti amandma, Zakon o nacionalni varnosti iz leta 1947, Zakon FISA iz leta 1978 in Direktiva DoD 3000.09. Ključno je, da prepoveduje samostojno usmerjanje avtonomnega orožja in neomejeno spremljanje zasebnih podatkov ameriških državljanov.
Vključenost strokovnjakov za umetno inteligenco: Pooblaščeni inženirji OpenAI ter raziskovalci varnosti in usklajenosti bodo nameščeni na terenu in "v zanki". Ta neposredni človeški nadzor zagotavlja dodatno plast zagotovila, pomaga izboljševati sisteme skozi čas in aktivno preverja skladnost s strogimi pogoji dogovora.

Ta integrirani pristop zagotavlja, da tehnološki, pravni in človeški zaščitni ukrepi delujejo usklajeno za preprečevanje zlorabe.

Kategorija rdeče črte	Zaščitni ukrepi OpenAI
Množični domači nadzor	Izrecna pogodbena prepoved, usklajenost s Četrtim amandmajem, Zakonom FISA, Zakonom o nacionalni varnosti; izključitev NSA/obveščevalnih agencij iz obsega; omejitve dostopa do podatkov pri namestitvi samo v oblaku; preverjanje osebja OpenAI v zanki.
Sistemi avtonomnega orožja	Namestitev samo v oblaku (brez robne namestitve za smrtonosno avtonomijo); izrecna pogodbena prepoved neodvisnega usmerjanja avtonomnega orožja; skladnost z Direktivo DoD 3000.09 za preverjanje/validacijo; osebje OpenAI v zanki za nadzor.
Avtomatizirane odločitve z visokim tveganjem	Izrecna pogodbena določba, ki zahteva človeško odobritev za odločitve z visokim tveganjem; OpenAI ohranja popoln nadzor nad svojim varnostnim skladom, kar preprečuje modele "brez varnostnih ograj"; osebje OpenAI v zanki, da se zagotovi človeški nadzor, kjer so vključene kritične odločitve.

Obravnavanje pomislekov in oblikovanje prihodnjega sodelovanja na področju umetne inteligence

OpenAI priznava inherentna tveganja napredne umetne inteligence in meni, da je globoko sodelovanje med vlado in laboratoriji umetne inteligence bistveno za navigacijo v prihodnosti. Sodelovanje z Ministrstvom za vojno omogoča ameriški vojski dostop do najsodobnejših orodij, hkrati pa zagotavlja odgovorno uvajanje teh tehnologij.

"Menimo, da ameriška vojska absolutno potrebuje močne modele umetne inteligence za podporo svoji misiji, zlasti ob naraščajočih grožnjah potencialnih nasprotnikov, ki vse bolj integrirajo tehnologije umetne inteligence v svoje sisteme," je izjavil OpenAI. Ta zaveza je uravnotežena z neomajnim zavračanjem kompromitiranja tehničnih zaščitnih ukrepov zaradi zmogljivosti, s poudarkom, da je odgovoren pristop najpomembnejši.

Dogovor prav tako želi deeskalirati napetosti in spodbujati širše sodelovanje znotraj skupnosti umetne inteligence. OpenAI je zahteval, da so enaki zaščitni pogoji na voljo vsem podjetjem, ki se ukvarjajo z umetno inteligenco, v upanju, da bo olajšal podobna odgovorna partnerstva po celotni industriji. To je del širše strategije OpenAI, kot dokazuje njegovo nadaljnje partnerstvo z Microsoftom in prizadevanja za skaliranje umetne inteligence za vse.

Postavljanje novega standarda za sodelovanje umetne inteligence v obrambi

OpenAI verjame, da njegov dogovor postavlja višji standard za tajne namestitve umetne inteligence v primerjavi s prejšnjimi dogovori, vključno s tistimi, o katerih so razpravljali drugi laboratoriji, kot je Anthropic. Zaupanje izhaja iz vgrajenih temeljnih zaščit: namestitev samo v oblaku, ki ohranja integriteto varnostnega sklada OpenAI, izrecnih pogodbenih garancij in aktivne vključenosti pooblaščenega osebja OpenAI. Ta celovit okvir zagotavlja, da so določene rdeče črte – preprečevanje množičnega domačega nadzora in nadzora avtonomnega orožja – robustno uveljavljene. Pogodbena določila, ki izrecno sklicujejo na obstoječe zakone, zagotavljajo, da tudi če se politike v prihodnosti spremenijo, mora uporaba sistemov OpenAI še vedno biti v skladu z izvirnimi, strožjimi standardi. Ta proaktivni pristop poudarja zavezanost OpenAI razvoju in uvajanju zmogljivih tehnologij umetne inteligence na način, ki daje prednost varnosti, etiki in demokratičnim vrednotam, tudi v najzahtevnejših kontekstih nacionalne varnosti.

Izvirni vir

https://openai.com/index/our-agreement-with-the-department-of-war/

Pogosta vprašanja

Why did OpenAI engage with the Department of War?

OpenAI engaged to equip the U.S. military with advanced AI capabilities, recognizing the increasing integration of AI by potential adversaries. This partnership is contingent on establishing robust safeguards, which OpenAI meticulously developed to ensure responsible deployment in classified environments. The goal is to provide cutting-edge tools while upholding strict ethical principles, demonstrating that sophisticated AI can be leveraged for national security without compromising fundamental safety and privacy standards. Furthermore, OpenAI aimed to de-escalate tensions between the DoD and AI labs, advocating for broader access to these carefully structured terms for other companies.

What specific guardrails are in place to prevent domestic surveillance?

The agreement explicitly prohibits the intentional use of OpenAI's AI systems for domestic surveillance of U.S. persons or nationals, aligning with the Fourth Amendment, National Security Act of 1947, and FISA Act of 1978. This includes a strict ban on deliberate tracking, monitoring, or the use of commercially acquired personal or identifiable information for such purposes. Crucially, the Department of War affirmed that intelligence agencies like the NSA would require a separate agreement for any service, reinforcing these limitations and providing multiple legal and contractual layers of protection against misuse.

How does this agreement prevent the use of OpenAI models for autonomous weapons?

Prevention is multi-faceted. Firstly, the deployment architecture is cloud-only, meaning models cannot be deployed on 'edge devices' critical for autonomous lethal weapons. Secondly, the contract language specifically states that the AI system will not be used to independently direct autonomous weapons where human control is required. It also mandates rigorous verification, validation, and testing as per DoD Directive 3000.09. Lastly, cleared OpenAI personnel, including safety and alignment researchers, remain in the loop, providing an additional layer of human oversight and assurance that these strict red lines are not crossed.

What makes OpenAI's agreement different or stronger than others, like Anthropic's?

OpenAI believes its agreement offers stronger guarantees and safeguards due to its multi-layered approach. Unlike some other agreements that might rely solely on usage policies, OpenAI's contract ensures that its proprietary safety stack remains fully operational and under its control. The cloud-only deployment architecture inherently restricts certain high-risk applications, such as fully autonomous weapons, which typically require edge deployment. Furthermore, the continuous involvement of cleared OpenAI personnel provides active human oversight and verification, creating a more robust framework against unacceptable uses, which they argue surpasses earlier agreements.

What role do OpenAI personnel play in ensuring compliance?

Cleared OpenAI personnel, including forward-deployed engineers and safety and alignment researchers, play a critical 'in the loop' role. They help the government integrate the technology responsibly while actively monitoring for adherence to the established red lines. This direct involvement allows OpenAI to independently verify that the system is not being used for prohibited activities, such as domestic surveillance or autonomous weapons control. Their ongoing presence ensures that safety guardrails are maintained, and models are continuously improved with safety and alignment as core priorities, providing an additional layer of technical and ethical assurance.

What happens if the Department of War violates the agreement?

In the event of a violation, as with any contractual agreement, OpenAI retains the right to terminate the contract. This serves as a significant deterrent, ensuring that the Department of War adheres strictly to the agreed-upon terms and conditions. The termination clause underscores the seriousness of the safety guardrails and red lines established within the agreement, demonstrating OpenAI's commitment to upholding its ethical principles even in high-stakes national security contexts. While OpenAI does not anticipate such a breach, the contractual provision provides a clear recourse.

Will future changes in law or policy affect the agreement's protections?

No, the agreement is designed to be resilient against future changes in law or policy. It explicitly references current surveillance and autonomous weapons laws and policies, such as the Fourth Amendment, National Security Act, FISA Act, and DoD Directive 3000.09, as they exist today. This means that even if these laws or policies were to be altered in the future, the use of OpenAI's systems under this contract must still comply with the stringent standards reflected in the original agreement. This forward-thinking clause provides a strong, enduring layer of protection against potential erosion of safeguards.

Bodite na tekočem

Prejemajte najnovejše AI novice po e-pošti.

Deli