Code Velocity
DI saugumas

Anthropic nepaklūsta karo sekretoriui dėl DI, remiasi teisėmis ir saugumu

·4 min skaitymo·Anthropic·Originalus šaltinis
Dalintis
Oficialus „Anthropic“ pareiškimas dėl Karo departamento galimo tiekimo grandinės rizikos priskyrimo dėl DI etikos.

„Anthropic“ tvirtai laikosi pozicijos prieš Karo departamentą dėl DI etikos

Beprecedenčiu žingsniu, sukėlusiu bangas technologijų ir gynybos sektoriuose, DI lyderis „Anthropic“ viešai metė iššūkį Karo departamentui (KD) dėl galimo „tiekimo grandinės rizikos“ priskyrimo. Konfliktas kyla dėl „Anthropic“ nepajudinamo atsisakymo leisti naudoti savo pažangų DI modelį Claude dviem konkretiems tikslams: masiniam Amerikos piliečių stebėjimui šalies viduje ir dislokavimui visiškai autonominiuose ginkluose. Ši aklavietė, apie kurią karo sekretorius Pete Hegseth paskelbė per X 2026 m. vasario 27 d., žymi kritinį momentą vykstančiose diskusijose apie DI etiką, nacionalinį saugumą ir įmonių atsakomybę.

„Anthropic“ tvirtina, kad jos pozicija yra ne tik etiška, bet ir gyvybiškai svarbi visuomenės pasitikėjimui ir saugumui, ir pažada teisme ginčyti bet kokį tokį priskyrimą. Bendrovės skaidrumas šiuo klausimu pabrėžia didėjantį aiškių gairių ir tvirto dialogo poreikį dėl pažangaus DI naudojimo kariniams ir stebėjimo tikslams.

Etinė raudona linija: stebėjimas ir autonominiai ginklai

Ginčo esmė yra dvi konkrečios „Anthropic“ išimtys teisėtam jos DI modelių naudojimui nacionaliniam saugumui. Šios išimtys, kurios, kaip pranešama, sustabdė mėnesius trukusias derybas su Karo departamentu, yra:

  1. Masinis Amerikos piliečių stebėjimas šalies viduje: „Anthropic“ mano, kad DI naudojimas plačiam savo piliečių stebėjimui yra sunkus pagrindinių teisių ir demokratinių principų pažeidimas. Bendrovė privatumą laiko pilietinių laisvių kertiniu akmeniu, o DI dislokavimas tokiu būdu pakenktų šiam pamatui.
  2. Visiškai autonominiai ginklai: Bendrovė tvirtai tvirtina, kad dabartiniai pažangiausi DI modeliai, įskaitant Claude, dar nėra pakankamai patikimi, kad būtų dislokuojami sistemose, kurios priima gyvybės ar mirties sprendimus be žmogaus įsikišimo. Toks nepatikimumas, įspėja „Anthropic“, galėtų tragiškai kelti pavojų tiek Amerikos kariams, tiek nekaltiems civiliams. Ši pozicija sutampa su didėjančiu DI bendruomenės susirūpinimu dėl nenuspėjamo pažangių modelių pobūdžio sudėtingose, didelės rizikos aplinkose.

„Anthropic“ pabrėžia, kad šios siauros išimtys, jos žiniomis, netrukdė jokiai esamai vyriausybės misijai. Bendrovė turi įrodytą istoriją, kaip palaiko Amerikos nacionalinio saugumo pastangas, nuo 2024 m. birželio mėn. dislokavusi savo modelius įslaptintuose JAV vyriausybės tinkluose. Jų įsipareigojimas išlieka palaikyti visus teisėtus DI naudojimo nacionaliniam saugumui būdus, kurie neperžengia šių kritinių etikos ir saugumo slenksčių.

Beprecedentis priskyrimas: artėja teisinis mūšis

Sekretoriaus Hegseth grasinimas priskirti „Anthropic“ prie tiekimo grandinės rizikos yra labai neįprastas ir potencialiai destruktyvus veiksmas. Istoriškai tokie priskyrimai pagal 10 USC 3252 buvo skirti užsienio priešininkams arba subjektams, kurie laikomi tiesiogine grėsme karinių tiekimo grandinių vientisumui. Šios etiketės pritaikymas Amerikos įmonei, ypač tai, kuri yra buvusi vyriausybės rangovė ir novatorė, yra beprecedentis ir sukuria pavojingą precedentą.

„Anthropic“ yra nedviprasmiška savo atsakyme: ji užginčys bet kokį tiekimo grandinės rizikos priskyrimą teisme. Bendrovė teigia, kad toks priskyrimas būtų „teisiškai nepagrįstas“ ir bandymas įbauginti įmones, kurios derasi su vyriausybe. Šis teisinis mūšis, jei jis įvyks, galėtų iš naujo apibrėžti galios dinamiką tarp technologijų inovatorių ir nacionalinio saugumo aparatų, ypač susijusio su etišku DI kūrimu ir diegimu. Pasekmės apima ne tik „Anthropic“, potencialiai paveikdamos tai, kaip kitos DI įmonės bendrauja su gynybos sutartimis ir sprendžia etikos dilemas.

Poveikis klientams: apimties paaiškinimas

Didėjant įtampai, „Anthropic“ ėmėsi raminti savo įvairią klientų bazę dėl galimo tiekimo grandinės rizikos priskyrimo praktinių pasekmių. Bendrovė pabrėžia, kad sekretoriaus Hegseth numanomi platūs apribojimai visiems, bendradarbiaujantiems su kariuomene, neturi įstatyminio pagrindo.

Pasak „Anthropic“, teisinė 10 USC 3252 priskyrimo apimtis yra konkrečiai apribota Claude naudojimu, kaip dalimi Karo departamento sutarčių. Tai reiškia:

Klientų segmentasKD tiekimo grandinės rizikos priskyrimo poveikis (jei oficialiai priimtas)
Individualūs klientaiVisiškai nepaveikta. Prieiga prie Claude per claude.ai išlieka.
Komercinės sutartys su „Anthropic“Visiškai nepaveikta. Claude naudojimas per API ar produktus išlieka.
Karo departamento rangovaiTaikoma tik Claude naudojimui Karo departamento sutartiniuose darbuose.
KD rangovai (kitiems klientams/naudojimui)Nepaveikta. Claude naudojimas ne KD sutartims ar vidiniam naudojimui yra leidžiamas.

„Anthropic“ pabrėžia, kad karo sekretorius neturi įstatyminės galios išplėsti šių apribojimų, viršijančių tiesiogines KD sutartis. Šis paaiškinimas siekia sumažinti bet kokį neaiškumą ar sutrikimus jos plačiai vartotojų ir partnerių ekosistemai. Bendrovės pardavimų ir palaikymo komandos yra pasirengusios atsakyti į visus papildomus klausimus.

Platesnės DI valdymo ir pramonės dialogo pasekmės

Viešas „Anthropic“ ir Karo departamento susidūrimas rodo brandos etapą DI pramonės santykiuose su vyriausybe ir nacionaliniu saugumu. Jis pabrėžia kritinį poreikį išsamioms DI valdymo politikoms, ypač susijusioms su dvejopos paskirties technologijomis. „Anthropic“ noras „užginčyti bet kokį tiekimo grandinės rizikos priskyrimą teisme“ demonstruoja tvirtą įmonės įsipareigojimą etikos principams, net ir patiriant didelį spaudimą.

Ši situacija taip pat pabrėžia didėjantį spaudimą DI kūrėjams aktyviau dalyvauti apibrėžiant savo kūrinių etines ribas, pereinant nuo techninio vystymo prie proaktyvios politikos gynybos. Pramonė vis labiau susiduria su sudėtingais etiniais klausimais, susijusiais su galingų modelių, tokių kaip Claude, diegimu. Įmonės aktyviai dirba kurdamos metodus, skirtus žalingo DI naudojimo sutrikdymui ir užtikrinti, kad jų technologijos būtų naudojamos naudingiems tikslams.

Šios aklavietės rezultatas gali daryti didelę įtaką tam, kaip kitos pažangaus DI įmonės bendraus su gynybos agentūromis visame pasaulyje. Tai gali paskatinti tvirtesnį ir skaidresnį dialogą tarp technologų, etikų, politikos formuotojų ir karinių lyderių, siekiant sukurti bendrą pagrindą atsakingoms DI inovacijoms, kurios tarnautų nacionaliniams interesams, nepažeidžiant pagrindinių vertybių ar saugumo. „Anthropic“ pasiryžimas apsaugoti savo klientus ir siekti sklandaus perėjimo net ir esant šiems „nepaprastiems įvykiams“ atspindi atsidavimą tiek etikos vientisumui, tiek praktiniam tęstinumui.

Dažniausiai užduodami klausimai

Koks yra pagrindinis „Anthropic“ ir Karo departamento ginčas?
Pagrindinis nesutarimas kyla dėl „Anthropic“ atsisakymo leisti naudoti savo pažangų DI modelį Claude dviem konkretiems tikslams: masiniam Amerikos piliečių stebėjimui šalies viduje ir dislokavimui visiškai autonominėse ginklų sistemose. Šios dvi išimtys sukėlė aklavietę derybose, privertusios karo sekretorių Pete Hegseth svarstyti galimybę priskirti „Anthropic“ prie tiekimo grandinės rizikos veiksnių. „Anthropic“ tvirtina, kad jos pozicija grindžiama pagrindiniais etikos principais, susijusiais su pagrindinėmis teisėmis ir dabartiniais pažangaus DI patikimumo apribojimais.
Kokios yra dvi konkrečios „Anthropic“ etinės išimtys dėl DI naudojimo?
„Anthropic“ nuosekliai nurodė dvi esmines išimtis teisėtam savo DI modelių, įskaitant Claude, naudojimui. Pirmoji išimtis draudžia naudoti jų DI masiniam Amerikos piliečių stebėjimui šalies viduje, nurodydama pagrindinių teisių pažeidimus. Antroji išimtis neleidžia naudoti jų DI visiškai autonominiuose ginkluose, teigdama, kad dabartiniams pažangiausiems DI modeliams trūksta būtino patikimumo ir saugumo garantijų, kad juos būtų galima dislokuoti tokiuose kritiniuose, gyvybės ar mirties scenarijuose be žmogaus priežiūros. Šios išimtys sudaro jų dabartinio ginčo su Karo departamentu pagrindą.
Kodėl „Anthropic“ prieštarauja šiems konkretiems DI naudojimo būdams?
„Anthropic“ prieštaravimai grindžiami tiek etiniais, tiek praktiniais sumetimais. Kalbant apie visiškai autonominius ginklus, bendrovė mano, kad šiandienos pažangiausi DI modeliai nėra pakankamai patikimi, kad užtikrintų tiek karių, tiek civilių saugumą. Nenuspėjamumas ir galimos klaidos tokiose kritinėse programose galėtų sukelti katastrofiškų pasekmių. Kalbant apie masinį vidaus stebėjimą, „Anthropic“ tai laiko tiesioginiu pagrindinių teisių pažeidimu, nesuderinamu su demokratiniais principais ir Amerikos piliečių privatumo lūkesčiais. Jų pozicija pabrėžia įsipareigojimą atsakingai DI plėtrai, kuri gerbia žmogiškąsias vertybes ir saugumą.
Kas yra „tiekimo grandinės rizikos priskyrimas“ ir kokios galimos jo pasekmės?
„Tiekimo grandinės rizikos priskyrimas“ pagal 10 USC 3252 yra priemonė, paprastai taikoma subjektams, kurie kelia grėsmę nacionaliniam saugumui arba karinių tiekimo grandinių vientisumui, dažnai susijusiems su užsienio priešininkais. Jei tai būtų oficialiai pritaikyta „Anthropic“, tai teisiškai apribotų Claude naudojimą konkrečiai Karo departamento sutartyse. Nors sekretorius Hegseth užsiminė apie platesnius apribojimus įmonėms, bendradarbiaujančioms su kariuomene, „Anthropic“ teigia, kad įstatyminė galia apriboja jos taikymo sritį tiesioginiam Karo departamento dalyvavimui, o ne komercinėms sutartims ar kitam vyriausybės darbui. Toks priskyrimas yra istoriškai beprecedentis Amerikos įmonei.
Kaip šis priskyrimas paveiktų „Anthropic“ klientus?
„Anthropic“ paaiškina, kad šis priskyrimas, jei būtų oficialiai priimtas, turėtų ribotą poveikį. Individualiems klientams ir tiems, kurie turi komercines sutartis, prieiga prie Claude per API, claude.ai ar kitus produktus liktų visiškai nepaveikta. Karo departamento rangovams šis priskyrimas būtų taikomas tik jų Claude naudojimui Karo departamento sutartiniuose darbuose. Jų Claude naudojimas bet kokiems kitiems tikslams ar su kitais klientais liktų neribojamas. „Anthropic“ pabrėžia, kad karo sekretorius neturi įstatyminės galios nustatyti platesnių apribojimų, viršijančių tiesiogines karines sutartis.
Koks yra kitas „Anthropic“ žingsnis, reaguojant į šį galimą priskyrimą?
„Anthropic“ viešai pareiškė tvirtą ketinimą teisme užginčyti bet kokį oficialų tiekimo grandinės rizikos priskyrimą. Bendrovė mano, kad toks priskyrimas būtų ir „teisiškai nepagrįstas“, ir sukurtų „pavojingą precedentą“ bet kuriai Amerikos įmonei, dalyvaujančiai derybose su vyriausybe. Šis teisinis iššūkis pabrėžia jų nepajudinamą įsipareigojimą savo etikos principams ir pasiryžimą apsaugoti savo veiklą bei santykius su klientais nuo to, ką jie laiko valdžios viršijimu.
Kokį platesnį precedentą ši situacija sukuria DI pramonei?
Ši situacija sukuria svarbų precedentą visai DI pramonei, ypač susijusiam su DI kūrimo ir diegimo nacionalinio saugumo kontekste etikos ribomis. Ji pabrėžia didėjančią įtampą tarp technologinių galimybių, etinės atsakomybės ir vyriausybės reikalavimų. „Anthropic“ nepaklusnumas gali paskatinti kitas DI įmones nustatyti savo raudonas linijas dėl leistinų naudojimo būdų, galimai formuodamas ateities reglamentus ir pramonės normas, susijusias su DI etika, žmogaus teisėmis ir autonominių sistemų kūrimu. Tai pakelia diskusiją apie tai, kur glūdi galutinė atsakomybė už DI poveikį visuomenei.

Būkite informuoti

Gaukite naujausias AI naujienas el. paštu.

Dalintis