Anthropic Institute: Mætir samfélagslegum áhrifum gervigreindar

Anthropic Institute: Leiðandi í ábyrgum gervigreindarrannsóknum

Í mikilvægu skrefi til að takast fyrirbyggjandi á við djúpstæðar afleiðingar ört vaxandi gervigreindar hefur Anthropic formlega opnað Anthropic Institute. Þetta nýja framtak er hannað til að mæta stærstu áskorunum sem öflug gervigreindarkerfi munu skapa fyrir samfélög á heimsvísu, og nýtir fremstu rannsóknir Anthropic til að upplýsa utanaðkomandi hagsmunaaðila, þar á meðal vísindamenn, stefnumótendur og almenning. Markmið stofnunarinnar er að stuðla að gagnsæjum og upplýstum umskiptum inn í tímabil þar sem gervigreind gegnir sífellt ríkjandi hlutverki.

Ferðalag Anthropic síðustu fimm ár undirstrikar ótrúlegan hraða nýsköpunar í gervigreind. Frá því að gefa út sitt fyrsta markaðslíkan á tveimur árum til að þróa fremstu gervigreindarkerfi sem geta uppgötvað alvarlega netöryggisveikleika, framkvæmt flókin verkefni í raunheimum, og jafnvel flýtt fyrir þróun gervigreindar sjálfrar, hefur fyrirtækið orðið vitni að fordæmalausri hröðun. Þessi þróun myndar kjarnakenninguna um að framþróun gervigreindar sé ekki aðeins hröð, heldur stöðugt aukandi, sem leiðir til þeirrar trúar að afar öflug gervigreind sé að koma miklu fyrr en margir gera sér nú grein fyrir.

Hröðun gervigreindar kallar á fyrirbyggjandi samfélagslega þátttöku

Forysta Anthropic, einkum Dario Amodei forstjóri, spáir því að næstu tvö ár muni færa enn dramatískari framfarir. Þessi hraða hröðun kallar á brýna mætingu á þeim margþættu áskorunum sem gervigreind mun kynna. Stofnunin mun kafa ofan í mikilvægar spurningar eins og áhrif gervigreindar á störf og hagkerfi, möguleika hennar til að auka seiglu samfélagsins, og öfugt, nýjar ógnir sem hún gæti kynnt eða stækkað. Ennfremur leitast hún við að kanna hvernig samfélagið getur hjálpað til við að ákvarða viðeigandi "gildi" fyrir gervigreindarkerfi og setja upp stjórnunarramma, sérstaklega varðandi möguleika á endurteknum sjálf-bótum í gervigreind.

'Ef þetta er rétt mun samfélagið brátt þurfa að takast á við margar risastórar áskoranir,' segir í opinberri tilkynningu, þar sem áhyggjur af efnahagslegri endurskipulagningu, stækkuðum ógnum og stjórnun sífellt sjálfstæðari kerfa eru dregnar fram. Hlutverk Anthropic Institute er að deila á gagnsæjan hátt þeim lærdómi sem fæst við smíði fremstu gervigreindarkerfa, og efla samstarf við ytri aðila til að takast sameiginlega á við þessar flóknu áhættur. Árangur þessa framtaks mun ráða því hvort umbreytandi gervigreind skili þeim róttæku jákvæðu áhrifum sem fyrirhuguð eru í vísindalegum uppgötvunum, efnahagsþróun og mannlegri velmegun.

Þverfaglegur aflgjafi til skilnings á gervigreind

Anthropic Institute starfar með einstakri þverfaglegri uppbyggingu, sem sameinar vélanámsverkfræðinga, hagfræðinga og félagsvísindamenn. Því er stýrt af Jack Clark, meðstofnanda Anthropic, sem hefur tekið að sér nýtt hlutverk sem yfirmaður almannahagsmuna. Stofnunin sameinar og stækkar þrjú mikilvæg rannsóknarteymi Anthropic:

Fyrir utan þessar undirstöður er stofnunin virk í að rækta ný teymi, þar sem núverandi áherslur eru á að spá fyrir um framþróun háþróaðrar gervigreindar og greina hvernig öflug gervigreind mun hafa samskipti við lagakerfi. Þessi heildstæða nálgun tryggir að innri þekking Anthropic – upplýsingar sem aðeins eru aðgengilegar þeim sem byggja fremstu gervigreindarkerfi – er nýtt til að veita hreinskilna innsýn í þróun tækninnar. Stofnunin virkar einnig sem tvíhliða gata, þar sem hún á beint samskipti við starfsmenn, iðnað og samfélög sem verða fyrir áhrifum til að móta rannsóknaráætlun sína og víðtækari stefnumótandi aðgerðir Anthropic. Þessi skuldbinding nær til að skilja og draga úr flóknum áhættum, þar á meðal mögulegum Anthropic-distillation-árásum sem gætu grafið undan öryggisreglum gervigreindar.

Virkuleg forysta og vaxandi sérfræðiþekking

Anthropic Institute hefur ráðið nokkra mikilvæga stofnendur, sem styrkja enn frekar þverfaglegan styrk þess:

• Matt Botvinick, áður háttsettur rannsóknarstjóri hjá Google DeepMind og prófessor við Princeton, gengur til liðs sem dvalargestur við Yale Law School til að leiða starf stofnunarinnar um gervigreind og réttarríkið.
• Anton Korinek, í leyfi frá prófessorsstöðu sinni við University of Virginia, gengur til liðs við Economic Research teymið til að rannsaka hvernig umbreytandi gervigreind gæti grundvallarbreytt efnahagslegri virkni.
• Zoë Hitzig, áður hjá OpenAI, með áherslu á félagsleg og efnahagsleg áhrif gervigreindar, tengir nú efnahagsrannsóknir Anthropic beint við þjálfun og þróun líkana.

Þessar stefnumótandi ráðningar undirstrika skuldbindingu Anthropic til að laða að fremstu hæfileika sem leggja sig fram við að skilja og leiðbeina um ábyrga þróun gervigreindar. Stofnunin er einnig virk í að stækka litla greiningardeild sína til að samræma betur og miðla rannsóknum sínum til alþjóðasamfélagsins.

Stækkun opinberrar stefnu fyrir alþjóðlega gervigreindastjórnun

Til viðbótar við stofnun Anthropic Institute er Anthropic að stækka opinbera stefnu deild sína verulega. Þetta teymi, undir forystu Söruh Heck (yfirmanns opinberrar stefnu, áður yfirmaður ytri mála), leggur áherslu á svið þar sem Anthropic hefur skýrar forgangsröðun og sjónarmið, þar á meðal öryggi líkana og gagnsæi, vernd neytenda orku, fjárfestingar í innviðum, útflutningshöft og lýðræðislega forystu í gervigreind.

Stækkunin felur í sér opnun nýrrar skrifstofu í Washington D.C. í vor og hraða aukningu á alþjóðlegu stefnumótunaráhrifum fyrirtækisins. Þessi stefnumótandi vöxtur miðar að því að upplýsa virkt og móta stjórnun gervigreindar á heimsvísu, sem tryggir að innsýn frá Anthropic Institute skili sér í árangursríkar stefnumótunarumræður. Þessi fyrirbyggjandi þátttaka er mikilvæg til að sigla um flókið jarðfræðilegt landslag sem umlykur gervigreind, eins og sést af fyrri samskiptum eins og samningi okkar við stríðsmálaráðuneytið, sem undirstrikar skuldbindingu Anthropic til samstarfs við opinbera geira og ábyrga dreifingu gervigreindar. Með því að efla öfluga opinbera stefnu leitast Anthropic við að tryggja að háþróuð gervigreindarþróun haldist í samræmi við samfélagsleg gildi og lýðræðislegar meginreglur á heimsvísu.