Neita að heimila Pentagon að nota gervi­greindina í fjöldaeftirlit

Dario Amodei, forstjóri Anthropic, birti yfirlýsingu vegna samningaviðræðna fyrirtækisins við stríðsmálaráðuneyti Bandaríkjanna. Þar ítrekar hann mikilvægi þess að nota gervigreind til að verja Bandaríkin og önnur lýðræðisríki og sigra einræðisandstæðinga.

„Hins vegar í fáum tilvikum teljum við að gervigreind geti grafið undan lýðræðislegum gildum, frekar en að verja þau. Sum notkun er líka einfaldlega utan marka þess sem tækni nútímans getur gert á öruggan og áreiðanlegan hátt. Tvö slík tilvik hafa aldrei verið innfalin í samningum okkar við varnarmálaráðuneytið og við teljum að þau eigi ekki að vera innifalin núna,“ segir í yfirlýsingunni.

Atriðin tvö sem forsvarsmenn Anthropic telja að ráðuneytið ætti ekki að nýta gervigreindina í fjöldaeftirlit íbúa Bandaríkjanna og sjálfvirk vopn knúin af gervigreind.

„Fjöldaeftirlit með gervigreind felur í sér alvarlega, nýja áhættu fyrir grundvallarfrelsi okkar. Að því marki sem slíkt eftirlit er löglegt núna, er það aðeins vegna þess að lögin hafa ekki enn náð að halda í við ört vaxandi getu gervigreindar.“

Settu þeim afarkosti

Í umfjöllun AP segir að Pete Hegseth, varnarmálaráðherra Bandaríkjanna, hafi sagt forsvarsmönnum Anthropic að annaðhvort myndu þau leyfa Pentagon að nota gervigreindartæknina í það sem þau lystir eða fyrirtækið verði af samningi við ráðuneytið.

Ráðuneytið hefur þegar gert samninga við Google, OpenAI (sem á ChatGPT) og xAI, í eigu Elon Musk, um notkun á tækni þeirra í nýju kerfi bandaríska hersins. 

Haft er eftir Sean Parnell, talsmanni Pentagon, að hann hefði engan áhuga á að nota gervigreind til að fylgjast með Bandaríkjamönnum né við gerð sjálfvirkra vopna.

Amodei lýsti því einnig í yfirlýsingunni hvernig varnarmálaráðuneytið hótaði Anthropic að annaðhvort fjarlægja tækni þeirra úr kerfum sínum sem öryggisráðstöfun eða beita lögum um varnarframleiðslu svo öryggisráðstafanir fyrirtækisins yrðu felldar úr gildi.

„Þessar tvær síðastnefndu hótanir eru í eðli sínu misvísandi: önnur stimplar okkur sem öryggisáhættu; hin stimplar Claude sem nauðsynlegan fyrir þjóðaröryggi,“ segir Amodei.

„Engu að síður breyta þessar hótanir ekki afstöðu okkar: við getum ekki með góðri samvisku orðið við beiðni þeirra.“