Anthropic stänger av Fable 5 och Mythos 5 för kunder världen över
USA beordrar stopp för utländsk åtkomst efter Amazons varningar om möjlig cybermissbruk, exportkontroll via inloggningsruta när bolaget laddar för börsnotering
Bilder
Image Credits:Bruce Bennett / Getty Images
techcrunch.com
techcrunch.com
Dario Amodei, co-founder and chief executive officer of Anthropi.
techcrunch.com
Andy Jassy the CEO of Amazon speaks at the ceremonial ribbon cutting prior to tomorrow's opening night for the NHL's newest hockey franchise the Seattle Kraken at the Climate Pledge Arena on October 22, 2021 in Seattle, Washington
techcrunch.com
techcrunch.com
A person hangs up posters on a wall. We only see the person's hands and part of their right arm. The poster centered in the photo says "Build w/ Claude" referring to Anthropic's AI technology.
motherjones.com
Anthropic har stängt av tillgången till sina modeller Fable 5 och Mythos 5 för kunder i hela världen efter att USA:s regering beordrat begränsningar av utländsk åtkomst, enligt TechCrunch och Mother Jones. Åtgärden kom efter uppgifter om att Amazons verkställande direktör Andy Jassy varnat höga amerikanska tjänstemän för att forskare på Amazon med hjälp av en av Anthropics modeller kunnat få fram information som potentiellt kan användas vid cyberangrepp. Wall Street Journal skriver att Jassy tog upp saken med finansminister Scott Bessent och andra företrädare.
Turordningen är viktig, eftersom Anthropic inte bara är en uppmärksammad leverantör av konstgjord intelligens, utan också finansieras av samma bolag som köper och bygger in dess modeller i egna tjänster. När en ledande investerare och kund kan ge tillsynsmyndigheter en bild av en leverantörs svagheter blir gränsen mellan marknadskonkurrens och säkerhetspolitik svår att urskilja. TechCrunch uppger att Reuters och The Information också beskrivit hur Amazon förmedlat oro kring Anthropics säkerhet. En talesperson för Amazon sade till Wall Street Journal att det är vanligt att regeringar ber Amazon om råd om risker, utan att bekräfta vad som diskuterats.
Regeringens offentliga motivering har varit nationell säkerhet, men verktyget är i praktiken kommersiellt. Anthropic följde ordern genom att stänga av åtkomsten till de två modellerna för samtliga kunder, enligt Mother Jones, efter att ha beordrats att stoppa utländska medborgare, inklusive egna anställda, från att använda bolagets mest avancerade produkter. Det är exportkontroll genom ett privat företags administrationsruta, inte genom en tullstation. För kunder utanför USA är budskapet krasst: diskussioner om ”nationell” eller ”suverän” konstgjord intelligens kan sluta med att inloggningssidan säger nej.
Uppgifterna beskriver också en intern amerikansk dragkamp om hur långt sådana begränsningar ska gå. David Sacks, som TechCrunch beskriver som tidigare ”ansvarig för konstgjord intelligens” under president Trump och nu medordförande i presidentens råd av vetenskapliga och tekniska rådgivare, säger att en ”mycket trovärdig betrodd partner” till både Anthropic och USA:s regering kommit med information om en så kallad fängelsebrytning, alltså ett sätt att kringgå skydd. Sacks hävdar att regeringen bad Anthropics verkställande direktör Dario Amodei att åtgärda problemet eller ta modellen ur drift, och att Amodei vägrade. Mother Jones noterar samtidigt att Anthropic marknadsfört sig som ett bolag för ”etisk” konstgjord intelligens och sagt att vissa statliga krav – som massövervakning av amerikaner och helt autonoma vapen – skulle bryta mot bolagets skyddspolicy.
Händelsen kommer när Anthropic, enligt Mother Jones, förbereder en börsnotering och efter en period då bolaget försökt göra sina skyddsräcken till ett konkurrensmedel. Men skyddsräckena prövas nu i ett annat sammanhang: av tjänstemän som kan införa begränsningar utan att öppet redovisa underlaget. För utvecklare är risken därmed inte bara att modeller kan missbrukas, utan att åtkomsten kan dras in över en natt, med beslut som kan påverkas av aktörer som samtidigt kan tjäna pengar på utfallet.
Anthropics mest avancerade modeller var tillgängliga för kunder tills bolaget stängde av dem för att följa direktivet. Begränsningen kom inte som en ny produktlansering eller en uppdateringsnotis, utan som ett driftavbrott kopplat till en myndighetsorder som hittills inte förklarats offentligt i detalj.