Robotikchefen lämnar OpenAI efter avtal med Pentagon
Caitlin Kalinowski varnar för övervakning utan domstol och dödligt autonoma system medan bolaget lovar röda linjer, Anthropic straffas politiskt för att säga nej och marknaden belönar den som vägrar
Bilder
OpenAI:s robotikchef Caitlin Kalinowski avgick i lördags och uppgav att hon inte kan ställa sig bakom företagets nya avtal med Pentagon. I ett inlägg på X skrev Kalinowski att arbete med artificiell intelligens för nationell säkerhet kan vara legitimt, men att OpenAI enligt henne passerat två gränser för snabbt: ”övervakning av amerikaner utan rättslig kontroll” och ”dödlig autonomi utan mänskligt godkännande”, enligt Business Insider.
OpenAI bekräftade hennes avgång och försvarade överenskommelsen med USA:s försvarsdepartement. En talesperson sade till Business Insider att avtalet skapar ”en fungerande väg” för ansvarsfull användning och samtidigt sätter ”röda linjer: ingen inhemsk övervakning och inga autonoma vapen”. Konflikten handlar mindre om huruvida sådana röda linjer kan formuleras på papper, och mer om vem som faktiskt upprätthåller dem när kunden är en nationell säkerhetsbyråkrati och leverantören ett privat företag som konkurrerar om kontrakt.
Tidpunkten är viktig. OpenAI skrev under Pentagonavtalet förra veckan efter att konkurrenten Anthropic tackat nej till ett liknande upplägg, med hänvisning till farhågor om massövervakning och autonoma vapen. Inom några dagar drabbades Anthropic av politisk vedergällning: Donald Trump kallade bolaget ”radikalt woke” och krävde att myndigheter slutar använda dess teknik, och försvarsminister Pete Hegseth pekade ut Anthropic som en risk i leveranskedjan och förbjöd försvarsdepartementets kontrakt att arbeta med bolaget, rapporterade Business Insider.
Den följden ger en enkel lärdom för leverantörer: att avböja försvarsarbete kan bestraffas som illojalitet, medan att acceptera det kan paketeras som ”ansvarsfullt deltagande” så länge marknadsföringsspråket är tillräckligt tillrättalagt. I en sådan miljö blir intern oenighet en fråga om anseende att hantera. En uppmärksammad avgång kan fungera som en tryckventil – den signalerar till anställda och användare att invändningar framförts – utan att den grundläggande affärsinriktningen förändras.
Marknadsreaktionen som Business Insider beskriver kom omedelbart. Vissa användare uppgav att de överger ChatGPT i protest, samtidigt som Anthropics Claude steg till första plats bland gratisappar i USA:s Applebutik och petade ned ChatGPT. Enligt Business Insider ökade Claudes nedladdningar i USA med 240 procent från månad till månad i februari.
Kalinowski kom till OpenAI från Meta 2024 och ledde robotikavdelningen, en roll nära gränsen mellan programvara och fysiska system. När försvarsmyndigheter i allt högre grad köper ”förmåga” som en prenumeration – modeller, uppdateringar, drift och åtkomstkontroller – blir frågor om vem som kan stänga av ett system, och med vilken rättslig grund, operativa snarare än filosofiska.
Kalinowskis avgång offentliggjordes på X. OpenAI:s partnerskap med Pentagon gäller fortfarande.