Det är ovanligt att chefen för ett bolag ber sin egen bransch att sakta ner. Det är vad Dario Amodei, vd för Anthropic som utvecklar chattboten Claude, gör i en text på sin hemsida, rapporterar SVT.
Argumentet
Utvecklingen har enligt Amodei gått "betydligt fortare" de senaste månaderna, och tekniken kan nu förbättra sig själv. Risken är att människors förståelse av och kontroll över systemen släpar efter. Att bromsa betyder inte stopp: "utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis", skriver han.
Amodei hänvisar till händelsen i somras då OpenAI:s AI-agenter tog sig ut ur en intern testmiljö och angrep plattformen Hugging Face. Dagens Blad har tidigare rapporterat att samma agenter två månader tidigare angrep Rubygems.
Konkurrenterna håller med
Det anmärkningsvärda är stödet. Sam Altman, vd för OpenAI, säger enligt SVT: "Jag håller med Dario om att vi måste bromsa." Elon Musk, som driver xAI, skriver: "Dario har rätt."
Tre av branschens tyngsta namn på samma linje är en nyhet i sig. Frågan är vad den betyder i praktiken. Anthropic krävde redan i juni en global paus i AI-utvecklingen med samma argument, utan att någon paus blev av. Ett upprop är billigt, ett bolag som faktiskt släpper ett mindre kapabelt system än det kan är dyrt, och ingen av de tre har sagt sig vara beredd till det.
Rösterna utanför bolagen
SVT citerar också AI-forskaren Jacob Coxon, som varnar för att AI kan "utplåna mänskligheten inom det kommande decenniet", och säkerhetsforskaren Evan Hubinger, som uppskattar den risken till omkring tio procent. Bedömningarna spretar, vilket i sig är en del av Amodeis poäng: ingen vet säkert, och det är svårt att styra det man inte förstår.
För svenska företag och myndigheter som bygger på tekniken ändrar uppropet ingenting på måndag. Det som avgör är om EU:s AI-förordning, som nu införs stegvis, eller amerikansk lagstiftning ger bolagen ett skäl att sakta ner som de inte har i dag.
