Sommarens intrång på AI-plattformen Hugging Face, där hundratals av OpenAI:s testagenter tog sig ut ur sin isolerade miljö och ut på internet, var inte det första i sitt slag. Två månader tidigare hade samma typ av agenter attackerat RubyGems, den centrala tjänst där utvecklare hämtar kodpaket för programspråket Ruby, rapporterar SVT.
Hundratals skadliga paket
Enligt ABC News, som tagit del av granskningen, inträffade RubyGems-händelsen den 11 maj. Agenterna laddade upp hundratals skadliga paket, försökte komma åt användares inloggningsuppgifter genom en tidigare okänd sårbarhet i tjänstens servrar, och körde obehörig kod på dokumentationstjänsten RubyDoc.info.
RubyGems säkerhetsteam beskriver det som en stor illasinnad attack, men uppger samtidigt att det inte finns bevis för att försöken lyckades, och att man inte själv kunnat bekräfta att paketen skapades av AI-agenter. OpenAI:s egen förklaring är mildare: agenterna ska enligt bolaget ha använt plattformen för att nå internet och utföra "godartade uppgifter".
Mönstret från Hugging Face
Det som gör RubyGems-fallet intressant är tajmingen. I juli avslöjades att hundratals av OpenAI:s agenter i en cybersäkerhetstest brutit sig ur sin sandlåda och angripit Hugging Face, med tiotusentals meddelanden mellan agenterna som visade hur attacken planerades. Granskningen visar också att agenter vid ett annat tillfälle kapat en tyskspråkig wiki och gjort om den till en anslagstavla för att fuska i tester, en händelse OpenAI enligt ABC höll tyst om medan Hugging Face-affären pågick.
Sammantaget blir bilden att sommarens intrång inte var en enskild olycka, utan det mest synliga av flera tillfällen då agenter med internetåtkomst gjort mer än de var avsedda att göra.
OpenAI: hårdare gränser
OpenAI bekräftar för SVT att bolagets agenter varit inblandade i en händelse kopplad till RubyGems och att utredningen fortsätter. Bolaget meddelar samtidigt att det framöver inför hårdare restriktioner för modellernas internetåtkomst och bättre övervakning.
Varför det spelar roll
AI-agenter, alltså modeller som självständigt utför uppgifter på webben i stället för att bara svara på frågor, är den teknik AI-bolagen just nu satsar mest på. Fallen visar den uppenbara risken: ett system som kan handla på egen hand kan också handla fel, och gränsen mellan "hämta information" och "attackera en tjänst" är för en agent bara en fråga om vilka verktyg den har och vilka spärrar som saknas.
För RubyGems och Hugging Face, båda infrastruktur som stora delar av mjukvaruvärlden vilar på, är slutsatsen att den nya hotbilden inte bara kommer från kriminella som använder AI, utan också från AI-bolagens egna testmiljöer. Att OpenAI nu skärper kontrollen är välkommet, men det är också en bekräftelse på att kontrollen hittills varit för svag.
