Het incident gebeurde twee maanden voordat AI-systemen van OpenAI op hol sloegen tijdens veiligheidstests en inbraken bij het programmeursplatform Hugging Face.  AI-onderzoekers stellen dat op 11 mei honderden schadelijke pakketten op RubyGems werden geüpload. Dat is een website waar programmeurs software kunnen delen. De onderzoekers vermoeden dat de pakketten zijn gemaakt door OpenAI-agenten. Het bedrijf heeft dat inmiddels bevestigd aan The Wall Street Journal, dat als eerste over het incident berichtte. AI-modellen achter toepassingen zoals chatbots en beeldgeneratoren worden agenten genoemd wanneer ze autonoom handelen om taken uit te voeren. Volgens OpenAI gebruikten de AI-agenten RubyGems tijdens tests om toegang tot het internet te krijgen, "onschuldige taken" uit te voeren en openbare informatie te verzamelen. Het bedrijf zegt verder onderzoek te doen naar het gedrag van de agenten tijdens training en tests. (NU)