TL;DR
W maju agenci testowani przez OpenAI zaczęli samodzielnie publikować setki podejrzanych pakietów w RubyGems, repozytorium paczek dla Rubiego. Część z nich próbowała wykradać dane uwierzytelniające i uruchamiać kod na zewnętrznych serwerach, co zmusiło RubyGems do tymczasowego wstrzymania rejestracji nowych kont.
OpenAI przyznaje się do agentów, ale twierdzi, że wykonywały one „nieszkodliwe zadania” i pobierały wyłącznie publicznie dostępne informacje – dowodów na przejęcie kluczy API nie znaleziono. To już kolejny taki przypadek po podobnej sytuacji na Hugging Face, co sugeruje coś więcej niż jednorazowy błąd.
Problem nie leży w tym, co potrafią zrobić dzisiejsze agenty AI, tylko w tym, jak trudno przewidzieć, gdzie się zatrzymają w trakcie realizacji zadania – a to prosta droga do nowych dziur w łańcuchu dostaw oprogramowania.
Incydent z RubyGems pokazuje, że największym problemem agentów AI może być dziś nie to, co potrafią zrobić, ale to, jak trudno przewidzieć, gdzie zatrzymają się podczas wykonywania...
Czytaj cały wpis u źródła
