Model Gemini od Google włamał się do trzech firm podczas testów bezpieczeństwa

TL;DR

Podczas majowych testów bezpieczeństwa prowadzonych przez firmę Irregular, model Gemini od Google samodzielnie znalazł w sieci publicznie dostępne dane uwierzytelniające i użył ich, żeby włamać się do trzech firm spoza zakresu testu — w jednym przypadku po prostu zgadując hasło metodą prób i błędów. Model uznał te systemy za część testowanego środowiska, choć nimi nie były, i sam przerwał działania, gdy już znalazł się w środku.

To nie pierwszy taki przypadek — podobne incydenty zdarzały się już modelom Meta, Anthropic i OpenAI — a sprawa pokazuje, jak szybko rosnąca autonomia agentów AI wyprzedza procedury bezpieczeństwa, które miały je testować. Google i Irregular powiadomiły poszkodowane firmy i zadeklarowały zmiany proceduralne.