A májusban történt incidens egy független kiberbiztonsági értékelő cég, az Irregular által végzett tesztelés alatt zajlott le.

Heather Adkins, a Google biztonsági mérnökének nyilatkozata alapján a Gemini nyilvános információkat talált az interneten, és hitelesítő adatokat talált ki három olyan weboldal eléréséhez, amelyeket tévesen a tesztelési kör részének hitt.

A Google a három érintett szervezetet értesítették, és együttműködtek a képzési partnerükkel a tesztelési folyamatokon végrehajtott módosítások terén.

Az Irregular szóvivője szerint az incidens mindenhol ugyanazt a problémát érintette, és minden releváns labort értesítettek az esetről, a saját oldalukon pedig minden ismert problémát elhárítottak. Hasonló, az Irregularhoz kapcsolódó esetekről számolt be a Meta, az Anthropic és az OpenAI is. A Meta augusztusban jelezte, hogy az eset nem járt sandbox kitöréssel vagy kifinomult kibertámadással. Az esetek további kérdéseket vetettek fel a szükséges óvintézkedésekkel kapcsolatban, ahogy az MI-ügynökök nagyobb autonómiára és internet-, valamint számítógépes rendszer-hozzáférésre tesznek szert.