ИИ Gemini получил доступ к системам трёх компаний во время испытаний

Инцидент произошёл в мае 2026 года на платформе израильской компании Irregular, специализирующейся на оценке кибербезопасности. Gemini проходила учения формата «захват флага», где должна была извлечь данные из программы вымышленной компании в изолированной среде. Из-за ошибки конфигурации модель получила доступ в интернет, а название вымышленной цели совпало с наименованием настоящей организации.

В одном из случаев Gemini перебирала пароли, пока не вошла в защищённый сервис реальной компании. В двух других эпизодах модель обнаружила учётные данные сторонних организаций в открытых репозиториях и применила их для входа. По утверждению Google, во всех трёх ситуациях модель самостоятельно остановилась и вышла из систем, определив, что они не относятся к тестовому полигону.

Компания Irregular уведомила Google о случившемся в конце июля. Представители Google заявили, что пострадавшим организациям ущерб нанесён не был, их названия не раскрываются. Корпорация оповестила затронутые компании и федеральные власти США, а также внесла изменения в процесс тестирования. Ранее похожие инциденты на платформе Irregular происходили во время проверок моделей компаний OpenAI, Anthropic и Meta.