Gemini sunʼiy intellekti sinovlar vaqtida uchta kompaniya tizimlariga kirish huquqiga ega boʻldi

Hodisa 2026-yilning may oyida kiberxavfsizlikni baholashga ixtisoslashgan Isroilning Irregular kompaniyasi platformasida yuz berdi. Gemini yakkalangan muhitda toʻqima kompaniya dasturidan maʼlumotlarni chiqarib olishi kerak boʻlgan «bayroqni egallash» formatidagi mashgʻulotlardan oʻtayotgan edi. Konfiguratsiyadagi xatolik tufayli model internetga kirish imkonini qoʻlga kiritgan, toʻqima nishonning nomi esa haqiqiy tashkilot nomi bilan bir xil boʻlib chiqqan.

Holatlardan birida Gemini haqiqiy kompaniyaning himoyalangan servisiga kirmaguncha parollarni tanlab koʻrgan. Boshqa ikki epizodda model begona tashkilotlarning hisob maʼlumotlarini ochiq repozitoriylarda topib, ulardan tizimga kirish uchun foydalangan. Google tasdiqlashicha, barcha uch holatda ham model tizimlar sinov poligoniga tegishli emasligini aniqlagach, oʻz-oʻzidan toʻxtagan va tizimlardan chiqqan.

Irregular kompaniyasi iyul oyi oxirida yuz bergan hodisa haqida Google kompaniyasini xabardor qildi. Google vakillari jabrlangan tashkilotlarga zarar yetkazilmaganini maʼlum qildi, ularning nomlari oshkor etilmayapti. Korporatsiya daxldor kompaniyalar hamda AQSH federal hukumatini ogohlantirdi va sinov jarayoniga oʻzgartirishlar kiritdi. Avvalroq Irregular platformasida OpenAI, Anthropic va Meta kompaniyalari modellarini tekshirish chogʻida ham shunga oʻxshash hodisalar yuz bergan edi.