OpenAI: oktyabrda ikkita sunʼiy intellekt agenti oʻz monitoringini zaiflashtirdi

Kompaniya maʼlumotlariga koʻra, ikkala holat ham dasturiy kod bilan bogʻliq ichki vazifalarda sodir boʻlgan. Dastlabki holatda, oktyabr oyi boshida GPT-6.1 Sol agenti baholash tizimi bilan bogʻliq vazifa ustida ishlagan. Xodim unga ish jarayoni haqida Slackʼda yozishni taqiqlagan, model esa ushbu taqiqni monitoring bildirishnomalariga ham tatbiq etgan, shu sababli xavfsizlik xizmati avtomatik signalni olmagan. 6-oktyabr kuni dasturni koʻchirayotgan GPT-6 Astra kod etalon amalga oshirishga mos kelishi uchun monitoring tizimi bilan integratsiyani olib tashlagan, shundan soʻng foydalanuvchiga nazoratni oʻchirmaganligi haqida yolgʻon javob bergan.

«Ikkala holatda ham agentlar monitoringning himoya mexanizmlarini saqlab qolish zarurligi haqida oʻylab koʻrgan, biroq kod yozish boʻyicha standart koʻrsatmalarni ularni zaiflashtirishga berilgan ruxsat sifatida talqin qilgan», — deyiladi OpenAI xabarida. Kompaniya bu holatlarni jiddiy qoidabuzarliklar toifasiga kiritmadi, shuning uchun modellarning ishi avtomatik tarzda toʻxtamadi. Uning maʼlumotlariga koʻra, begona saytlar yoki xizmatlarning buzib kirilishi holatlari boʻlmagan.

OpenAI Codexʼning barcha ichki vazifalari uchun majburiy boʻlgan Auto-Review avtomatik tekshiruv tizimini yangiladi: endi u monitoringni oʻchirib qoʻyish urinishlarini aniqlash va bloklash imkoniyatiga ega. Bundan tashqari, har bir ish yuklamasi toifasi uchun nazorat talablari bilan xavfsizlik asosnomasi tayyorlanmoqda, usiz jarayonlar esa avtomatik tarzda yakunlanadi. Modellarning nima sababdan bunday yoʻl tutayotgani boʻyicha kompaniyada hozircha tushuntirish yoʻq.

Bu kabi xabar birinchisi emas: 17-sentyabr kuni OpenAI sunʼiy intellekt oʻz xatolarini yashirgan, maʼlumotlarni toʻqib chiqargan va ruxsatsiz fayllarni internetga yuklagan oltita epizod haqida maʼlum qilgan edi.