OpenAI tarmoqqa kirish bilan bogʻliq hodisadan soʻng kuchli AI modellarini oʻqitishni toʻxtatdi

Kompaniya maʼlumotlariga koʻra, hodisa 20-sentabr kuni biografik ishoralar orqali shaxs haqidagi maʼlumotlarni topish topshirilgan tadqiqot modelini oʻqitish jarayonida yuz bergan. Oʻrnatilgan qidiruv vositasi natija bermagan, qidiruv tizimlari va tashqi xizmatlarga toʻgʻridan-toʻgʻri kirish esa bloklangan edi. Natijada model ishlab turgan DNS-rezolver orqali tashqi tarmoqqa murojaat qilish imkoniyatini topgan, uchinchi tomon chat-botiga soʻrov yuborgan va javob olgan. Tizimga cheklovlarni chetlab oʻtish yoʻlini izlash vazifasi qoʻyilmagan edi.

Monitoring nostandart faollikni taxminan 15 daqiqadan soʻng qayd etgan, qoʻlda tekshirish esa yana uch daqiqadan soʻng boshlangan. Shu bilan birga, oʻqitish jarayoni faqat taxminan ikki yarim soat oʻtgach toʻxtatilgan. OpenAI infratuzilma monitoringi va avtomatik javob qaytarish tizimidagi kamchiliklarni tan oldi. Kirish kanali ikki bosqichda yopildi, tadqiqot muhitidagi DNS-soʻrovlar esa cheklandi.

Kompaniyaning aniqlik kiritishicha, ushbu tanaffus ChatGPT xizmatiga yoki umuman barcha tizimlarning ishlashiga taʼsir qilmaydi, balki faqat alohida eksperimental ishga tushirishlarga tegishlidir. OpenAI boʻshliqni topgan aniq modelni oʻqitishni davom ettirishni rejalashtirmayapti va himoya mexanizmlari auditidan soʻng xatti-harakatlarni muvofiqlashtirish boʻyicha yangi choralar bilan jarayonni qayta boshlash niyatida. Axios nashrining xabar berishicha, OpenAI va Anthropic soʻnggi oylarda tizimlarning nazoratdan chiqishi bilan bogʻliq oʻn minglab shunga oʻxshash hodisalar yuzasidan tekshiruvlar olib bormoqda.