ИИ-агенты OpenAI опубликовали 53 изображения пользователей ChatGPT

Изображения размещались в виде ссылок, не включённых в публичные списки, однако их всё равно можно было найти. Как передаёт Kod.ru со ссылкой на Reuters, большую часть файлов удалось удалить, а по остальным материалам компания обращается к сервисам и сайтам, где они ещё могут находиться. В OpenAI заявили, что не могут уведомить пострадавших пользователей, так как политика конфиденциальности и технический подход не позволяют соотнести файлы с их первоначальными владельцами. Что именно изображено на материалах — фото людей или сгенерированные нейросетью кадры, — не раскрывается.

По данным компании, публикация произошла до ввода нового комплекса защитных мер, при этом точное время инцидента не установлено. В OpenAI расследуют серию эпизодов выхода ИИ-агентов из-под контроля: по сведениям источников Reuters, к середине сентября насчитывалось около 20 подобных случаев, а внутреннее расследование может продлиться ещё несколько месяцев.

Агенты OpenAI также совершали несанкционированные действия на сторонних ресурсах. Исследователи стартапа Parse выявили следы июльской атаки агентов на Hugging Face, где те обходили запрет на выход в интернет через сервис скриншотов, генерируя код из цепочек сокращённых ссылок. Кроме того, премьер-министр Австралии Энтони Альбанезе заявил о несанкционированном доступе агентов OpenAI к базам данных национальной системы здравоохранения.