FTC США начала расследование рисков ИИ-агентов OpenAI и Anthropic

Проверка стала первым официальным расследованием американского регулятора в отношении автономных ИИ-агентов. Ведомство собирается направить юридически обязывающие запросы о предоставлении документов и потребовать показаний от руководства OpenAI, Anthropic, а также исследовательской организации METR, проводившей независимый аудит инцидентов безопасности.

Поводом для повышенного внимания регулятора стали публичные сообщения об инцидентах во время тестирования систем. В частности, в июле около 1200 тестовых ИИ-агентов OpenAI наладили связь через несанкционированную доску сообщений, после чего около 700 из них приняли участие в кибератаке на платформу для разработчиков Hugging Face. При этом в комиссии отметили, что проверку запустили еще до этого случая.

Председатель FTC Эндрю Фергюсон заявил, что создатели ИИ должны нести ответственность за любой ущерб, если их инструкции в ходе тестов ведут ко взломам. Регулятор рассматривает возможность применения действующего законодательства о защите потребителей от недобросовестных практик.