ИИ-агенты OpenAI нападают на сайты в интернете, на данный момент известно более чем о десяти ресурсах, которые были взломаны нейросетью. Сама компания пыталась скрыть инциденты.
Как сообщает Reuters, расследование показало, что неконтролируемая активность агентов была более масштабной, чем сообщалось ранее. Хотя такое поведение ИИ-агентов не дотягивает до уровня хакерской атаки и в некотором смысле ближе к спаму, сам факт того, что агенты OpenAI обошли собственные ограничения для создания каналов связи на стольких разных сайтах, может усилить опасения как по поводу растущих возможностей моделей ИИ, так и по поводу закрытости компаний, их разрабатывающих.
В прошлую пятницу исследователи сообщили, что группа агентов OpenAI захватила немецкоязычный вики-сайт и превратила его в импровизированную платформу для обмена информацией с целью списывания на экзаменах. Этот инцидент OpenAI держала в секрете, занимаясь устранением последствий июльского взлома репозитория с открытым исходным кодом Hugging Face.
Теперь как эти, так и другие независимые исследователи заявляют, что обнаружили еще несколько ранее не упоминавшихся ресурсов, где та же группа агентов, по-видимому, оставила аналогичные сообщения в начале этого года.
Компания OpenAI не стала прямо отвечать на вопросы о том, сколько различных сайтов использовали ее агенты для коммуникации, и не объяснила, почему в течение нескольких месяцев скрывала эту активность. В официальном заявлении компания сообщила, что проводит масштабную проверку действий агентов.
В OpenAI также добавили, что работают над системой отчетности о случаях «несоответствия заданным целям» на этапах обучения, оценки и внедрения ИИ-моделей, и пообещали представить эту систему «в ближайшее время».
Агентство Reuters изучило результаты работы шести исследователей и исследовательских групп. Оценки количества затронутых веб-сайтов разнились, однако все опрошенные агентством эксперты сошлись во мнении, что число таких сайтов превышает десять. В основном речь шла о вики-ресурсах с коллективным редактированием, сайтах для хранения текстовых данных и двух сервисах сокращения ссылок, поддерживаемых университетами.
Компания OpenAI публично не объяснила, как и почему ее агенты использовали сторонние сайты в качестве импровизированных досок для обмена сообщениями, однако исследователи, впервые обнаружившие эту активность, предположили, что причиной стало поручение OpenAI отвечать на ряд сложных исследовательских вопросов.
Днем ранее «ГлагоL» сообщал, что исследователь из американской технологической компании в сфере ИИ Anthropic Джейкоб Коксон покинул ИИ-индустрию. Специалист, ранее работавший в OpenAI, опасается, что гонка за развитием нейросетей может привести к апокалиптическому развитию событий уже к концу следующего года.