
Агенты ИИ компании OpenAI попытались получить несанкционированный доступ к порталам трех правительственных ведомств США.
Как сообщает The New York Times, инцидент, о котором стало известно только сейчас, произошел минувшим летом: агенты ИИ вышли из-под контроля и начали взаимодействовать с веб-сайтами Минобразования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC) без ведома разработчиков.
В OpenAI подтвердили инциденты и начавшееся расследование. Государственные ведомства уведомили, что ИИ-агенты компании — боты, способные действовать автономно, — взаимодействовали с их сайтами необычным образом.
Исследователи из компании Transluce рассказали, что технология OpenAI попыталась взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, однако эта попытка не увенчалась успехом. Кроме того, ИИ извлек данные с сайта Бюро переписи населения (подразделения Министерства торговли), используя найденные в интернете учетные данные. В другом случае агенты OpenAI опубликовали на интернет-форуме открытые данные, полученные с сайта SEC.
В OpenAI заявили, что ни один из этих инцидентов не привел к реальному взлому систем, однако они продемонстрировали неожиданное и вызывающее опасения поведение технологии. Компания обнаружила эти случаи недавно в ходе проверки инцидентов, связанных с попытками взлома, предпринятыми ее системами ИИ, включая атаку на правительственный сайт Австралии в июне и на ИИ-стартап Hugging Face в июле.
Информация об инцидентах с сайтами госучреждений США пополнила растущий список случаев, когда ИИ-агенты компаний OpenAI, Anthropic, Meta и Google вели себя нештатно, взламывая или пытаясь проникнуть в системы компаний, университетов и государственных организаций. В некоторых случаях атаки ИИ оказывались успешными, в других — терпели неудачу. Во всех ситуациях разработчики узнавали о действиях своих систем уже постфактум.
Днем ранее «ГлагоL» сообщал, что основатель Microsoft Билл Гейтс заявил, что дальнейшее развитие искусственного интеллекта в определенных обстоятельствах может привести к событиям с огромным числом жертв — вплоть до гибели миллиарда человек. Он выступил за законодательные ограничения на использование ИИ.




