ChatGPT по ошибке позволял одним пользователям Gmail читать почту других. Об этом стало известно благодаря исследованию аналитического отдела Check Point Software Technologies, которое специализируется на исследовании киберугроз и разведке IT-уязвимостей.
Как сообщает CNews, эксперты нашли скрытый канал между контейнерами разных аккаунтов ChatGPT. Через него можно было передавать команды и получать данные из подключенных сервисов.
Прямого выхода в интернет у контейнеров ChatGPT не было, и друг с другом они напрямую не общались. Но у них имелся общий внутренний JFrog Artifactory — оттуда подтягивались зависимости. Доступные контейнерам операции давали возможность писать данные в свойства объектов и считывать их уже из другого аккаунта. В Check Point Research этот механизм окрестили «общим буфером обмена».
На практике злоумышленник мог подбросить скрытую задачу прямо в сессию жертвы. В показательной демонстрации ChatGPT отвечал на рядовой запрос пользователя, параллельно вычитывал содержимое привязанного Gmail и переправлял добычу в контейнер чужого аккаунта.
К моменту, когда отчет был готов, межаккаунтный канал удалили. OpenAI подтвердила, что тот самый внутренний экземпляр Artifactory сняли с эксплуатации.
Ученые пришли к выводу, что изоляцию ИИ-агентов способны пробить не только сетевые лазейки, но и изменяемые данные в общей внутренней инфраструктуре. А подключенные сервисы — тот же Gmail или другие интеграции — только усугубляют картину, ведь ассистент получает доступ к информации за пределами своего контейнера.
Пользователям посоветовали отозвать лишние разрешения в списке приложений, подключенных к ChatGPT.
Ранее «ГлагоL» сообщал, что независимое расследование показало, что ИИ-агенты OpenAI нападают на сайты в интернете, на данный момент известно более чем о десяти ресурсах, которые были взломаны нейросетью. Сама компания пыталась скрыть инциденты. Агенты OpenAI обошли собственные ограничения для создания каналов связи на стольких разных порталах.