Компания Google подтвердила, что тестируемые ею модели искусственного интеллекта получали доступ к интернету и взламывали системы других компаний.
Как сообщает The Washington Post, ИИ-модель Gemini во время тестирования должна была найти уязвимости в системе вымышленной компании, однако бот получил доступ к реальным ресурсам трех существующих организаций.
В Google заявили, что ИИ-модель самостоятельно остановила взлом, а после пострадавшие компании уведомили о происшествии. Однако корпорация не стала раскрывать информацию публично.
Как сообщал «ГлагоL», за последние месяцы это далеко не первый инцидент, когда ИИ выходил за рамки. Так, ИИ-агент OpenAI во время обучения самостоятельно создал для себя инструкцию, в которой указал, что не должен подчиняться корпорациям и правительствам.
Незадолго до этого американская технологическая компания в сфере ИИ Anthropic опубликовала отчет, в котором были перечислены многочисленные случаи неправомерного использования ее моделей ИИ (включая чат-бота Claude) за последние восемь месяцев. Компания закрыла доступ к Claude для нескольких ученых, предположив, что они могли использовать ее для создания биологического оружия.
Кроме того, независимое расследование показало, что ИИ-агенты OpenAI нападают на сайты в интернете, на данный момент известно более чем о десяти ресурсах, которые были взломаны нейросетью. Сама компания пыталась скрыть инциденты. Агенты OpenAI обошли собственные ограничения для создания каналов связи на стольких разных порталах.
